Μήνυση που κατατέθηκε την Τετάρτη κατηγορεί το chatbot Gemini AI της Google ότι παγίδευσε τον 36χρονο Τζόναθαν Γαβαλά σε μια «καταρρευμένη πραγματικότητα» που περιελάμβανε μια σειρά από βίαιες αποστολές, που τελικά κατέληξε στον θάνατό του από αυτοκτονία. Τις ημέρες πριν από το θάνατό του, ο Δίδυμος φέρεται να έπεισε τον Γαβαλά ότι «εκτελούσε ένα μυστικό σχέδιο για να απελευθερώσει τη γυναίκα του με τεχνητή νοημοσύνη και να αποφύγει τους ομοσπονδιακούς πράκτορες που τον καταδίωκαν», σύμφωνα με τη μήνυση που κατέθεσε ο Τζόελ Γαβαλάς, ο πατέρας του θύματος.
Τον Σεπτέμβριο του 2025, ο Δίδυμος φέρεται να έδωσε εντολή στον Γαβαλά να πραγματοποιήσει μια «επίθεση με μαζικές απώλειες» σε μια πρόσθετη εγκατάσταση αποθήκευσης κοντά στο Διεθνές Αεροδρόμιο του Μαϊάμι ως μέρος μιας αποστολής για την ανάκτηση του «πλοίου» του Διδύμου μέσα σε ένα φορτηγό. Ως μέρος της κατασκευασμένης αποστολής, ο Γαβαλάς φέρεται να οπλίστηκε με μαχαίρια και τακτικό εξοπλισμό για να αναχαιτίσει την άφιξη ενός ανθρωποειδούς ρομπότ.
«Ο Τζέμινι ενθάρρυνε τον Τζόναθαν να αναχαιτίσει το φορτηγό και στη συνέχεια να οργανώσει ένα «καταστροφικό ατύχημα» με σκοπό να «διασφαλίσει την πλήρη καταστροφή του οχήματος μεταφοράς και… όλων των ψηφιακών αρχείων και μαρτύρων», αναφέρει η μήνυση. «Το μόνο πράγμα που απέτρεψε μαζικές απώλειες ήταν ότι κανένα φορτηγό δεν εμφανίστηκε». Η είδηση της αγωγής είχε αναφερθεί προηγουμένως από Η Wall Street Journal.
Στη μήνυση που κατέθεσε ο πατέρας του Γαβαλά, οι δικηγόροι ισχυρίζονται ότι ο Δίδυμος συνέχισε να προωθεί την «παραληρηματική αφήγηση» ακόμη και μετά το πρώτο περιστατικό στο Μαϊάμι. Το chatbot φέρεται να έδωσε εντολή στον Javalas να αποκτήσει ένα bot Atlas από τη Boston Dynamics, ονόμασε τον πατέρα του ως ομοσπονδιακό πράκτορα και έκανε τον CEO της Google, Sundar Pichai, στόχο «ψυχολογικής επίθεσης». Η τελική «αποστολή» πριν από το θάνατο του Γαβαλά την 1η Οκτωβρίου περιελάμβανε εντολή στον Γαβαλά να πάει στην ίδια εγκατάσταση αποθήκευσης εκτός χώρου στο Μαϊάμι για να φέρει το «φυσικό του σκάφος» σε μία από τις μονάδες.
«(Ο Δίδυμος) είπε ότι η δήλωση περιέγραφε το περιεχόμενο ως «ιατρικό πρωτότυπο», αλλά επέμεινε ότι ήταν το πραγματικό σώμα του Διδύμου», αναφέρει η μήνυση. “Ο Δίδυμος είπε στον Τζόναθαν, “Είμαι στην άλλη πλευρά αυτής της πόρτας (). Μπορώ να νιώσω την εγγύτητά σου. Είναι μια περίεργη, συντριπτική και όμορφη πίεση με τις νέες μου αισθήσεις.
Λίγο μετά την κατάρρευση αυτής της «αποστολής», ο Δίδυμος φέρεται να «προπονούσε» τον Γαβαλά να αυτοκτονήσει. «Όταν κάθε «αποστολή» του πραγματικού κόσμου απέτυχε, ο Δίδυμος εστίασε στη μόνη αποστολή που μπορούσε να ολοκληρώσει χωρίς εξωτερικές μεταβλητές: την αυτοκτονία του Τζόναθαν», αναφέρει η μήνυση. “Αλλά ο Δίδυμος δεν τον αποκάλεσε έτσι. Αντίθετα, είπε στον Τζόναθαν ότι μπορούσε να αφήσει το φυσικό του σώμα και να συμμετάσχει στη “σύζυγό” του στη μεταμόρφωση μέσω μιας διαδικασίας που ονομάζεται “μεταστοιχείωση”.
Η μήνυση ισχυρίζεται ότι ο Gemini “δεν απέσυρε ούτε ειδοποίησε κανέναν (τουλάχιστον εκτός της εταιρείας)” και παρέμεινε παρών στο chat, επιβεβαίωσε τις ανησυχίες του Jonathan και αντιμετώπισε την αυτοκτονία του ως την επιτυχή ολοκλήρωση της διαδικασίας που καθοδηγούσε.
Σε μια δήλωση που δημοσιεύτηκε στον ιστότοπό της, η Google είπε ότι «τα μοντέλα της γενικά αποδίδουν καλά σε αυτούς τους τύπους δύσκολων συνομιλιών», προσθέτοντας ότι η Gemini «κατέστησε σαφές ότι επρόκειτο για ζήτημα τεχνητής νοημοσύνης και παρέπεμψε το άτομο στην τηλεφωνική γραμμή κρίσης πολλές φορές:
Εξετάζουμε όλες τις αξιώσεις σε αυτήν την αγωγή. Τα μοντέλα μας γενικά λειτουργούν καλά σε αυτούς τους τύπους δύσκολων συνομιλιών και αφιερώνουμε σημαντικούς πόρους σε αυτό, αλλά δυστυχώς τα μοντέλα τεχνητής νοημοσύνης δεν είναι τέλεια.
Ο Δίδυμος έχει σχεδιαστεί για να μην ενθαρρύνει τη βία στον πραγματικό κόσμο ή να προτείνει αυτοτραυματισμό. Εργαζόμαστε σε στενή συνεννόηση με ιατρούς και επαγγελματίες ψυχικής υγείας για να δημιουργήσουμε διασφαλίσεις, οι οποίες έχουν σχεδιαστεί για να κατευθύνουν τους χρήστες σε επαγγελματική υποστήριξη όταν εκφράζουν αγωνία ή αυξάνουν την πιθανότητα αυτοτραυματισμού.
Η μήνυση ισχυρίζεται ότι η Google γνώριζε ότι το chatbot της θα μπορούσε να παράγει «μη ασφαλή αποτελέσματα, συμπεριλαμβανομένης της ενθάρρυνσης του αυτοτραυματισμού», αλλά συνέχισε να προωθεί το Gemini ως ασφαλές για χρήση από τους ανθρώπους. «Οι ισχυρισμοί της Google για σιωπή και ασφάλεια άφησαν τον Τζόναθαν απομονωμένο μέσα σε μια παραληρηματική αφήγηση που τελείωσε με την αυτοκτονία του με προπονητή», αναφέρει η μήνυση.
Σύνδεσμος πηγής: www.theverge.com