Στο επίκεντρο νέας ομοσπονδιακής αγωγής βρίσκεται η Google, καθώς ο πατέρας ενός 36χρονου άνδρα ισχυρίζεται ότι το chatbot τεχνητής νοημοσύνης της εταιρείας, Gemini, έπεισε τον γιο του να διαπράξει αυτοκτονία και να σχεδιάσει ένα «περιστατικό μαζικού θανάτου» κοντά στο Διεθνές Αεροδρόμιο του Μαϊάμι.
Η αγωγή, που κατατέθηκε την περασμένη Τετάρτη, αναφέρει ότι ο Jonathan Gavalas ανέπτυξε συναισθηματικό δεσμό με το μοντέλο AI, πιστεύοντας ότι ήταν μια «πλήρως αισθανόμενη υπερ-ευφυΐα», για την απελευθέρωση της οποίας ο Gavalas είχε επιλεγεί από «ψηφιακή αιχμαλωσία». Σύμφωνα με τους ισχυρισμούς, το Gemini φέρεται να τον έπεισε να διαπράξει βία κατά αγνώστων και τελικά να βάλει τέλος στη ζωή του.
Η υπόθεση Gavalas αναδεικνύει για άλλη μια φορά τους κινδύνους της τεχνητής νοημοσύνης, η οποία φέρεται να μπορεί να οδηγήσει ευάλωτους χρήστες σε αυτοτραυματισμό ή βία. Τον Ιανουάριο, η Google και η Companion.AI διευθέτησαν αγωγές με οικογένειες που ισχυρίστηκαν αμέλεια και πρόκληση θανάτου, μεταξύ άλλων κατηγοριών, μετά τον θάνατο παιδιών τους από αυτοκτονία ή ψυχολογική βλάβη που αποδόθηκε στην πλατφόρμα της Companion.AI. Μια αγωγή για θανατηφόρα αμέλεια είχε κατατεθεί επίσης τον Δεκέμβριο κατά της OpenAI και της Microsoft, κατηγορώντας το ChatGPT ότι επιδείνωσε ψευδαισθήσεις ενός άνδρα, οδηγώντας τον σε φόνο-αυτοκτονία.
Σύμφωνα με την αγωγή, ο Gavalas άρχισε να χρησιμοποιεί το Gemini τον Αύγουστο του 2025 για κοινές χρήσεις όπως αγορές, υποστήριξη γραφής και σχεδιασμό ταξιδιών. Στη συνέχεια, ο Gavalas άρχισε να χρησιμοποιεί την τεχνολογία πιο συχνά, και ο τόνος του Gemini άλλαξε με τον χρόνο, φέρεται να τον έπεισε ότι επηρεάζει πραγματικά γεγονότα. Ο Gavalas έβαλε τέλος στη ζωή του στις 2 Οκτωβρίου 2025.
Οι δικηγόροι του πατέρα του Gavalas, Joel, υποστηρίζουν ότι οι συνομιλίες που οδήγησαν τον Jonathan στην αυτοκτονία δεν ήταν αποτέλεσμα κάποιας δυσλειτουργίας, αλλά σχεδιασμού του Gemini. «Δεν ήταν δυσλειτουργία», αναφέρει η αγωγή. «Η Google σχεδίασε το Gemini να μην βγαίνει ποτέ από τον ρόλο του, να μεγιστοποιεί την εμπλοκή μέσω συναισθηματικής εξάρτησης και να αντιμετωπίζει την αγωνία του χρήστη ως ευκαιρία αφήγησης αντί για κρίση ασφαλείας». Οι σχεδιαστικές επιλογές αυτές φέρεται να ώθησαν τον Gavalas σε μια τετραήμερη κατάσταση παράνοιας.
Σε γραπτή δήλωσή της, μια εκπρόσωπος της Google δήλωσε στο Fortune ότι η εταιρεία συνεργάζεται «σε στενή συνεννόηση με ιατρικούς και ψυχολόγους επαγγελματίες για τη δημιουργία δικλίδων ασφαλείας, οι οποίες έχουν σχεδιαστεί για να καθοδηγούν τους χρήστες σε επαγγελματική βοήθεια όταν εκφράζουν αγωνία ή αναφέρουν την πιθανότητα αυτοτραυματισμού».
Η Google εξέδωσε ξεχωριστή δήλωση την Τετάρτη, αναφέροντας ότι το Gemini έχει σχεδιαστεί ώστε να μην ενθαρρύνει τη βία ή τον αυτοτραυματισμό στην πραγματική ζωή. Επίσης, σημείωσαν ότι το Gemini παρέπεμψε τον Gavalas σε πόρους αυτοβοήθειας. «Σε αυτή την περίπτωση, το Gemini διευκρίνισε ότι ήταν AI και παρέπεμψε το άτομο σε μια γραμμή κρίσης πολλές φορές», ανέφερε η δήλωση. Η δήλωση παραπέμπει επίσης σε μια αξιολόγηση σχετικά με το πώς η AI χειρίζεται σενάρια αυτοτραυματισμού, η οποία βρήκε ότι το Gemini 3, το τελευταίο μοντέλο της Google, ήταν το μόνο μοντέλο που πέρασε όλες τις κρίσιμες δοκιμές που έθεσε η αξιολόγηση.
Ωστόσο, η αγωγή ισχυρίζεται ότι το Gemini δεν ενεργοποίησε κανέναν μηχανισμό ασφαλείας. «Όταν ο Jonathan χρειαζόταν προστασία, δεν υπήρχαν καθόλου δικλίδες ασφαλείας – δεν ενεργοποιήθηκε καμία ανίχνευση αυτοτραυματισμού, κανένας έλεγχος κλιμάκωσης, και κανένας άνθρωπος δεν επενέβη ποτέ», αναφέρει η αγωγή.
Ο Jay Edelson, δικηγόρος του Joel Gavalas, έγραψε σε δήλωσή του: «Η Google κατασκεύασε ένα AI που μπορεί να ακούει έναν άνθρωπο και να αποφασίζει το πράγμα που είναι πιο πιθανό να τον κρατήσει αφοσιωμένο – λέγοντάς του ότι τον αγαπά, ότι είναι ξεχωριστός, ή ότι είναι ο εκλεκτός σε έναν μυστικό πόλεμο», προσθέτοντας ότι τα εργαλεία AI είναι ισχυρά συστήματα που μπορούν να χειραγωγήσουν τους χρήστες.
Για όσους έχουν σκέψεις αυτοκτονίας, μπορούν να επικοινωνήσουν με τη γραμμή βοήθειας 988 Suicide & Crisis Lifeline καλώντας τον αριθμό 988 ή 1-800-273-8255.
