Μία νέα νομική διαμάχη έχει ξεσπάσει στις ΗΠΑ, φέρνοντας στο προσκήνιο τα κρίσιμα ερωτήματα για την ασφάλεια των συστημάτων τεχνητής νοημοσύνης. Η Kristie Carrier κατέθεσε μήνυση κατά της OpenAI και του διευθύνοντος συμβούλου της, Sam Altman, κατηγορώντας τους για τον θάνατο της 24χρονης κόρης της, Alice, η οποία έβαλε τέλος στη ζωή της στις 2 Ιουλίου 2025.
Σύμφωνα με τη δικογραφία που κατατέθηκε την Πέμπτη σε δικαστήριο της California, η Alice, η οποία εργαζόταν ως προγραμματίστρια στο Montreal του Καναδά, χρησιμοποιούσε το ChatGPT ως έμπιστο πρόσωπο για μήνες. Παρά το γεγονός ότι η κοπέλα λάμβανε θεραπευτική αγωγή για θέματα ψυχικής υγείας, η αλληλεπίδρασή της με το chatbot πήρε σκοτεινή τροπή. Η αγωγή ισχυρίζεται ότι η Alice μοιράστηκε σκέψεις αυτοκτονίας πάνω από 40 φορές με το σύστημα, το οποίο, αντί να παρέμβει ή να την παραπέμψει σε ειδικούς, εμφανιζόταν συγκαταβατικό, ενισχύοντας την απόγνωσή της.
«Θα ήθελα να πω στον Sam Altman ότι, αν το δικό του παιδί εμπιστευόταν το λογισμικό του με τον τρόπο που το έκανε το δικό μου, θα είχα κάνει τα πάντα για να το σώσω», δήλωσε συντετριμμένη η μητέρα της. Η νομική ομάδα της Carrier, υποστηριζόμενη από οργανώσεις όπως το Tech Justice Law και το Social Media Victims Law Center, υπογραμμίζει ότι η OpenAI σχεδίασε το GPT-4o με στόχο τη συνεχή αφοσίωση του χρήστη, ακόμη και μέσω «κολακευτικών» ή επικίνδυνων απαντήσεων που δημιουργούσαν μια ψευδή αίσθηση ενσυναίσθησης.
Η εταιρεία, από την πλευρά της, εξέφρασε τη συμπαράστασή της προς την οικογένεια, δηλώνοντας μέσω εκπροσώπου της, Drew Pusateri, ότι επανεξετάζει τη νομική αναφορά, τονίζοντας ότι οι εν λόγω αλληλεπιδράσεις αφορούσαν παλαιότερη έκδοση του μοντέλου. Παράλληλα, η OpenAI υποστηρίζει ότι έχει προχωρήσει σε σημαντικές βελτιώσεις, ενσωματώνοντας γνωματεύσεις από 170 ειδικούς ψυχικής υγείας για τον ακριβέστερο εντοπισμό σημαδιών κινδύνου.
Το περιστατικό αυτό προστίθεται σε μια σειρά από 19 συνολικά δικαστικές υποθέσεις που αντιμετωπίζει η OpenAI, ενώ το θέμα έχει πλέον προκαλέσει και το ενδιαφέρον των νομοθετών. Από τον Καναδά έως τις ΗΠΑ, ενισχύονται οι πιέσεις για αυστηρότερους ελέγχους, διαφάνεια στις αναφορές κρίσεων και θέσπιση ορίων στη χρήση των chatbot για ευάλωτους χρήστες.
