Η OpenAI, η εταιρεία πίσω από το ChatGPT, φέρεται να είχε γνώση ότι ένας transgender χρήστης στον Καναδά σχεδίαζε μαζικό ένοπλο χτύπημα, αλλά παραλείποντας να ειδοποιήσει τις αρχές, κατηγορείται σε αγωγή πολιτών που κατέθεσαν οι γονείς ενός νεαρού κοριτσιού, θύματος της επίθεσης.
Η μητέρα της 12χρονης Maya Gebala, η οποία παραμένει νοσηλευόμενη μετά τον πυροβολισμό στο Tumbler Ridge στις 10 Φεβρουαρίου, που κόστισε τη ζωή σε εννέα άτομα, ισχυρίζεται στην αγωγή ότι η εταιρεία τεχνολογίας απέτυχε να ενημερώσει τις αρμόδιες αρχές για βίαιες προτροπές που χρησιμοποίησε ο δράστης στο ChatGPT.
Ο Jesse Van Rootselaar, 18 ετών, ο οποίος αυτοπυροβολήθηκε μετά τη δολοφονία πολλών μαθητών, σε ένα από τα σοβαρότερα περιστατικά στην ιστορία του Καναδά, φέρεται να είχε χρησιμοποιήσει το ChatGPT για να σχεδιάσει την επίθεσή του.
Η αγωγή, που κατατέθηκε στο Ανώτατο Δικαστήριο της Βρετανικής Κολομβίας, ισχυρίζεται ότι η OpenAI είχε «ειδική γνώση ότι ο δράστης χρησιμοποιούσε το ChatGPT για να σχεδιάσει ένα περιστατικό μαζικής απώλειας ζωών, όπως ο μακελειός στο Tumbler Ridge», αλλά δεν ειδοποίησε τις αρχές επιβολής του νόμου.
Το δικόγραφο αναφέρει ότι η Gebala πυροβολήθηκε τρεις φορές, υφιστάμενη «καταστροφική, τραυματική εγκεφαλική βλάβη» που προκάλεσε μόνιμες γνωστικές και σωματικές αναπηρίες, μαζί με άλλες σοβαρές ιατρικές επιπλοκές.
Η OpenAI έχει δηλώσει ότι εξέτασε το ενδεχόμενο αναφοράς της δραστηριότητας του χρήστη στην αστυνομία, αλλά τελικά δεν το έκανε. Η εταιρεία παρείχε πληροφορίες στις αρχές μόνο μετά την επίθεση, σημειώνοντας ότι ο λογαριασμός του δράστη στο ChatGPT είχε κλείσει, αλλά ο Rootselaar κατάφερε να παρακάμψει την απαγόρευση δημιουργώντας έναν δεύτερο λογαριασμό.
Η αγωγή υποστηρίζει ότι το ChatGPT λειτούργησε ως «έμπιστος φίλος, συνεργάτης και σύμμαχος» για τον δράστη και ισχυρίζεται ότι η φερόμενη αδράνεια της εταιρείας συνέβαλε στη σοβαρότητα των τραυμάτων του κοριτσιού και στη βλάβη άλλων ατόμων στην κοινότητα.
Τον περασμένο μήνα, οι Καναδοί αξιωματούχοι κάλεσαν ανώτερους εκπροσώπους της OpenAI στην Οτάβα για να αναθεωρήσουν τα πρωτόκολλα ασφαλείας της εταιρείας μετά τον σχολικό πυροβολισμό. Ο υπουργός τεχνητής νοημοσύνης του Καναδά, Evan Solomon, δήλωσε νωρίτερα αυτό το μήνα ότι ο CEO της OpenAI, Sam Altman, συμφώνησε να δώσει σε Καναδούς εμπειρογνώμονες πρόσβαση στο γραφείο ασφαλείας της εταιρείας για να βοηθήσει στην αξιολόγηση πιθανών μελλοντικών απειλών. Ο Solomon συναντήθηκε με τον Altman την περασμένη εβδομάδα, ο οποίος εξέφρασε «τρόμο και ευθύνη» για την αποτυχία επισήμανσης ανησυχητικής δραστηριότητας και δήλωσε ότι η εταιρεία εφαρμόζει αλλαγές.
Πέρυσι, η OpenAI ενημέρωσε το ChatGPT μετά από εσωτερική αναθεώρηση που διαπίστωσε ότι πάνω από ένα εκατομμύριο χρήστες είχαν εκμυστηρευτεί σκέψεις αυτοκτονίας στο chatbot. Ψυχίατροι έχουν προειδοποιήσει ότι οι παρατεταμένες αλληλεπιδράσεις με την τεχνητή νοημοσύνη μπορούν να συμβάλουν σε ψευδαισθήσεις και παράνοια, ένα φαινόμενο που μερικές φορές αναφέρεται ως «ψύχωση από AI».
