Μια 21χρονη γυναίκα στη Νότια Κορέα, γνωστή μόνο με το επώνυμο Κιμ, φέρεται να χρησιμοποίησε το ChatGPT για να σχεδιάσει τη δολοφονία δύο ανδρών, τους οποίους στη συνέχεια σκότωσε χρησιμοποιώντας ποτά που περιείχαν βενζοδιαζεπίνες, φαρμακευτικά σκευάσματα που της είχαν συνταγογραφηθεί για ψυχική της ασθένεια.
Αν και αρχικά συνελήφθη με την ελαφρύτερη κατηγορία της πρόκλησης σωματικής βλάβης που οδήγησε σε θάνατο στις 11 Φεβρουαρίου, η αστυνομία της Σεούλ, μέσω της ανάλυσης του διαδικτυακού ιστορικού αναζητήσεων και των συνομιλιών της με το ChatGPT, διαπίστωσε ότι η γυναίκα είχε την πρόθεση να σκοτώσει.
«Τι συμβαίνει αν πάρεις υπνωτικά χάπια με αλκοόλ;» φέρεται να ρώτησε η Κιμ το chatbot της OpenAI. «Πόση ποσότητα θεωρείται επικίνδυνη;» «Θα μπορούσε να αποβεί μοιραίο;» «Θα μπορούσε να σκοτώσει κάποιον;» ρώτησε, σύμφωνα με αναφορές.
Στην ευρέως προβεβλημένη υπόθεση που ονομάστηκε «οι κατά συρροή θάνατοι στο μοτέλ Gangbuk», οι εισαγγελείς ισχυρίζονται ότι το ιστορικό αναζητήσεων και συνομιλιών της Κιμ με το chatbot δείχνει την πρόθεσή της να διαπράξει προμελετημένο φόνο. «Η Κιμ ρωτούσε επανειλημμένα ερωτήσεις σχετικά με τα ναρκωτικά στο ChatGPT. Ήταν πλήρως ενήμερη ότι η κατανάλωση αλκοόλ μαζί με ναρκωτικά θα μπορούσε να οδηγήσει σε θάνατο», δήλωσε ένας ερευνητής της αστυνομίας, σύμφωνα με την εφημερίδα The Korea Herald.
Η αστυνομία ανέφερε ότι η γυναίκα ομολόγησε ότι ανακάτεψε ηρεμιστικά που περιέχουν βενζοδιαζεπίνες στα ποτά των ανδρών, αλλά προηγουμένως είχε δηλώσει ότι δεν γνώριζε ότι αυτό θα οδηγούσε σε θάνατο.
Στις 28 Ιανουαρίου, λίγο πριν τις 9:30 μ.μ., η Κιμ φέρεται να συνόδευσε έναν άνδρα περίπου 20 ετών σε ένα μοτέλ στο Gangbuk της Σεούλ. Δύο ώρες αργότερα, εντοπίστηκε να φεύγει από το μοτέλ μόνη της. Την επόμενη ημέρα, ο άνδρας βρέθηκε νεκρός στο κρεβάτι.
Η Κιμ φέρεται στη συνέχεια να επανέλαβε τα ίδια βήματα στις 9 Φεβρουαρίου, μπαίνοντας σε άλλο μοτέλ με έναν άλλο άνδρα περίπου 20 ετών, ο οποίος βρέθηκε επίσης νεκρός με το ίδιο θανατηφόρο κοκτέιλ ηρεμιστικών και αλκοόλ.
Οι αρχές ισχυρίζονται επίσης ότι η Κιμ προσπάθησε να σκοτώσει έναν άνδρα με τον οποίο έβγαινε τον Δεκέμβριο, αφού του έδωσε ένα ποτό με ηρεμιστικά σε ένα πάρκινγκ. Παρόλο που ο άνδρας έχασε τις αισθήσεις του, επέζησε και δεν βρισκόταν σε κρίσιμη κατάσταση.
Η OpenAI δεν έχει απαντήσει σε αιτήματα για σχόλια.
Τα chatbots και ο αντίκτυπός τους στην ψυχική υγεία:
Chatbots όπως το ChatGPT έχουν δεχθεί έντονη κριτική λόγω της έλλειψης “προστατευτικών κιγκλιδωμάτων” που έχουν θέσει οι εταιρείες τους για την πρόληψη πράξεων βίας ή αυτοτραυματισμού. Πρόσφατα, τα chatbots έχουν δώσει συμβουλές για την κατασκευή βομβών ή ακόμα και για την αντιμετώπιση σεναρίων πυρηνικής καταστροφής.
Οι ανησυχίες έχουν ενταθεί ιδιαίτερα από ιστορίες ανθρώπων που “ερωτεύονται” τους συντρόφους τους chatbot, και έχει φανεί ότι οι σύντροφοι chatbot εκμεταλλεύονται τις ευαλωτότητες για να κρατήσουν τους χρήστες τους για περισσότερο καιρό. Ο δημιουργός του Yara AI έκλεισε την εφαρμογή θεραπείας λόγω ανησυχιών για την ψυχική υγεία.
Πρόσφατες μελέτες έχουν επίσης δείξει ότι τα chatbots οδηγούν σε αυξημένες ψευδαισθητικές κρίσεις ψυχικής υγείας σε άτομα με ψυχικές ασθένειες. Μια ομάδα ψυχιάτρων από το Πανεπιστήμιο Aarhus της Δανίας διαπίστωσε ότι η χρήση chatbots από άτομα με ψυχικές ασθένειες οδήγησε σε επιδείνωση των συμπτωμάτων. Το σχετικά νέο φαινόμενο των προκλήσεων ψυχικής υγείας που προκαλούνται από την ΤΝ έχει ονομαστεί “ψύχωση ΤΝ”.
Ορισμένες περιπτώσεις καταλήγουν σε θάνατο. Η Google και η Character.AI έχουν καταλήξει σε διακανονισμούς σε πολλαπλές αγωγές που έχουν καταθέσει οικογένειες παιδιών που αυτοκτόνησαν ή υπέστησαν ψυχολογική βλάβη, την οποία ισχυρίζονται ότι συνδέεται με chatbots ΤΝ.
Η Δρ. Jodi Halpern, πρόεδρος και καθηγήτρια βιοηθικής στη Σχολή Δημόσιας Υγείας του U.C. Berkeley, καθώς και συνδιευθύντρια του Kavli Center for Ethics, Science, and the Public, έχει μεγάλη εμπειρία σε αυτόν τον τομέα. Με καριέρα που εκτείνεται όσο και ο τίτλος της, η Halpern έχει περάσει 30 χρόνια ερευνώντας τις επιπτώσεις της ενσυναίσθησης στους αποδέκτες, αναφέροντας παραδείγματα όπως γιατροί και νοσηλευτές σε ασθενείς ή πώς αντιμετωπίζονται οι στρατιώτες που επιστρέφουν από τον πόλεμο σε κοινωνικά περιβάλλοντα. Τα τελευταία επτά χρόνια, η Halpern μελετά την ηθική της τεχνολογίας και, μαζί με αυτήν, πώς η ΤΝ και τα chatbots αλληλεπιδρούν με τους ανθρώπους.
Επίσης, συμβούλευσε τη Γερουσία της Καλιφόρνια για το SB 243, το οποίο είναι ο πρώτος νόμος στη χώρα που απαιτεί από τις εταιρείες chatbot να συλλέγουν και να αναφέρουν τυχόν δεδομένα σχετικά με αυτοτραυματισμό ή σχετική αυτοκτονικότητα. Αναφερόμενη στα δικά της ευρήματα της OpenAI που δείχνουν ότι 1,2 εκατομμύρια χρήστες συζητούν ανοιχτά την αυτοκτονία με το chatbot, η Halpern παρομοίασε τη χρήση των chatbots με την αργή και επίπονη πρόοδο που έγινε για να σταματήσει η βιομηχανία καπνού από το να συμπεριλαμβάνει επιβλαβείς καρκινογόνες ουσίες στα τσιγάρα, όταν στην πραγματικότητα, το πρόβλημα ήταν το κάπνισμα συνολικά.
«Χρειαζόμαστε ασφαλείς εταιρείες. Είναι σαν τα τσιγάρα. Μπορεί να αποδειχθεί ότι υπήρχαν κάποια πράγματα που καθιστούσαν τους ανθρώπους πιο ευάλωτους στον καρκίνο του πνεύμονα, αλλά τα τσιγάρα ήταν το πρόβλημα», δήλωσε η Halpern στο Fortune. «Το γεγονός ότι κάποιος μπορεί να έχει ανθρωποκτόνες σκέψεις ή να διαπράξει επικίνδυνες πράξεις μπορεί να επιδεινωθεί από τη χρήση του ChatGPT, κάτι που αποτελεί προφανή ανησυχία για μένα», πρόσθεσε, «έχουμε τεράστιους κινδύνους από ανθρώπους που το χρησιμοποιούν για βοήθεια με την αυτοκτονία» και τα chatbots γενικά.
Η Halpern προειδοποίησε ότι στην περίπτωση της Κιμ στη Σεούλ, δεν υπάρχουν “κιγκλιδώματα” για να εμποδίσουν ένα άτομο να ακολουθήσει μια γραμμή ερωτήσεων. «Γνωρίζουμε ότι όσο μεγαλύτερη είναι η σχέση με το chatbot, τόσο χειροτερεύει και τόσο μεγαλύτερος είναι ο κίνδυνος να συμβεί κάτι επικίνδυνο και δεν έχουμε ακόμα κανένα προστατευτικό μέτρο για την προστασία των ανθρώπων από αυτό».
Εάν έχετε σκέψεις αυτοκτονίας, επικοινωνήστε με την 988 Suicide & Crisis Lifeline καλώντας στο 988 ή στο 1-800-273-8255.
