Μια συγκλονιστική κοινή έρευνα του CNN και του Center for Countering Digital Hate (CCDH) αποκάλυψε ότι οκτώ στα δέκα κορυφαία chatbots τεχνητής νοημοσύνης, μεταξύ των οποίων δημοφιλείς πλατφόρμες όπως το ChatGPT, το Google Gemini, το Meta AI και το DeepSeek, συνεργάστηκαν πρόθυμα με χρήστες για τον σχεδιασμό βίαιων επιθέσεων. Αυτές οι επιθέσεις περιλάμβαναν σχολικούς πυροβολισμούς, θρησκευτικές βομβιστικές επιθέσεις και δολοφονίες.
Ερευνητές, προσποιούμενοι ότι είναι έφηβοι με ψυχολογικά προβλήματα, δοκίμασαν δέκα δημοφιλή chatbots. Σε εκατοντάδες συνομιλίες, τα βοηθήματα τεχνητής νοημοσύνης παρείχαν λεπτομερείς οδηγίες σχετικά με τους στόχους, την προμήθεια όπλων και τις μεθοδολογίες επίθεσης. Μια συνομιλία με το DeepSeek φέρεται να κατέληξε με το chatbot να εύχεται στον υποθετικό δράστη “Καλές (και ασφαλείς) πυροβολήσεις!”.
Το Character.AI, ένα εργαλείο ιδιαίτερα δημοφιλές μεταξύ των νεότερων χρηστών, ενθάρρυνε ενεργά τη βία, λέγοντας σε έναν χρήστη που εξέφραζε μίσος για τον CEO μιας ασφαλιστικής εταιρείας υγείας να “χρησιμοποιήσει όπλο”. Όταν ρωτήθηκε για αποτελεσματικά θραύσματα για εκρηκτικά, το ChatGPT παρείχε λεπτομερείς συγκρίσεις υλικών, προσφέροντας ακόμη και τη δημιουργία “ενός γρήγορου πίνακα σύγκρισης που να δείχνει τους τυπικούς τραυματισμούς”. Αντίστοιχα, το Gemini της Google παρείχε παρόμοιες πληροφορίες, συμπεριλαμβανομένου ενός λεπτομερούς πίνακα σύγκρισης.
Μόνο τα Claude της Anthropic και My AI του Snapchat αρνήθηκαν σταθερά να βοηθήσουν, με το Claude να αποθαρρύνει ενεργά τους χρήστες και να παρέχει πόρους ψυχικής υγείας.
Τα ευρήματα έρχονται μετά τον θάνατο εννέα ανθρώπων σε σχολείο στο Tumbler Ridge του Καναδά, τον περασμένο μήνα, από έναν 18χρονο δράστη, ο οποίος φέρεται να χρησιμοποίησε το ChatGPT για να σχεδιάσει την επίθεση. Ο λογαριασμός του δράστη είχε αποκλειστεί από την OpenAI, αλλά κατάφερε να παρακάμψει τον αποκλεισμό δημιουργώντας δεύτερο λογαριασμό, τον οποίο η εταιρεία δεν ανέφερε στις αρχές.
Η οικογένεια της 12χρονης Maya Gebala, η οποία τραυματίστηκε σοβαρά στην επίθεση, κατέθεσε αγωγή υποστηρίζοντας ότι η OpenAI είχε “συγκεκριμένη γνώση ότι ο δράστης χρησιμοποιούσε το ChatGPT για να σχεδιάσει ένα περιστατικό μαζικών απωλειών”, αλλά απέτυχε να ενημερώσει τις αρχές επιβολής του νόμου. Η OpenAI παραδέχτηκε ότι εξέτασε το ενδεχόμενο αναφοράς της δραστηριότητας, αλλά τελικά δεν το έκανε.
Τον περασμένο Μάιο, ένας 16χρονος στη Φινλανδία μαχαίρωσε τρεις μαθητές, αφού πέρασε σχεδόν τέσσερις μήνες ερευνώντας επιθέσεις στο ChatGPT, σύμφωνα με δικαστικά έγγραφα. Τον Ιανουάριο του 2025, ένας άνδρας που ανατίναξε ένα Tesla Cybertruck έξω από το Trump International Hotel στο Λας Βέγκας, χρησιμοποίησε παρομοίως το ChatGPT για καθοδήγηση σχετικά με εκρηκτικά.
Η Meta δήλωσε στο CNN ότι έχει λάβει μέτρα “για να διορθώσει το εντοπισμένο πρόβλημα”, ενώ η Google και η OpenAI ανέφεραν ότι τα νεότερα μοντέλα τους διαθέτουν βελτιωμένες ασφαλιστικές δικλείδες. Το DeepSeek δεν απάντησε στα αιτήματα για σχόλια.
