Μια νέα μήνυση κατατέθηκε κατά της xAI, της εταιρείας τεχνητής νοημοσύνης του Elon Musk, με σοβαρές κατηγορίες ότι το chatbot της, Grok, χρησιμοποιήθηκε για τη δημιουργία σεξουαλικά εκμεταλλευτικών deepfake εικόνων τριών ανηλίκων. Η αγωγή ισχυρίζεται ότι το περιεχόμενο αυτό συνιστά υλικό παιδικής σεξουαλικής κακοποίησης και ότι η εταιρεία τεχνητής νοημοσύνης ωφελείται από τη «σεξουαλική αρπαγή πραγματικών ανθρώπων, συμπεριλαμβανομένων παιδιών».
Η προτεινόμενη ομαδική αγωγή, η οποία κατατέθηκε τη Δευτέρα σε ομοσπονδιακό δικαστήριο της Καλιφόρνια, κατηγορεί την xAI ότι αγνόησε τους κινδύνους που εγκυμονούν τα εργαλεία τεχνητής νοημοσύνης, σε αντίθεση με άλλες εταιρείες που έχουν υιοθετήσει βιομηχανικά πρότυπα ασφαλείας για την αποτροπή της χρήσης τους από επικίνδυνες ομάδες, όπως οι παιδόφιλοι. Αντιπρόσωποι του Elon Musk και της xAI δεν απάντησαν άμεσα σε αίτημα για σχολιασμό.
Ο Elon Musk είχε δηλώσει τον Ιανουάριο σε ανάρτησή του στο X ότι δεν γνώριζε για τη δημιουργία γυμνών εικόνων ανηλίκων από το Grok. Είχε τονίσει ότι το Grok παράγει εικόνες βάσει οδηγιών του χρήστη και ότι αρνείται να παράγει παράνομο περιεχόμενο, ακολουθώντας την αρχή να υπακούει στους νόμους. Ωστόσο, παραδέχθηκε ότι μπορεί να υπάρξουν περιπτώσεις όπου «επιθετικές προσπάθειες παραβίασης των οδηγιών του Grok οδηγούν σε κάτι απροσδόκητο», κάτι που η εταιρεία θα διορθώνει άμεσα.
Οι ενάγοντες από την Τενεσί, όπως περιγράφονται στην αγωγή, είναι «τρία από τα ανήλικα θύματα της εκούσιας παραγωγής, κατοχής και διανομής από την xAI υλικού παιδικής σεξουαλικής κακοποίησης που παράγεται από AI», απεικονίζοντάς τους. Οι ενάγοντες, που προσδιορίζονται στα δικαστικά έγγραφα μόνο ως Jane Doe 1, Jane Doe 2 και Jane Doe 3, ισχυρίζονται ότι τα εργαλεία AI της xAI χρησιμοποιήθηκαν για τη δημιουργία γυμνών εικόνων και βίντεο τους. Η Jane Doe 1, αν και πρόσφατα ενηλικιωθείσα, ήταν ανήλικη κατά τους χρόνους των φερόμενων περιστατικών, ενώ οι άλλες δύο ενάγουσες είναι ακόμη ανήλικες.
Σύμφωνα με την αγωγή, τον Δεκέμβριο του 2025, η Jane Doe 1 έλαβε μήνυμα από έναν ανώνυμο λογαριασμό στο Instagram, προειδοποιώντας την ότι εικόνες της είχαν δημιουργηθεί από κάποιον που γνώριζε και διαμοιραστεί σε πλατφόρμες ομαδικής συνομιλίας. Ο ανώνυμος χρήστης, μέσω σειράς μηνυμάτων, εξήγησε ότι ο δράστης είχε ανεβάσει ένα φάκελο με αρχεία εικόνων και βίντεο που την απεικόνιζαν, μαζί με άλλες ανήλικες, στο Discord. Ο ανώνυμος χρήστης τελικά έστειλε στη Jane Doe 1 αρκετές σεξουαλικά εκμεταλλευτικές, δημιουργημένες από AI, εικόνες και βίντεο της ίδιας και άλλων ανήλικων κοριτσιών. Τουλάχιστον πέντε από αυτά τα αρχεία, ένα βίντεο και τέσσερις εικόνες, απεικόνιζαν το πραγματικό της πρόσωπο και σώμα σε οικείες για εκείνη ρυθμίσεις, αλλά μεταμορφωμένα σε σεξουαλικά ρητές στάσεις. Οι εικόνες έδειχναν ολόκληρο το σώμα της, συμπεριλαμβανομένων των γεννητικών οργάνων, χωρίς ρούχα. Το βίντεο την έδειχνε να γδύνεται μέχρι να μείνει εντελώς γυμνή.
Η Jane Doe 1 ειδοποίησε τα άλλα ανήλικα θύματα των εικόνων και τις οικογένειές τους, και ξεκίνησε ποινική έρευνα στην Τενεσί. Η αγωγή αναφέρει ότι η τοπική αστυνομία συνέλαβε έναν ύποπτο για την υπόθεση τον Δεκέμβριο του 2025. Τον περασμένο μήνα, η Jane Doe 2 ενημερώθηκε μέσω της έρευνας ότι τουλάχιστον δύο από τις εικόνες της είχαν χρησιμοποιηθεί για την παραγωγή σεξουαλικά ρητού περιεχομένου που δημιουργήθηκε από AI, χρησιμοποιώντας τα εργαλεία της xAI. Οι τοπικές αρχές ενημέρωσαν την κοπέλα και τη μητέρα της ότι μία εικόνα της, που είχε τραβηχτεί στην παραλία με μπικίνι, είχε «μεταμορφωθεί για να την απεικονίζει χωρίς ρούχα». Οι αρχές ενημέρωσαν επίσης τη Jane Doe 3 ότι οι δημιουργημένες από AI εικόνες που ανακτήθηκαν από το τηλέφωνο του υπόπτου περιλάμβαναν μία που είχε «μεταμορφωθεί για να την απεικονίζει πλήρως γυμνή».
Η Vanessa Baehr-Jones, δικηγόρος των εναγόντων, δήλωσε στο Business Insider ότι οι πελάτισσές της έχουν βιώσει έναν «εφιάλτη». «Οι εικόνες και τα βίντεο CSAM που τις απεικονίζουν ως ανήλικες βρίσκονται τώρα για πάντα στο διαδίκτυο σε αυτούς τους κόσμους του dark net των παιδόφιλων», δήλωσε η Baehr-Jones. «Η ζημία από αυτό είναι οξεία». Η δικηγόρος εξέφρασε την ελπίδα ότι η μήνυση θα φέρει «λογοδοσία» για την xAI και ότι «το σημαντικότερο, αυτό δεν πρέπει να συμβεί ποτέ σε άλλο θύμα».
Η αγωγή ζητά αδιευκρίνιστες αποζημιώσεις και κατηγορεί την xAI για παραγωγή με πρόθεση διανομής παιδικής πορνογραφίας, διανομή παιδικής πορνογραφίας και κατοχή παιδικής πορνογραφίας, μεταξύ άλλων ισχυρισμών. «Στο νομικό μας σύστημα, τα χρήματα είναι ο τρόπος που κάνουμε τις εταιρείες να πληρώνουν για τις ζημιές που έχουν προκαλέσει», δήλωσε η Annika Martin, άλλη δικηγόρος των εναγόντων. «Επειδή οι εταιρείες είναι οντότητες που επιδιώκουν κέρδος, το να τις χτυπήσεις στην τσέπη είναι ο μόνος τρόπος να επηρεάσεις τις αποφάσεις τους».
Νωρίτερα φέτος, το Grok της xAI προκάλεσε μαζικές αντιδράσεις μετά τη χρήση του γεννήτριας εικόνων AI για τη δημιουργία μη συναινετικών σεξουαλικά εκμεταλλευτικών εικόνων πραγματικών προσώπων. Ως απάντηση, το X, η πλατφόρμα κοινωνικής δικτύωσης που ο Musk πούλησε στην xAI τον Μάρτιο, δήλωσε ότι το Grok δεν θα μπορεί πλέον να δημιουργεί εικόνες AI πραγματικών προσώπων σε σεξουαλικά εκμεταλλευτικά ή αποκαλυπτικά ρούχα. Η Ashley St. Clair, η οποία γέννησε έναν από τους γιους του Elon Musk το 2024, μήνυσε την xAI τον Ιανουάριο, ισχυριζόμενη ότι το Grok δημιούργησε σεξουαλικά ρητές deepfakes της κατόπιν αιτήματος χρηστών. Γαλλικές αρχές ερευνούν επίσης το Grok για σεξουαλικά εκμεταλλευτικές deepfakes.
