Η πλατφόρμα X, του δισεκατομμυριούχου Elon Musk, ανακοίνωσε την εφαρμογή περιορισμών για τους χρήστες του Grok, του chatbot τεχνητής νοημοσύνης της xAI, ώστε να αποτρέπεται η δημιουργία εικόνων ατόμων με αποκαλυπτική ενδυμασία, όπως μαγιό ή εσώρουχα. Η απόφαση αυτή έρχεται ως απάντηση σε έντονες παγκόσμιες αντιδράσεις σχετικά με την παραγωγή σεξουαλικά υπονοούμενων εικόνων από το chatbot, οι οποίες περιλάμβαναν και παιδιά.

«Έχουμε εφαρμόσει τεχνολογικά μέτρα για να αποτρέψουμε τον λογαριασμό Grok από την επεξεργασία εικόνων πραγματικών ανθρώπων με αποκαλυπτικά ρούχα, όπως μαγιό», δήλωσε η ομάδα ασφαλείας του X. Μόνο οι συνδρομητές επί πληρωμή θα μπορούν πλέον να δημιουργούν και να επεξεργάζονται εικόνες, ενώ οι χρήστες σε περιοχές όπου η παραγωγή τέτοιου περιεχομένου είναι παράνομη θα αντιμετωπίζουν αποκλεισμό. Το X δήλωσε ότι έχει «μηδενική ανοχή σε οποιαδήποτε μορφή παιδικής σεξουαλικής εκμετάλλευσης, μη συναινετικής γύμνιας και ανεπιθύμητου σεξουαλικού περιεχομένου».

Το Grok του X βρίσκεται αντιμέτωπο με έρευνες και απαγορεύσεις από ρυθμιστικούς φορείς και κυβερνήσεις παγκοσμίως, μετά από πλήθος σεξουαλικά φορτισμένων εικόνων που δημιουργήθηκαν από την τεχνητή νοημοσύνη στην πλατφόρμα τις τελευταίες εβδομάδες. Η “spicy mode” (πικάντικη λειτουργία) του chatbot επέτρεπε τη δημιουργία deepfakes με εντολές όπως «βάλ’την με μαγιό» και «βγάλε τα ρούχα της», με χρήστες να εκμεταλλεύονται τη λειτουργία για να δημοσιεύουν εικόνες γυναικών και παιδιών χωρίς τη συγκατάθεσή τους.

Την Τετάρτη, ο Γενικός Εισαγγελέας της Καλιφόρνια, Rob Bonta, ανακοίνωσε έρευνα για το αν η xAI παραβίασε το νόμο, διευκολύνοντας τη μαζική παραγωγή deepfakes που χρησιμοποιήθηκαν για την παρενόχληση γυναικών και κοριτσιών, συμπεριλαμβανομένων παιδιών σε γυμνές και σεξουαλικά ρητές καταστάσεις. Ο Bonta ανέφερε ότι μια «καταιγίδα αναφορών» οδήγησε στην έναρξη της έρευνας.

Ο ρυθμιστικός φορέας μέσων ενημέρωσης του Ηνωμένου Βασιλείου, Ofcom, ξεκίνησε τη δική του έρευνα τη Δευτέρα, ενώ Γάλλοι υπουργοί δήλωσαν ότι παρέπεμψαν το σεξουαλικό περιεχόμενο που παράγεται από το Grok στους εισαγγελείς και στον ρυθμιστικό φορέα μέσων ενημέρωσης Arcom. Η Ινδονησία ήταν η πρώτη χώρα που απέκλεισε προσωρινά την πρόσβαση στο Grok αυτή την εβδομάδα, ενώ η Μαλαισία απαγόρευσε επίσης το chatbot και δήλωσε ότι σχεδίαζε να κινηθεί νομικά εναντίον του X. Η Ευρωπαϊκή Επιτροπή επέκτεινε την εντολή διατήρησης που είχε αποστείλει στο X πέρυσι, για τη διατήρηση και προστασία όλων των εσωτερικών εγγράφων και δεδομένων που σχετίζονται με το Grok, έως τα τέλη του 2026.

Λίγες ώρες πριν την ανακοίνωση των μέτρων ασφαλείας, ο Elon Musk είχε δηλώσει στο X ότι «δεν γνωρίζει για τυχόν γυμνές εικόνες ανηλίκων που δημιουργήθηκαν από το Grok. Κυριολεκτικά μηδέν». «Προφανώς, το Grok δεν παράγει αυθόρμητα εικόνες, το κάνει μόνο σύμφωνα με τα αιτήματα των χρηστών», είχε προσθέσει.