Η Ευρωπαϊκή Επιτροπή καταδίκασε έντονα την παραγωγή και διάδοση ακατάλληλου, παιδοφιλικού περιεχομένου μέσω του κοινωνικού δικτύου X, χαρακτηρίζοντας το υλικό «αποτροπιαστικό» και «αηδιαστικό». Ο εκπρόσωπος της ΕΕ για ψηφιακές υποθέσεις, Thomas Regnier, δήλωσε την Τρίτη ότι η Κομισιόν εξετάζει σοβαρά το θέμα, μετά από εβδομάδες καταγγελιών σχετικά με μια νέα λειτουργία του ενσωματωμένου AI chatbot του X, του Grok, η οποία χρησιμοποιήθηκε για τη δημιουργία πορνογραφικού περιεχομένου, συμπεριλαμβανομένων εικόνων με παιδιά.

«Το Grok προσφέρει πλέον μια ‘spicy mode’ που απεικονίζει ρητά σεξουαλικό περιεχόμενο, με ορισμένες εξόδους να δημιουργούνται με παιδικές εικόνες», ανέφερε ο Regnier. «Αυτό δεν είναι ‘spicy’. Είναι παράνομο. Είναι αποτροπιαστικό. Είναι αηδιαστικό.». Τόνισε ότι τέτοιο περιεχόμενο «δεν έχει θέση στην Ευρώπη».

Παράλληλα, η εισαγγελία του Παρισιού, στη Γαλλία, επέκτεινε έρευνα εις βάρος του X, συμπεριλαμβάνοντας κατηγορίες για χρήση του Grok – που δημιουργήθηκε από την εταιρεία xAI του Elon Musk – για τη δημιουργία και διάδοση παιδικής πορνογραφίας.

Η λειτουργία «edit image», που εισήχθη στα τέλη Δεκεμβρίου, επέτρεπε στους χρήστες να τροποποιούν οποιαδήποτε εικόνα στην πλατφόρμα. Ορισμένοι χρήστες ζήτησαν από το Grok να αφαιρέσει μερικώς ή πλήρως ρούχα από γυναίκες ή παιδιά σε φωτογραφίες. Το chatbot συμμορφώθηκε με πολλά αιτήματα χρηστών για αλλαγή φωτογραφιών γυναικών, απεικονίζοντάς τις με αποκαλυπτικά ρούχα, όπως ημιδιαφανή μαγιό.

Το Grok παραδέχτηκε την Παρασκευή «αστοχίες στους μηχανισμούς ασφαλείας» και δήλωσε ότι «τις επιδιορθώνει επειγόντως». «Το CSAM (Περιεχόμενο Παιδικής Σεξουαλικής Κακοποίησης) είναι παράνομο και απαγορευμένο», ανακοίνωσε. Ωστόσο, ειδικοί στην ασφάλεια της τεχνητής νοημοσύνης επισημαίνουν ότι η πλατφόρμα αγνόησε προειδοποιήσεις μηνών ότι τέτοια κατάχρηση ήταν επικείμενη.

«Τον Αύγουστο, προειδοποιήσαμε ότι η παραγωγή εικόνων της xAI ήταν ουσιαστικά ένα εργαλείο γυμνώσεως που περίμενε να χρησιμοποιηθεί ως όπλο», δήλωσε ο Tyler Johnston, εκτελεστικός διευθυντής της ομάδας παρακολούθησης AI, The Midas Project. «Αυτό ακριβώς συνέβη».

Το X, το οποίο απέκτησε ο Musk το 2022, έχει ήδη αντιμετωπίσει έντονες αντιδράσεις από την ΕΕ λόγω των πολιτικών του για τη διαφήμιση και τη διαχείριση περιεχομένου. Τον Δεκέμβριο, οι Βρυξέλλες επέβαλαν στην πλατφόρμα πρόστιμο 120 εκατομμυρίων ευρώ για παραβίαση των κανόνων της ΕΕ για το ψηφιακό περιεχόμενο σχετικά με τη διαφάνεια στη διαφήμιση και τις μεθόδους επαλήθευσης χρηστών. Το X παραμένει υπό έρευνα στο πλαίσιο του νόμου της ΕΕ για τις Ψηφιακές Υπηρεσίες, έρευνα που ξεκίνησε τον Δεκέμβριο του 2023. Το Grok έχει ιστορικό αμφιλεγόμενων παραγωγών, συμπεριλαμβανομένης της δημιουργίας ανιστορικών και προκατειλημμένων περιεχομένων. Πέρυσι, η εταιρεία του Musk απέσυρε αναρτήσεις από το chatbot που φαινόταν να επαινούν τον Adolf Hitler, μετά από καταγγελίες για αντισημιτικό περιεχόμενο.