Η Ινδονησία προχώρησε στο μπλοκάρισμα του Grok AI, του chatbot της εταιρείας xAI του Elon Musk, εξαιτίας αυξανόμενων ανησυχιών ότι το εργαλείο διευκολύνει τη δημιουργία deepfake πορνογραφικού περιεχομένου. Η κίνηση του υπουργείου Επικοινωνιών και Ψηφιακών Υποθέσεων καθιστά τη χώρα της Νοτιοανατολικής Ασίας την πρώτη που επιβάλλει προσωρινή απαγόρευση πρόσβασης στο εν λόγω εργαλείο τεχνητής νοημοσύνης.
Το Grok έχει βρεθεί στο στόχαστρο παγκοσμίως μετά από δημοσιεύματα που αποκάλυψαν ότι το chatbot μπορεί να παράγει ερωτικού περιεχομένου deepfakes από φωτογραφίες, συμπεριλαμβανομένων εικόνων ανηλίκων. Ορισμένοι ρυθμιστικοί φορείς έχουν ήδη ξεκινήσει έρευνες σχετικά με το σεξουαλικού περιεχομένου υλικό που παράγεται από την εφαρμογή. Η Ινδονησία, όπου ζει ο μεγαλύτερος μουσουλμανικός πληθυσμός παγκοσμίως, εφαρμόζει αυστηρούς κανόνες που απαγορεύουν υλικό που θεωρείται χυδαίο.
«Η κυβέρνηση θεωρεί τα μη συναινετικά σεξουαλικά deepfakes σοβαρή παραβίαση των ανθρωπίνων δικαιωμάτων, της αξιοπρέπειας και της ασφάλειας των πολιτών στον ψηφιακό χώρο», δήλωσε η Υπουργός Επικοινωνιών και Ψηφιακών Υποθέσεων, Meutya Hafid, χαρακτηρίζοντας την κατάχρηση της τεχνητής νοημοσύνης για τη δημιουργία πλαστών πορνογραφικών υλικών ως μορφή «βίας που βασίζεται στο ψηφιακό περιβάλλον». Η Hafid πρόσθεσε ότι το μέλλον του Grok στην Ινδονησία, μιας από τις μεγαλύτερες αγορές κοινωνικής δικτύωσης παγκοσμίως, θα εξαρτηθεί από την προθυμία του X (πρώην Twitter) να εφαρμόσει ισχυρά φίλτρα περιεχομένου και να συμμορφωθεί με τις ηθικές προδιαγραφές της τεχνητής νοημοσύνης. Στελέχη του X έχουν κληθεί για συζητήσεις.
Την Πέμπτη, η Ευρωπαϊκή Επιτροπή διέταξε το X να διατηρήσει όλα τα έγγραφα και τα δεδομένα που σχετίζονται με το Grok chatbot μέχρι το τέλος του 2026. Η προληπτική αυτή κίνηση, υπό τον νόμο περί ψηφιακών υπηρεσιών της ΕΕ, αποσκοπεί στην αποφυγή απώλειας αποδεικτικών στοιχείων εν μέσω ανησυχιών για ενδεχομένως παράνομο περιεχόμενο. Στο Ηνωμένο Βασίλειο, η εφημερίδα The Telegraph ανέφερε νωρίτερα αυτή την εβδομάδα ότι το X θα μπορούσε να αντιμετωπίσει πιθανό μπλοκάρισμα λόγω πορνογραφικού περιεχομένου που παράγεται από το Grok. Ο Βρετανός πρωθυπουργός Keir Starmer φέρεται να παρέπεμψε το θέμα στον ρυθμιστικό φορέα μέσων ενημέρωσης Ofcom, με επιλογές που περιλαμβάνουν πλήρες μπλοκάρισμα. Νωρίτερα αυτό το μήνα, Γάλλοι εισαγγελείς άνοιξαν έρευνα για την φερόμενη διάδοση σεξουαλικά ρητών deepfakes που δημιουργήθηκαν από το Grok, αφού εκατοντάδες άτομα ανέφεραν ότι οι φωτογραφίες τους είχαν ψηφιακά «γδυθεί». Η επιχειρηματική δραστηριότητα του Musk στον χώρο της τεχνητής νοημοσύνης αντιμετωπίζει αυξανόμενη αντιπαράθεση από το λανσάρισμα του Grok 4 τον Ιούλιο του 2025, με τους επικριτές να επισημαίνουν ρητορική εξτρεμισμού, πολιτική μεροληψία και σεξουαλικά χαρακτηριστικά ως απόδειξη ανεπαρκών δικλείδων ασφαλείας. Ειδικοί προειδοποιούν ότι τα εργαλεία τεχνητής νοημοσύνης με ανεπαρκή εποπτεία κινδυνεύουν να εκθέσουν τους χρήστες, ιδίως τα παιδιά, σε επιβλαβές περιεχόμενο.
