Ο ρυθμιστικός φορέας μέσων ενημέρωσης του Ηνωμένου Βασιλείου, Ofcom, ξεκίνησε επίσημη έρευνα κατά της πλατφόρμας X του Elon Musk, σχετικά με τη χρήση του AI chatbot Grok για τη δημιουργία σεξουαλικά παραπλανητικών deepfakes. Ο Ofcom χαρακτήρισε τις αναφορές “βαθιά ανησυχητικές”, επισημαίνοντας ότι η παραγωγή γυμνών deepfakes από το chatbot θα μπορούσε να συνιστά “κακοποίηση οικείων εικόνων ή πορνογραφία”, ενώ “σεξουαλικές εικόνες παιδιών” θα μπορούσαν να θεωρηθούν “υλικό σεξουαλικής κακοποίησης παιδιών”.
Η έρευνα διεξάγεται υπό την πίεση που ασκείται μετά τις δηλώσεις του Βρετανού Πρωθυπουργού Keir Starmer, ο οποίος χαρακτήρισε τις εικόνες που παρήγαγε το Grok “απεχθείς” και “παράνομες”, καλώντας την πλατφόρμα X του Musk να “πάρει τον έλεγχο” της εφαρμογής. Ο Ofcom θα καθορίσει εάν η X “απέτυχε να συμμορφωθεί με τις νομικές της υποχρεώσεις”, με την έρευνα να ξεκινά μετά την ανταπόκριση της εταιρείας σε προηγούμενο αίτημα του ρυθμιστικού φορέα για εξηγήσεις σχετικά με τα μέτρα προστασίας των Βρετανών χρηστών.
Εκπρόσωπος της X παραπέμπει σε προηγούμενη δήλωση, όπου αναφέρεται ότι η εταιρεία λαμβάνει δράση κατά παράνομου περιεχομένου “αφαιρώντας το, αναστέλλοντας μόνιμα λογαριασμούς και συνεργαζόμενη με τοπικές κυβερνήσεις και αρχές επιβολής του νόμου όπου χρειάζεται”.
Η Υπουργός Ψηφιακής Τεχνολογίας, Liz Kendall, τόνισε τη σημασία της ταχείας ολοκλήρωσης της έρευνας από τον Ofcom, καθώς το κοινό και, κυρίως, τα θύματα, δεν θα αποδεχτούν καθυστερήσεις. Ο Αναπληρωτής Πρωθυπουργός, David Lammy, δήλωσε ότι έχει θέσει το ζήτημα στον Αντιπρόεδρο των Ηνωμένων Πολιτειών, JD Vance, ο οποίος, όπως ισχυρίστηκε, συμφώνησε ότι η κατάσταση είναι απολύτως απαράδεκτη.
Εν τω μεταξύ, η Downing Street έχει εκφράσει την προθυμία της να εξετάσει την αποχώρηση από την X, πρώην Twitter, εάν η εταιρεία του κ. Musk δεν προβεί σε ενέργειες.
Σύμφωνα με τον Βρετανικό Νόμο για την Ασφάλεια στο Διαδίκτυο (Online Safety Act), ο οποίος τέθηκε σε ισχύ τον Ιούλιο, οι διαδικτυακές πλατφόρμες που φιλοξενούν δυνητικά επιβλαβές περιεχόμενο υποχρεούνται να εφαρμόζουν αυστηρή επαλήθευση ηλικίας μέσω εργαλείων όπως αναγνώριση προσώπου ή ελέγχους πιστωτικών καρτών.
Είναι παράνομο για τα μέσα ενημέρωσης να δημιουργούν ή να μοιράζονται μη συναινετικές οικείες εικόνες ή υλικό σεξουαλικής κακοποίησης παιδιών, συμπεριλαμβανομένων των σεξουαλικών deepfakes που δημιουργούνται με τεχνητή νοημοσύνη (AI). Ο Ofcom έχει την εξουσία να επιβάλλει πρόστιμα ύψους 10% των παγκόσμιων εσόδων για παραβιάσεις κανόνων.
Ερωτηθείς τη Δευτέρα εάν η X θα μπορούσε να απαγορευτεί, ο Υπουργός Επιχειρήσεων, Peter Kyle, απάντησε: “Ναι, φυσικά”. Ωστόσο, επισήμανε ότι η αρμοδιότητα για κάτι τέτοιο ανήκει στον Ofcom.
Το Grok, αναπτύχθηκε από την xAI, άλλη μια εταιρεία του Musk, και παρουσίασε μια νέα προηγμένη λειτουργία δημιουργίας εικόνων τον Ιούλιο του προηγούμενου έτους. Ωστόσο, η χρήση του για τη δημιουργία γυμνών deepfake εικόνων έχει γίνει ευρέως διαδεδομένη τις τελευταίες εβδομάδες, προκαλώντας κατακραυγή παγκοσμίως. Το Grok φάνηκε να αψηφά την διεθνή κριτική με μια νέα πολιτική δημιουργίας εσόδων στα τέλη της περασμένης εβδομάδας, ανακοινώνοντας στο X ότι το εργαλείο πλέον “περιορίζεται σε συνδρομητές επί πληρωμή”. Ο Starmer καταδίκασε την κίνηση ως προσβολή προς τα θύματα και “όχι λύση”. Ο Musk κατηγόρησε την κυβέρνηση του Ηνωμένου Βασιλείου ότι είναι φασιστική και προσπαθεί να περιορίσει την ελευθερία του λόγου.
