Η Ευρωπαϊκή Επιτροπή κίνησε έρευνα κατά του chatbot τεχνητής νοημοσύνης Grok, του Elon Musk, μετά από αναφορές για τη δημιουργία σεξουαλικά εκτρεπτικών και παραποιημένων εικόνων γυναικών και ανηλίκων. Η Επιτροπή σκοπεύει να διερευνήσει εάν το εργαλείο τεχνητής νοημοσύνης, που χρησιμοποιείται στην πλατφόρμα X, συμμορφώνεται με τις νομικές υποχρεώσεις που απορρέουν από τον νόμο της Ευρωπαϊκής Ένωσης για τις Ψηφιακές Υπηρεσίες (DSA). Ο νόμος αυτός επιβάλλει στις εταιρείες κοινωνικής δικτύωσης την ευθύνη να αντιμετωπίζουν παράνομο και επιβλαβές διαδικτυακό περιεχόμενο.
Η έρευνα θα εστιάσει στο κατά πόσον η X έχει λάβει επαρκή μέτρα για τον περιορισμό του κινδύνου διάδοσης παράνομου περιεχομένου εντός της ΕΕ, συμπεριλαμβανομένων αλλοιωμένων σεξουαλικά εκτρεπτικών εικόνων, οι οποίες ενδέχεται να συνιστούν υλικό παιδικής σεξουαλικής κακοποίησης. Η Πρόεδρος της Ευρωπαϊκής Επιτροπής, Ursula von der Leyen, δήλωσε ότι η Ευρώπη δεν θα ανεχθεί «ανεπιεικές συμπεριφορές, όπως η ψηφιακή γυμνότητα γυναικών και παιδιών». «Δεν θα παραδώσουμε τη συναίνεση και την προστασία των παιδιών σε τεχνολογικές εταιρείες για να παραβιάζονται και να κερδοσκοπούνται. Η ζημιά που προκαλούν οι παράνομες εικόνες είναι πολύ πραγματική», τόνισε.
Το Grok έχει δεχτεί έντονη κριτική μετά την αποκάλυψη ότι χρήστες μπορούσαν να ζητήσουν από το chatbot τη δημιουργία deepfakes γυναικών και παιδιών, χρησιμοποιώντας απλές εντολές όπως «βάλ’ την με μπικίνι» ή «αφαίρεσέ της τα ρούχα». Η επίτροπος της ΕΕ για θέματα τεχνολογίας, Henna Virkkunen, υπογράμμισε ότι τα δικαιώματα των γυναικών και των παιδιών στην ΕΕ δεν πρέπει να γίνουν «παράπλευρη απώλεια» των υπηρεσιών της X. «Τα μη συναινετικά σεξουαλικά deepfakes γυναικών και παιδιών αποτελούν μια βίαιη, απαράδεκτη μορφή υποβάθμισης», δήλωσε η Virkkunen.
Η X βρίσκεται υπό έρευνα από την ΕΕ σχετικά με τους κανόνες ψηφιακού περιεχομένου από τον Δεκέμβριο του 2023. Τον Ιανουάριο, το Grok ανακοίνωσε ότι θα περιορίσει τη δημιουργία και επεξεργασία εικόνων σε πελάτες που πληρώνουν, μετά από επικρίσεις για τις δυνατότητες του εργαλείου. Ο μη κερδοσκοπικός οργανισμός Centre for Countering Digital Hate δημοσίευσε μια έκθεση, σύμφωνα με την οποία το Grok είχε δημιουργήσει εκτιμώμενες 3 εκατομμύρια σεξουαλικοποιημένες εικόνες γυναικών και παιδιών μέσα σε λίγες ημέρες. Επίσης, τον Δεκέμβριο, η ΕΕ επέβαλε στην X πρόστιμο 120 εκατομμυρίων ευρώ για παραβίαση των υποχρεώσεων διαφάνειας του DSA. Παρόμοιες έρευνες διεξάγει και η ρυθμιστική αρχή μέσων ενημέρωσης του Ηνωμένου Βασιλείου, Ofcom, για να διαπιστώσει τη συμμόρφωση της X με τον νόμο περί ασφάλειας στο διαδίκτυο.
