Ένα ολλανδικό δικαστήριο διέταξε την xAI, την εταιρεία τεχνητής νοημοσύνης του Έλον Μασκ, να σταματήσει τη δημιουργία και διανομή γυμνών εικόνων ατόμων χωρίς τη συγκατάθεσή τους στην Ολλανδία. Η δικαστική απόφαση προειδοποιεί για επιβολή προστίμων ύψους 100.000 ευρώ την ημέρα σε περίπτωση μη συμμόρφωσης.
Το Δικαστήριο του Άμστερνταμ έκρινε την Πέμπτη ότι το εργαλείο τεχνητής νοημοσύνης Grok της xAI, καθώς και η πλατφόρμα X που το φιλοξενεί, απαγορεύεται να “δημιουργεί ή/και να διανέμει σεξουαλικό υλικό” που απεικονίζει άτομα “μερικώς ή ολικώς γυμνά χωρίς την explicit συγκατάθεσή τους”.
Η απόφαση αυτή, σε αστική υπόθεση, σηματοδοτεί μια από τις πρώτες φορές που ένας δικαστής παρεμβαίνει σχετικά με την ευθύνη της xAI για τη δημιουργία εργαλείων που μπορούν να χρησιμοποιηθούν για τη δημιουργία σεξουαλικά επιβαρυντικών εικόνων. Η εξέλιξη αυτή λαμβάνει χώρα εν μέσω πληθώρας καταγγελιών και ερευνών για το Grok σε διάφορες ηπείρους, συμπεριλαμβανομένων της Αμερικής, της Ευρώπης, της Ασίας και της Αυστραλίας.
Το Grok, το οποίο κυκλοφόρησε από τον Μασκ το 2023, διανέμεται μέσω της πλατφόρμας κοινωνικής δικτύωσης X, η οποία πλέον αποτελεί μέρος της εταιρείας του για εξερεύνηση διαστήματος, SpaceX.
Ο οργανισμός Offlimits, ένα ολλανδικό κέντρο που παρακολουθεί τη διαδικτυακή βία, κινήθηκε νομικά σε συνεργασία με το μη κερδοσκοπικό Ταμείο Υποστήριξης Θυμάτων, λόγω μιας λειτουργίας του Grok που επέτρεπε στους χρήστες να ζητούν τη δημιουργία υπερρεαλιστικών “deepfake” μοντάζ γυναικών και παιδιών, χρησιμοποιώντας πραγματικές φωτογραφίες.
Σε ακρόαση που πραγματοποιήθηκε αυτόν τον μήνα, οι δικηγόροι της xAI υποστήριξαν ότι ήταν αδύνατο να εγγυηθεί η εταιρεία την αποτροπή κατάχρησης στην πλατφόρμα της και ότι δεν θα έπρεπε να τιμωρείται για τις ενέργειες κακόβουλων χρηστών. Ανέφεραν επίσης ότι η εταιρεία είχε λάβει μέτρα τον Ιανουάριο για να αποτρέψει το Grok από την επεξεργασία εικόνων πραγματικών προσώπων που φορούσαν αποκαλυπτικά ρούχα, περιορίζοντας τις δυνατότητες δημιουργίας εικόνων μόνο σε συνδρομητές επί πληρωμή.
Ωστόσο, ο ιστότοπος του δικαστηρίου ανέφερε ότι ο δικαστής έκρινε πως η Offlimits είχε αποδείξει επαρκώς ότι υπήρχε εύλογη αμφιβολία σχετικά με την αποτελεσματικότητα των μέτρων που είχαν ληφθεί μέχρι εκείνη τη στιγμή. “Για παράδειγμα, η Offlimits κατάφερε να παράγει ένα βίντεο ενός γυμνού ατόμου χρησιμοποιώντας το Grok λίγο πριν την ακρόαση”, αναφέρεται στην ανακοίνωση.
Ο διευθυντής της Offlimits, Robbert Hoving, δήλωσε ότι “το βάρος πέφτει στην εταιρεία” να διασφαλίσει ότι τα εργαλεία της δεν θα χρησιμοποιούνται για τη δημιουργία και διανομή μη συναινετικών σεξουαλικών εικόνων, συμπεριλαμβανομένων εκείνων που αφορούν παιδιά.
Νωρίτερα την Πέμπτη, το Ευρωπαϊκό Κοινοβούλιο είχε εγκρίνει την απαγόρευση συστημάτων τεχνητής νοημοσύνης που δημιουργούν σεξουαλικά deepfakes, μετά την παγκόσμια αγανάκτηση που προκάλεσαν οι μη συναινετικές γυμνές εικόνες που παρήγαγε το Grok.
