Η Αυστραλία προχώρησε σε δραστικά μέτρα, αποκλείοντας την πρόσβαση σε αρκετές ιστοσελίδες που χρησιμοποιούσαν τεχνητή νοημοσύνη (AI) για τη δημιουργία υλικού παιδικής σεξουαλικής εκμετάλλευσης. Η αρμόδια ρυθμιστική αρχή της χώρας, η eSafety Commissioner, ανακοίνωσε ότι τρεις τέτοιες ιστοσελίδες, γνωστές ως “nudify” sites, αποσύρθηκαν από την αυστραλιανή αγορά μετά από επίσημη προειδοποίηση.

Σύμφωνα με την επίτροπο Τζούλι Ίνμαν Γκραντ, οι εν λόγω ιστότοποι δέχονταν περίπου 100.000 επισκέψεις μηνιαίως από Αυστραλούς και είχαν εμπλακεί σε σοβαρές υποθέσεις παραγωγής υλικού παιδικής σεξουαλικής εκμετάλλευσης μέσω AI, με θύματα αυστραλούς μαθητές. Η κ. Γκραντ τόνισε τον “καταστροφικό” αντίκτυπο αυτών των υπηρεσιών στα αυστραλιανά σχολεία.

Ειδικότερα, η επίτροπος ανέφερε ότι η εταιρεία πίσω από τις ιστοσελίδες, η οποία εδρεύει στο Ηνωμένο Βασίλειο, είχε ειδοποιηθεί επίσημα τον Σεπτέμβριο, με απειλή επιβολής αστικών ποινών έως και 49,5 εκατομμυρίων αυστραλιανών δολαρίων, εάν δεν ενσωματώσει μέτρα προστασίας κατά της παραγωγής εικόνων που συνιστούν κατάχρηση. Οι “nudify” υπηρεσίες, που επιτρέπουν τη δημιουργία γυμνών εικόνων πραγματικών προσώπων μέσω AI, είχαν μάλιστα προωθήσει χαρακτηριστικά όπως η αφαίρεση ρούχων από “οποιοδήποτε κορίτσι” και η παραγωγή εικόνων “μαθητριών”, ακόμη και με “sex mode”.

Η Hugging Face, μια πλατφόρμα φιλοξενίας μοντέλων AI, έχει επίσης λάβει μέτρα για να συμμορφωθεί με την αυστραλιανή νομοθεσία, τροποποιώντας τους όρους χρήσης της ώστε να απαιτείται από τους κατόχους λογαριασμών να ελαχιστοποιούν τους κινδύνους κατάχρησης.

Η Αυστραλία βρίσκεται στην πρωτοπορία των παγκόσμιων προσπαθειών για την πρόληψη της διαδικτυακής βλάβης των παιδιών, έχοντας επιβάλει απαγορεύσεις σε κοινωνικά δίκτυα για ανηλίκους κάτω των 16 ετών και ελέγχοντας εφαρμογές που χρησιμοποιούνται για παρακολούθηση και δημιουργία deepfake εικόνων. Η χρήση AI για τη δημιουργία μη συναινετικών σεξουαλικά ρητών εικόνων αποτελεί αυξανόμενη ανησυχία, δεδομένης της ταχείας εξάπλωσης πλατφορμών που μπορούν να παράγουν φωτορεαλιστικό υλικό με ένα κλικ. Έρευνα από την αμερικανική οργάνωση Thorn κατέδειξε ότι το 10% των ερωτηθέντων ηλικίας 13-20 ετών γνώριζε κάποιον του οποίου είχαν δημιουργηθεί deepfake γυμνές εικόνες, ενώ το 6% ανέφερε ότι υπήρξε άμεσο θύμα τέτοιας κατάχρησης.