Οργανισμοί που μάχονται κατά της διαδικτυακής παιδικής σεξουαλικής κακοποίησης καταγράφουν ανησυχητικές αυξήσεις στο υλικό που παράγεται από την Τεχνητή Νοημοσύνη (AI). Η Internet Watch Foundation (IWF), η μεγαλύτερη ευρωπαϊκή γραμμή βοήθειας για την αντιμετώπιση εικόνων παιδικής σεξουαλικής κακοποίησης στο διαδίκτυο, ανακοίνωσε μια δραματική αύξηση 260 φορές στο υλικό παιδικής σεξουαλικής κακοποίησης που παράγεται από AI για το 2025. Ενώ το προηγούμενο έτος είχαν καταγραφεί μόλις 13 βίντεο, ο αριθμός αυτός εκτοξεύτηκε στα 3.443.
Ειδικοί κρούουν τον κώδωνα του κινδύνου, δηλώνοντας ότι τα αριθμητικά δεδομένα που βλέπουμε αποτελούν μόνο την “κορυφή του παγόβουνου”, καθώς αφορούν μόνο ό,τι έχει ανιχνευθεί ή αναφερθεί. Η ραγδαία αυτή αύξηση αποδίδεται στην ταχύτερη, φθηνότερη και πιο προσιτή πλέον τεχνολογία παραγωγής περιεχομένου μέσω AI, η οποία έχει γίνει εύκολα προσβάσιμη σε εγκληματίες.
Το Thorn, ένας μη κερδοσκοπικός οργανισμός που αναπτύσσει τεχνολογία για την καταπολέμηση της διαδικτυακής παιδικής σεξουαλικής εκμετάλλευσης, εντοπίζει τρεις κύριους τρόπους με τους οποίους αυτά τα εργαλεία κακοποιούνται εις βάρος παιδιών:
1. **Επανεμφάνιση θυμάτων ιστορικής κακοποίησης:** Παιδιά που υπήρξαν θύματα κακοποίησης στο παρελθόν και των οποίων οι εικόνες κυκλοφορούν στο διαδίκτυο για πάνω από μια δεκαετία, αντιμετωπίζουν πλέον ένα νέο επίπεδο βλάβης. Οι δράστες χρησιμοποιούν AI για να επεξεργαστούν τις υπάρχουσες εικόνες, προσθέτοντας τους εαυτούς τους σε σκηνές κακοποίησης για τη δημιουργία νέου υλικού. Αυτή η διαδικασία προκαλεί νέα ψυχολογική βλάβη σε επιζώντες που προσπαθούν να ξεπεράσουν το τραύμα τους.
2. **Όπλιση αθώων εικόνων:** Μια φωτογραφία ενός παιδιού από μια ιστοσελίδα σχολικής ομάδας ποδοσφαίρου μπορεί τώρα να γίνει πηγή υλικού για σεξουαλική εκμετάλλευση. Με τα ευρέως διαθέσιμα εργαλεία AI, ένας παραβάτης μπορεί να μετατρέψει μια αθώα εικόνα σε υλικό σεξουαλικής κακοποίησης μέσα σε λίγα λεπτά. Παράλληλα, καταγράφονται περιπτώσεις όπου νέοι δημιουργούν εικόνες κακοποίησης συμμαθητών τους, χωρίς να αντιλαμβάνονται πλήρως τη σοβαρότητα της βλάβης που προκαλούν.
3. **Υπερφόρτωση των συστημάτων αναφοράς:** Το National Center for Missing and Exploited Children λαμβάνει δεκάδες εκατομμύρια αναφορές για υλικό παιδικής σεξουαλικής κακοποίησης κάθε χρόνο. Η ταχύτητα με την οποία η AI μπορεί πλέον να παράγει νέο υλικό αυξάνει δραματικά αυτό το βάρος. Η επαλήθευση του κατά πόσον μια νέα εικόνα απεικονίζει ένα παιδί σε άμεσο κίνδυνο ή είναι παραγόμενη από AI καθίσταται ιδιαίτερα δύσκολη, αν και και οι δύο περιπτώσεις αναφέρονται και αντιμετωπίζονται με τον ίδιο τρόπο από τις αρχές.
Η τεχνολογία έχει καταστήσει παρωχημένες κάποιες από τις πιο βασικές οδηγίες ασφαλείας για τα παιδιά. Η συμβουλή να μην μοιράζονται εικόνες στο διαδίκτυο, που για χρόνια αποτελούσε θεμελιώδες μέτρο προστασίας, δεν είναι πλέον επαρκής. Έρευνες δείχνουν ότι σημαντικός αριθμός νέων έχει βιώσει κατάχρηση deepfake εικόνων, ενώ πολλοί γνωρίζουν άτομα που έχουν στοχοποιηθεί. Θύματα εκβιασμού δέχονται πλέον εικόνες που τους μοιάζουν, αν και δεν τις έχουν τραβήξει ποτέ οι ίδιοι.
Σε επίπεδο ανίχνευσης, η παραδοσιακή τεχνολογία “hashing”, που λειτουργεί σαν ψηφιακό αποτύπωμα για γνωστά αρχεία κακοποίησης, αδυνατεί να αναγνωρίσει το περιεχόμενο που παράγεται από AI, καθώς κάθε συνθετικά δημιουργημένη εικόνα είναι τεχνικά νέα. Τεχνολογίες ταξινόμησης, που αξιολογούν το περιεχόμενο μιας εικόνας αντί να την αντιστοιχίζουν με γνωστό αρχείο, είναι πλέον απαραίτητες για την ανίχνευση υλικού που διαφορετικά θα περνούσε απαρατήρητο.
Η συμβουλή προς τους γονείς είναι επείγουσα: η συζήτηση για την ασφάλεια στο διαδίκτυο είναι ζωτικής σημασίας και πρέπει να υπερβαίνει τις παλιές προειδοποιήσεις. Σε περίπτωση που ένα παιδί απευθυνθεί σε κάποιον, η πρώτη αντίδραση πρέπει να είναι η αλληλεγγύη και η παροχή βοήθειας, όχι η δυσπιστία.
