Πάνω από 200 οργανώσεις και ειδικοί απευθύνουν έκκληση στην YouTube να απαγορεύσει πλήρως τα βίντεο “AI slop” από την παιδική της πλατφόρμα. Οι υπογράφοντες, μεταξύ των οποίων η American Federation of Teachers και η American Counseling Association, υποστηρίζουν ότι το περιεχόμενο αυτό, παραγόμενο μαζικά από τεχνητή νοημοσύνη, επηρεάζει αρνητικά την ανάπτυξη των νεαρών εγκεφάλων και αποφέρει εκατομμύρια κέρδη, ενώ γονείς και ρυθμιστικές αρχές παραμένουν αδρανείς.
Σε ανοιχτή επιστολή προς τον CEO της YouTube, Neal Mohan, και τον CEO της Google, Sundar Pichai, οι οποίοι οργανώθηκε από την ομάδα υπεράσπισης παιδιών Fairplay, αναφέρεται ότι η YouTube όχι μόνο αποτυγχάνει να σταματήσει την πρόσβαση παιδιών σε τέτοιο περιεχόμενο, αλλά και επωφελείται ενεργά από αυτό.
Η Rachel Franz, Διευθύντρια Προγραμμάτων της Fairplay, δήλωσε: «Τα βίντεο που παράγονται από AI αποτελούν μια κλιμάκωση πολλών προβλημάτων που αντιμετωπίζει ήδη η YouTube στην αλληλεπίδρασή της με τα παιδιά. Είναι σημαντικό να αντιμετωπίσουμε αυτό το φαινόμενο του ‘AI slop’, αλλά είναι εξίσου σημαντικό να ελέγξουμε την YouTube για τον τρόπο που η πλατφόρμα της είναι σχεδιασμένη για να εθίζει τους χρήστες, κρατώντας τους περισσότερο χρόνο, με τρόπους που δεν σχετίζονται απαραίτητα με την AI».
Τι είναι το ‘AI Slop’;
Ο όρος αναφέρεται σε ένα κύμα μαζικά παραγόμενων, παραγόμενων από AI βίντεο που κατακλύζουν πλατφόρμες όπως η YouTube. Το περιεχόμενο αυτό είναι φθηνό στην παραγωγή, συχνά παράξενο ή ασυνάρτητο, και σχεδιασμένο για να αιχμαλωτίζει και να διατηρεί την προσοχή των νεαρών (ή και όλων των) θεατών. Πρόκειται για βίντεο με καρτουνίστικα ζώα που εκτελούν επαναλαμβανόμενες δραστηριότητες σε ένα αλλόκοτο αισθητικό περιβάλλον, ψευδώς “εκπαιδευτικά” βίντεο με ακατανόητες πληροφορίες, ή υπνωτικά βρόχους χωρίς ουσιαστικό σκοπό. Η New York Times τεκμηρίωσε το φαινόμενο σε έρευνά της τον Φεβρουάριο, διαπιστώνοντας την παρουσία τέτοιων βίντεο σε όλη την πλατφόρμα YouTube Kids, την οποία η YouTube διαφημίζει ως ασφαλή και επιμελημένο χώρο για παιδιά.
«Τόσο πολύ περιεχόμενο που παράγεται από AI είναι σχεδιασμένο για να κλέβει την προσοχή των παιδιών, ειδικά των μικρών που μόλις αρχίζουν να αναπτύσσουν τον αυτοέλεγχό τους, και μπορεί να διαστρεβλώσει την πραγματικότητα, να δημιουργήσει σύγχυση και να επηρεάσει τον τρόπο που τα παιδιά αντιλαμβάνονται τον κόσμο γύρω τους», δήλωσε η Franz, η οποία έχει εμπειρία στην πρώιμη παιδική ανάπτυξη. «Αυτό δεν είναι απλώς θέμα γονεϊκότητας. Η πλατφόρμα προτείνει συνεχώς περιεχόμενο AI σε νεαρούς χρήστες με τρόπους που καθιστούν σχεδόν αδύνατο να το αποφύγουν».
Τα οικονομικά κίνητρα είναι αστρονομικά. Η Fairplay διαπίστωσε ότι κορυφαία κανάλια “AI slop” που απευθύνονται σε παιδιά έχουν κερδίσει πάνω από 4,25 εκατομμύρια δολάρια σε ετήσια έσοδα, με ορισμένους δημιουργούς να διαφημίζουν ανοιχτά κέρδη από “απλό, μαγευτικό περιεχόμενο AI”. Η επιστολή υποστηρίζει ότι καμία πολιτική δεν θα είναι αρκετή, εάν η πλατφόρμα δεν αφαιρέσει το οικονομικό κίνητρο για τους δημιουργούς αυτών των βίντεο.
«Μόνο περίπου το 5% των βίντεο στην YouTube για παιδιά κάτω των οκτώ ετών είναι πραγματικά υψηλής ποιότητας. Και υπάρχουν συζητήσεις ακόμη και για αυτό το 5% σχετικά με το αν είναι πραγματικά υψηλής ποιότητας», ανέφερε η Franz. Η YouTube, ωστόσο, θεωρεί αυτόν τον αριθμό αντίθετο με την πολιτική της.
«Έχουμε υψηλά πρότυπα για το περιεχόμενο στην YouTube Kids, συμπεριλαμβανομένης της περιορισμένης εισαγωγής περιεχομένου AI στην εφαρμογή σε ένα μικρό σύνολο καναλιών υψηλής ποιότητας», δήλωσε ο εκπρόσωπος της YouTube, Boot Bullwinkle, στην Fortune. «Παρέχουμε επίσης στους γονείς την επιλογή να μπλοκάρουν κανάλια. Σε όλη την YouTube, δίνουμε προτεραιότητα στη διαφάνεια όσον αφορά το περιεχόμενο AI, επισημαίνοντας το περιεχόμενο από τα δικά μας εργαλεία AI και απαιτώντας από τους δημιουργούς να αποκαλύπτουν ρεαλιστικό περιεχόμενο AI. Εξελίσσουμε συνεχώς την προσέγγισή μας για να παραμένουμε σύγχρονοι καθώς το οικοσύστημα εξελίσσεται».
Πώς να το λύσουμε
Ο συνασπισμός βασίζεται σε έρευνες για την παιδική ανάπτυξη για να υποστηρίξει ότι αυτό δεν είναι ένα εξειδικευμένο ζήτημα. Ακόμη και οι ενήλικες δυσκολεύονται να αναγνωρίσουν σωστά το περιεχόμενο που παράγεται από AI, έχοντας επιτυχία μόνο περίπου στο 50% των περιπτώσεων. Πιο ανησυχητικό είναι ότι η επαναλαμβανόμενη έκθεση καθιστά τους ανθρώπους πιο πιθανό να αντιλαμβάνονται τις εικόνες AI ως πραγματικές, ακόμη και αφού τους έχουν πει ότι είναι ψευδείς. Για τα μικρά παιδιά των οποίων οι εγκέφαλοι χτίζουν ακόμη θεμελιώδη σχήματα της πραγματικότητας, η ζημιά συσσωρεύεται με την πάροδο του χρόνου.
Τα αιτήματα της Fairplay είναι δομικά, όχι καλλωπιστικά. Ο συνασπισμός καλεί την YouTube να επισημαίνει με σαφήνεια όλο το περιεχόμενο που παράγεται από AI στην πλατφόρμα, να απαγορεύσει πλήρως το περιεχόμενο AI από την YouTube Kids και να απαγορεύσει το περιεχόμενο “Made for Kids” που παράγεται από AI στην κύρια πλατφόρμα της YouTube. Η Fairplay θέλει η YouTube να εμποδίσει τον αλγόριθμό της από το να προτείνει περιεχόμενο AI σε χρήστες κάτω των 18 ετών, να εισάγει μια γονική ρύθμιση για την απενεργοποίηση του περιεχομένου AI που είναι απενεργοποιημένη από προεπιλογή και να σταματήσει κάθε επένδυση σε περιεχόμενο AI που απευθύνεται σε παιδιά.
Η τελευταία απαίτηση στοχεύει άμεσα στην επένδυση της YouTube στην Animaj, ένα παιδικό στούντιο ψυχαγωγίας που βασίζεται σε AI και υποστηρίζεται από την Google AI Futures. «Η YouTube ουσιαστικά επενδύει στη βλάβη μωρών μέσω της εξαγοράς της Animaj», δήλωσε η Franz.
Στη δήλωση του Bullwinkle στην Fortune, ο εκπρόσωπος επιβεβαίωσε ότι η YouTube αναπτύσσει ειδικές ετικέτες AI για την YouTube Kids, αν και δεν παρείχε χρονοδιάγραμμα. Ο CEO της YouTube, Neal Mohan, είχε ήδη χαρακτηρίσει τη «διαχείριση του AI slop» ως κορυφαία προτεραιότητα στην ετήσια επιστολή του. «Για να μειώσουμε την εξάπλωση χαμηλής ποιότητας περιεχομένου AI, αναπτύσσουμε ενεργά τα καθιερωμένα μας συστήματα που ήταν πολύ επιτυχημένα στην καταπολέμηση του spam και του clickbait, και στη μείωση της εξάπλωσης χαμηλής ποιότητας, επαναλαμβανόμενου περιεχομένου», ανέφερε η επιστολή.
Ο Bullwinkle σημείωσε επίσης ότι τα 15 κανάλια που αναφέρθηκαν στο άρθρο των Times δεν βρίσκονται στην YouTube Kids και ότι η πλατφόρμα αφαίρεσε βίντεο που παραβίαζαν τις πολιτικές της για την Ασφάλεια Παιδιών. Όμως, για την Franz, αυτό δεν είναι αρκετό.
«Δεν πρέπει να επαφίεται σε μεμονωμένους ερευνητές να επισημαίνουν μερικά κανάλια ως παραδείγματα που κάνουν πράγματα που θα μπορούσαν δυνητικά να βλάψουν παιδιά, και αυτό να είναι η βάση για το τι θα αποφασίσει η YouTube να αφαιρέσει από την πλατφόρμα. Αυτό που είδαμε με το Elsagate ήταν ότι εκείνη την εποχή, η YouTube αφαίρεσε 150.000 βίντεο από την πλατφόρμα της και αρκετές εκατοντάδες διαφορετικά κανάλια», δήλωσε η Franz. Αναφερόταν στο Elsagate, ένα σκάνδαλο του 2017 στο οποίο χιλιάδες βίντεο στην YouTube και την YouTube Kids χρησιμοποιούσαν γνωστούς παιδικούς χαρακτήρες, όπως η Elsa από το Frozen και η Peppa Pig, για να κρύψουν βαθιά ανησυχητικό περιεχόμενο, συμπεριλαμβανομένης βίαιης βίας, σεξουαλικών θεμάτων και χρήσης ναρκωτικών, όλα ντυμένα με ετικέτες φιλικές προς τον αλγόριθμο όπως «εκπαίδευση» και «διασκέδαση» για να περάσουν από τα φίλτρα και να φτάσουν σε μικρά παιδιά.
«Οπότε γνωρίζουμε ότι η YouTube έχει την ικανότητα να παρακολουθεί, να ανιχνεύει και να αφαιρεί αυτά τα βίντεο σε μεγάλη κλίμακα, αλλά αυτή τη στιγμή, εφαρμόζει μια προσέγγιση ‘μπάλωμα’, όπου τα κανάλια που λαμβάνουν κάλυψη από τον τύπο, φαίνεται ότι αυτά είναι τα μόνα για τα οποία προχωρούν σε ενέργειες», συνέχισε η Franz. «Αλλά αυτό δεν λύνει το συνολικό πρόβλημα».
