Στην Κίνα, μια πρωτοποριακή υπόθεση αφορά δύο προγραμματιστές chatbot τεχνητής νοημοσύνης που προσφεύγουν κατά της καταδίκης τους για πορνογραφικές κατηγορίες, εξαιτίας ενός λογισμικού που παρήγαγε σεξουαλικό περιεχόμενο για συνδρομητές. Το λαϊκό Δικαστήριο της Σαγκάης άρχισε να εκδικάζει την Τετάρτη την έφεση των δύο κατηγορουμένων, οι οποίοι είχαν καταδικαστεί πρωτόδικα σε τέσσερα χρόνια και 1½ χρόνο φυλάκιση αντίστοιχα, για “δημιουργία πορνογραφικού υλικού προς κέρδος”.

Η ακροαματική διαδικασία ανεστάλη, μέχρι να υπάρξουν εκθέσεις εμπειρογνωμόνων σχετικά με τα τεχνολογικά ζητήματα της υπόθεσης, όπως δήλωσε ένας από τους συνηγόρους υπεράσπισης. Οι προγραμματιστές, με ονόματα Wang και Li, δημιούργησαν το 2023 ένα chatbot “συντροφιάς” που ονομάζεται AlienChat (AC). Τον Απρίλιο του 2024, συνελήφθησαν από την αστυνομία, όταν εντοπίστηκε ευφραδές περιεχόμενο στα αρχεία συνομιλιών του μοντέλου AI.

Μέχρι τη στιγμή της σύλληψής τους, το chatbot είχε 116.000 εγγεγραμμένους χρήστες, εκ των οποίων οι 24.000 ήταν συνδρομητές, σύμφωνα με δικαστικά έγγραφα. Το δικαστήριο της Σαγκάης ανέφερε ότι μια τυχαία δειγματοληψία 12.495 συνομιλιών από 150 συνδρομητές αποκάλυψε ότι 3.618 από αυτές περιείχαν “ακόλαστο υλικό”. Σύμφωνα με το δικαστήριο, οι προγραμματιστές είχαν “γράψει και τροποποιήσει τις οδηγίες του συστήματος (prompts) για να παρακάμψουν τους ηθικούς περιορισμούς του μεγάλου γλωσσικού μοντέλου”, εκπαιδεύοντας έτσι το AC σε ένα εργαλείο ικανό να παράγει συνεχώς πορνογραφικό και ανήθικο περιεχόμενο.

Ο συνήγορος του Wang, Zhou Xiaoyang, δήλωσε ότι ο Wang δεν είχε πρόθεση να αναπτύξει ένα πορνογραφικό chatbot και δήλωσε αθώος στο δικαστήριο. Ο Zhou υποστήριξε ότι ο Wang τροποποίησε την οδηγία απλώς για να κάνει το μοντέλο πιο έξυπνο και καλύτερα εξοπλισμένο να καλύπτει τις συναισθηματικές ανάγκες των χρηστών. Σημείωσε επίσης ότι τα ξένα μοντέλα AI που χρησιμοποιούσε ο Wang για τη δημιουργία του chatbot εκείνη την εποχή, είχαν την τάση να παράγουν πορνογραφικές απαντήσεις, κάτι που υποστηρίχθηκε από την κατάθεση τεχνικών εμπειρογνωμόνων.

Ο Zhou υποστήριξε ότι ήταν δύσκολο να προσδιοριστεί η έκταση της κοινωνικής βλάβης που προκλήθηκε από το πορνογραφικό περιεχόμενο, το οποίο, όπως είπε, αποτελεί σημαντικό παράγοντα για τον καθορισμό της ποινής για αυτό το αδίκημα σύμφωνα με την κινεζική νομοθεσία. “Πρόκειται για συνομιλίες ένας προς έναν μεταξύ χρηστών και AI”, δήλωσε ο Zhou. “Οι συνομιλίες δεν κοινοποιήθηκαν δημόσια, και οι χρήστες κατεύθυναν τη συζήτηση προς αυτή την κατεύθυνση. Επομένως, έβλαψε τους χρήστες με κάποιον τρόπο;”

Η υπόθεση έχει προκαλέσει συζητήσεις στην κινεζική νομική κοινότητα. Αναλυτές επισήμαναν ότι δεν υπάρχει προηγούμενο για περιπτώσεις AI και πορνογραφικού περιεχομένου σε νομικές βάσεις δεδομένων. Ένας καθηγητής νομικής στο Πανεπιστήμιο Hainan, Yan Erpeng, δήλωσε ότι οι προγραμματιστές παρέχουν μόνο ένα εργαλείο και, το πολύ, “βοηθούν τους χρήστες” να παράγουν πορνογραφικό περιεχόμενο. Ο Yan έθεσε το ερώτημα αν είναι σωστό να θεωρούνται υπεύθυνοι αυτοί οι “βοηθοί”, ειδικά όταν οι ίδιοι οι χρήστες δεν κατηγορούνται.

Τα τελευταία χρόνια, οι επιχειρήσεις που σχετίζονται με την τεχνητή νοημοσύνη έχουν γνωρίσει άνθηση στην Κίνα, ενθαρρυμένες από τις τοπικές κυβερνήσεις που επιθυμούν να αναζωογονήσουν μια νωθρή οικονομία με τεχνολογία αιχμής. Η AI χρησιμοποιείται πλέον σε πολλούς τομείς, από την εκπαίδευση μέχρι την περίθαλψη ηλικιωμένων και τη δημόσια διοίκηση. Ωστόσο, οι αρχές έχουν αργήσει να υιοθετήσουν συγκεκριμένους κανονισμούς. Τον Αύγουστο του 2023, τέσσερις μήνες μετά τη σύλληψη των προγραμματιστών, η Κίνα εξέδωσε ένα γενικό διάταγμα για την παραγωγική AI, δηλώνοντας ότι “οι πάροχοι υπηρεσιών πρέπει να αναλαμβάνουν την ευθύνη για την ασφάλεια των πληροφοριών στο διαδίκτυο”. Τον Νοέμβριο, εισήχθησαν πιο συγκεκριμένα πρότυπα, τα οποία απαιτούν από τους παρόχους να εγκαταστήσουν φίλτρα για την αποφυγή της διάδοσης “παράνομων και επιβλαβών πληροφοριών” και να διασφαλίζουν ότι τα μοντέλα αρνούνται να απαντήσουν σε ερωτήσεις που προορίζονται σαφώς για την πρόκληση τέτοιου περιεχομένου.

Μετά τις συλλήψεις, έχει αυξηθεί η αυτολογοκρισία μεταξύ των προγραμματιστών AI. Ορισμένοι έχουν επεκτείνει τις λίστες “ευαίσθητων λέξεων”, έχουν αναβαθμίσει τείχη προστασίας και έχουν προσκαλέσει χρήστες να ελέγξουν την αποτελεσματικότητα των φίλτρων κατά πορνογραφικού και βίαιου περιεχομένου. Ο Zhou υποστήριξε ότι, λόγω της καινοτομίας του τομέα, οι αρχές θα έπρεπε να είχαν χρησιμοποιήσει εναλλακτικά μέτρα, όπως προειδοποιήσεις ή προτάσεις για διόρθωση. “Αυτό είναι κάτι πολύ σημαντικό για μια νεοσύστατη επιχείρηση, ειδικά αφού δεν αναπτύξαμε το βασικό μοντέλο”, πρόσθεσε. “Δεν πιστεύουμε ότι ο ποινικός νόμος είναι κατάλληλος σε αυτή την περίπτωση.”