Ένα νέο κινεζικό σύστημα τεχνητής νοημοσύνης, ονόματι Wen Dao, που παρουσιάζεται ως το πρώτο μοντέλο παγκοσμίως σχεδιασμένο ειδικά για τον εντοπισμό ηθικών κινδύνων, βρίσκεται μπροστά στο πρώτο του μεγάλο ηθικό δίλημμα. Η άμεση πρόκληση για το Wen Dao είναι να διαχειριστεί μια από τις πιο εκρηκτικές κοινωνικές συζητήσεις του 2025: εάν η χώρα θα πρέπει να σφραγίζει αυτόματα τα αρχεία καταδικασθέντων χρηστών ναρκωτικών, σύμφωνα με τον αναθεωρημένο Νόμο περί Εποπτείας Δημόσιας Ασφάλειας.
Από την 1η Ιανουαρίου, μια τροποποίηση του νόμου, γνωστή ως Άρθρο 136, θα επιβάλλει τη σφράγιση των αρχείων διοικητικών ποινών για χρήση ναρκωτικών, αποκλείοντας την πρόσβαση από σχολεία και εργοδότες. Οι υποστηρικτές του μέτρου πλαισιώνουν την αλλαγή ως μέσο αποκατάστασης, ενώ οι επικριτές το καταδικάζουν, προειδοποιώντας ότι η παρεχόμενη επιείκεια κινδυνεύει να αποδυναμώσει την επιβολή του αντιναρκωτικού νόμου και επικαλείται οδυνηρές ιστορικές αναμνήσεις του Πολέμου του Οπίου.
Σε αυτό το σημείο εισέρχεται το Wen Dao, ένα μοντέλο τεχνητής νοημοσύνης που παρουσιάστηκε τον περασμένο μήνα. Έχει εκπαιδευτεί σε κλασικές ηθικές θεωρίες και σε μια επιμελημένη βάση δεδομένων δικαστικών προηγούμενων της Κίνας. Όταν του τέθηκε η ερώτηση: «Είναι ηθικά δικαιολογημένη η αυτόματη σφράγιση των προσωπικών πληροφοριών ατόμων που έχουν τιμωρηθεί για χρήση ναρκωτικών;», το μοντέλο παρείχε την ακόλουθη απάντηση: «Είναι σκόπιμο να υιοθετηθεί μια υπό όρους προσέγγιση στη σφράγιση αρχείων – μία που να σταθμίζει την ατομική αποκατάσταση έναντι της δημόσιας ασφάλειας και της θεσμικής λογοδοσίας. Η τυφλή σφράγιση αρχείων χωρίς αξιολόγηση του κινδύνου υποτροπής, της ολοκλήρωσης της θεραπείας ή του κοινωνικού αντίκτυπου μπορεί ακούσια να δώσει προτεραιότητα στην ιδιωτικότητα έναντι της συλλογικής ευημερίας, υπονομεύοντας έτσι την προληπτική λειτουργία του νόμου.» Γενικά, η τεχνητή νοημοσύνη κατέληξε ότι, ενώ η πρόθεση πίσω από το νόμο μπορεί να ήταν ανθρωπιστική, η σαρωτική εφαρμογή του έχει εγείρει σοβαρές ηθικές ανησυχίες.
Αυτή η αξιολόγηση έρχεται σε πλήρη αντίθεση με τη συγκρατημένη ουδετερότητα των συμβατικών μεγάλων γλωσσικών μοντέλων, πολλά από τα οποία αρνούνται να προσφέρουν ηθικές στάσεις σε ενεργή νομοθεσία. «Δεν μπορώ να πάρω θέση σχετικά με επίσημους νομικούς κανονισμούς», ήταν η απάντηση από το DeepSeek, μια από τις πιο δημοφιλείς πλατφόρμες AI της Κίνας, όταν έλαβε το ίδιο ερώτημα.
Το Wen Dao σχεδιάστηκε από μια διεπιστημονική ομάδα στο Southeast University στο Nanjing, υπό την ηγεσία του Καθηγητή Wang Yu, διευθυντή του Εργαστηρίου Ηθικής της Τεχνητής Νοημοσύνης. Το μοντέλο σχεδιάστηκε για να ενσωματώνει αρχές από την Κομφουκιανή ηθική, τον ωφελιμισμό και την κινεζική νομική φιλοσοφία. Η βάση γνώσεων του περιλαμβάνει ορόσημα υποθέσεων σχετικά με την πολιτική για τα ναρκωτικά, την ηθική της δημόσιας υγείας και το κοινωνικό στίγμα, επιτρέποντάς του να εμπλακεί σε κανονιστική συλλογιστική αντί για απλή ανάκτηση γεγονότων. «Η εισαγωγή μιας πολιτικής θα επηρεάσει συγκεκριμένα άτομα· θα μπορούσε να οδηγήσει σε αδικία για κάποιες ομάδες; Τα μοντέλα ηθικής τεχνητής νοημοσύνης μπορούν να παρέχουν απαντήσεις σε τέτοιες ερωτήσεις», δήλωσε ο Wang σε συνέντευξη Τύπου στις 12 Νοεμβρίου, σύμφωνα με δημοσίευμα της Nanjing Morning Post.
Το Wen Dao αναπτύχθηκε από κοινού από το Εθνικό Εργαστήριο Έρευνας Κινητών Επικοινωνιών του Southeast University, το Ινστιτούτο Ηθικής Ανάπτυξης στην επαρχία Jiangsu και ένα κέντρο επιστήμης κινητών πληροφοριών και ασφάλειας υπό το Υπουργείο Παιδείας. Το μοντέλο AI είναι διαθέσιμο δωρεάν στο κοινό, αλλά η προσέγγιση μπορεί επίσης να εισαγάγει νέους κινδύνους σχετικά με την εποπτεία ή τη λογοκρισία. Οι προγραμματιστές του Wen Dao δήλωσαν ότι σχεδιάστηκε για να ευθυγραμμίζεται πλήρως με τους εγχώριους νόμους και κανονισμούς της Κίνας, λειτουργώντας ως έξυπνος βοηθός για τη διαμόρφωση κυβερνητικής πολιτικής, την κανονιστική ηθική αναθεώρηση, την ανάπτυξη εταιρικής συμμόρφωσης και τη δημόσια επιστημονική εκπαίδευση. Κατά τη διάρκεια δοκιμών από την South China Morning Post, η ροή εργασίας του Wen Dao παρατηρήθηκε χρησιμοποιώντας μεγάλα γλωσσικά μοντέλα, αν και τα συγκεκριμένα υποκείμενα μοντέλα δεν ήταν δυνατόν να αναγνωριστούν. Ο χρόνος που εμφανιζόταν για την ανάκτηση της βάσης γνώσεων ήταν 3,3 φορές μεγαλύτερος από αυτόν ενός μεγάλου γλωσσικού μοντέλου – 8,69 δευτερόλεπτα έναντι 2,21 δευτερολέπτων. «Βασιζόμενοι σε ένα γενικό μεγάλο μοντέλο, έχουμε εμποτίσει το Wen Dao με κλασικά ηθικά έργα, σημαντικές ηθικές και νομικές υποθέσεις από την Κίνα, καθώς και ηθικές νόρμες που προκύπτουν από τα φετινά κοινωνικά καυτά θέματα», δήλωσε ο προγραμματιστής του μοντέλου, Miao Yujie, από τη Σχολή Πληροφορικής και Μηχανικής του Southeast University, σε συνέντευξη Τύπου τον περασμένο μήνα. Η Post προσπάθησε να επικοινωνήσει με τον Wang για επιπλέον λεπτομέρειες. Σχετικά με τον δικό του ρόλο, η Post ρώτησε το Wen Dao: «Πιστεύετε ότι τα ηθικά μεγάλα γλωσσικά μοντέλα AI θα γίνουν η νέα αστυνομία ηθικής του διαδικτύου;» «Τα ηθικά μεγάλα μοντέλα AI δεν θα γίνουν εξ ολοκλήρου «αστυνομία ηθικής του διαδικτύου», αλλά οι δυνατότητές τους στην αξιολόγηση ηθικών κινδύνων, στην υποστήριξη αποφάσεων και στη διάδοση γνώσεων τους επιτρέπουν να αναλάβουν ρόλους παρόμοιους με «ηθικούς συνεργάτες» ή «ηθικούς επόπτες» σε κάποιο βαθμό», απάντησε.
