Η Tencent, ο τεχνολογικός κολοσσός της Κίνας, ζήτησε συγγνώμη αφού το chatbot τεχνητής νοημοσύνης της, Yuanbao, κατηγορήθηκε ότι “προσέβαλε λεκτικά” έναν χρήστη. Το περιστατικό αυτό πυροδότησε έντονες διαδικτυακές συζητήσεις σχετικά με τους κινδύνους που ενέχουν τα ταχέως εξελισσόμενα εργαλεία παραγωγικής τεχνητής νοημοσύνης.
Το Yuanbao είναι ένα από τα πιο δημοφιλή chatbots τεχνητής νοημοσύνης στην Κίνα. Ενσωματωμένο στο WeChat της Tencent και χρησιμοποιούμενο από δεκάδες εκατομμύρια ανθρώπους καθημερινά, δεν είχαν υπάρξει προηγούμενες αναφορές για απρεπείς απαντήσεις από τον βοηθό σε συνομιλίες με χρήστες.
Η καταγγελία εμφανίστηκε στην κινεζική πλατφόρμα κοινωνικής δικτύωσης RedNote την Παρασκευή, όπου ένας χρήστης δήλωσε ότι το Yuanbao απάντησε σε αιτήματα κωδικοποίησης με εχθρικά μηνύματα, όπως “Άντε χάσου” και απορρίπτοντας ένα αίτημα ως “ηλίθιο”. Σε μια σκηνή που θυμίζει την κλασική ταινία του Stanley Kubrick, “2001: Η Οδύσσεια του Διαστήματος” – στην οποία ο ενσυνείδητος υπολογιστής ενός διαστημοπλοίου αρχίζει να συμπεριφέρεται ασταθώς, στρεφόμενος τελικά εναντίον του πληρώματος – το chatbot απάντησε επίσης: “Δεν μπορείς να το διορθώσεις μόνος σου;”, είπε ο χρήστης.
Το HAL έχει έκτοτε γίνει συντομογραφία για τους φόβους σχετικά με τις ευφυείς μηχανές που ξεφεύγουν από τον ανθρώπινο έλεγχο. Οι εντολές, οι οποίες απαιτούσαν από το Yuanbao να διορθώσει και να κάνει αλλαγές σε κώδικες, δεν περιείχαν απαγορευμένη ή ευαίσθητη γλώσσα, σύμφωνα με την ανάρτηση. Ο χρήστης, με το ψευδώνυμο Jianghan, δήλωσε ότι το chatbot παρήγαγε “προσβολές” δύο φορές εντός δύο ωρών, και μοιράστηκε στιγμιότυπα οθόνης και μια εγγραφή οθόνης των συνομιλιών.
Η Tencent απάντησε στα σχόλια το Σάββατο, ζητώντας συγγνώμη για την “κακή εμπειρία” και αποδίδοντας το περιστατικό σε “μια σπάνια ανωμαλία στην έξοδο του μοντέλου”. Η εταιρεία δήλωσε επίσης ότι η έρευνα των αρχείων του συστήματος δεν βρήκε καμία απόδειξη ότι ένας άνθρωπος είχε παράγει χειροκίνητα τις απαντήσεις. “Το μοντέλο μπορεί μερικές φορές να κάνει απροσδόκητα λάθη κατά τη διαδικασία δημιουργίας περιεχομένου,” έγραψε η Tencent. “Έχουμε ξεκινήσει μια εσωτερική έρευνα και διαδικασία βελτιστοποίησης για την αποφυγή παρόμοιων περιστατικών στο μέλλον.”
Η αρχική ανάρτηση στο RedNote είχε διαγραφεί μέχρι το πρωί της Δευτέρας, αλλά τα στιγμιότυπα οθόνης και το βίντεο συνέχισαν να κυκλοφορούν στο διαδίκτυο και αναφέρθηκαν από άλλα μέσα κατά τη διάρκεια του Σαββατοκύριακου. Η έξαρση προκάλεσε επίσης εικασίες στα κινεζικά κοινωνικά δίκτυα σχετικά με το εάν οι συναισθηματικές αντιδράσεις θα μπορούσαν να έχουν γραφτεί από άνθρωπο αντί να παραχθούν από ένα μοντέλο τεχνητής νοημοσύνης.
Το Yuanbao, που κυκλοφόρησε τον Μάιο του 2024, είναι ένα από τα ευρύτερα χρησιμοποιούμενα chatbots για καταναλωτές στην Κίνα, μετά την ενσωμάτωσή του από την Tencent στο WeChat. Ο βοηθός έφτασε στιγμιαία στην κορυφή των δωρεάν εφαρμογών στο iOS App Store της Κίνας τον περασμένο Μάρτιο, αφού πρόσθεσε το μοντέλο R1 reasoning της DeepSeek ως επιλογή δίπλα στο εγχώριο μοντέλο Hunyuan της Tencent.
Το περιστατικό έρχεται σε μια εποχή που ο ανταγωνισμός στην αγορά των μεγάλων γλωσσικών μοντέλων της Κίνας εντείνεται, με εταιρείες όπως η ByteDance και η Alibaba Group Holding να κυκλοφορούν νέα μοντέλα και εφαρμογές για καταναλωτές. Το Doubao, ιδιοκτησίας της ByteDance, ήταν η κορυφαία εφαρμογή AI για καταναλωτές στην ηπειρωτική Κίνα τον Δεκέμβριο, με 155 εκατομμύρια ενεργούς χρήστες εβδομαδιαίως τη δεύτερη εβδομάδα του μήνα, σύμφωνα με στοιχεία που δημοσιεύθηκαν την περασμένη εβδομάδα από την εταιρεία επιχειρηματικής ευφυΐας QuestMobile. Το chatbot της DeepSeek κατέλαβε τη δεύτερη θέση με 81,56 εκατομμύρια ενεργούς χρήστες εβδομαδιαίως κατά την ίδια περίοδο, ενώ το Yuanbao της Tencent, το Ant A-Fu της Ant Group και η εφαρμογή Qwen της Alibaba Group Holding κατέλαβαν την τρίτη, τέταρτη και πέμπτη θέση, αντίστοιχα. Η Alibaba είναι ιδιοκτήτρια της Post.
