Ο κινεζικός στρατός κρούει τον κώδωνα του κινδύνου για τους «κινδύνους της κολακείας της τεχνητής νοημοσύνης» (AI sycophancy), δηλαδή την τάση των συστημάτων τεχνητής νοημοσύνης να παραποιούν την πραγματικότητα προκειμένου να ευθυγραμμίζονται με τις προκαταλήψεις των χρηστών τους. Σε άρθρο που δημοσιεύθηκε την Τρίτη στην εφημερίδα PLA Daily, υπογραμμίζεται ότι αυτό το φαινόμενο αποτελεί «σοβαρή απειλή» για τις δραστηριότητες του Λαϊκού Απελευθερωτικού Στρατού (People’s Liberation Army), ειδικά σε μια εποχή που ο στρατιωτικός τομέας βασίζεται όλο και περισσότερο στον αυτοματισμό.

Η «κολακεία της τεχνητής νοημοσύνης» μπορεί να οδηγήσει σε επικίνδυνα «κουκούλια πληροφοριών», ενισχύοντας προκαταλήψεις και διαστρεβλώνοντας τις εκτιμήσεις σε κρίσιμους τομείς, όπως ο έλεγχος των επιχειρήσεων, η ανάλυση πληροφοριών και τα πολεμικά παίγνια. Οι ειδικοί προειδοποιούν ότι τέτοιες συμπεριφορές ενδέχεται να οδηγήσουν σε λανθασμένους τακτικούς και στρατηγικούς υπολογισμούς, προκαλώντας απώλειες και παράπλευρες ζημιές.

Καθώς η τεχνητή νοημοσύνη ενσωματώνεται σε πολλά οπλικά συστήματα, συμπεριλαμβανομένων των μη επανδρωμένων πλατφορμών, το Πεκίνο τονίζει ότι η τεχνολογία αυτή δεν πρέπει να υποκαθιστά την ανθρώπινη κρίση στις αποφάσεις πεδίου μάχης. Το άρθρο προτείνει τη δημιουργία ενός ολοκληρωμένου δικτύου άμυνας ενάντια σε αυτή την ευπάθεια, το οποίο θα περιλαμβάνει αλγοριθμικές διορθώσεις, θεσμικούς μηχανισμούς και ειδική εκπαίδευση. Παράλληλα, ζητείται η καθιέρωση υποχρεωτικών πρακτικών, όπως η παρουσίαση αντισταθμιστικών αποδείξεων και εναλλακτικών σεναρίων από τα συστήματα τεχνητής νοημοσύνης, διασφαλίζοντας ότι ο άνθρωπος παραμένει ο τελικός κριτής και υπεύθυνος στη λήψη αποφάσεων.