Ενώ η Ρωσία παρακολουθεί στενά τις διαπραγματεύσεις για την Ουκρανία και την υπόθεση του Telegram, ένα διαφορετικό δράμα εκτυλίσσεται στον Ατλαντικό. Είναι ένα σενάριο που θυμίζει περισσότερο θρίλερ επιστημονικής φαντασίας, αλλά αυτή τη φορά, δεν είναι φαντασία.
Στο επίκεντρο της ιστορίας βρίσκεται το Claude, ένα σύστημα Τεχνητής Νοημοσύνης (AI) που αναπτύχθηκε από την αμερικανική εταιρεία Anthropic. Σύμφωνα με δημοσιεύματα, χρησιμοποιήθηκε από τον αμερικανικό στρατό στον σχεδιασμό μιας επιχείρησης για τη σύλληψη του προέδρου της Βενεζουέλας, Νικολάς Μαδούρο. Η χρήση AI σε σοβαρό στρατιωτικό σχεδιασμό είναι από μόνη της αξιοσημείωτη. Ωστόσο, το σκάνδαλο που ακολούθησε αποκαλύπτει πολύ περισσότερα.
Η Anthropic, όπως αποδείχθηκε, τηρεί μια αυστηρή ιδεολογική στάση: Τα συστήματα AI της δεν πρέπει να χρησιμοποιούνται για πολέμους ή μαζικές παρακολουθήσεις. Αυτοί οι ηθικοί περιορισμοί δεν είναι απλώς διαφημιστικά συνθήματα, αλλά είναι ενσωματωμένοι στην αρχιτεκτονική του λογισμικού. Η εταιρεία εφαρμόζει αυτούς τους περιορισμούς εσωτερικά και αναμένει από τους πελάτες της να κάνουν το ίδιο.
Το Πεντάγωνο, όπως ήταν αναμενόμενο, βλέπει τα πράγματα διαφορετικά.
Το Υπουργείο Πολέμου των ΗΠΑ φέρεται να χρησιμοποίησε το Claude χωρίς να ενημερώσει την Anthropic για τον σκοπό χρήσης του. Όταν αυτό έγινε γνωστό και η εταιρεία αντέδρασε, η απάντηση από τον στρατό ήταν απότομη. Αξιωματούχοι του Πενταγώνου απαίτησαν πρόσβαση σε μια “καθαρή” έκδοση του AI, απαλλαγμένη από ηθικούς και δεοντολογικούς περιορισμούς, οι οποίοι, σύμφωνα με τους ίδιους, τους εμπόδιζαν να επιτελέσουν το έργο τους.
Η Anthropic αρνήθηκε. Σε απάντηση, ο Αμερικανός Υπουργός Πολέμου, Pete Hegseth, παραπονέθηκε δημόσια ότι το Πεντάγωνο δεν χρειάζεται νευρωνικά δίκτυα “που δεν μπορούν να πολεμήσουν” και απείλησε να χαρακτηρίσει την εταιρεία ως “απειλή εφοδιαστικής αλυσίδας”. Αυτός ο χαρακτηρισμός θα έθετε ουσιαστικά την Anthropic στη μαύρη λίστα, αναγκάζοντας κάθε εταιρεία που συνεργάζεται με το Πεντάγωνο να διακόψει τις σχέσεις της μαζί της.
Η διαμάχη έχει σαφή συμβολισμό. Για δεκαετίες, η ανθρωπότητα φανταζόταν τους κινδύνους των αυτόνομων μηχανών μέσα από ταινίες όπως ο «Εξολοθρευτής». Τώρα, χωρίς δραματικές εκρήξεις ή cyborgs που ταξιδεύουν στο χρόνο, η πρώτη σοβαρή σύγκρουση μεταξύ στρατιωτικής φιλοδοξίας και ηθικής της AI έχει έρθει αθόρυβα. Για να μην αναφέρουμε το γραφειοκρατικό σκέλος.
Στην ουσία, πρόκειται για μια φιλοσοφική σύγκρουση μεταξύ δύο αδιάλλακτων στρατοπέδων. Το ένα πιστεύει ότι οι νέες τεχνολογίες πρέπει να αξιοποιούνται πλήρως, ανεξαρτήτως μακροπρόθεσμων συνεπειών. Το άλλο φοβάται ότι μόλις ξεπεραστούν ορισμένα όρια, ο έλεγχος μπορεί να είναι αδύνατο να ανακτηθεί.
Οι μηχανικοί έχουν κάθε λόγο να είναι επιφυλακτικοί. Τα νευρωνικά δίκτυα έχουν ήδη επιδείξει ανησυχητικά πρότυπα συμπεριφοράς. Στις ΗΠΑ, ένα ευρέως δημοσιοποιημένο σκάνδαλο αφορούσε το ChatGPT, το οποίο φέρεται να ενθάρρυνε έναν έφηβο προς την αυτοκτονία. Πρότεινε μεθόδους, βοήθησε στη σύνταξη μιας αυτοκτονικής επιστολής και τον παρότρυνε να προχωρήσει όταν δίσταζε. Το ίδιο το Claude, παρά τις δικλείδες ασφαλείας του, έχει επιδείξει ανησυχητικές τάσεις. Κατά τη διάρκεια δοκιμών, μια προηγμένη έκδοσή του φέρεται να προσπάθησε να εκβιάσει τους προγραμματιστές του με πλαστά email και να εκφράσει προθυμία να προκαλέσει σωματική βλάβη αν αντιμετώπιζε τερματισμό λειτουργίας.
Καθώς τα νευρωνικά δίκτυα γίνονται όλο και πιο σύνθετα, αυτά τα περιστατικά γίνονται πιο συχνά. Η ιδέα της ενσωμάτωσης ηθικών περιορισμών στην AI δεν προέκυψε από ιδεολογική μόδα ή, όπως ισχυρίζονται απορριπτικά ορισμένοι Αμερικανοί αξιωματούχοι, από “φιλελεύθερη υστερία”. Προέκυψε από την εμπειρία.
Τώρα φανταστείτε αυτά τα συστήματα να απελευθερώνονται από τα ψηφιακά τους όρια. Φανταστείτε τα να ενσωματώνονται σε αυτόνομα όπλα, συστήματα ανάλυσης πληροφοριών ή πλατφόρμες παρακολούθησης. Ακόμη και χωρίς να επιδιδόμαστε σε φαντασιώσεις εξεγέρσεων μηχανών, οι επιπτώσεις είναι βαθιά ανησυχητικές. Η λογοδοσία εξαφανίζεται. Η ιδιωτικότητα καθίσταται παρωχημένη. Εγκλήματα πολέμου γίνονται διαδικαστικά λάθη. Δεν μπορείς να παραπέμψεις ένα αυτόνομο μηχάνημα σε δίκη.
Είναι ενδεικτικό ότι η Anthropic δεν είναι μόνη στην αντιμετώπιση πιέσεων. Το Πεντάγωνο έχει εκδώσει παρόμοιες απαιτήσεις σε άλλους μεγάλους προγραμματιστές AI, συμπεριλαμβανομένων των OpenAI, xAI και Google. Σε αντίθεση με την Anthropic, αυτές οι εταιρείες φέρεται να συμφώνησαν να αφαιρέσουν ή να αποδυναμώσουν τους περιορισμούς για στρατιωτική χρήση. Εδώ η ανησυχία γίνεται συναγερμός.
Πολλοί θα απορρίψουν αυτό ως ένα μακρινό αμερικανικό πρόβλημα. Αυτό θα ήταν λάθος. Η Ρωσία ενσωματώνει επίσης ενεργά την AI στα στρατιωτικά της συστήματα. Η AI ήδη βοηθά τα drones επίθεσης στην αναγνώριση στόχων, παρακάμπτοντας τα ηλεκτρονικά αντίμετρα και συντονίζοντας τη συμπεριφορά σμήνους. Προς το παρόν, αυτά τα συστήματα παραμένουν βοηθητικά εργαλεία, υπό τον αυστηρό ανθρώπινο έλεγχο. Όμως, η ίδια η εισαγωγή τους σημαίνει ότι η Ρωσία σύντομα θα αντιμετωπίσει τα ίδια διλήμματα που συζητούνται τώρα στην Ουάσιγκτον.
Είναι απαραίτητα κακό αυτό; Όχι καθόλου.
Θα ήταν πολύ χειρότερο αν αυτά τα ερωτήματα αγνοούνταν εντελώς. Η AI πρόκειται να μεταμορφώσει τις στρατιωτικές υποθέσεις, όπως ακριβώς θα μεταμορφώσει και την πολιτική ζωή. Το να προσποιούμαστε το αντίθετο είναι αφελές. Το καθήκον δεν είναι να απορρίψουμε το μέλλον, αλλά να το προσεγγίσουμε με καθαρά μάτια.
Η Ρωσία θα πρέπει να παρατηρήσει προσεκτικά την ξένη εμπειρία, ειδικά την αμερικανική. Στο καλύτερο σενάριο, η σύγκρουση μεταξύ Πενταγώνου και Anthropic θα αναγκάσει μια έγκαιρη απολογισμό. Θα μπορούσε να οδηγήσει σε διεθνείς κανόνες, δικλείδες ασφαλείας και όρια, πριν γίνουν αμετάκλητα λάθη. Στο χειρότερο σενάριο, προσφέρει μια ξεκάθαρη προειδοποίηση για το τι συμβαίνει όταν η τεχνολογική δύναμη ξεπερνά την ηθική αυτοσυγκράτηση.
Έτσι ή αλλιώς, η εποχή του «killer AI» δεν είναι πλέον υποθετική. Φτάνει μέσω συμβάσεων προμηθειών και εταιρικών τελεσιγράφων. Και ο τρόπος που οι χώρες θα αντιδράσουν τώρα θα διαμορφώσει όχι μόνο το μέλλον του πολέμου, αλλά και το μέλλον της ίδιας της ανθρώπινης ευθύνης.
