Η εξάρτηση του Υπουργείου Άμυνας των ΗΠΑ από την τεχνητή νοημοσύνη (AI) της Anthropic προκάλεσε μια σοκαριστική συνειδητοποίηση, οδηγώντας τελικά σε δραματικό ρήγμα στις σχέσεις, σύμφωνα με κορυφαίο αξιωματούχο του Πενταγώνου. Ο Emil Michael, υφυπουργός Έρευνας και Μηχανικής και επικεφαλής τεχνολογίας του τμήματος, περιέγραψε τα γεγονότα που οδήγησαν στη δημόσια διαμάχη.
Μετά την επιχείρηση του αμερικανικού στρατού στη Βενεζουέλα στις αρχές Ιανουαρίου, όπου συνελήφθη ο δικτάτορας Nicolas Maduro, η Anthropic ρώτησε την Palantir εάν το AI της χρησιμοποιήθηκε στην επιχείρηση. Ενώ η Anthropic χαρακτήρισε την ερώτηση ως τυπική, το Πεντάγωνο και η Palantir την ερμήνευσαν ως πιθανή απειλή για την πρόσβασή τους.
«Σκέφτηκα, διάολε, τι θα γίνει αν αυτό το λογισμικό σταματήσει να λειτουργεί, αν κάποιος περιορισμός ενεργοποιηθεί, αν υπάρξει άρνηση στην επόμενη μάχη σαν αυτή και αφήσουμε τους ανθρώπους μας σε κίνδυνο;» ανέφερε ο Michael. «Έτσι πήγα στον Υπουργό Hegseth και του είπα ότι αυτό θα μπορούσε να συμβεί, και αυτό ήταν ένα “στιγμιότυπο σοκ” για όλη την ηγεσία στο Πεντάγωνο, ότι είμαστε δυνητικά τόσο εξαρτημένοι από έναν πάροχο λογισμικού χωρίς άλλη εναλλακτική λύση.»
Μέχρι πρόσφατα, το Claude της Anthropic ήταν το μοναδικό μοντέλο AI εξουσιοδοτημένο σε διαβαθμισμένα περιβάλλοντα. Η startup, με έδρα το Σαν Φρανσίσκο, έχει δηλώσει ότι είναι πατριωτική και επιδιώκει να υπερασπιστεί τις ΗΠΑ, αλλά δεν θα επιτρέψει στο AI της να χρησιμοποιείται σε μαζική εγχώρια παρακολούθηση ή αυτόνομα όπλα.
Το Πεντάγωνο επέμενε ότι θα χρησιμοποιούσε το AI σε νόμιμα σενάρια και αρνήθηκε να δεσμευτεί από τυχόν περιορισμούς της εταιρείας που υπερέβαιναν αυτούς τους κανόνες.
Μετά από αποτυχία επίτευξης συμβιβασμού την προηγούμενη εβδομάδα, ο Πρόεδρος Donald Trump διέταξε την ομοσπονδιακή κυβέρνηση να σταματήσει τη χρήση της Anthropic, δίνοντας στο Πεντάγωνο έξι μήνες για να την καταργήσει σταδιακά. Ο Υπουργός Άμυνας Pete Hegseth χαρακτήρισε επίσης την εταιρεία ως κίνδυνο για την εφοδιαστική αλυσίδα, πράγμα που σημαίνει ότι οι ανάδοχοι δεν μπορούν να τη χρησιμοποιήσουν για στρατιωτική εργασία.
Προς το παρόν, ο στρατός συνεχίζει να χρησιμοποιεί την Anthropic κατά τη διάρκεια του πολέμου των ΗΠΑ κατά του Ιράν, καθώς η AI βοηθά τους πολεμιστές στον ταχύ εντοπισμό πιθανών στόχων.
Κατά τη διάρκεια της εμφάνισής του στο podcast, ο Michael εξέφρασε την ανησυχία ότι ένας κακόβουλος προγραμματιστής θα μπορούσε να “δηλητηριάσει το μοντέλο” για να το καταστήσει αναποτελεσματικό για τον στρατό, να το εκπαιδεύσει να παράγει σκόπιμα ψευδαισθήσεις, ή να του δώσει εντολή να μην ακολουθεί οδηγίες.
Στη συνέχεια επικοινώνησε με την OpenAI, η οποία τελικά κατέληξε σε μια παρόμοια συμφωνία με αυτήν της Anthropic. Η xAI του Elon Musk εντάχθηκε επίσης στον διαβαθμισμένο κλάδο, ενώ το Πεντάγωνο προσπαθεί να επιτρέψει την πρόσβαση και στο AI της Google σε διαβαθμισμένα περιβάλλοντα.
«Δεν είμαι προκατειλημμένος», δήλωσε ο Michael. «Απλά τα θέλω όλα. Θέλω να τους δώσω όλους τους ίδιους ακριβώς όρους, επειδή χρειάζομαι πλεονασμό.»
Παραδέχτηκε ότι η Anthropic είχε γίνει «βαθιά ενσωματωμένη» στο τμήμα, ενώ άλλες εταιρείες AI δεν είχαν επιδιώξει τόσο επιθετικά πελάτες επιχειρήσεων, παρέχοντας μηχανικούς ανάπτυξης πεδίου.
Το ρήγμα μεταξύ του Πενταγώνου και της Anthropic ανέδειξε τη σύγκρουση πολιτισμών μεταξύ του αμυντικού κατεστημένου και της Silicon Valley, η οποία έχει τις ρίζες της σε στρατιωτικές καινοτομίες, αλλά έκτοτε έχει γίνει διστακτική στο να βλέπει την τεχνολογία της να χρησιμοποιείται για πόλεμο.
Μάλιστα, μια κορυφαία μηχανικός ρομποτικής στην OpenAI ανακοίνωσε την παραίτησή της από την εταιρεία το Σάββατο, επικαλούμενη παρόμοιες ανησυχίες με αυτές που έθεσε η Anthropic.
«Δεν ήταν εύκολη απόφαση. Το AI έχει σημαντικό ρόλο στην εθνική ασφάλεια. Αλλά η παρακολούθηση Αμερικανών χωρίς δικαστική εποπτεία και η θανατηφόρα αυτονομία χωρίς ανθρώπινη εξουσιοδότηση είναι γραμμές που αξίζουν περισσότερη συζήτηση από αυτήν που έλαβαν», ανέφερε η Caitlin Kalinowski στο LinkedIn.
