Το μέλλον της συνεργασίας της Anthropic με το Υπουργείο Άμυνας των ΗΠΑ, ύψους 200 εκατομμυρίων δολαρίων, βρίσκεται στον αέρα, μετά από ανησυχίες που φέρεται να εξέφρασε η εταιρεία σχετικά με τη χρήση του μοντέλου Claude AI κατά τη διάρκεια της επιχείρησης εναντίον του Nicolas Maduro τον Ιανουάριο.
«Η σχέση του Τμήματος Πολέμου με την Anthropic επανεξετάζεται», δήλωσε ο αρχηγός εκπρόσωπος του Πενταγώνου, Sean Parnell. «Η χώρα μας απαιτεί οι εταίροι μας να είναι πρόθυμοι να βοηθήσουν τους πολεμιστές μας να κερδίσουν σε κάθε μάχη. Τελικά, αυτό αφορά τα στρατεύματά μας και την ασφάλεια του αμερικανικού λαού».
Η ένταση έχει κλιμακωθεί τις τελευταίες εβδομάδες, καθώς ένας ανώτερος αξιωματούχος της Anthropic φέρεται να προσέγγισε έναν επικεφαλής στέλεχος της Palantir για να διερευνήσει πώς χρησιμοποιήθηκε το Claude στην επιχείρηση. Σύμφωνα με το The Hill, η Palantir ερμήνευσε την επικοινωνία ως ένδειξη δυσαρέσκειας για τη χρήση του μοντέλου στην επιχείρηση και διαβίβασε λεπτομέρειες της ανταλλαγής στο Πεντάγωνο. (Ο Πρόεδρος Trump δήλωσε ότι ο στρατός χρησιμοποίησε ένα όπλο «αποπροσανατολιστικό» κατά τη διάρκεια της επιχείρησης, το οποίο έκανε τον εχθρικό εξοπλισμό «μη λειτουργικό»).
«Η Anthropic δεν έχει συζητήσει τη χρήση του Claude για συγκεκριμένες επιχειρήσεις με το Τμήμα Πολέμου», δήλωσε εκπρόσωπος της Anthropic. «Επίσης, δεν έχουμε συζητήσει αυτό το θέμα, ούτε έχουμε εκφράσει ανησυχίες, με οποιονδήποτε βιομηχανικό εταίρο, πέραν των συνήθων συζητήσεων για αυστηρά τεχνικά θέματα».
Στο επίκεντρο αυτής της διαμάχης βρίσκονται οι συμβατικές δικλίδες που καθορίζουν πώς τα μοντέλα AI μπορούν να χρησιμοποιούνται σε αμυντικές επιχειρήσεις. Ο CEO της Anthropic, Dario Amodei, έχει υποστηρίξει σταθερά αυστηρά όρια στη χρήση και τη ρύθμιση της AI, παραδεχόμενος μάλιστα ότι «γίνεται δύσκολο να ισορροπηθεί η ασφάλεια με τα κέρδη». Για μήνες, η εταιρεία και το Υπουργείο Άμυνας έχουν δώσει σφοδρές διαπραγματεύσεις σχετικά με τη χρήση του Claude σε στρατιωτικές επιχειρήσεις.
Σύμφωνα με τη σύμβαση με το Υπουργείο Άμυνας, η Anthropic δεν θα επιτρέψει στο Πεντάγωνο να χρησιμοποιήσει τα μοντέλα AI της για μαζική παρακολούθηση Αμερικανών πολιτών, ούτε τη χρήση της τεχνολογίας της σε πλήρως αυτόνομα όπλα. Η εταιρεία έχει επίσης απαγορεύσει τη χρήση της τεχνολογίας της σε «θανατηφόρες» ή «κινητικές» στρατιωτικές εφαρμογές. Οποιαδήποτε άμεση εμπλοκή σε ενεργά πυρά κατά τη διάρκεια της επιχείρησης εναντίον του Maduro πιθανότατα θα παραβίαζε αυτούς τους όρους.
Μεταξύ των εταιρειών AI που συνεργάζονται με την κυβέρνηση – συμπεριλαμβανομένων των OpenAI, Google και xAI – η Anthropic κατέχει μια προνομιακή θέση, καθώς το Claude είναι το μοναδικό μεγάλο γλωσσικό μοντέλο που είναι εξουσιοδοτημένο στα διαβαθμισμένα δίκτυα του Πενταγώνου.
Αυτή η θέση τονίστηκε από την Anthropic σε δήλωσή της: «Το Claude χρησιμοποιείται για ένα ευρύ φάσμα επιχειρησιακών χρήσεων που σχετίζονται με την πληροφοριών σε όλη την κυβέρνηση, συμπεριλαμβανομένου του Υπουργείου Πολέμου, σύμφωνα με την Πολιτική Χρήσης μας».
Η εταιρεία «δεσμεύεται να χρησιμοποιεί προηγμένη AI για την υποστήριξη της εθνικής ασφάλειας των ΗΠΑ», ανέφερε η δήλωση. «Έχουμε παραγωγικές συζητήσεις, καλόπιστα, με το Υπουργείο Πολέμου για το πώς θα συνεχίσουμε αυτό το έργο και θα αντιμετωπίσουμε σωστά αυτά τα σύνθετα ζητήματα».
Η Palantir, η OpenAI, η Google και η xAI δεν απάντησαν άμεσα σε αίτημα για σχόλια.
Η AI στο πεδίο της μάχης
Παρόλο που το Υπουργείο Άμυνας έχει επιταχύνει τις προσπάθειες για την ενσωμάτωση της AI στις επιχειρήσεις του, μόνο η xAI έχει δώσει στο Υπουργείο Άμυνας τη δυνατότητα χρήσης των μοντέλων της για «όλους τους νόμιμους σκοπούς», ενώ οι υπόλοιπες διατηρούν περιορισμούς χρήσης.
Ο Amodei κρούει τον κώδωνα του κινδύνου για μήνες σχετικά με την προστασία των χρηστών, προσφέροντας την Anthropic ως μια εναλλακτική λύση με προτεραιότητα την ασφάλεια έναντι των OpenAI και Google, απουσία κυβερνητικών κανονισμών. «Είμαι βαθιά ανήσυχος με αυτές τις αποφάσεις που λαμβάνονται από λίγες εταιρείες», δήλωσε τον περασμένο Νοέμβριο. Ενώ φημολογούνταν ότι η Anthropic σχεδίαζε να αμβλύνει τους περιορισμούς, η εταιρεία τώρα αντιμετωπίζει την πιθανότητα να αποκλειστεί εντελώς από την αμυντική βιομηχανία.
Ένας ανώτερος αξιωματούχος του Πενταγώνου δήλωσε στο Axios ότι ο Υπουργός Άμυνας Pete Hegseth είναι «κοντά» στο να απομακρύνει την Anthropic από την αμυντική εφοδιαστική αλυσίδα, αναγκάζοντας όσους επιθυμούν να συναλλαχθούν με τον στρατό να διακόψουν τις σχέσεις τους και με την εταιρεία.
«Θα είναι ένας τεράστιος μπελάς για να ξεκαθαρίσουμε, και θα διασφαλίσουμε ότι θα πληρώσουν ένα τίμημα για που μας έβαλαν σε αυτή τη θέση», δήλωσε ο ανώτερος αξιωματούχος στο ίδιο μέσο.
Ο χαρακτηρισμός ως θέμα κινδύνου για την αμυντική εφοδιαστική αλυσίδα είναι μια ειδική διάκριση που συνήθως επιφυλάσσεται μόνο για ξένους αντιπάλους. Η πιο κοντινή προηγούμενη περίπτωση είναι η απαγόρευση της Huawei από την κυβέρνηση το 2019 λόγω ανησυχιών για την εθνική ασφάλεια. Στην περίπτωση της Anthropic, πηγές ανέφεραν στο Axios ότι οι αμυντικοί αξιωματούχοι προσπαθούν να εμπλακούν σε μια διαμάχη με την εταιρεία με έδρα το Σαν Φρανσίσκο εδώ και καιρό.
Τα σχόλια του Πενταγώνου είναι το τελευταίο επεισόδιο σε μια δημόσια διαμάχη που φτάνει στο αποκορύφωμά της. Η κυβέρνηση ισχυρίζεται ότι ο καθορισμός ηθικών ορίων στα μοντέλα από τις εταιρείες θα ήταν περιττά περιοριστικός, και ο μεγάλος αριθμός γκρίζων ζωνών θα καθιστούσε τις τεχνολογίες άχρηστες. Καθώς το Πεντάγωνο συνεχίζει τις διαπραγματεύσεις με τους υπεργολάβους AI για την επέκταση της χρήσης, η δημόσια διαμάχη γίνεται μια έμμεση σύγκρουση για το ποιος θα καθορίσει τις χρήσεις της AI.
