Ένα σφοδρό τετ-α-τετ έχει ξεσπάσει μεταξύ της Anthropic, μιας από τις κορυφαίες εταιρείες τεχνητής νοημοσύνης της Silicon Valley, και του Πενταγώνου των ΗΠΑ, σχετικά με το εύρος χρήσης ισχυρών συστημάτων AI για πολεμικούς σκοπούς και για σκοπούς παρακολούθησης.
Η διαμάχη επικεντρώνεται στο chatbot Claude της Anthropic, το οποίο χρησιμοποιείται σε απόρρητα δίκτυα του αμερικανικού στρατού και φέρεται να χρησιμοποιήθηκε στον σχεδιασμό της επιχείρησης σύλληψης του προέδρου της Βενεζουέλας, Nicolas Maduro. Το Υπουργείο Πολέμου έχει δώσει προθεσμία στην εταιρεία μέχρι την Παρασκευή, στις 5:01 μ.μ. ώρα Ανατολικής Ακτής (22:01 GMT), να αποδεχθεί τις απαιτήσεις για την άρση βασικών δικλείδων ασφαλείας, αλλιώς κινδυνεύει να χαρακτηριστεί ως «κίνδυνος στην αλυσίδα εφοδιασμού».
**Γιατί το chatbot Claude είναι σημαντικό για το Πεντάγωνο**
Το Claude έχει ενσωματωθεί βαθιά στις ροές εργασίας της αμερικανικής αμυντικής βιομηχανίας. Η εταιρεία δηλώνει ότι τα μοντέλα της ήδη χρησιμοποιούνται από υπηρεσίες εθνικής ασφάλειας για ανάλυση πληροφοριών, προσομοιώσεις, σχεδιασμό επιχειρήσεων, κυβερνοεπιχειρήσεις και άλλες «αποστολές κρίσιμης σημασίας». Η Anthropic έγινε η πρώτη εταιρεία AI που ανέπτυξε συστήματα στα απόρρητα δίκτυα του Πενταγώνου, υπογράφοντας ένα συμβόλαιο αξίας έως και 200 εκατομμυρίων δολαρίων με το Υπουργείο Πολέμου το περασμένο καλοκαίρι.
Άλλοι μεγάλοι πάροχοι AI έχουν μέχρι στιγμής συνάψει συμφωνίες μόνο για τη λειτουργία των μοντέλων τους στα μη απόρρητα συστήματα του στρατού, γεγονός που τοποθετεί το Claude σε προνομιακή θέση εντός του αμερικανικού αμυντικού κατεστημένου.
**Τι απαιτεί το Πεντάγωνο;**
Η πολιτική αποδεκτής χρήσης της Anthropic για το Υπουργείο Πολέμου περιλαμβάνει ρητές απαγορεύσεις χρήσης του Claude για μαζική εγχώρια παρακολούθηση και για πλήρως αυτόνομα όπλα. Αυτές οι συμβατικές δικλείδες αντικατοπτρίζουν τους εσωτερικούς κανόνες της εταιρείας.
Το Πεντάγωνο έχει απαιτήσει την κατάργηση αυτών των περιορισμών. Αξιωματούχοι δηλώνουν ότι θέλουν να είναι σε θέση να χρησιμοποιούν το σύστημα για «όλους τους νόμιμους σκοπούς» και, σύμφωνα με τα μέσα ενημέρωσης των ΗΠΑ, έχουν πιέσει την εταιρεία να παράσχει μια «καθαρή» έκδοση του μοντέλου, απογυμνωμένη από ηθικούς και δεοντολογικούς περιορισμούς.
«Δεν μπορείς να ηγείσαι τακτικών επιχειρήσεων με εξαιρέσεις», φέρεται να δήλωσε ένας ανώνυμος αξιωματούχος του Πενταγώνου στο CNN, επιμένοντας ότι «η νομιμότητα είναι ευθύνη του Πενταγώνου ως τελικού χρήστη». Ο στρατός υποστηρίζει ότι δεν μπορεί να αντέξει οικονομικά να βρεθεί σε κρίση και να χρειαστεί να ζητήσει άδεια από ιδιωτικό εργολάβο για να αφαιρέσει τους περιορισμούς.
Ο Υπουργός Πολέμου των ΗΠΑ, Pete Hegseth, ο οποίος συναντήθηκε με τον CEO της Anthropic, Dario Amodei, αυτή την εβδομάδα, έχει παραπονεθεί δημόσια ότι το Πεντάγωνο δεν χρειάζεται νευρωνικά δίκτυα «που δεν μπορούν να πολεμήσουν» και έχει απειλήσει να χαρακτηρίσει την Anthropic ως «κίνδυνο στην αλυσίδα εφοδιασμού» – μια ετικέτα που συνήθως αποδίδεται σε εταιρείες που θεωρούνται επεκτάσεις ξένων αντιπάλων.
Ο εκπρόσωπος του Πενταγώνου, Sean Parnell, ισχυρίστηκε ότι ο στρατός «δεν έχει κανένα ενδιαφέρον να χρησιμοποιεί AI για μαζική παρακολούθηση Αμερικανών (που είναι παράνομο), ούτε θέλουμε να χρησιμοποιούμε AI για την ανάπτυξη αυτόνομων όπλων που λειτουργούν χωρίς ανθρώπινη παρέμβαση», αλλά τόνισε: «Δεν θα επιτρέψουμε σε ΚΑΜΙΑ εταιρεία να υπαγορεύει τους όρους σχετικά με το πώς παίρνουμε επιχειρησιακές αποφάσεις».
**Τι είναι οι «κόκκινες γραμμές» της Anthropic;**
Η Anthropic δηλώνει ότι είναι πρόθυμη να συνεχίσει τη συνεργασία με υπηρεσίες εθνικής ασφάλειας των ΗΠΑ, αλλά δεν θα άρει δύο βασικούς περιορισμούς σχετικά με τον τρόπο χρήσης των συστημάτων της.
«Οι απειλές δεν αλλάζουν τη θέση μας: δεν μπορούμε με καλή συνείδηση να δεχτούμε το αίτημά τους», δήλωσε ο Amodei σε ανακοίνωση την Πέμπτη, προσθέτοντας ότι οι απαιτήσεις του Πενταγώνου «δεν έχουν συμπεριληφθεί ποτέ στα συμβόλαιά μας… και πιστεύουμε ότι δεν πρέπει να συμπεριληφθούν τώρα».
Η εταιρεία έθεσε δύο σαφείς κόκκινες γραμμές για την AI της, δηλώνοντας ότι δεν θα υποστηρίξει μαζική εγχώρια παρακολούθηση ή πλήρως αυτόνομα όπλα. Υποστηρίζει ότι η μεγάλης κλίμακας παρακολούθηση των Αμερικανών είναι «ασύμβατη με τις δημοκρατικές αξίες» και ότι τα σημερινά μοντέλα «δεν είναι αρκετά αξιόπιστα» για να λαμβάνουν θανατηφόρες αποφάσεις χωρίς ανθρώπινο έλεγχο.
Ο Amodei επιμένει ότι αυτές οι εξαιρέσεις δεν έχουν εμποδίσει τον αμερικανικό στρατό από το να χρησιμοποιεί το Claude για άλλες «αποστολές κρίσιμης σημασίας» και λέει ότι η εταιρεία εξακολουθεί να θέλει να υποστηρίξει την εθνική ασφάλεια των ΗΠΑ – αλλά όχι με κόστος την υποστήριξη μαζικής παρακολούθησης στο εσωτερικό ή πλήρως αυτόνομων δολοφονιών.
**Μπορεί η Anthropic να επιβιώσει από το «μαύρο λίστα»;**
Ο Amodei δηλώνει ότι το Υπουργείο Πολέμου έχει προειδοποιήσει ότι, εάν η Anthropic διατηρήσει τις δικλείδες ασφαλείας της, θα μπορούσε να αφαιρεθεί από στρατιωτικά συστήματα και να χαρακτηριστεί ως ο προαναφερθείς «κίνδυνος στην αλυσίδα εφοδιασμού» – μια ονομασία που δεν έχει ποτέ προηγουμένως αποδοθεί σε αμερικανική εταιρεία.
Η απώλεια ενός συμβολαίου αξίας έως και 200 εκατομμυρίων δολαρίων δεν θα ήταν υπαρξιακή για την Anthropic, η οποία αποτιμάται σε σχεδόν 400 δισεκατομμύρια δολάρια, αλλά μια τέτοια ετικέτα θα μπορούσε να χτυπήσει πολύ πιο σκληρά. Οποιαδήποτε εταιρεία που δραστηριοποιείται με το Πεντάγωνο θα έπρεπε να αποδείξει ότι τα δικά της συστήματα δεν βασίζονται στην τεχνολογία της Anthropic, περιπλέκοντας ενδεχομένως ή αποθαρρύνοντας μεγάλες εταιρικές συμφωνίες με εταιρείες που προμηθεύουν επίσης τον αμερικανικό στρατό.
Για το Υπουργείο Πολέμου, η διακοπή των δεσμών θα ήταν επίσης δαπανηρή. Αξιωματούχοι θα έπρεπε να αντικαταστήσουν εσωτερικά εργαλεία που βασίζονται στο Claude. Μια πηγή του Πενταγώνου ανέφερε στα μέσα ενημέρωσης των ΗΠΑ ότι το σύστημα Grok AI του Elon Musk είναι «πρόθυμο να χρησιμοποιηθεί σε απόρρητο περιβάλλον», αλλά παραδέχτηκε ότι το Grok δεν θεωρείται τόσο προηγμένο όσο το μοντέλο της Anthropic.
**Θα αντιδράσει η Silicon Valley;**
Η στάση του προγραμματιστή έχει προκαλέσει ένα ασυνήθιστο κύμα δημόσιας υποστήριξης εντός της Silicon Valley. Αργά την Πέμπτη, εκατοντάδες νυν υπάλληλοι της Google και της OpenAI – δύο από τους κύριους ανταγωνιστές της Anthropic, οι οποίοι επίσης παρέχουν μοντέλα AI στον αμερικανικό στρατό – υπέγραψαν μια ανοιχτή επιστολή υποστηρίζοντας την άρνηση της εταιρείας να συμμορφωθεί με τις απαιτήσεις του Πενταγώνου.
Η ανακοίνωση, με τίτλο «Δεν θα διαιρεθούμε», είχε υπογραφεί δημόσια από 421 στελέχη της Google και 76 της OpenAI μέχρι την Παρασκευή. Επικαλούμενη ένα δημοσίευμα αμερικανικών μέσων ενημέρωσης, η επιστολή κατηγορεί το Υπουργείο Πολέμου ότι στοχοποιεί την Anthropic επειδή «τηρεί τις κόκκινες γραμμές της για να μην επιτρέψει τη χρήση των μοντέλων της για μαζική εγχώρια παρακολούθηση και αυτόνομες δολοφονίες ανθρώπων χωρίς ανθρώπινη εποπτεία».
«Το Πεντάγωνο διαπραγματεύεται με την Google και την OpenAI για να τις πείσει να συμφωνήσουν σε ό,τι η Anthropic αρνήθηκε», έγραψαν οι υπογράφοντες, ισχυριζόμενοι ότι οι αξιωματούχοι προσπαθούν «να διαιρέσουν κάθε εταιρεία με τον φόβο ότι η άλλη θα υποκύψει». Η επιστολή καλεί την ηγεσία των δύο εταιρειών «να αφήσει τις διαφορές της στην άκρη και να σταθεί ενωμένη για να συνεχίσει να αρνείται» τις απαιτήσεις του Υπουργείου Άμυνας.
**Τι σημαίνει η αντιπαράθεση για την AI**
Η σύγκρουση μεταξύ της Anthropic και του Πενταγώνου έχει προκαλέσει το ενδιαφέρον αναλυτών τεχνολογίας και άμυνας, οι οποίοι προειδοποιούν ότι θα μπορούσε να θέσει προηγούμενα για το πώς θα διέπεται η ισχυρή AI σε μελλοντικές συγκρούσεις. Ο Adam Connor, αντιπρόεδρος πολιτικής τεχνολογίας στο Center for American Progress, δήλωσε στα αμερικανικά μέσα ενημέρωσης ότι η διαμάχη πιθανότατα θα εκληφθεί σε ολόκληρο τον κλάδο ως σήμα ότι οι αξιωματούχοι άμυνας δεν θέλουν συμβατικούς περιορισμούς στον τρόπο που οι στρατιωτικοί χρήστες μπορούν να αναπτύσσουν προηγμένα μοντέλα.
Εάν το Πεντάγωνο προχωρήσει στις απειλές του, παρατηρητές λένε ότι θα σηματοδοτήσει μια ιστορική κλιμάκωση – μετατρέποντας ουσιαστικά ένα από τα πιο προηγμένα εμπορικά προϊόντα AI της Αμερικής σε παρία εντός του δικού της αμυντικού οικοσυστήματος. Ο Gregory Allen, ανώτερος σύμβουλος στο Center for Strategic and International Studies, υποστήριξε ότι η μεταχείριση της Anthropic με αυτόν τον τρόπο θα ισοδυναμούσε με το κάψιμο ενός από τα «διαμάντια» του αμερικανικού τεχνολογικού τομέα σε μια εποχή που η Ουάσινγκτον συγκρίνει τον αγώνα της AI με την Κίνα με τον αγώνα του διαστήματος με τη Σοβιετική Ένωση. Πρότεινε ότι υπάρχουν καλύτεροι τρόποι επίλυσης της διαμάχης από την «απόλυτη» στάση που έχει υιοθετήσει η κυβέρνηση Trump.
