Η εταιρεία Τεχνητής Νοημοσύνης Anthropic δήλωσε ότι δεν μπορεί να αποδεχθεί την “τελική και καλύτερη” προσφορά του Πενταγώνου για την επίλυση διαφωνίας σχετικά με τους περιορισμούς που θέτει στην χρήση των μοντέλων της από τον αμερικανικό στρατό. Με ελάχιστες ώρες να απομένουν μέχρι την προθεσμία της Παρασκευής για συμμόρφωση με τις απαιτήσεις του Πενταγώνου ή αντιμετώπιση ενεργειών που θα μπορούσαν να οδηγήσουν στον αποκλεισμό της Anthropic από συνεργασίες με οποιαδήποτε εταιρεία που εμπορεύεται με τον αμερικανικό στρατό, η διαμάχη έλαβε όλο και πιο άσχημη τροπή.
Εκπρόσωποι του Πενταγώνου αμφισβήτησαν δημοσίως τον χαρακτήρα του CEO της Anthropic, Dario Amodei. Παράλληλα, εργαζόμενοι σε ανταγωνιστικά εργαστήρια ΤΝ υπέγραψαν ανοιχτές επιστολές υποστηρίζοντας τη θέση της Anthropic. Ο CEO της OpenAI, Sam Altman, ενημέρωσε τους υπαλλήλους του σε ένα υπόμνημα την Πέμπτη, σύμφωνα με δημοσιεύματα του Axios, ότι η OpenAI θα επιδιώξει τους ίδιους περιορισμούς σε αυτόνομα όπλα και μαζική παρακολούθηση που θέτει η Anthropic, καθώς διαπραγματεύεται την επέκταση της χρήσης του ChatGPT, που είναι σήμερα διαθέσιμο στον στρατό για μη ευαίσθητες χρήσεις, σε πιο απόρρητους τομείς.
Η διαμάχη Anthropic-Πενταγώνου απειλεί τώρα να εξελιχθεί σε εξέγερση σε ολόκληρο τον κλάδο, μεταξύ εργαζομένων σε εταιρείες Τεχνητής Νοημοσύνης, σχετικά με τον τρόπο χρήσης των συστημάτων ΤΝ που κατασκευάζουν από τον στρατό. Την Πέμπτη, περισσότεροι από 100 εργαζόμενοι στην Google έστειλαν επιστολή στον Jeff Dean, τον επικεφαλής επιστήμονα της εταιρείας, ζητώντας παρόμοιους περιορισμούς στον τρόπο χρήσης των μοντέλων Gemini της εταιρείας από τον αμερικανικό στρατό, σύμφωνα με τους New York Times.
Την Πέμπτη, ο Amodei δημοσίευσε μια εκτενή δήλωση εξηγώντας τους λόγους για τους οποίους η εταιρεία πιστεύει ότι πρέπει να υπάρχουν περιορισμοί στη χρήση της τεχνολογίας ΤΝ της εταιρείας του για αυτόνομα όπλα και μαζική παρακολούθηση. Αυτοί είναι οι δύο τομείς όπου η Anthropic περιορίζει επί του παρόντος τη χρήση των μοντέλων της από τον στρατό, τόσο με όρους συμβολαίων όσο και μέσω προστατευτικών μηχανισμών που έχει ενσωματώσει απευθείας στα μοντέλα Claude. Το Πεντάγωνο ζητά την άρση αυτών των περιορισμών και η Anthropic να συμφωνήσει ότι τα μοντέλα της μπορούν να χρησιμοποιηθούν “για οποιονδήποτε νόμιμο σκοπό”.
Τα συστήματα “frontier AI” είναι “όχι αρκετά αξιόπιστα για να τροφοδοτούν πλήρως αυτόνομα όπλα” και χωρίς κατάλληλη επίβλεψη, “δεν μπορούν να βασιστούν για την άσκηση της κρίσιμης κρίσης που οι υψηλά εκπαιδευμένοι, επαγγελματίες στρατιώτες μας επιδεικνύουν καθημερινά”, έγραψε ο Amodei στη δήλωσή του. Σχετικά με την παρακολούθηση, υποστήριξε ότι η ισχυρή ΤΝ μπορεί πλέον να συνδυάσει μεμονωμένα αθώα δημόσια δεδομένα, όπως αρχεία τοποθεσίας, ιστορικό περιήγησης και κοινωνικές συνδέσεις, σε ένα ολοκληρωμένο πορτρέτο της ζωής οποιουδήποτε Αμερικανού πολίτη σε μεγάλη κλίμακα.
Ο Emil Michael, Υφυπουργός Πολέμου των ΗΠΑ, χαρακτήρισε τον Amodei “ψεύτη” με “θεϊκό σύμπλεγμα” σε απαντήσεις του σε αναρτήσεις στην πλατφόρμα κοινωνικής δικτύωσης X, κατηγορώντας τον CEO ότι θέλει “να ελέγχει προσωπικά τον Στρατό των ΗΠΑ”. Σε ξεχωριστή ανάρτηση, ο Michael χαρακτήρισε επίσης το Claude Constitution της Anthropic – ένα εσωτερικό έγγραφο που περιγράφει τις αξίες και τις αρχές που ενσωματώνει η εταιρεία στην ΤΝ της – ως εταιρική συνωμοσία για “να επιβάλει στους Αμερικανούς τους εταιρικούς τους νόμους”.
Το Πεντάγωνο έχει απαιτήσει από την Anthropic να άρει τους συμβατικούς περιορισμούς που αντιτίθεται μέχρι τις 5:01 μ.μ. Παρασκευής, διαφορετικά θα αντιμετωπίσει την ακύρωση της σύμβασής της ύψους 200 εκατομμυρίων δολαρίων με τον αμερικανικό στρατό ή, σε μια πιο ακραία κίνηση, θα χαρακτηριστεί “κίνδυνος εφοδιαστικής αλυσίδας”, ο οποίος θα απέκλειε ουσιαστικά κάθε εταιρεία που εμπορεύεται με τον στρατό από τη χρήση της τεχνολογίας της Anthropic.
Αυτού του είδους το βήμα συνήθως επιφυλάσσεται για ξένους αντιπάλους όπως η Huawei της Κίνας ή η ρωσική εταιρεία κυβερνοασφάλειας Kaspersky.
“Το να χρησιμοποιείς αυτό εναντίον μιας εγχώριας εταιρείας για λόγους μη προθυμίας της να υποχωρήσει σε κάποιες αρχές αυτού του είδους είναι πραγματικά κλιμακούμενο και πρωτοφανές”, δήλωσε ο Seán Ó hÉigeartaigh, εκτελεστικός διευθυντής του Κέντρου για τη Μελέτη του Υπαρξιακού Κινδύνου του Cambridge, στο Fortune.
Το Υπουργείο Πολέμου έχει επίσης απειλήσει να επικαλεστεί τον Νόμο Παραγωγής Άμυνας της εποχής του Ψυχρού Πολέμου, χρησιμοποιώντας τον νόμο για να υποχρεώσει την Anthropic να παραδώσει μια απεριόριστη έκδοση του Claude με το σκεπτικό ότι η κυβέρνηση τον θεωρεί απαραίτητο για την εθνική ασφάλεια. Εάν το Πεντάγωνο ακολουθήσει αυτόν τον δρόμο, θα χρησιμοποιήσει δυνάμεις που προορίζονται μόνο για έκτακτες ανάγκες για να επιλύσει μια διαμάχη συμβολαίων κατά τη διάρκεια ειρήνης. Υπάρχει κάποιο προηγούμενο για αυτό: η διοίκηση Biden επικαλέστηκε επίσης τον DPA το 2023 για να υποχρεώσει τα εργαστήρια “frontier AI” να παραδώσουν πληροφορίες σχετικά με την ασφάλεια των μοντέλων ΤΝ τους. Ωστόσο, η υποχρέωση μιας εταιρείας να παράγει ένα προϊόν, σε αντίθεση με την απλή παροχή πληροφοριών, πλησιάζει την εθνικοποίηση μιας κορυφαίας τεχνολογικής εταιρείας.
“Αν εξαναγκάζονται αποτελεσματικά να επιτρέψουν τη χρήση της τεχνολογίας τους με τρόπους που ακόμη και οι ίδιοι λένε ότι δεν είναι αξιόπιστοι σε καταστάσεις υψηλού κινδύνου, ζωής και θανάτου, όπως στο πεδίο της μάχης”, δήλωσε ο Ó hÉigeartaigh, “αυτό θέτει ένα πολύ επικίνδυνο προηγούμενο”.
Το Υπουργείο Πολέμου έχει δηλώσει δημόσια ότι δεν έχει πρόθεση να πραγματοποιήσει μαζική παρακολούθηση ή να αφαιρέσει ανθρώπους από τις αποφάσεις στόχευσης όπλων, αλλά η διαμάχη θα μπορούσε να εξαρτηθεί από τον τρόπο που ορίζει κάθε πλευρά τον όρο “αυτόνομος” ή “παρακολούθηση” στην πράξη. Εκπρόσωποι του Υπουργείου δεν ανταποκρίθηκαν άμεσα σε αίτημα για σχολιασμό από το Fortune.
Ένας εκπρόσωπος της Anthropic δήλωσε στο Fortune ότι η εταιρεία συνέχιζε “να συνεργάζεται καλόπιστα” με το Υπουργείο Πολέμου. Ωστόσο, ο εκπρόσωπος ανέφερε ότι η γλωσσική διατύπωση του συμβολαίου που ελήφθη κατά τη διάρκεια της νύχτας δεν είχε “σχεδόν καμία πρόοδο” στα βασικά ζητήματα. Νέα διατύπωση “που πλαισιώνεται ως συμβιβασμός” συνδυαζόταν “με νομικά τερτίπια που θα επέτρεπαν την παραβίαση αυτών των προστατευτικών μηχανισμών κατά βούληση”, ανέφεραν. Ο Amodei έχει χαρακτηρίσει τις απειλές από το Υπουργείο Πολέμου “εγγενώς αντιφατικές”, καθώς “η μία μας χαρακτηρίζει ως κίνδυνο ασφαλείας, η άλλη χαρακτηρίζει το Claude ως απαραίτητο για την εθνική ασφάλεια”.
Η Anthropic έχει λάβει επαίνους από ορισμένες πλευρές για την προθυμία της να παραμείνει σταθερή. Ο καθηγητής νομικής του Harvard, Lawrence Lessig, επαίνεσε τη δήλωση της εταιρείας ως “μια όμορφη πράξη ακεραιότητας και αρχών” και την χαρακτήρισε “εξαιρετικά σπάνια για την εποχή μας”.
Οι ανταγωνιστές OpenAI και xAI έχουν συμφωνήσει σε συμβόλαια με το Πεντάγωνο που επιτρέπουν τη χρήση των μοντέλων τους για όλους τους νόμιμους σκοπούς, με την xAI να πηγαίνει ένα βήμα παραπέρα, συμφωνώντας επίσης στην ανάπτυξη των συστημάτων της σε ορισμένες απόρρητες ρυθμίσεις. Όμως, περισσότεροι από 330 νυν εργαζόμενοι σε ανταγωνιστικά εργαστήρια, Google DeepMind και OpenAI, έχουν δημοσιεύσει μια ανοιχτή επιστολή υποστήριξης της Anthropic, η οποία παροτρύνει τις δικές τους ηγεσίες να ακολουθήσουν το παράδειγμα της εταιρείας. “Προσπαθούν να διχάσουν κάθε εταιρεία με τον φόβο ότι η άλλη θα υποκύψει”, ανέφερε η επιστολή. “Αυτή η στρατηγική λειτουργεί μόνο αν κανείς από εμάς δεν ξέρει πού στεκόμαστε οι άλλοι”. Οι υπογράφοντες περιλάμβαναν ανώτερους ερευνητές και ερευνητές, τόσο επώνυμους όσο και ανώνυμους, από τις δύο εταιρείες.
Ο Ó hÉigeartaigh δήλωσε ότι τα αποτελέσματα της διαμάχης θα μπορούσαν να επεκταθούν πολύ πέρα από την ίδια την Anthropic. “Αν το Πεντάγωνο βγει νικητής από αυτό”, είπε, “θα θεσπιστούν προηγούμενα που δεν θα είναι καλά για την ανεξαρτησία αυτών των εταιρειών, ή την ικανότητά τους να τηρούν ηθικά πρότυπα”.
