Μια διαμάχη βρίσκεται σε εξέλιξη μεταξύ της αμερικανικής κυβέρνησης και της Anthropic, μιας από τις κορυφαίες εταιρείες ανάπτυξης εργαλείων τεχνητής νοημοσύνης (AI) για αμυντικές και πολιτικές χρήσεις. Σύμφωνα με πρόσφατες αναφορές, το λογισμικό Claude της Anthropic χρησιμοποιήθηκε σε μια στρατιωτική επιχείρηση των ΗΠΑ, η οποία οδήγησε στην απαγωγή του προέδρου της Βενεζουέλας Nicolás Maduro τον Ιανουάριο.
Ο Αμερικανός Υπουργός Άμυνας Pete Hegseth έχει δώσει στην εταιρεία προθεσμία μέχρι την Παρασκευή να χαλαρώσει τους κανόνες σχετικά με τη χρήση των εργαλείων AI από το Πεντάγωνο, αλλιώς κινδυνεύει να χάσει την κυβερνητική της σύμβαση, όπως ανέφεραν την Τρίτη τα πρακτορεία Associated Press και Reuters, επικαλούμενα ανώνυμες πηγές.
Ωστόσο, η Anthropic αρνείται να υποχωρήσει όσον αφορά τις δικλείδες ασφαλείας που αποτρέπουν τη χρήση της τεχνολογίας της για εγχώρια παρακολούθηση από τις ΗΠΑ και για τον προγραμματισμό αυτόνομων όπλων που μπορούν να χτυπήσουν στόχους χωρίς ανθρώπινη παρέμβαση.
Η Anthropic, εταιρεία AI που ιδρύθηκε το 2021 από πρώην στελέχη της OpenAI, είναι η πρώτη εταιρεία ανάπτυξης AI που χρησιμοποιήθηκε σε απόρρητες επιχειρήσεις από το Υπουργείο Άμυνας των ΗΠΑ. Είναι γνωστή για το Claude, ένα μεγάλο γλωσσικό μοντέλο (LLM) που παράγει κείμενο, εικόνες ή ήχο παρόμοιο με αυτό που δημιουργείται από ανθρώπους, μετά την ανάλυση τεράστιων συνόλων δεδομένων.
Για στρατιωτικούς και αμυντικούς σκοπούς, τα LLMs μπορούν να συνοψίσουν μεγάλους όγκους κειμένου, να αναλύσουν δεδομένα, να μεταφράσουν, να μεταγράψουν και να συντάξουν σημειώματα. Θεωρητικά, μπορούν επίσης να υποστηρίξουν αυτόνομα ή ημι-αυτόνομα συστήματα όπλων, τα οποία μπορούν να αναγνωρίσουν και να χτυπήσουν στόχους χωρίς ανθρώπινες οδηγίες. Ωστόσο, οι περισσότερες εταιρείες AI έχουν όρους που απαγορεύουν αυτή τη χρήση.
Η Anthropic αυτοπροσδιορίζεται ως “υπεύθυνος” αναπτυξιακός φορέας στο τοπίο της AI. Στην ιστοσελίδα της, η εταιρεία περιγράφεται ως “Public Benefit Corporation” (Εταιρεία Κοινού Οφέλους) δεσμευμένη στην “υπεύθυνη ανάπτυξη και συντήρηση προηγμένης AI για το μακροπρόθεσμο όφελος της ανθρωπότητας”.
Τον Νοέμβριο, η εταιρεία ισχυρίστηκε ότι μια ομάδα χάκερ που υποστηρίζεται από την Κίνα είχε χειραγωγήσει τον κώδικα του Claude, σε μια προσπάθεια διείσδυσης σε περίπου 30 στόχους παγκοσμίως, συμπεριλαμβανομένων κυβερνητικών υπηρεσιών, χημικών εταιρειών, χρηματοπιστωτικών ιδρυμάτων και τεχνολογικών κολοσσών. Ορισμένες από αυτές τις προσπάθειες ήταν επιτυχείς.
Νωρίτερα αυτόν τον μήνα, ο Mrinank Sharma, ερευνητής ασφάλειας AI στην Anthropic, παραιτήθηκε από τη θέση του λόγω ανησυχιών σχετικά με τη χρήση της AI. Σε δήλωσή του στο X, ο Sharma έγραψε: “Ο κόσμος βρίσκεται σε κίνδυνο. Και όχι μόνο από την AI, ή βιο-όπλα, αλλά από μια ολόκληρη σειρά αλληλένδετων κρίσεων που ξεδιπλώνονται αυτή τη στιγμή.”
Το Πεντάγωνο ανακοίνωσε το περασμένο καλοκαίρι ότι ανέθετε συμβάσεις άμυνας σε τέσσερις εταιρείες AI – Anthropic, Google, OpenAI και xAI – με κάθε σύμβαση να αξίζει έως και 200 εκατομμύρια δολάρια. Η Anthropic ήταν η πρώτη εταιρεία AI που εγκρίθηκε για απόρρητα στρατιωτικά δίκτυα, όπου φέρεται να συνεργάζεται με εταιρείες όπως η Palantir Technologies, η οποία έχει δεχθεί κριτική για τους δεσμούς της με τον ισραηλινό στρατό. Η xAI του Elon Musk, που διαχειρίζεται το chatbot Grok, δηλώνει ότι το Grok είναι επίσης έτοιμο για χρήση σε απόρρητα περιβάλλοντα, σύμφωνα με ανώνυμη πηγή του Πενταγώνου.
Ωστόσο, η κυβέρνηση Τραμπ επιθυμεί να χρησιμοποιεί τα προϊόντα αυτών των εταιρειών AI χωρίς περιορισμούς. Ο Hegseth δήλωσε ότι το όραμά του για τα στρατιωτικά συστήματα AI σημαίνει ότι αυτά θα λειτουργούν “χωρίς ιδεολογικούς περιορισμούς που περιορίζουν νόμιμες στρατιωτικές εφαρμογές”, προσθέτοντας ότι η AI του Πενταγώνου “δεν θα είναι woke”.
Σύμφωνα με αναφορές, σε συνάντηση την Τρίτη, ο Hegseth έδωσε προθεσμία στον CEO της Anthropic, Dario Amodei, μέχρι την Παρασκευή, 5 μ.μ. (22:00 GMT), να συμφωνήσει στη διάθεση των μοντέλων AI της Anthropic για χρήση στο νέο εσωτερικό δίκτυο του Πενταγώνου με λιγότερους περιορισμούς.
Στελέχη του Υπουργείου Άμυνας των ΗΠΑ προειδοποίησαν ότι θα μπορούσαν να χαρακτηρίσουν την Anthropic ως κίνδυνο στην αλυσίδα εφοδιασμού ή να χρησιμοποιήσουν τον νόμο περί Αμυντικής Παραγωγής για να δώσουν στην ουσία στον στρατό μεγαλύτερη εξουσία να χρησιμοποιεί τα προϊόντα της, ακόμη και αν δεν εγκρίνει τον τρόπο χρήσης τους, σύμφωνα με άτομο που γνωρίζει τη συνάντηση και έναν ανώτερο αξιωματούχο του Πενταγώνου, οι οποίοι δεν εξουσιοδοτήθηκαν να σχολιάσουν δημόσια και μίλησαν υπό καθεστώς ανωνυμίας.
Ο Amodei έχει επίσης εκφράσει προηγουμένως ηθικές ανησυχίες σχετικά με την ανεξέλεγκτη χρήση της AI από την κυβέρνηση, συμπεριλαμβανομένων των κινδύνων πλήρως αυτόνομων οπλισμένων drones και της μαζικής παρακολούθησης με υποβοήθηση AI, η οποία θα μπορούσε να εντοπίσει εστίες δυσαρέσκειας και να τις εξαλείψει πριν αναπτυχθούν.
“Μια ισχυρή AI που παρακολουθεί δισεκατομμύρια συνομιλίες από εκατομμύρια ανθρώπους θα μπορούσε να αξιολογήσει το δημόσιο αίσθημα, να εντοπίσει εστίες δυσαρέσκειας που διαμορφώνονται και να τις σβήσει πριν αναπτυχθούν,” έγραψε σε δοκίμιό του τον περασμένο μήνα.
Το άτομο που μίλησε χαρακτήρισε τον τόνο της συνάντησης της Τρίτης “ευγενικό”, αλλά δήλωσε ότι ο Amodei αρνήθηκε να υποχωρήσει σε δύο βασικά ζητήματα – πλήρως αυτόνομες στρατιωτικές επιχειρήσεις στόχευσης και εγχώρια παρακολούθηση πολιτών των ΗΠΑ.
Σε εμφάνισή του σε podcast την Τρίτη, όπου εξήγησε την άρνησή του να υποκύψει στις απαιτήσεις του Πενταγώνου, ο Amodei επανέλαβε τις ανησυχίες του γύρω από “αυτόνομα σμήνη drones” – πιθανώς αυτόνομα drones που μπορούν να επιτεθούν σε στόχους χωρίς ανθρώπινη παρέμβαση – και τη μαζική παρακολούθηση.
“Οι συνταγματικές προστασίες στις στρατιωτικές μας δομές βασίζονται στην ιδέα ότι υπάρχουν άνθρωποι που θα αρνούνταν παράνομες διαταγές με πλήρως αυτόνομα όπλα,” δήλωσε ο Amodei, σημειώνοντας ότι τα αυτόνομα drones δεν θα μπορούσαν να κάνουν τέτοια διάκριση.
Το Πεντάγωνο αντιτίθεται στους ηθικούς περιορισμούς της Anthropic επειδή οι στρατιωτικές επιχειρήσεις απαιτούν εργαλεία που δεν έχουν ενσωματωμένους περιορισμούς, δήλωσε ο ανώτερος αξιωματούχος του Πενταγώνου. Ο αξιωματούχος υποστήριξε ότι το Πεντάγωνο έχει εκδώσει μόνο νόμιμες διαταγές και τόνισε ότι η νόμιμη χρήση των εργαλείων της Anthropic θα ήταν ευθύνη του στρατού.
Στις 3 Ιανουαρίου, ειδικές δυνάμεις των ΗΠΑ απήγαγαν τον Maduro, ο οποίος παραμένει υπό κράτηση στις ΗΠΑ και αντιμετωπίζει δίκη για κατηγορίες ναρκωτικών και όπλων στη Νέα Υόρκη.
Αναφορές στα αμερικανικά μέσα ενημέρωσης αποκάλυψαν στις 14 Φεβρουαρίου ότι το Claude της Anthropic είχε χρησιμοποιηθεί στην επιχείρηση για την επίθεση στην Καράκας και τη σύλληψη του Maduro. Ένας ανώνυμος αξιωματούχος της Anthropic που προσέγγισε η Wall Street Journal αρνήθηκε να σχολιάσει εάν το Claude, ή οποιοδήποτε άλλο μοντέλο AI, χρησιμοποιήθηκε σε κάποια επιχείρηση. Ωστόσο, ο αξιωματούχος δήλωσε ότι οποιαδήποτε χρήση του Claude στον ιδιωτικό τομέα ή από την κυβέρνηση θα πρέπει να είναι σύμφωνη με τις πολιτικές χρήσης του Claude.
Σύμφωνα με τις πολιτικές χρήσης που αναγράφονται στην ιστοσελίδα της Anthropic, το Claude δεν μπορεί να χρησιμοποιηθεί για παρακολούθηση, ανάπτυξη όπλων ή “υποκίνηση βίας”. Συνολικά 83 άτομα, συμπεριλαμβανομένων 47 Βενεζουελανών στρατιωτών, σκοτώθηκαν κατά τη διάρκεια της αμερικανικής ειδικής επιχείρησης στη Βενεζουέλα.
Τα αμερικανικά μέσα ενημέρωσης έχουν επίσης αναφέρει ότι η Anthropic έχει συνεργαστεί με την Palantir Technologies, της οποίας τα εργαλεία χρησιμοποιούνται επίσης από το Υπουργείο Άμυνας και από ομοσπονδιακές υπηρεσίες επιβολής του νόμου.
Δεν είναι σαφές πώς ακριβώς χρησιμοποιήθηκε το Claude κατά τη διάρκεια της επιδρομής στην Καράκας τον Ιανουάριο, αλλά τα εργαλεία AI μπορούν να χρησιμοποιηθούν για τον έλεγχο drones, την ανάλυση εικόνων και τη σύνοψη υποκλαπεισών επικοινωνιών.
