Η αμερικανική στρατιωτική δύναμη χρησιμοποίησε ενεργά το μοντέλο Τεχνητής Νοημοσύνης (AI) Claude της Anthropic κατά τη διάρκεια της επιχείρησης για τη σύλληψη του προέδρου της Βενεζουέλας, Νικολάς Μαδούρο, τον περασμένο μήνα. Αυτό αποκάλυψαν δημοσιεύματα των Axios και The Wall Street Journal, υπογραμμίζοντας ότι η τεχνολογία της εταιρείας, η οποία εστιάζει στην ασφάλεια, διαδραμάτισε άμεσο ρόλο στην επιδρομή στο εξωτερικό, η οποία άφησε πίσω της δεκάδες νεκρούς.
Σύμφωνα με τις ίδιες πηγές, το Claude χρησιμοποιήθηκε κατά τη διάρκεια της ενεργής επιχείρησης και όχι μόνο στις προπαρασκευαστικές φάσεις. Ο ακριβής ρόλος του παραμένει ασαφής, αν και ο στρατός έχει χρησιμοποιήσει στο παρελθόν μοντέλα AI για ανάλυση δορυφορικών εικόνων και πληροφοριών σε πραγματικό χρόνο.
Ωστόσο, οι πολιτικές χρήσης της AI lab με έδρα το Σαν Φρανσίσκο απαγορεύουν ρητώς τη χρήση της τεχνολογίας της για «διευκόλυνση της βίας, ανάπτυξη όπλων ή διεξαγωγή παρακολούθησης».
Αν και δεν χάθηκαν Αμερικανοί στη συγκεκριμένη επιδρομή, δεκάδες Βενεζουελάνοι και Κουβανοί στρατιώτες και προσωπικό ασφαλείας σκοτώθηκαν στις 3 Ιανουαρίου.
«Δεν μπορούμε να σχολιάσουμε εάν το Claude, ή οποιοδήποτε άλλο μοντέλο AI, χρησιμοποιήθηκε για κάποια συγκεκριμένη επιχείρηση, απόρρητη ή μη», δήλωσε εκπρόσωπος της Anthropic στα Axios. «Οποιαδήποτε χρήση του Claude – είτε στον ιδιωτικό τομέα είτε σε κυβερνητικό επίπεδο – απαιτείται να συμμορφώνεται με τις Πολιτικές Χρήσης μας.»
Ανταγωνιστές της Anthropic, όπως η OpenAI, η Google και η xAI του Elon Musk, έχουν συμφωνίες που παρέχουν στο Πεντάγωνο πρόσβαση στα μοντέλα τους χωρίς πολλούς από τους ελέγχους ασφαλείας που ισχύουν για τους απλούς χρήστες. Ωστόσο, μόνο το Claude αναπτύσσεται, μέσω συνεργασίας με την Palantir Technologies, σε απόρρητες πλατφόρμες που χρησιμοποιούνται για τις πιο ευαίσθητες εργασίες του αμερικανικού στρατού.
Αυτή η αποκάλυψη έρχεται σε μια δύσκολη στιγμή για την εταιρεία, η οποία τις τελευταίες εβδομάδες έχει τονίσει δημόσια τη δέσμευσή της στην «ασφάλεια της AI» και έχει τοποθετηθεί ως η εναλλακτική λύση με συνείδηση ασφαλείας εντός της βιομηχανίας AI. Ο CEO Dario Amodei έχει προειδοποιήσει επανειλημμένα για τους υπαρξιακούς κινδύνους που εγκυμονεί η ανεξέλεγκτη χρήση της τεχνητής νοημοσύνης. Τη Δευτέρα, ο επικεφαλής της Ομάδας Έρευνας Ασφάλειας της Anthropic, Mrinank Sharma, παραιτήθηκε απότομα με μια αινιγματική προειδοποίηση ότι «ο κόσμος κινδυνεύει». Λίγες ημέρες αργότερα, η εταιρεία επένδυσε 20 εκατομμύρια δολάρια σε μια πολιτική ομάδα υποστήριξης της αυστηρής ρύθμισης της AI.
Ταυτόχρονα, η Anthropic φέρεται να διαπραγματεύεται με το Πεντάγωνο σχετικά με το αν θα χαλαρώσει τους περιορισμούς στην ανάπτυξη AI για αυτόματη στόχευση όπλων και εγχώρια παρακολούθηση. Η διαμάχη αυτή έχει «παγώσει» ένα συμβόλαιο αξίας έως και 200 εκατομμυρίων δολαρίων, με τον Υπουργό Άμυνας Pete Hegseth να δηλώνει ότι δεν θα χρησιμοποιήσει μοντέλα που «δεν σας επιτρέπουν να διεξάγετε πολέμους».
