Ο Υπουργός Άμυνας των ΗΠΑ, Πιτ Χέγκσεθ, έχει εκφράσει επανειλημμένα την αντίθεσή του στα συστήματα τεχνητής νοημοσύνης που χαρακτηρίζει ως “woke”, δηλαδή αυτά που ενσωματώνουν ηθικές και κοινωνικές αρχές. Σε μια έντονη ομιλία του στην SpaceX τον Ιανουάριο, ο Χέγκσεθ επέκρινε τα συστήματα τεχνητής νοημοσύνης με ιδεολογικούς περιορισμούς, δηλώνοντας: “Η Τεχνητή Νοημοσύνη του Υπουργείου Πολέμου δεν θα είναι woke. Θα δουλεύει για εμάς. Δημιουργούμε όπλα και συστήματα έτοιμα για μάχη, όχι chatbots για σαλόνια καθηγητών της Ivy League.”
Με την προθεσμία να πλησιάζει, την Παρασκευή, για να εγκαταλείψει η Anthropic τις υποτιθέμενες “woke” απαιτήσεις της για την ασφάλεια της τεχνητής νοημοσύνης και εγγυήσεις μη στρατιωτικής χρήσης, η Anthropic δήλωσε στο Fortune ότι συνεχίζει τις “καλόπιστες συνομιλίες” με το Πεντάγωνο.
Η Anthropic αντιμετωπίζει προθεσμία την Παρασκευή, στις 5:01 μ.μ., για να παράσχει στο Πεντάγωνο ανεμπόδιστη πρόσβαση στην τεχνολογία AI της, αλλιώς θα περιληφθεί σε μαύρη λίστα από την αλυσίδα εφοδιασμού του στρατού, σύμφωνα με δημοσίευμα του Axios, το οποίο επιβεβαιώθηκε από το Associated Press.
Η παρούσα αντιπαράθεση προκύπτει μετά από μήνες διαπραγματεύσεων μεταξύ του Υπουργείου Άμυνας και της Anthropic σχετικά με το πώς ο στρατός μπορεί να χρησιμοποιήσει την τεχνολογία AI της εταιρείας. Όπως ανέφερε το Axios, ο Χέγκσεθ προειδοποίησε την Anthropic ότι το Πεντάγωνο θα μπορούσε να χαρακτηρίσει την εταιρεία ως “κίνδυνο για την αλυσίδα εφοδιασμού”, μια κατηγορία που προορίζεται για ξένες ανταγωνιστικές εταιρείες, όπως η κινεζική Huawei, εάν η εταιρεία δεν συμμορφωθεί, αναγκάζοντας τους στρατιωτικούς εργολάβους να διακόψουν τις σχέσεις τους με την Anthropic. Απειλήθηκε επίσης με την επίκληση του νόμου περί Παραγωγής Άμυνας (Defense Production Act), ένα νόμο που εφάρμοσε η κυβέρνηση Τραμπ κατά τη διάρκεια της πανδημίας COVID για να ενθαρρύνει τις εταιρείες να επεκτείνουν την παραγωγή ιατρικών προμηθειών, μια απειλή που ο Χέγκσεθ φέρεται να επανέλαβε την Τρίτη.
Εκπρόσωπος της Anthropic πρόσθεσε ότι η εταιρεία θα υποστήριζε τις λειτουργίες της κυβέρνησης σύμφωνα με τις αρχές της εταιρείας για την υπεύθυνη χρήση της AI, δηλώνοντας ότι θα “συνεχίσει να υποστηρίζει την αποστολή εθνικής ασφάλειας της κυβέρνησης σύμφωνα με αυτό που τα μοντέλα μας μπορούν να κάνουν αξιόπιστα και υπεύθυνα.”
Η σύγκρουση έχει εξελιχθεί σε έναν έμμεσο πόλεμο, εν μέσω μιας ευρύτερης συζήτησης σχετικά με το ποιος θα θέτει τους όρους χρήσης της AI: οι εταιρείες τεχνολογίας ή η κυβέρνηση των ΗΠΑ. Το Πεντάγωνο είχε αναθέσει στην Anthropic, μαζί με τις Google, OpenAI και xAI, συμβάσεις αξίας έως και 200 εκατομμυρίων δολαρίων πέρυσι. Ενώ μέχρι πρόσφατα, η Anthropic ήταν η μόνη εταιρεία AI που είχε λάβει έγκριση για χρήση από το Πεντάγωνο, η εταιρεία τεχνητής νοημοσύνης είχε υιοθετήσει μια σκληρή στάση ενάντια στις στρατιωτικές εφαρμογές της AI της, απαγορεύοντας τη χρήση της σε πλήρως αυτόνομα όπλα και στην εγχώρια παρακολούθηση. Ωστόσο, η xAI του Elon Musk αυτήν την εβδομάδα κατέληξε σε συμφωνία για να επιτρέψει στο Πεντάγωνο να χρησιμοποιήσει την AI της για απόρρητα συστήματα, προσθέτοντας ανταγωνισμό στην κάποτε αποκλειστική συνεργασία της Anthropic.
Το Πεντάγωνο φέρεται να χρησιμοποίησε το μοντέλο AI Claude της Anthropic μέσω της συνεργασίας της Anthropic με την Palantir κατά τη διάρκεια της επιχείρησης των ΗΠΑ στη Βενεζουέλα, η οποία κατέληξε στη σύλληψη του πρώην Προέδρου της Βενεζουέλας, Νικολάς Μαδούρο. Στη συνέχεια, η Anthropic προσέγγισε την Palantir, ρωτώντας πώς χρησιμοποιήθηκε η AI της εταιρείας κατά τη διάρκεια της επιχείρησης, την οποία η Palantir μετέφερε στο Πεντάγωνο, σύμφωνα με το The Hill.
Χαλάρωση των δεσμεύσεων ασφαλείας
Ωστόσο, η Anthropic χαλαρώνει σταδιακά τη αυστηρή δέσμευσή της στην ασφάλεια. Η εταιρεία AI την Τρίτη κυκλοφόρησε μια ενημερωμένη έκδοση της “Πολιτικής Υπεύθυνης Κλιμάκωσης” (RSP), όπως αρχικά δημοσιεύθηκε τον Σεπτέμβριο του 2023, για να παραμείνει ανταγωνιστική, δηλώνοντας ότι η νέα πολιτική αποτελεί αντίδραση στις αλλαγές στο περιβάλλον της αγοράς. “Το πολιτικό περιβάλλον έχει μετατοπιστεί προς την προτεραιοποίηση της ανταγωνιστικότητας της AI και της οικονομικής ανάπτυξης, ενώ οι συζητήσεις με επίκεντρο την ασφάλεια δεν έχουν ακόμη αποκτήσει ουσιαστική δυναμική σε ομοσπονδιακό επίπεδο”, ανέφερε η ανακοίνωση της Anthropic.
Ο Amodei έχει υποδείξει μια πιθανή χαλάρωση των δεσμεύσεων ασφαλείας, λέγοντας σε συνέντευξή του με τον οικοδεσπότη του podcast Dwarkesh Patel ότι η εταιρεία αντιμετωπίζει “εμπορικές πιέσεις” και ότι τα αυστηρά μέτρα ασφαλείας της έχουν περιορίσει την ικανότητά της να ανταγωνίζεται αντιπάλους που λειτουργούν υπό λιγότερο αυστηρούς κανόνες.
Σε αποκλειστική συνέντευξη με το Time, ο Jared Kaplan, επικεφαλής επιστημονικός διευθυντής της Anthropic, δήλωσε ότι οι αλλαγές στην RSP έγιναν από ανησυχία για την ασφάλεια παρά από φόβους ανταγωνισμού. “Νιώσαμε ότι δεν θα βοηθούσε κανέναν αν σταματούσαμε την εκπαίδευση μοντέλων AI,” είπε ο Kaplan. “Δεν νιώθαμε πραγματικά, με την ταχεία πρόοδο της AI, ότι είχε νόημα να κάνουμε μονομερείς δεσμεύσεις… αν οι ανταγωνιστές προχωρούν με γοργούς ρυθμούς.”
