Μια δικαστική απόφαση στην Καλιφόρνια μπορεί να αποτελέσει νίκη για την Anthropic στην προσπάθειά της για ρύθμιση των όπλων που λειτουργούν με τεχνητή νοημοσύνη (AI). Αυτή η εξέλιξη αποτελεί πλήγμα για την κυβέρνηση του Προέδρου των Ηνωμένων Πολιτειών Donald Trump, καθώς φέρνει την εταιρεία ένα βήμα πιο κοντά στο να αποφύγει την απώλεια δισεκατομμυρίων δολαρίων από κρατικά συμβόλαια.
Η κυβέρνηση Trump είχε χαρακτηρίσει την Anthropic ως «κίνδυνο στην αλυσίδα εφοδιασμού» λόγω της στάσης της υπέρ της αυξημένης ρύθμισης, μια κίνηση που θα εμπόδιζε την εταιρεία από ορισμένα στρατιωτικά συμβόλαια. Ωστόσο, ένας περιφερειακός δικαστής έκρινε ότι το Υπουργείο Άμυνας των Ηνωμένων Πολιτειών ενδέχεται να προσπαθεί παράνομα να τιμωρήσει την Anthropic για την προσπάθειά της να περιορίσει τη χρήση των μοντέλων τεχνητής νοημοσύνης της για όπλα χωρίς ανθρώπινη επίβλεψη ή για μαζική παρακολούθηση.
«Φαίνεται σαν μια προσπάθεια να ακρωτηριάσουν την Anthropic», δήλωσε η δικαστής Rita Lin του περιφερειακού δικαστηρίου της Βόρειας Καλιφόρνια. Νομικοί αναλυτές εκτιμούν ότι αυτό θα μπορούσε να προετοιμάσει το έδαφος για την παροχή προσωρινής διαταγής στην Anthropic, ώστε να μην χαρακτηριστεί ως κίνδυνος στην αλυσίδα εφοδιασμού από το Υπουργείο Άμυνας.
«Οι δηλωμένοι στόχοι τους δεν υποστηρίζονται πλήρως από το Υπουργείο Πολέμου», ανέφερε ο Charlie Bullock, ανώτερος ερευνητής στο Institute for Law and AI, σχετικά με τον χαρακτηρισμό της Anthropic ως κινδύνου στην αλυσίδα εφοδιασμού από το Υπουργείο Άμυνας. Είναι η πρώτη φορά που μια αμερικανική εταιρεία χαρακτηρίζεται έτσι, γεγονός που θα συνεπαγόταν ακύρωση κρατικών συμβολαίων, καθώς και συμβολαίων εργολάβων του δημοσίου.
Στις 17 Μαρτίου, το Υπουργείο Άμυνας ανέφερε στο δικαστήριο ότι η θέση της Anthropic, σύμφωνα με την οποία τα προϊόντα της δεν πρέπει να χρησιμοποιούνται για όπλα με τεχνητή νοημοσύνη χωρίς ανθρώπινη επίβλεψη ή για εγχώρια παρακολούθηση, θα υπονόμευε την «ικανότητά του να ελέγχει τις δικές του νόμιμες δραστηριότητες».
Η αγωγή της Anthropic για την άρση του χαρακτηρισμού επικεντρώνεται στην έκταση των δυνατοτήτων της AI, στο πώς θα μπορούσαν να διαμορφώσουν τη ζωή και στο αν θα ρυθμιστούν. «Αυτή η υπόθεση είναι μια στιγμή για να σκεφτούμε τι είδους σχέσεις θέλουμε μεταξύ της κυβέρνησης και των εταιρειών και τι δικαιώματα έχουν οι πολίτες», δήλωσε ο Robert Trager, συν-διευθυντής της πρωτοβουλίας Oxford Martin AI Governance Initiative του Πανεπιστημίου της Οξφόρδης.
Η Alison Taylor, κλινική καθηγήτρια επιχειρήσεων και κοινωνίας στη Stern School of Business του Πανεπιστημίου της Νέας Υόρκης (NYU), επεσήμανε: «Στις ΗΠΑ, η τεχνολογία κινείται σαν ατμομηχανή και κάθε ιδέα ανθρώπινης επίβλεψης γίνεται δυσκολότερη. Ωστόσο, οι άνθρωποι ανησυχούν για τις απώλειες θέσεων εργασίας που σχετίζονται με την AI, τα κέντρα δεδομένων, την παρακολούθηση και τα όπλα. Αυτό έχει ως αποτέλεσμα η κοινή γνώμη να απομακρύνεται από την AI.»
Τις τελευταίες δύο εβδομάδες, διάφορες εταιρείες τεχνολογίας, think tanks και νομικές ομάδες κατέθεσαν νομικές αναφορές υποστηρίζοντας τη θέση της Anthropic, ζητώντας επίβλεψη και ρύθμιση της AI για όπλα και μαζική παρακολούθηση. Αυτή η υποστήριξη εκτείνεται από τη Microsoft και τους εργαζόμενους ανταγωνιστών της Anthropic, OpenAI και Google Inc, μέχρι τους Καθολικούς Ηθικούς Θεολόγους, μεταξύ άλλων.
Στην αναφορά τους, μηχανικοί από τις OpenAI και Google DeepMind, καταθέτοντας με την προσωπική τους ιδιότητα, δήλωσαν ότι η υπόθεση έχει «σεισμική σημασία για τη βιομηχανία μας» και ότι η ρύθμιση είναι ζωτικής σημασίας, καθώς η «αλυσίδα συλλογισμού των μοντέλων AI είναι συχνά κρυφή από τους χειριστές τους, και οι εσωτερικές τους λειτουργίες είναι αδιαφανείς ακόμη και στους προγραμματιστές τους. Και οι αποφάσεις που λαμβάνουν σε θανατηφόρα πλαίσια είναι μη αναστρέψιμες».
Με φόντο αυτές τις ανησυχίες, η Taylor του NYU σχολίασε: «Η Anthropic κάνει ένα ριψοκίνδυνο αλλά καλό στοίχημα, θεωρώντας ότι η τοποθέτησή της ως ηθικής εταιρείας AI θα της δώσει ένα χέρι στο να διαμορφώσει τη ρύθμιση όταν αυτή συμβεί».
Η Anthropic έχει εργαστεί εκτενώς σε συμβόλαια με το Πεντάγωνο, και τα μοντέλα της Claude Gov έχουν ενσωματωθεί στο Project Maven της Palantir, το οποίο βοηθά στην ανάλυση δεδομένων, την επιλογή στόχων και άλλες παρόμοιες εργασίες, φέρεται δε να περιλαμβάνεται στον συνεχιζόμενο πόλεμο ΗΠΑ-Ισραήλ εναντίον του Ιράν.
Ενώ τα όπλα που τροφοδοτούνται από AI δεν χρησιμοποιούνται επί του παρόντος χωρίς ανθρώπινη επίβλεψη, η Anthropic έχει ζητήσει συνεχή ανθρώπινη επίβλεψη στο συμβόλαιό της με το Υπουργείο Άμυνας, διότι, όπως δηλώνει, τα μοντέλα AI μπορούν να «ψευδαισθησιοποιούνται» (hallucinate) και δεν είναι ακόμη πλήρως αξιόπιστα. Ενώ η ψευδαίσθηση αποτελεί ανησυχία σε όλα τα μοντέλα AI, η πιθανή ζημιά από τη χρήση σε όπλα μπορεί να είναι τεράστια.
Η Mary Cummings, καθηγήτρια πολιτικών μηχανικών στο George Mason University και διευθύντρια του Mason Autonomy and Robotic Center, διαπίστωσε ότι ο μισός από τους ατυχήματα με αυτόνομα οχήματα στο San Francisco, όπου τα περισσότερα τέτοια οχήματα είναι σε λειτουργία, οφείλονταν στο ότι το αυτοκίνητο θεωρούσε λανθασμένα ότι ένα αντικείμενο βρισκόταν μπροστά του και φρενάριζε, με αποτέλεσμα το αυτοκίνητο που ακολουθούσε να πέσει πάνω του. «Αυτό το ονομάζουμε φανταστικό φρενάρισμα και προκαλείται από ψευδαισθήσεις», δήλωσε στο Al Jazeera.
Σε μια εργασία του Φεβρουαρίου, προειδοποίησε ότι «η ενσωμάτωση της AI σε όπλα θα αντιμετωπίσει παρόμοια προβλήματα αξιοπιστίας με τα αυτόνομα οχήματα, συμπεριλαμβανομένων των ψευδαισθήσεων».
Η Annika Schoene, επίκουρη καθηγήτρια που ερευνά τον αντίκτυπο της AI στα συστήματα υγείας στο Bouve College of Health Sciences του Northeastern University, αναφέρει: «Η ψευδαίσθηση δεν είναι η μόνη ανησυχία. Μοντέλα σαν αυτά μπορούν να έχουν διαφορετικές ροές εργασίας, προκαταλήψεις στα δεδομένα ή προκαταλήψεις στο μοντέλο. Δεν γνωρίζουμε ακόμη πόσο ασφαλή είναι από ξένη χειραγώγηση. Υπάρχουν τόσα πολλά κομμάτια σε αυτό και δεν έχουμε συμφωνήσει ακόμη για το τι θεωρούμε ασφαλές και τι όχι».
Δεδομένου ότι τα μοντέλα AI, συμπεριλαμβανομένου του Claude Gov, δεν κατασκευάζονται από το στρατό, είναι απαραίτητο να ελεγχθεί πόσο αξιόπιστα είναι κατά την ενσωμάτωσή τους σε στρατιωτικά συστήματα, λέει ο Aalok Mehta, διευθυντής του Wadhwani AI Center στο think tank Center for Strategic and International Studies με έδρα την Ουάσιγκτον, DC. «Οι αξιολογήσεις και οι δοκιμές αναφοράς μπορεί να καθυστερούν. Τα μοντέλα κορένουν τα συστήματα δοκιμών που έχουμε».
Άλλοι υποστηρίζουν ότι δεν είναι τόσο η τεχνολογία όσο ο τρόπος χρήσης της που μπορεί να οδηγήσει σε λάθη. «Θυμάμαι, στις αρχές της δεκαετίας του 2020, υπήρχε η ελπίδα ότι με τέτοια εργαλεία, οι θάνατοι αμάχων θα μειώνονταν», λέει ο Andrew Reddie, αναπληρωτής ερευνητικός καθηγητής στο Goldman School of Public Policy του Πανεπιστημίου της Καλιφόρνια, Berkeley, και ιδρυτής του Berkeley Risk and Security Lab. «Αλλά αυτό δεν έχει συμβεί πραγματικά, γιατί εξαρτάται από τα δεδομένα που εισάγεις. Η πρόκληση δεν είναι η «AI-νess», αλλά το τι συνιστά νόμιμο στόχο», λέει σχετικά με τον τρόπο που το στρατιωτικό προσωπικό επιλέγει στόχους από μια λίστα που παρέχεται από τα εργαλεία.
Όσον αφορά την εγχώρια μαζική παρακολούθηση, αν και δεν είναι σαφές αν το Πεντάγωνο χρησιμοποιεί επί του παρόντος AI για αυτό, ερευνητές από τις OpenAI και Google έχουν τονίσει τις ανησυχίες σχετικά με αυτό στις δικαστικές τους καταθέσεις. Περισσότερες από 70 εκατομμύρια κάμερες, ιστορικά συναλλαγών πιστωτικών καρτών και άλλα τέτοια δεδομένα μπορούν να συλλεχθούν για την παρακολούθηση ολόκληρου του πληθυσμού των ΗΠΑ, λένε. «Ακόμα και η γνώση ότι υπάρχει μια τέτοια δυνατότητα δημιουργεί ένα αποθαρρυντικό αποτέλεσμα στην πολιτική συμμετοχή».
Μέχρι την υπόθεση και εν μέσω αυξανόμενης δημόσιας αγανάκτησης, η Anthropic φέρεται να είχε βαθύτερη σχέση με το Πεντάγωνο από πολλούς από τους ανταγωνιστές της, μια σχέση που ωφελούσε και τις δύο πλευρές. «Το Πεντάγωνο πιστεύει ότι η Anthropic έχει το καλύτερο προϊόν για στρατιωτική χρήση, γι’ αυτό ασκεί πίεση στην εταιρεία» για να συνεχίσει να το χρησιμοποιεί, λέει ο Mehta του CSIS. Όσον αφορά την Anthropic, «τα οικονομικά είναι πολύ δύσκολα για τη βιομηχανία AI. Οπότε, χρειάζεστε μια ισχυρή δημόσια επιχείρηση με τα δισεκατομμύρια δολάρια σε συμβόλαια», λέει.
Η OpenAI ανέλαβε τη θέση της Anthropic για να συνεργαστεί με το Πεντάγωνο αμέσως μετά την λύση του συμβολαίου της Anthropic. Ωστόσο, η Anthropic φαίνεται να έχει πετύχει «έναν θρίαμβο δημοσίων σχέσεων, αν όχι ουσιαστικό», σχολιάζει η Taylor του NYU. Η τοποθέτησή της ως ηθικής εταιρείας AI μπορεί να της έχει κερδίσει τη δημόσια δημοτικότητα. Οι λήψεις του Claude αυξήθηκαν απότομα τις εβδομάδες μετά τη λύση του συμβολαίου.
Ωστόσο, μια εταιρεία που αναγκάζεται να θέτει όρια υποδηλώνει την αποτυχία της κυβέρνησης να το κάνει, λέει η Brianna Rosen, εκτελεστική διευθύντρια του Oxford Programme for Cyber and Technology Policy. «Για πρώτη φορά, οι Ηνωμένες Πολιτείες χρησιμοποιούν AI για τη δημιουργία στόχων σε μεγάλης κλίμακας πολεμικές επιχειρήσεις στο Ιράν», λέει. «Και οι νομοθέτες εξακολουθούν να συζητούν εάν θα θέσουν κόκκινες γραμμές για πλήρως αυτόνομα όπλα. Η απουσία διακυβέρνησης αποτελεί από μόνη της κίνδυνο εθνικής ασφάλειας».
Η συζήτηση για τη ρύθμιση των όπλων AI ενισχύει μόνο το χάσμα μεταξύ της δημόσιας ανησυχίας και της απροθυμίας για υπερβολική ρύθμιση της καινοτομίας AI σε άλλους τομείς. Δημοσκοπήσεις έχουν δείξει ότι οι Αμερικανοί ανησυχούν για πιθανές απώλειες θέσεων εργασίας και για τις επιπτώσεις της κλιματικής αλλαγής από την AI. Μια δημοσκόπηση του Quinnipiac University τον Απρίλιο του 2025 έδειξε ότι το 69% των Αμερικανών πιστεύει ότι η κυβέρνηση θα μπορούσε να κάνει περισσότερα για να ρυθμίσει την AI.
Αυτό το χάσμα έχει οδηγήσει τη βιομηχανία AI να αναδειχθεί σε σημαντικό δωρητή στις ενδιάμεσες εκλογές του 2026. Η Leading The Future, μια super PAC που έχει λάβει πάνω από 100 εκατομμύρια δολάρια από τον πρόεδρο της OpenAI Greg Brockman, τον συνιδρυτή της Palantir Joe Lonsdale και άλλους, έχει χρηματοδοτήσει διαφημίσεις εναντίον του Alex Bores, μέλους της Βουλής της Νέας Υόρκης που διεκδικεί έδρα στο Κογκρέσο. Ο Bores ήταν ο χορηγός του RAISE act, το οποίο θα επέβαλλε στους προγραμματιστές AI να αποκαλύπτουν πρωτόκολλα ασφαλείας ή ατυχήματα.
Τον Φεβρουάριο, η Anthropic ανακοίνωσε μια δωρεά 20 εκατομμυρίων δολαρίων στην Public First Action, μια PAC που θα υποστηρίξει υποψηφίους υπέρ της ρύθμισης της AI, συμπεριλαμβανομένου του Bores.
Ενώ οι εταιρείες AI επιδιώκουν να αναπτύξουν βιομηχανικά πρότυπα για τη δοκιμή και την αξιολόγηση των μοντέλων τους, η Anthropic πιέζει για ρύθμιση, διότι κακοί δρώντες μπορούν να παραβιάσουν τέτοια μη δεσμευτικά πρότυπα, λέει ο Bullock του Institute for Law and AI.
Μεταξύ της δικαστικής απόφασης για την υπόθεση της Anthropic και των επερχόμενων ενδιάμεσων εκλογών, ειδικοί αναφέρουν ότι αυτά τα γεγονότα θα μπορούσαν να καθορίσουν την πορεία της ρύθμισης της AI. «Θα μπορούσε να δημιουργήσει χώρο για πιο συνειδητή ανάπτυξη πολιτικής», λέει η Rosen της Οξφόρδης.
