Η διαμάχη της Anthropic με το Υπουργείο Άμυνας των ΗΠΑ δεν αποτελεί απλή διαφωνία για συμβάσεις, αλλά προαναγγέλλει μια επερχόμενη σύγκρουση εξουσίας μεταξύ εκλεγμένων κυβερνήσεων και ολοένα και πιο ισχυρών εταιρειών τεχνητής νοημοσύνης.
Ο Ντάριο Αμοντέι, CEO της Anthropic, αρνήθηκε να επιτρέψει στο Πεντάγωνο να χρησιμοποιήσει την τεχνητή νοημοσύνη της εταιρείας του για “οποιονδήποτε νόμιμο σκοπό”, εκφράζοντας ανησυχία ότι θα μπορούσε να διευκολύνει την εγχώρια παρακολούθηση ή την ανάπτυξη αυτόνομων όπλων. Αυτή η στάση, σύμφωνα με την Τζέσικα Τίλιπαν, ειδική σε κυβερνητικές συμβάσεις στο George Washington Law School, θα μπορούσε να αποκλείσει ορισμένες στρατιωτικές χρήσεις, ακόμα κι αν η κυβέρνηση τις θεωρούσε νόμιμες.
Αυτό αποτελεί ένα παράδειγμα ενός δυνητικού μέλλοντος, όπου οι CEO τεχνητής νοημοσύνης, και όχι οι δημοκρατικά εκλεγμένοι ηγέτες, αποφασίζουν τι είναι αποδεκτό. Όπως προειδοποίησε ο ερευνητής ευθυγράμμισης τεχνητής νοημοσύνης, Ελιέζερ Γιουντκόβσκι, τους πολιτικούς κατά τη διάρκεια της διαμάχης: “Δεν ακούγεται τρελό σε έναν εκτελεστικό διευθυντή της Silicon Valley ότι ίσως θα μπορούσαν να είναι υπεύθυνοι αντί για εσάς. Αν μπορούσαν πραγματικά να ελέγξουν την υπερνοημοσύνη, θα σας πετούσαν σαν χαρτί υγείας.”
Η ανησυχία είναι η εξής: σε μια δημοκρατία, οι ψηφοφόροι μπορούν να απομακρύνουν έναν εκλεγμένο αξιωματούχο που λαμβάνει κακές αποφάσεις. Ωστόσο, εάν ένας CEO κάνει μια επιζήμια επιλογή, ειδικά μια που αυξάνει τα έσοδα ή τα κέρδη, το κοινό έχει περιορισμένες εναλλακτικές. Οι μέτοχοι, όχι οι ψηφοφόροι, καθορίζουν εάν οι CEO διατηρούν τις θέσεις τους.
Ό,τι κι αν λένε ο Αμοντέι ή άλλοι ηγέτες της τεχνητής νοημοσύνης, οι εταιρείες υπάρχουν για να παράγουν κέρδη. Οι επενδυτές διοχετεύουν δισεκατομμύρια στην Anthropic, προσδοκώντας τεράστια μελλοντικά κέρδη. Η μεγαλόστομη ρητορική για την ασφάλεια και την ηθική μπορεί να είναι ειλικρινής, αλλά βοηθά επίσης στην προσέλκυση πελατών και ταλέντων. Όπως εύστοχα σχολίασε ο πρώην product manager, Ακάς Γκούπτα: “Ο Ντάριο είναι καλύτερος μάρκετινγκ από ό,τι πιστώνεται.”
Οι ίδιες οι αποφάσεις της Anthropic αντανακλούν αυτές τις εντάσεις. Στα τέλη Φεβρουαρίου, η εταιρεία ακύρωσε προηγούμενη δέσμευση να αναστείλει την κλιμάκωση ή να καθυστερήσει την ανάπτυξη μοντέλων εάν τα μέτρα ασφαλείας υστερούσαν σε σχέση με τις δυνατότητες – μια αξιοσημείωτη αλλαγή για μια εταιρεία της οποίας ο CEO συχνά προειδοποιεί για τους κινδύνους της ανεξέλεγκτης τεχνητής νοημοσύνης.
Ο Αμοντέι ανέτρεψε επίσης την προηγούμενη πορεία του σχετικά με τη λήψη επενδύσεων από τη Μέση Ανατολή, όταν η εταιρεία χρειαζόταν έναν τεράστιο γύρο χρηματοδότησης. Και φέτος, το Bloomberg ανέφερε ότι η Anthropic υπέβαλε αίτηση για να διεκδικήσει ένα βραβείο του Πενταγώνου ύψους 100 εκατομμυρίων δολαρίων για τον σχεδιασμό τεχνολογίας αυτόνομων σμήνους drones.
Το μοτίβο δεν είναι μοναδικό. Όταν η Google εξαγόρασε τη DeepMind, ο συνιδρυτής Ντέμις Χασάμπις επέμενε ότι η τεχνητή νοημοσύνη της δεν μπορούσε να χρησιμοποιηθεί για στρατιωτικούς σκοπούς. Η Google συμφώνησε και η συμφωνία έκλεισε. Ωστόσο, στις αρχές του 2025, η Google ενημέρωσε τις Αρχές Τεχνητής Νοημοσύνης της, αφαιρώντας μια δέσμευση κατά των χρήσεων για όπλα και παρακολούθηση.
Η πρώιμη startup τεχνητής νοημοσύνης Clarifai ακολούθησε μια παρόμοια πορεία, σύμφωνα με τον πρώην υπάλληλο Μίχαλ Βόλσκι: “Είχαμε την ίδια στάση στην Clarifai το 2014, μετά ήρθε η ώρα να ξεπληρώσουμε όλα τα χρήματα που είχαμε συγκεντρώσει.”
Το αποτέλεσμα αυτής της αναπόφευκτης οπισθοδρόμησης: τον Ιούλιο, η Google, η OpenAI, η Anthropic και η xAI υπέγραψαν συμβάσεις με το Υπουργείο Άμυνας ύψους έως και 200 εκατομμυρίων δολαρίων. Έτσι, αν χρησιμοποιούσατε το Gemini, το ChatGPT, το Claude ή το Grok ως chatbot σας, ήδη υποστηρίζετε εταιρείες τεχνητής νοημοσύνης που βοηθούν τις ΗΠΑ να διεξάγουν πόλεμο.
Ο blogger τεχνολογίας, Μπεν Τόμσον, υποστηρίζει ότι η σωστή λύση είναι νέοι νόμοι και υπεύθυνη εποπτεία – όχι επευφημίες σε ανεκλέκτους εκτελεστικούς διευθυντές για να αποφασίζουν πώς θα χρησιμοποιηθεί η τεχνητή νοημοσύνη. Αυτός είναι “ο δρόμος για ένα ακόμη πιο δεσποτικό μέλλον”, έγραψε αυτή την εβδομάδα.
Η δημοκρατία είναι ακατάστατη. Αλλά είναι προτιμότερη από την ανάθεση των μοχλών της εξουσίας σε CEO των οποίων το κύριο καθήκον είναι προς τους μετόχους – και των οποίων τα εργαλεία μπορεί σύντομα να είναι τα πιο επιδραστικά που έχουν κατασκευαστεί ποτέ.
Εκπρόσωποι της Anthropic δεν ανταποκρίθηκαν σε αίτημα για σχόλιο.
