Αυτή την εβδομάδα, σε μια δραματική κλιμάκωση που αναδιαμορφώνει τον τρόπο ενσωμάτωσης της τεχνητής νοημοσύνης στην εθνική ασφάλεια και ποιος την ελέγχει, η Anthropic αποκλείστηκε επίσημα από τη διοίκηση Trump, ενώ η OpenAI εξασφάλισε μια νέα αμυντική σύμβαση.
Την Παρασκευή το απόγευμα, το Πεντάγωνο χαρακτήρισε την Anthropic ως κίνδυνο στην εφοδιαστική αλυσίδα, απαγορεύοντας τη χρήση της τεχνολογίας της από αμυντικούς εργολάβους μετά από μια μεταβατική περίοδο. Αυτό συνέβη λίγες ώρες αφότου ο Πρόεδρος Donald Trump έδωσε εντολή στις ομοσπονδιακές υπηρεσίες να σταματήσουν τη χρήση των εργαλείων AI της Anthropic, επικαλούμενος την άρνηση της εταιρείας να συμφωνήσει στην προτεινόμενη από τον στρατό χρήση του μοντέλου Claude.
Ο CEO της Anthropic, Dario Amodei, δήλωσε ότι δεν θα μπορούσε “με καλή συνείδηση” να επιτρέψει στην τεχνολογία να χρησιμοποιηθεί για μαζική εγχώρια παρακολούθηση ή για την ανεξάρτητη καθοδήγηση αυτόνομων όπλων – δύο περιπτώσεις χρήσης που, όπως λέει, παραβιάζουν τις ηθικές αρχές της εταιρείας.
Εν μέσω της αντιπαράθεσης, ο ανταγωνιστής της Anthropic, η OpenAI, ανακοίνωσε ότι κατέληξε σε συμφωνία με το Υπουργείο Άμυνας για την ανάπτυξη των δικών της μοντέλων AI σε διαβαθμισμένα περιβάλλοντα.
Η διαμάχη έχει μετατραπεί σε μια ευρύτερη σύγκρουση μεταξύ του Πενταγώνου και του ιδιωτικού τομέα της AI, όχι μόνο για τις στρατιωτικές συμβάσεις, αλλά και για το ποιος τελικά θέτει τους όρους για το πώς χρησιμοποιούνται αυτά τα ισχυρά συστήματα.
Σύγκρουση αρχών και συμβάσεων
Η Anthropic υποστήριξε ότι οι περιορισμοί γύρω από τη χρήση του συστήματός της για παρακολούθηση και αυτόνομα οπλικά συστήματα δεν αντικατοπτρίζονταν επαρκώς – ή δεν ήταν επιβλητέοι – στο προσχέδιο της κυβερνητικής σύμβασης.
Ανώτεροι αξιωματούχοι της Άμυνας απάντησαν ότι χρειάζεται να μπορούν να αναπτύξουν το Claude για οποιαδήποτε “νόμιμη χρήση” – ένας όρος που θα έδινε στον στρατό ευρεία διακριτική ευχέρεια, παρόλο που η μαζική εγχώρια παρακολούθηση είναι παράνομη βάσει πολλαπλών νόμων.
Ο Dean Ball, ανώτερος συνεργάτης στο Foundation for American Innovation, χαρακτήρισε την αντιπαράθεση ως “αχαρτογράφητο έδαφος” που πηγάζει από ανταγωνιστικές αρχές: την επιμονή της Anthropic να θέτει συμβατικούς περιορισμούς στον τρόπο χρήσης της τεχνολογίας της και την άποψη του Πενταγώνου ότι η αμυντική πολιτική πρέπει να υπερισχύει των εταιρικών προτεραιοτήτων.
“Αυτό είναι θέμα αρχής και για τις δύο πλευρές”, δήλωσε ο Ball στο Business Insider.
Λίγο μετά τον χαρακτηρισμό της Anthropic ως κίνδυνο στην εφοδιαστική αλυσίδα, η OpenAI δημοσίευσε μια ανάρτηση στο blog της, δηλώνοντας ότι είχε συμφωνήσει με το Πεντάγωνο σε ένα πλαίσιο που περιλαμβάνει ρητά προστατευτικά μέτρα παρόμοια με αυτά που ζητούσε η Anthropic.
Η OpenAI ανέλυσε τρεις κύριες “κόκκινες γραμμές” που καθοδηγούν τη συνεργασία της με το Υπουργείο:
* Όχι χρήση της τεχνολογίας της για μαζική εγχώρια παρακολούθηση.
* Όχι χρήση στην καθοδήγηση αυτόνομων όπλων.
* Και όχι χρήση για άλλες κρίσιμες αυτοματοποιημένες αποφάσεις, όπως συστήματα “κοινωνικής πίστωσης”.
Η OpenAI αναφέρει ότι η συμφωνία της είναι δομημένη για να προστατεύει αυτά τα όρια μέσω πολυεπίπεδων μέτρων ασφαλείας, και ότι οποιαδήποτε χρήση που περιλαμβάνει αυτόνομα όπλα ή παρακολούθηση πρέπει να συμμορφώνεται με τους ισχύοντες νόμους και τις οδηγίες του Υπουργείου.
Σε μια σειρά αναρτήσεων τύπου “Ask-Me-Anything”, ο CEO της OpenAI, Sam Altman, δήλωσε ότι είναι προετοιμασμένος για πιθανή διαμάχη σχετικά με τη νομιμότητα συγκεκριμένων κυβερνητικών αιτημάτων. Ωστόσο, ανέφερε ότι η OpenAI δεν θα συμφωνούσε να επιτρέψει στην κυβέρνηση να χρησιμοποιήσει την τεχνολογία της για μαζική εγχώρια παρακολούθηση.
“Τρομοκρατούμαι από έναν κόσμο όπου οι εταιρείες AI ενεργούν σαν να έχουν περισσότερη δύναμη από την κυβέρνηση”, πρόσθεσε ο Altman. “Θα τρομοκρατούμουν επίσης από έναν κόσμο όπου η κυβέρνησή μας αποφάσιζε ότι η μαζική εγχώρια παρακολούθηση ήταν αποδεκτή.”
Πιθανώς “υπαρξιακά” διακυβεύματα
Νομικοί μελετητές αναφέρουν ότι οι απειλές της κυβέρνησης για την εφαρμογή του νόμου για την Αμυντική Παραγωγή και τον χαρακτηρισμό της Anthropic ως κίνδυνο στην εφοδιαστική αλυσίδα, σε αυτό το πλαίσιο, είναι ασυνήθιστες.
Ο Eric Chaffee, καθηγητής εργατικού δικαίου στο Case Western Reserve University, χαρακτήρισε την κίνηση ως “στοίχημα”, σημειώνοντας ότι η πρόσφατη απόφαση του Ανωτάτου Δικαστηρίου που ανέτρεψε τις πολιτικές δασμών του Trump έθεσε φρένο σε εκτεταμένες εκτελεστικές ενέργειες χωρίς σαφή νομοθετική στήριξη.
Και ενώ οι αρχές εθνικής ασφάλειας απολαμβάνουν γενικά σεβασμού στο δικαστήριο, οποιαδήποτε δικαστική διαμάχη θα εκτυλισσόταν σε νομικά αχαρτογράφητο έδαφος.
“Η κυβέρνηση, σε αυτό το σημείο, έχει τελικά αναθέσει μεγάλο μέρος της εργασίας της σε ιδιωτικές οντότητες”, είπε ο Chaffee. “Ως αποτέλεσμα, λόγω της απροθυμίας έναντι των κρατικών εταιρειών, θα υπάρξουν εντάσεις, και τελικά, σε ένα τέτοιο πλαίσιο, η κατανόηση του πώς μια ιδιωτική οντότητα αλληλεπιδρά με την κυβέρνηση θα είναι μια πολύπλοκη διαδικασία.”
Για το Πεντάγωνο, η απομάκρυνση της Anthropic από τις γραμμές παραγωγής AI του στρατού θα μπορούσε να προκαλέσει αναστάτωση. Ο George Pollack, αναλυτής πολιτικής της Signum Global Advisor, δήλωσε ότι το Claude είναι βαθιά ενσωματωμένο στα συστήματα αμυντικού σχεδιασμού και ετοιμότητας και ότι η μετάβαση μακριά τους εγκυμονεί κινδύνους λειτουργικής τριβής.
Επιπλέον, υποστηρίχθηκε ότι ο αποκλεισμός μιας κορυφαίας αμερικανικής εταιρείας AI έρχεται σε αντίθεση με τους δηλωμένους στόχους διατήρησης της αμερικανικής ηγεσίας στην τεχνολογία.
Για την Anthropic, τα διακυβεύματα είναι “υπαρξιακά”, προειδοποίησε ο Ball. Είπε ότι η διαμάχη θα μπορούσε να στείλει ένα αποθαρρυντικό μήνυμα στους επιχειρηματίες σχετικά με τους κινδύνους της συνεργασίας με την ομοσπονδιακή κυβέρνηση, εάν οι εταιρείες μπορούν να τιμωρηθούν για την επιμονή σε ηθικά προστατευτικά μέτρα.
Η συμφωνία της OpenAI με το Υπουργείο φαίνεται να στοχεύει, εν μέρει, στο να σπάσει το αδιέξοδο που τύλιξε τις διαπραγματεύσεις της Anthropic. Στην ανάρτηση του blog της, η OpenAI δήλωσε ότι ζήτησε να γίνουν οι ίδιοι όροι διαθέσιμοι σε όλα τα εργαστήρια AI και προέτρεψε την κυβέρνηση να επιλύσει τη διαμάχη της με την Anthropic.
Εκπρόσωποι της OpenAI και της Anthropic δεν απάντησαν άμεσα σε αιτήματα για σχόλια από το Business Insider. Δεν ήταν άμεσα σαφές εάν η Anthropic, ή οποιαδήποτε άλλη κορυφαία εταιρεία AI, είχε λάβει παρόμοιους συμβατικούς όρους με αυτούς που δήλωσε ότι είχε συμφωνήσει η OpenAI.
Τελικά, ο τρόπος επίλυσης της σύγκρουσης θα μπορούσε να επηρεάσει όχι μόνο την τύχη μιας εταιρείας, αλλά και την ισορροπία δυνάμεων μεταξύ της κυβέρνησης των ΗΠΑ και των ιδιωτών προγραμματιστών AI στη θέσπιση των κανόνων εμπλοκής για τις τεχνολογίες επόμενης γενιάς.
