Η OpenAI ανακοίνωσε ότι βρίσκεται σε διαδικασία επαναδιαπραγμάτευσης της αρχικής, “βιαστικής” συμφωνίας της με το Πεντάγωνο, με στόχο την ενσωμάτωση ρητών απαγορεύσεων στη χρήση τεχνητής νοημοσύνης για εγχώρια παρακολούθηση πολιτών των ΗΠΑ. Αυτή η κίνηση απαντά σε ένα από τα πιο αμφιλεγόμενα ζητήματα που έχουν προκύψει μεταξύ του αμερικανικού στρατού και της βιομηχανίας τεχνητής νοημοσύνης.
Ο διευθύνων σύμβουλος της OpenAI, Sam Altman, σε εσωτερικό σημείωμα που κοινοποιήθηκε στα μέσα κοινωνικής δικτύωσης, δήλωσε ότι η εταιρεία “δεν έπρεπε να βιαστεί” για την ολοκλήρωση της συμφωνίας την Παρασκευή. “Τα ζητήματα είναι εξαιρετικά περίπλοκα και απαιτούν σαφή επικοινωνία,” έγραψε. “Προσπαθούσαμε ειλικρινά να αποκλιμακώσουμε την κατάσταση και να αποφύγουμε ένα πολύ χειρότερο αποτέλεσμα, αλλά πιστεύω ότι φάνηκε απλώς επιπόλαιο και ακατάστατο.”
Σύμφωνα με τον Altman, η νέα διατύπωση της σύμβασης θα προβλέπει ότι τα συστήματα τεχνητής νοημοσύνης της OpenAI δεν θα “χρησιμοποιούνται σκόπιμα για εγχώρια παρακολούθηση ατόμων και υπηκόων των ΗΠΑ”, σύμφωνα με την Τέταρτη Τροπολογία, τον Νόμο περί Εθνικής Ασφάλειας του 1947 και τον Νόμο περί Επιτήρησης Εξωτερικών Πληροφοριών του 1978.
Η Katrina Mulligan, επικεφαλής συνεργασιών εθνικής ασφάλειας της OpenAI και πρώην ανώτατο στέλεχος του Πενταγώνου, του NSC και του DOJ, πρόσθεσε ότι οι Υπηρεσίες Πληροφοριών Άμυνας – συμπεριλαμβανομένης της NSA, της NGA και της DIA – θα απαγορεύεται να χρησιμοποιούν τις υπηρεσίες της OpenAI βάσει της συμφωνίας, και οποιαδήποτε χρήση από αυτές τις υπηρεσίες θα απαιτούσε ξεχωριστή τροποποίηση της σύμβασης.
Οι επαναδιαπραγματευμένοι όροι θα προσθέσουν επίσης ρητές απαγορεύσεις που καλύπτουν εμπορικά αγορασθέντα δεδομένα – όπως αρχεία θέσης κινητών τηλεφώνων ή πληροφορίες εφαρμογών φυσικής κατάστασης – τα οποία αποτελούσαν νομική “γκρίζα ζώνη”. Σύμφωνα με δημοσίευμα του The Atlantic, η ανταγωνιστική εταιρεία Anthropic είχε ζητήσει παρόμοιες εγγυήσεις κατά της εγχώριας παρακολούθησης στις δικές της διαπραγματεύσεις με το Πεντάγωνο. Η επιμονή της σε ισχυρότερες διασφαλίσεις για την απαγόρευση χρήσης των εργαλείων της για παρακολούθηση ήταν, σύμφωνα με πληροφορίες, ένα από τα βασικά εμπόδια που τελικά οδήγησαν σε κατάρρευση των διαπραγματεύσεων.
Παρά τους επαναδιαπραγματευμένους όρους, νομικοί εμπειρογνώμονες έχουν εκφράσει αμφιβολίες για την αποτελεσματικότητα των περιορισμών. “Αυτό φαίνεται να είναι μια σημαντική βελτίωση σε σχέση με την προηγούμενη διατύπωση όσον αφορά την παρακολούθηση, και χαίρομαι που το βλέπω,” δήλωσε ο Charles Bullock, ανώτερος ερευνητής στο Institute for Law and AI, σε ανάρτησή του στο X. “Δεν αντιμετωπίζει τις ανησυχίες σχετικά με τα αυτόνομα όπλα, ούτε ισχυρίζεται ότι το κάνει.”
Ανεξάρτητοι αναλυτές, καθώς και προσωπικό της OpenAI, έχουν επίσης ταχθεί υπέρ μιας διαδικασίας κατά την οποία ανεξάρτητοι δικηγόροι θα μπορούσαν να αναθεωρήσουν την πλήρη σύμβαση και να μοιραστούν την ανάλυσή τους με τους ενδιαφερόμενους εργαζομένους.
Η αντίδραση των εργαζομένων
Οι επαναδιαπραγματευμένοι όροι έρχονται μετά από κύμα αντιδράσεων εντός και εκτός της εταιρείας. Ο Altman είχε ήδη παραδεχτεί ότι η εικόνα της συμφωνίας με το Πεντάγωνο λίγες ώρες αφότου η κυβέρνηση Trump είχε χαρακτηρίσει την ανταγωνιστική Anthropic “κίνδυνο στην αλυσίδα εφοδιασμού” για την άρνησή της να υπογράψει σύμβαση χωρίς ρητές διασφαλίσεις AI, “δεν φαινόταν καλή”. Αυτό ίσχυε ιδιαίτερα, δεδομένου ότι ο Altman είχε προηγουμένως δηλώσει δημόσια ότι υποστήριζε τις “κόκκινες γραμμές” της Anthropic σχετικά με τη μαζική παρακολούθηση και τα αυτόνομα όπλα.
Η Anthropic είχε επιδιώξει δύο αυστηρά όρια στις διαπραγματεύσεις της με το Πεντάγωνο: την απαγόρευση χρήσης της AI της για μαζική παρακολούθηση Αμερικανών πολιτών και την απαγόρευση ενσωμάτωσης της τεχνολογίας της σε αυτόνομα οπλικά συστήματα – οριζόμενα ως εκείνα που μπορούν να λαμβάνουν απόφαση επίθεσης σε στόχους χωρίς άμεση ανθρώπινη επίβλεψη.
Κριτικοί, συμπεριλαμβανομένου του Jonathan Iwry, συνεργάτη στο Accountable AI Lab της Wharton School του Πανεπιστημίου της Πενσυλβάνια, κατηγόρησαν την OpenAI ότι υπονόμευσε την Anthropic σε μια κρίσιμη στιγμή. “Αυτό που είναι ιδιαίτερα απογοητευτικό είναι ότι το υπόλοιπο της βιομηχανίας AI δεν ήρθε σε υποστήριξη της Anthropic,” δήλωσε ο Iwry στο Fortune. “Εάν αυτές οι εταιρείες ήταν σοβαρές σχετικά με τη δέσμευσή τους στην ασφαλή και υπεύθυνη AI (στην οποία κάποιες από αυτές έχτισαν τη φήμη τους), θα μπορούσαν να κλείσουν τις γραμμές και να σταθούν ενωμένες ενάντια στο Πεντάγωνο για λογαριασμό του κοινού. Αντ’ αυτού, επέτρεψαν στην κυβέρνηση να τις αντιπαραθέτει ως ανταγωνιστές της αγοράς.”
Πολλοί από τους δικούς της εργαζομένους στην OpenAI υπέγραψαν ανοιχτή επιστολή υποστηρίζοντας την Anthropic μετά το αδιέξοδο. Οι καταναλωτές έδειξαν επίσης την υποστήριξή τους, στέλνοντας το Claude, τον βοηθό AI της Anthropic, στην κορυφή των charts του App Store της Apple για πρώτη φορά, γεγονός που υποδηλώνει ότι οι χρήστες άλλαζαν σε ένδειξη διαμαρτυρίας. Γκράφιτι με σπρέι που επέκρινε την απόφαση της OpenAI εμφανίστηκαν επίσης στο πεζοδρόμιο έξω από τα γραφεία της στο San Francisco.
Ορισμένοι ερευνητές της OpenAI μίλησαν ακόμη και δημόσια. Ο Aidan McLaughlin, ερευνητής επιστήμονας στην εταιρεία, δημοσίευσε στο X ότι προσωπικά δεν πίστευε ότι “αυτή η συμφωνία άξιζε τον κόπο”, σε μια ανάρτηση που έλαβε σχεδόν 500.000 προβολές.
