Ο CEO της OpenAI, Sam Altman, υπερασπίστηκε την απόφαση της εταιρείας να συνάψει συμφωνία με το Πεντάγωνο, λίγες ώρες αφού η ανταγωνιστική Anthropic αποκλείστηκε ως “κίνδυνος εφοδιαστικής αλυσίδας”. Η Anthropic επιθυμούσε εγγυήσεις ότι η τεχνητή νοημοσύνη της δεν θα χρησιμοποιούνταν για μαζική παρακολούθηση ή αυτόνομα όπλα. Η OpenAI δήλωσε ότι πέτυχε παρόμοιους περιορισμούς με διαφορετικό τρόπο στη δική της συμφωνία, ωστόσο, η εταιρεία αντιμετώπισε σφοδρές αντιδράσεις.
Ο Sam Altman και άλλα στελέχη της OpenAI χρησιμοποίησαν τα μέσα κοινωνικής δικτύωσης το Σαββατοκύριακο για να υπερασπιστούν την απόφαση, που ανακοινώθηκε την Παρασκευή, να συνάψουν συμφωνία με το Υπουργείο Άμυνας (DoW) ώστε τα μοντέλα της εταιρείας να χρησιμοποιηθούν σε απόρρητα στρατιωτικά δίκτυα. Η συμφωνία αυτή ήρθε λίγες ώρες αφού η αρχαίος ανταγωνιστής, Anthropic, απέρριψε παρόμοια συμφωνία με το Πεντάγωνο και η κυβέρνηση Trump χαρακτήρισε την Anthropic ως “κίνδυνο εφοδιαστικής αλυσίδας”.
Η OpenAI αντιμετώπισε έντονη κριτική για τη συμφωνία της με το Πεντάγωνο, παρά το γεγονός ότι ο Altman είχε εκφράσει την υποστήριξή του στην προηγούμενη εβδομάδα στην προϋπόθεση της Anthropic, η οποία δεν θα δεχόταν συμβόλαιο με το Πεντάγωνο χωρίς ρητές απαγορεύσεις για τη χρήση της τεχνολογίας AI της για μαζική παρακολούθηση πολιτών των ΗΠΑ ή την ενσωμάτωσή της σε αυτόνομα όπλα που μπορούν να αποφασίσουν για χτυπήματα χωρίς ανθρώπινη επίβλεψη.
Ορισμένοι από αυτούς τους επικριτές ξεκίνησαν ακόμη και μια εκστρατεία για να πείσουν τους χρήστες του ChatGPT να εγκαταλείψουν το μοντέλο AI και να στραφούν στο chatbot Claude της Anthropic. Υπήρξαν ενδείξεις ότι η εκστρατεία είχε αντίκτυπο, καθώς το Claude ξεπέρασε το ChatGPT και έγινε η πιο δημοφιλής δωρεάν εφαρμογή στο κατάστημα της Apple. Ο πεζόδρομος έξω από τα γραφεία της OpenAI στο Σαν Φρανσίσκο καλύφθηκε επίσης με γκράφιτι που επέκριναν την απόφασή της να συνάψει συμφωνία με το Πεντάγωνο, ενώ γκράφιτι έξω από τα γραφεία της Anthropic επικροτούσαν την απόφασή της να αρνηθεί συμβόλαιο που δεν περιλάμβανε απαγορεύσεις στη χρήση των μοντέλων AI της για μαζική παρακολούθηση και αυτόνομα όπλα.
Μια προσπάθεια κοινωνικής δικτύωσης του Altman και της OpenAI το Σαββατοκύριακο φάνηκε να στοχεύει στην κατευνασμό των ανησυχιών των εργαζομένων της εταιρείας σχετικά με το συμβόλαιο του Πενταγώνου. Πολλοί εργαζόμενοι της OpenAI είχαν υπογράψει ανοιχτή επιστολή την προηγούμενη εβδομάδα υποστηρίζοντας την άρνηση της Anthropic να δεχτεί τις απαιτήσεις του Πενταγώνου και αντιτιθέμενοι στην απόφασή του να χαρακτηρίσει την Anthropic ως κίνδυνο εφοδιαστικής αλυσίδας. (Ο Altman δήλωσε επίσης το Σαββατοκύριακο ότι διαφωνούσε με τον χαρακτηρισμό κινδύνου εφοδιαστικής αλυσίδας).
Τουλάχιστον ένας εργαζόμενος της OpenAI αμφισβήτησε δημόσια εάν το συμβόλαιο της εταιρείας με το Πεντάγωνο παρείχε ισχυρές διασφαλίσεις. Ο Leo Gao, εργαζόμενος στην OpenAI που εργάζεται για τη διασφάλιση ότι τα όλο και πιο ισχυρά μοντέλα AI παραμένουν ευθυγραμμισμένα με τις προθέσεις των χρηστών και τις ανθρώπινες αξίες, επέκρινε τον εργοδότη του για τη συμφωνία να επιτρέψει στο DoW να χρησιμοποιήσει την τεχνολογία του για “όλες τις νόμιμες χρήσεις” και στη συνέχεια να εμπλακεί σε αυτό που ο Gao χαρακτήρισε “παρωδία” για να φανεί ότι υπήρχαν περαιτέρω περιορισμοί σε αυτά που θα μπορούσε να κάνει το Πεντάγωνο με τα μοντέλα GPT της OpenAI.
Ο Altman παραδέχτηκε σε μια συνεδρία “Ask Me Anything” στην πλατφόρμα κοινωνικής δικτύωσης X το βράδυ του Σαββάτου ότι η συμφωνία του με το Πεντάγωνο “ήταν σίγουρα βιαστική, και η εικόνα δεν δείχνει καλή”.
Ωστόσο, επέμενε ότι η OpenAI κινήθηκε γρήγορα για να συνάψει τη συμφωνία, επειδή ήθελε να αποκλιμακώσει την όλο και πιο τεταμένη κατάσταση μεταξύ του αμερικανικού στρατού και της Anthropic. Ο αγώνας αυτός απειλούσε δυνητικά να βλάψει τη βιομηχανία AI στο σύνολό της, εν μέρει, προκαλώντας την προοπτική της εθνικοποίησης ενός εργαστηρίου AI από την κυβέρνηση των ΗΠΑ ή τουλάχιστον τη χρήση της δύναμής της για να εξαναγκάσει μια ιδιωτική εταιρεία να παραδώσει τεχνολογία με τους δικούς της όρους.
“Αν έχουμε δίκιο και αυτό οδηγήσει σε μια αποκλιμάκωση μεταξύ του DoW και της βιομηχανίας, θα φανεί σαν ιδιοφυΐες, και μια εταιρεία που ανέλαβε πολύ πόνο για να κάνει πράγματα για να βοηθήσει τη βιομηχανία”, δήλωσε ο Altman. “Αν όχι, θα συνεχίσουμε να χαρακτηριζόμαστε ως βιαστικοί και απρόσεκτοι.”
Πρόσθεσε ότι “μια καλή σχέση μεταξύ της κυβέρνησης και των εταιρειών που αναπτύσσουν αυτήν την τεχνολογία είναι κρίσιμη τα επόμενα δύο χρόνια.”
Και είπε ότι ήταν αντίθετος στο να χαρακτηριστεί η Anthropic ως κίνδυνος εφοδιαστικής αλυσίδας. “Η επιβολή του [Designation of Supply Chain Risk] στην Anthropic θα ήταν πολύ κακή για τη βιομηχανία μας και τη χώρα μας,” δήλωσε ο Altman. “Για να το πω πολύ καθαρά: πιστεύω ότι αυτή είναι μια πολύ κακή απόφαση από το DoW και ελπίζω να την ανατρέψουν. Αν δεχτούμε κριτική για έντονη κριτική, ας είναι.”
Η OpenAI δήλωσε ότι βρήκε μια συμβιβαστική προσέγγιση που διατήρησε τους ίδιους περιορισμούς, ενώ παράλληλα αποδέχτηκε την επιθυμία του στρατού να μην έχει συμβατικές περιορίσεις στον τρόπο χρήσης της τεχνολογίας AI που αγοράζει. Η εταιρεία δήλωσε ότι οι περιορισμοί σχετικά με τον τρόπο χρήσης της AI της βασίζονται τόσο σε αναφορές σε υφιστάμενους νόμους που περιλαμβάνονται στο συμβόλαιο με το DoW, όσο και σε τεχνικούς περιορισμούς στο τι θα είναι ικανά να κάνουν τα μοντέλα AI της.
Δήλωσε ότι το DoW συμφώνησε να της επιτρέψει να δημιουργήσει αυτούς τους τεχνικούς περιορισμούς. Οι τεχνικοί περιορισμοί θα περιλαμβάνουν συστήματα που θα ταξινομούν όλες τις προτροπές που οι χρήστες του DoW τροφοδοτούν στα μοντέλα της OpenAI και θα αρνούνται οποιαδήποτε που ο ταξινομητής κρίνει ότι μπορεί να παραβιάζει τις “κόκκινες γραμμές” της OpenAI. Μπορεί επίσης να περιλαμβάνει λεπτομερή ρύθμιση των μοντέλων της OpenAI, έτσι ώστε να μην συμμορφώνονται εύκολα με οδηγίες που παραβιάζουν τις δύο “κόκκινες γραμμές”.
Η OpenAI αναφέρει ότι το συμβόλαιό της προσπαθεί να δεσμεύσει το Πεντάγωνο με τους ισχύοντες νόμους.
Η OpenAI δημοσίευσε ένα τμήμα του συμβολαίου της με το DoW, στο οποίο δήλωσε ότι συμφώνησε ότι η τεχνολογία της θα μπορούσε να χρησιμοποιηθεί “για όλες τις νόμιμες χρήσεις”, αλλά το οποίο περιλάμβανε επίσης ειδικές αναφορές στους υφιστάμενους νόμους των ΗΠΑ και στα έγγραφα πολιτικής του Υπουργείου Άμυνας που καθορίζουν περιορισμούς στην παρακολούθηση πολιτών των ΗΠΑ και στον τρόπο ανάπτυξης αυτόνομων όπλων.
Η Katrina Mulligan, επικεφαλής συνεργασιών εθνικής ασφάλειας της OpenAI και πρώην αρχηγός του επιτελείου του Υπουργού Στρατού, δήλωσε κατά τη διάρκεια της συνεδρίας “Ask Me Anything” στο X ότι η αναφορά σε αυτούς τους υφιστάμενους νόμους και πολιτικές παρείχε μεγαλύτερη διασφάλιση ότι το Πεντάγωνο δεν θα παραβίαζε αργότερα τις “κόκκινες γραμμές” της εταιρείας από ό,τι υποστήριζαν ορισμένοι επικριτές. “Αποδεχτήκαμε τη γλώσσα ‘όλες οι νόμιμες χρήσεις’ που πρότεινε το Τμήμα, αλλά τους απαιτήσαμε να ορίσουν τους νόμους που τους περιορίζουν στην παρακολούθηση και την αυτονομία απευθείας στο συμβόλαιο”, είπε. “Και επειδή οι νόμοι μπορούν να αλλάξουν, η κωδικοποίησή τους στο συμβόλαιο προστατεύει από αλλαγές στους νόμους ή την πολιτική που δεν μπορούμε να προβλέψουμε.”
Ορισμένοι νομικοί εμπειρογνώμονες αντέκρουσαν τη θέση της Mulligan, τουλάχιστον όσον αφορά τις πολιτικές του DoW για τα αυτόνομα όπλα. Ο Charles Bullock, ανώτερος συνεργάτης στο Institute for Law & AI, δήλωσε στο X ότι “το DoW μπορεί, φυσικά, να αλλάξει τις δικές του πολιτικές όποτε θέλει” και ότι η γλώσσα του συμβολαίου που δημοσίευσε η OpenAI δεν απαιτεί από το DoW να ακολουθεί την υπάρχουσα πολιτική επ’ αόριστον. Ωστόσο, δήλωσε ότι το συμβόλαιο φαινόταν να δεσμεύει το DoW στην τήρηση των υφιστάμενων ερμηνειών των υφιστάμενων νόμων που διέπουν τη μαζική παρακολούθηση πολιτών των ΗΠΑ.
Ο Bullock δήλωσε επίσης ότι ήταν αδύνατο να γνωρίζουμε πόσο αδιάσειστοι ήταν οι περιορισμοί που περιέχονταν στο συμβόλαιο της OpenAI χωρίς να αξιολογηθεί ολόκληρο το συμβόλαιο, και όχι μόνο το μικρό τμήμα που η OpenAI έκανε δημόσιο. Η OpenAI δήλωσε ότι οι κυβερνητικοί κανόνες της απαγορεύουν τη δημοσίευση ολόκληρου του συμβολαίου, επειδή αφορά ένα απόρρητο σύστημα.
Μια συζήτηση για τον ορισμό της “μαζικής παρακολούθησης”.
Πολλοί από όσους ήταν επιφυλακτικοί σχετικά με τη συμφωνία της OpenAI με το Πεντάγωνο σημείωσαν ότι ο όρος “μαζική παρακολούθηση” δεν είναι καλά ορισμένος και ρώτησαν τα στελέχη της OpenAI τι θα συνέβαινε εάν οι υπηρεσίες στρατιωτικών πληροφοριών προσπαθούσαν να χρησιμοποιήσουν τα μοντέλα AI της για την ανάλυση εμπορικά διαθέσιμων δεδομένων – όπως δεδομένα τοποθεσίας κινητών τηλεφώνων ή δεδομένα από εφαρμογές φυσικής κατάστασης – που θα μπορούσαν να συγκεντρωθούν σε μεγάλη κλίμακα για τη διεξαγωγή παρακολούθησης πολιτών των ΗΠΑ στην Αμερική. Η Υπηρεσία Πληροφοριών Άμυνας πιστεύεται ότι έχει αγοράσει τέτοια δεδομένα και η χρήση τους παραμένει μια νομική “γκρίζα ζώνη”. Η Anthropic, σύμφωνα με ένα άρθρο στην The Atlantic, ανησυχούσε ιδιαίτερα για τη χρήση της τεχνολογίας της από το Πεντάγωνο για τέτοιου είδους ανάλυση και ότι η επιμονή της για τον περιορισμό αυτού του σεναρίου χρήσης ήταν ένα από τα κύρια εμπόδια για την υπέρβαση του αδιεξόδου της με το DoW.
“Δεν μπορούμε να προστατευθούμε από μια κυβερνητική υπηρεσία που αγοράζει εμπορικά διαθέσιμα σύνολα δεδομένων, αλλά το συμβόλαιό μας ενσωματώνει την απαγόρευση της μαζικής εγχώριας παρακολούθησης ως δεσμευτικό όρο χρήσης”, δήλωσε η Mulligan κατά τη διάρκεια της συνεδρίας “Ask Me Anything”.
Είπε επίσης ότι η απόφαση της OpenAI να βασιστεί σε μια πολυδιάστατη προσέγγιση που περιελάμβανε τεχνικά συστήματα για τον περιορισμό των δυνατοτήτων του Πενταγώνου παρείχε μια πιο ισχυρή λύση από την απλή στήριξη σε συμβατική γλώσσα, η οποία, όπως είπε, φάνηκε να είναι η κύρια προσέγγιση της Anthropic. Είπε ότι η Anthropic δεν μπόρεσε να βασιστεί σε αυτήν την τεχνική λύση, επειδή παρείχε ήδη εκδόσεις των μοντέλων AI της στον στρατό με αφαιρεμένα κάποιους από τους συνήθεις μηχανισμούς ασφαλείας.
“Η Anthropic έχει ασχοληθεί κυρίως με πολιτικές χρήσης, διότι οι τρέχουσες απόρρητες αναπτύξεις της περιλαμβάνουν μειωμένους ή αφαιρεθέντες μηχανισμούς ασφαλείας (καθιστώντας τις πολιτικές χρήσης τις κύριες διασφαλίσεις σε αναπτύξεις εθνικής ασφάλειας)”, είπε. “Οι πολιτικές χρήσης, από μόνες τους, δεν αποτελούν εγγύηση για τίποτα. Οποιαδήποτε υπεύθυνη ανάπτυξη AI σε απόρρητα περιβάλλοντα θα πρέπει να περιλαμβάνει πολυεπίπεδες διασφαλίσεις, συμπεριλαμβανομένης μιας συνετής στοίβας ασφαλείας, περιορισμούς στην αρχιτεκτονική ανάπτυξης και την άμεση συμμετοχή εμπειρογνωμόνων AI σε σημαντικές περιπτώσεις χρήσης AI. Αυτό επιδιώξαμε στις διαπραγματεύσεις μας και γι’ αυτό πιστεύουμε ότι η συμφωνία που κάναμε έχει περισσότερα “guardrails” από οποιαδήποτε προηγούμενη συμφωνία για απόρρητες αναπτύξεις AI, συμπεριλαμβανομένης της Anthropic.”
Ένας άλλος διευθυντής της OpenAI, ο Boaz Barack, ο οποίος εργάζεται στην ευθυγράμμιση και την ασφάλεια της AI, εκπροσώπησε επίσης την εταιρεία στην AMA και επέκρινε επίσης την Anthropic για την υπερβολική εστίαση στη συμβατική γλώσσα και όχι σε άλλους τύπους διασφαλίσεων. “Έχω την εντύπωση ότι οι άνθρωποι στην Anthropic είχαν μη ρεαλιστικές προσδοκίες για τα συμβατικά θέματα”, είπε σε απάντηση σε ερώτηση του πρώην επικεφαλής πολιτικής της OpenAI, Miles Brundage, σημειώνοντας ότι οι εταιρείες τεχνολογίας ήταν πάντα κάπως στο έλεος του πώς το DoW ερμήνευε τους όρους του συμβολαίου.
Ποιος πρέπει να αποφασίζει πώς θα χρησιμοποιείται η AI;
Ο Altman δήλωσε ότι πολλές από τις ερωτήσεις στην AMA αναφέρονταν στο ζήτημα του αν οι προσπάθειες AI θα έπρεπε να εθνικοποιηθούν. Ο CEO της OpenAI δήλωσε ότι “για πολύ καιρό μου φαινόταν ότι θα ήταν καλύτερο αν η κατασκευή AGI ήταν ένα κυβερνητικό έργο”, αλλά και ότι “δεν φαίνεται πολύ πιθανό με την τρέχουσα πορεία”.
Ο Altman δήλωσε επίσης ότι εξεπλάγη από το πόσοι από τους επικριτές της OpenAI έδειχναν να έχουν μεγαλύτερη εμπιστοσύνη σε μη εκλεγμένους διευθυντές τεχνολογίας που λαμβάνουν αποφάσεις σχετικά με την κατάλληλη χρήση της AI, παρά σε κυβερνητικούς αξιωματούχους που, τουλάχιστον θεωρητικά, ήταν υπεύθυνοι στο Κογκρέσο και τελικά στους ψηφοφόρους.
“Πιστεύω βαθιά στη δημοκρατική διαδικασία, και ότι οι εκλεγμένοι ηγέτες μας έχουν την εξουσία, και ότι όλοι πρέπει να τηρούμε το σύνταγμα. Τρομοκρατούμαι από έναν κόσμο όπου οι εταιρείες AI συμπεριφέρονται σαν να έχουν περισσότερη δύναμη από την κυβέρνηση”, δήλωσε ο Altman στο X. “Θα τρομοκρατούμουν επίσης από έναν κόσμο όπου η κυβέρνησή μας αποφάσιζε ότι η μαζική εγχώρια παρακολούθηση είναι αποδεκτή.”
