Εσωτερικές αντιδράσεις και προβληματισμοί έχουν ξεσπάσει στην OpenAI σχετικά με τη συμφωνία της εταιρείας με το Υπουργείο Άμυνας των ΗΠΑ. Εργαζόμενοι, τόσο εν ενεργεία όσο και πρώην, έχουν εκφράσει τις απόψεις τους σε αναρτήσεις τους στο X (πρώην Twitter) το Σαββατοκύριακο, θέτοντας ερωτήματα για το κατά πόσο η εταιρεία παραβίασε τις αρχές ασφαλείας της κατά τις διαπραγματεύσεις με το αμερικανικό Πεντάγωνο. Παράλληλα, συγκρίνουν τη συμφωνία αυτή με τη στάση της ανταγωνιστικής εταιρείας Anthropic.
Την προηγούμενη εβδομάδα, ο CEO της OpenAI, Sam Altman, επιβεβαίωσε τη συμφωνία που παρέχει στο Υπουργείο Άμυνας πρόσβαση στα μοντέλα τεχνητής νοημοσύνης της εταιρείας. Η συμφωνία αυτή έρχεται σε μια περίοδο κατά την οποία η Anthropic αρνήθηκε να αποδεχτεί κυβερνητικούς όρους που θα μπορούσαν να επιτρέψουν την ανάπτυξη του μοντέλου της, Claude, για μαζική εγχώρια παρακολούθηση ή για αυτόνομα φονικά όπλα.
Η OpenAI, σε ανάρτησή της στο blog της το Σάββατο, ανέφερε ότι η σύμβασή της με το Υπουργείο Άμυνας είναι “καλύτερη” και περιλαμβάνει περισσότερα “safety guardrails” (δικλίδες ασφαλείας) από το αρχικό συμβόλαιο της Anthropic. Ωστόσο, τη Δευτέρα το βράδυ, μετά τις ανησυχίες που προέκυψαν, ο Altman δήλωσε στο X ότι η OpenAI συνεργάζεται με το Πεντάγωνο για να γίνουν “κάποιες προσθήκες στη συμφωνία μας”.
**Τι λένε οι εργαζόμενοι της OpenAI:**
**Boaz Barak:** Ο Boaz Barak, μέλος του τεχνικού προσωπικού της OpenAI που εργάζεται στον τομέα της ευθυγράμμισης (alignment) και καθηγητής πληροφορικής στο Harvard, απέρριψε την ιδέα ότι η OpenAI αποδυνάμωσε τις δικλίδες ασφαλείας. Σε ανάρτησή του στο X την Κυριακή, ο Barak ανέφερε ότι υπάρχει μια αφήγηση ότι η Anthropic είχε ένα “υπέροχο συμβόλαιο” που εμπόδιζε την αμερικανική κυβέρνηση από το να το χρησιμοποιήσει για μαζική εγχώρια παρακολούθηση ή αυτόνομα φονικά όπλα, και ότι η συμφωνία της OpenAI θα απελευθερώσει τώρα αυτούς τους κινδύνους. “Είναι λάθος να παρουσιάζεται το συμβόλαιο της OAI σαν να είναι η ίδια συμφωνία με αυτή που απέρριψε η Anthropic, ή ακόμα και σαν να είναι λιγότερο προστατευτικό από τις κόκκινες γραμμές από ό,τι η συμφωνία που ήδη είχε σε ισχύ η Anthropic”, έγραψε. “Προφανώς δεν γνωρίζω όλες τις λεπτομέρειες του τι είχε πριν η Anthropic, αλλά με βάση όσα γνωρίζω, είναι πολύ πιθανό το συμβόλαιο που υπέγραψε η OAI να δίνει *περισσότερες* εγγυήσεις για τη μη χρήση μοντέλων για μαζική εγχώρια παρακολούθηση ή αυτόνομα φονικά όπλα από ό,τι είχε ποτέ η Anthropic”, πρόσθεσε. Σε άλλη ανάρτηση στο X τη Δευτέρα, ο Barak δήλωσε: “Η κόκκινη γραμμή της μη χρήσης AI για μαζική εγχώρια παρακολούθηση δεν είναι κόκκινη γραμμή της Anthropic – θα έπρεπε να είναι κόκκινη γραμμή όλων μας.”
**Miles Brundage:** Ο Miles Brundage, πρώην επικεφαλής πολιτικής έρευνας της OpenAI, δήλωσε σε ανάρτησή του στο X το Σάββατο ότι “υπό το φως όσων λένε εξωτερικοί δικηγόροι και το Πεντάγωνο, η προεπιλεγμένη υπόθεση των εργαζομένων της OpenAI εδώ θα πρέπει δυστυχώς να είναι ότι η OpenAI υποχώρησε + το πλαισίωσε ως μη υποχώρηση, και έκανε κακό στην Anthropic ενώ το πλαισίωνε ως βοήθεια σε αυτήν”. “Για να είμαι σαφής, η OAI είναι ένας πολύπλοκος οργανισμός, και πιστεύω ότι πολλοί άνθρωποι που συμμετείχαν σε αυτό εργάστηκαν σκληρά για αυτό που θεωρούν ένα δίκαιο αποτέλεσμα. Κάποιους άλλους δεν τους εμπιστεύομαι καθόλου, ιδιαίτερα όσον αφορά τις συναλλαγές με την κυβέρνηση και την πολιτική”, πρόσθεσε. Αργότερα διευκρίνισε την Κυριακή σε απάντηση στην ανάρτησή του ότι “πιθανότατα δεν θα έπρεπε να είχε πει ‘υποχώρησε’ στην πρώτη ανάρτηση”. “Η OpenAI μπορεί κάλλιστα να πέτυχε ό,τι ήθελε και, ταυτόχρονα, αυτό θα μπορούσε να έχει αποδυναμώσει τη διαπραγματευτική θέση της Anthropic, καθώς η Anthropic νοιαζόταν για μια λεπτομέρεια που η OAI όχι, και αυτό θα ήταν υποχώρηση από τη δική τους οπτική γωνία”, είπε.
**Clive Chan:** Ο Clive Chan, μέλος του τεχνικού προσωπικού της OpenAI, δήλωσε σε ανάρτησή του στο X την Κυριακή ότι πιστεύει πως η σύμβαση της εταιρείας περιλαμβάνει εγγυήσεις κατά της χρήσης των μοντέλων της για μαζική εγχώρια παρακολούθηση ή αυτόνομα φονικά όπλα. Πρόσθεσε ότι “υποστηρίζει εσωτερικά την έκδοση περισσότερων πληροφοριών” σχετικά με τη συμφωνία. “Εάν αργότερα μάθουμε ότι δεν ισχύει κάτι τέτοιο, τότε θα υποστηρίξω εσωτερικά την τερματισμό της σύμβασης”, δήλωσε. Σε απάντηση στην ανάρτησή του, ο Chan αναγνώρισε ότι πιθανότατα υπάρχουν περιορισμοί στο τι μπορεί να δημοσιοποιηθεί σχετικά με συμβάσεις άμυνας. Ωστόσο, δήλωσε ότι η εταιρεία θα έπρεπε να έχει προβλέψει τις δημόσιες ανησυχίες και να ετοιμάσει σαφέστερες απαντήσεις εκ των προτέρων. Μετά τη δημοσίευση της ανάρτησης της OpenAI στο blog, ο Chan δήλωσε την Κυριακή στο X ότι η ανάρτηση “καλύπτει τις περισσότερες” ανησυχίες του. “Ευχαριστώ την ομάδα που ήταν εξαιρετικά προσεκτική στην προσέγγιση σε αυτό”, πρόσθεσε.
**Noam Brown:** Ο Noam Brown, ερευνητής στην OpenAI, δήλωσε σε ανάρτησή του στο X την Τρίτη ότι η αρχική γλώσσα στη συμφωνία της εταιρείας με το Υπουργείο Πολέμου άφησε “εύλογα ερωτήματα αναπάντητα”, ιδιαίτερα σχετικά με νέους τρόπους με τους οποίους η τεχνητή νοημοσύνη θα μπορούσε δυνητικά να επιτρέψει τη νόμιμη παρακολούθηση. Μετά την ενημέρωση της OpenAI στην ανάρτησή της στο blog το βράδυ της Δευτέρας, ο Brown δήλωσε ότι “η γλώσσα έχει πλέον ενημερωθεί για να αντιμετωπίσει αυτό”, αλλά πιστεύει ακράδαντα ότι “ο κόσμος δεν θα πρέπει να βασίζεται στην εμπιστοσύνη σε εργαστήρια AI ή υπηρεσίες πληροφοριών για την ασφάλεια και την προστασία του”. Ο Brown πρόσθεσε ότι η ανάπτυξη σε υπηρεσίες όπως η NSA και άλλες υπηρεσίες πληροφοριών του Υπουργείου Πολέμου θα ανασταλεί για να δοθεί χρόνος αντιμετώπισης των πιθανών παρακάμψεων “μέσω της δημοκρατικής διαδικασίας πριν από την ανάπτυξη”. “Γνωρίζω ότι η νομοθεσία μπορεί μερικές φορές να είναι αργή, αλλά φοβάμαι μια ολισθηρή πλαγιά όπου συνηθίζουμε να παρακάμπτουμε τη δημοκρατική διαδικασία για σημαντικές αποφάσεις πολιτικής”, έγραψε.
