Η σύγκρουση μεταξύ του Υπουργείου Άμυνας των ΗΠΑ και της εταιρείας Τεχνητής Νοημοσύνης (ΤΝ) Anthropic αποτελεί την πρώτη ουσιαστική δοκιμασία για τον έλεγχο των ισχυρών συστημάτων ΤΝ. Η αποτυχία επίτευξης συμφωνίας στους όρους συμβολαίου, με το Πεντάγωνο να χαρακτηρίζει την Anthropic «κίνδυνο στην αλυσίδα εφοδιασμού», αναδεικνύει θεμελιώδη ζητήματα για το ποιος πρέπει να ελέγχει τη χρήση της ΤΝ σε μια δημοκρατική κοινωνία, πώς θα ασκείται αυτός ο έλεγχος και ποιες θα είναι οι συνέπειες για τις εταιρείες που διαφωνούν με την κυβερνητική πολιτική.
Το γεγονός αυτό εγείρει τουλάχιστον τρία κρίσιμα ερωτήματα: Ποιος πρέπει να έχει τον έλεγχο της χρήσης της ΤΝ σε μια δημοκρατική κοινωνία; Πώς πρέπει να ασκείται αυτός ο έλεγχος; Και ποιες θα είναι οι συνέπειες για μια εταιρεία που διαφωνεί με την κυβερνητική πολιτική;
Ακόμη και αν ο Sam Altman, CEO της OpenAI, έκρινε σωστό να υπογράψει συμφωνία με το Πεντάγωνο, η οποία περιλαμβάνει συμβατική υποχρέωση να επιτρέψει στο στρατό να χρησιμοποιεί τα μοντέλα ΤΝ της OpenAI «για οποιονδήποτε νόμιμο σκοπό» που η Anthropic αρνήθηκε να αποδεχθεί, αναγνώρισε σωστά το διακύβευμα. Όπως δήλωσε, «είμαστε υπόλογοι σε μια δημοκρατική διαδικασία όπου εκλέγουμε τους ηγέτες μας… αλλά νομίζω ότι θα πρέπει να φοβάστε μια ιδιωτική εταιρεία που αποφασίζει τι είναι και τι δεν είναι ηθικό στους πιο σημαντικούς τομείς». Αυτή η δήλωση υπογραμμίζει την αντίθεση στην ιδέα μιας ιδιωτικής εταιρείας να καθορίζει πολιτικές για μια εκλεγμένη κυβέρνηση.
Η ταχύτητα ανάπτυξης της ΤΝ έρχεται σε αντίθεση με την αργή διαδικασία της νομοθετικής εξουσίας. Τρία χρόνια μετά την εμφάνιση του ChatGPT, το Κογκρέσο δεν έχει περάσει κανένα ομοσπονδιακό νομοθετικό πλαίσιο για την ΤΝ. Ενώ πολλοί συμφωνούν ότι οι πολιτικές για τη χρήση της ΤΝ από την κυβέρνηση πρέπει να καθορίζονται από εκλεγμένους αξιωματούχους, η πρακτική δυσκολία έγκειται στην έλλειψη δράσης αυτών των αντιπροσώπων. Η προσπάθεια επίτευξης πολιτικής για την ΤΝ μέσω συμβατικών διαπραγματεύσεων μεταξύ ερευνητικών εργαστηρίων και της κυβέρνησης, αν και υποκατάστατο της πραγματικής δημοκρατικής διακυβέρνησης, μπορεί να είναι καλύτερη από την απουσία διακυβέρνησης.
Επιπλέον, η τάση των κυβερνήσεων τις τελευταίες δεκαετίες να ερμηνεύουν ευρέως τους υφιστάμενους νόμους για να επεκτείνουν την εξουσία τους στη χρήση της τεχνολογίας για την παρακολούθηση των πολιτών, σε συνδυασμό με τη μυστικότητα που περιβάλλει πολλές στρατιωτικές δραστηριότητες, έχει δημιουργήσει δυσπιστία. Αυτό οδηγεί ορισμένους να εμπιστεύονται περισσότερο μη εκλεγμένους, αλλά λαμπρούς, τεχνολογικούς ηγέτες, όπως ο Dario Amodei της Anthropic, για τη λήψη ορθών αποφάσεων.
Τέλος, η αυξανόμενη δυσπιστία προς την τρέχουσα κυβέρνηση, λόγω προηγούμενων ενεργειών της κατά της εσωτερικής διαφωνίας και της χρήσης στρατιωτικών μέσων, γεννά ερωτήματα σχετικά με το αν αυτή η συγκεκριμένη διοίκηση θα πρέπει να έχει την εξουσία να χρησιμοποιεί την ΤΝ για οτιδήποτε οι δικοί της νομικοί πιστεύουν ότι είναι νόμιμο.
Το ερώτημα της “εθνικοποίησης” της ΤΝ είναι υπαρκτό. Αν η προηγμένη ΤΝ θεωρείται στρατηγική τεχνολογία, γιατί να μην την εθνικοποιήσει η κυβέρνηση, όπως συνέβη με άλλες στρατηγικές καινοτομίες στο παρελθόν; Η προσέγγιση του Πενταγώνου, μέσω απειλών χρήσης του νόμου περί Αμυντικής Παραγωγής ή της επισήμανσης ως «κινδύνου στην αλυσίδα εφοδιασμού», μοιάζει με μια έμμεση εθνικοποίηση.
Τέλος, τίθεται το ερώτημα του κόστους της διαφωνίας σε μια δημοκρατία. Η ακύρωση του συμβολαίου των 200 εκατομμυρίων δολαρίων με την Anthropic μπορεί να είναι νόμιμη, αλλά η επισήμανση της εταιρείας ως «κινδύνου στην αλυσίδα εφοδιασμού» πλήττει τα δικαιώματα ιδιοκτησίας και την ελευθερία του λόγου. Μια τέτοια επισήμανση, αν εφαρμοστεί, θα μπορούσε να αποβεί μοιραία για την Anthropic, περιορίζοντας τις εμπορικές της σχέσεις. Το ερώτημα παραμένει: πρέπει η διαφωνία με την κυβέρνηση να συνεπάγεται το θάνατο της επιχείρησης;
Ενώ ο Sam Altman υποστηρίζει ότι η συμφωνία του με το Πεντάγωνο αποσκοπούσε στην αποκλιμάκωση της έντασης, η στενή συνεργασία μεταξύ κυβερνήσεων και εταιρειών ΤΝ είναι ζωτικής σημασίας, ειδικά σε μια εποχή όπου η ΤΝ μπορεί να φέρει πρωτοφανείς αλλαγές στην οικονομία και την κοινωνία. Η υποδαύλιση δυσπιστίας και σύγκρουσης μεταξύ της κυβέρνησης και των δημιουργών προηγμένων συστημάτων ΤΝ φαίνεται εξαιρετικά αρνητική.
