Η διαμάχη που ξέσπασε μεταξύ των εταιρειών Anthropic και OpenAI, σε συνδυασμό με την εμπλοκή του Πενταγώνου, υπογραμμίζει ένα πιο σοβαρό πρόβλημα στην ανάπτυξη της Τεχνητής Νοημοσύνης (ΤΝ): τη συγκέντρωση εξουσίας στα χέρια λίγων ηγετών και αξιωματούχων που καθορίζουν τον τρόπο κατασκευής, χρήσης και ανάπτυξης αυτών των συστημάτων.
Εδώ και χρόνια, οι επικριτές της βιομηχανίας ΤΝ προειδοποιούν για τον κίνδυνο της «βιομηχανικής αιχμαλωσίας», όπου η ανάπτυξη ισχυρών συστημάτων ΤΝ περιορίζεται σε λίγες εταιρείες που συνεργάζονται στενά με κυβερνήσεις. Αυτό καθιστά την ασφάλεια των συστημάτων εξαρτημένη από τα συμφέροντα και τις αντιπαλότητες όσων τα διευθύνουν. Ήδη από το 2023, ο ερευνητής Yoshua Bengio είχε χαρακτηρίσει τον πιθανό έλεγχο του τομέα της ΤΝ από λίγες εταιρείες ως το «δεύτερο μεγαλύτερο πρόβλημα», αμέσως μετά τους υπαρξιακούς κινδύνους που εγκυμονεί η τεχνολογία.
Είναι, λοιπόν, ανησυχητικό να βλέπουμε την έντονη δυσφορία που εξέφρασε ο CEO της Anthropic, Dario Amodei, για τον CEO της OpenAI, Sam Altman, σε ένα διαρρεύσαν εσωτερικό σημείωμα. Το οργισμένο μήνυμα του Amodei, που φέρεται να στάλθηκε μέσω του Slack της Anthropic σε όλους τους εργαζομένους, ήρθε μετά την ανακοίνωση της OpenAI για συμφωνία παροχής ΤΝ στο Πεντάγωνο, και ενώ ο Υπουργός Πολέμου Pete Hegseth είχε χαρακτηρίσει την Anthropic «κίνδυνο εφοδιαστικής αλυσίδας» για την άρνησή της να συνάψει παρόμοια συμφωνία.
Ο Amodei χαρακτήρισε τη δημοσιοποίηση της OpenAI «ψευδή», «θέατρο ασφάλειας» και «παράδειγμα του ποιοι πραγματικά είναι», ενώ πολλά σχόλια του Altman τα χαρακτήρισε «ξεκάθαρες ψευδείς» και «gaslighting». Από την πλευρά του, ο Altman έχει επίσης εξαπολύσει δημόσιες επιθέσεις κατά της Anthropic, χαρακτηρίζοντας μία από τις διαφημιστικές καμπάνιες της εταιρείας στο Super Bowl «ξεκάθαρα ανέντιμη» και κατηγορώντας την για «διπλή ομιλία». Η αντιπαλότητα αυτή έχει γίνει ορατή και με συμβολικούς τρόπους, όπως η άρνηση των Altman και Amodei να κρατηθούν χέρι-χέρι για μια ομαδική φωτογραφία με τον πρωθυπουργό Narendra Modi σε πρόσφατη σύνοδο.
Με την αμερικανική κυβέρνηση να αναλαμβάνει ελάχιστη δράση για τη ρύθμιση της ΤΝ και τις διεθνείς προσπάθειες για την ασφάλειά της να έχουν σχεδόν σταματήσει, ο κόσμος βασίζεται ουσιαστικά στην αυτορρύθμιση του κλάδου. Τόσο η OpenAI όσο και η Anthropic έχουν δημόσια υποστηρίξει αυτό το μοντέλο και έχουν υπογράψει εθελοντικές δεσμεύσεις ασφάλειας. Μάλιστα, κατά καιρούς έχουν συνεργαστεί για ανεξάρτητες αξιολογήσεις ασφαλείας των μοντέλων τους πριν από την κυκλοφορία τους.
Ωστόσο, όταν οι ηγέτες των δύο πιο επιδραστικών εργαστηρίων ΤΝ εμφανώς δεν μπορούν να συνεννοηθούν και ο ανταγωνισμός μεταξύ τους είναι τόσο σφοδρός, τίθεται ένα άβολο ερώτημα: πόσο ρεαλιστικά μπορούμε να αναμένουμε συνεργασία σε θέματα ασφάλειας;
Η πίεση του ανταγωνισμού έχει ήδη επηρεάσει και τις δύο εταιρείες όσον αφορά την ασφάλεια της ΤΝ. Η Anthropic αναθεώρησε πρόσφατα την Πολιτική Υπεύθυνης Κλιμάκωσης, δηλώνοντας ότι δεν θα καθυστερεί πλέον μονομερώς την ανάπτυξη ενός νέου μοντέλου απλώς και μόνο επειδή δεν γνωρίζει ακόμη πώς να το καταστήσει ασφαλές. Η OpenAI έχει επίσης κάνει τις δικές της προσαρμογές, αφαιρώντας ρητές απαγορεύσεις σε στρατιωτικές χρήσεις και χρήσεις πολέμου από τις πολιτικές της το 2024, και μετατοπίζοντας την εστίασή της από την έρευνα ασφάλειας στην ανάπτυξη προϊόντων, σε σημείο που ο πρώην επικεφαλής του τμήματος superalignment, Jan Leike (ο οποίος μεταπήδησε στην Anthropic στα μέσα του 2024), έγραψε στο X ότι στην OpenAI «η κουλτούρα και οι διαδικασίες ασφάλειας έχουν περάσει σε δεύτερη μοίρα έναντι των εντυπωσιακών προϊόντων».
Η τρέχουσα προσέγγιση στην ασφάλεια βασίζεται στην παραδοχή ότι οι εταιρείες και οι κυβερνήσεις θα ενεργήσουν τελικά με αυτοσυγκράτηση. Ωστόσο, το μέλλον της ασφάλειας στην ΤΝ μπορεί τελικά να εξαρτηθεί από το πώς λίγοι ισχυροί παίκτες θα διαχειριστούν τις πιέσεις του ανταγωνισμού, της γεωπολιτικής και των περιστασιακών «σαπουνόπερων» του Silicon Valley.
Σε αυτό το πλαίσιο, ακολουθούν περαιτέρω ειδήσεις από τον χώρο της ΤΝ.
Στο μεταξύ, ο πρόεδρος Trump αντιμετωπίζει ένα αυξανόμενο πολιτικό δίλημμα, καθώς οι ΗΠΑ αγωνίζονται να κατασκευάσουν ενεργοβόρα κέντρα δεδομένων ΤΝ ενόψει των ενδιάμεσων εκλογών του 2026. Η υποδομή που απαιτείται για την τροφοδοσία της έκρηξης της ΤΝ προκαλεί ανησυχίες για την άνοδο των τιμών της ηλεκτρικής ενέργειας και την επιβάρυνση του δικτύου, πυροδοτώντας αντιδράσεις από ψηφοφόρους και τοπικές κοινότητες. Ως απάντηση, μεγάλες τεχνολογικές εταιρείες, συμπεριλαμβανομένων των OpenAI, Microsoft, Google, Amazon, Meta και Oracle, έχουν δεσμευτεί να καλύψουν το κόστος ενέργειας και υποδομών που σχετίζεται με τα κέντρα δεδομένων ΤΝ, ώστε οι καταναλωτές να μην δουν υψηλότερους λογαριασμούς κοινής ωφέλειας. Η εθελοντική συμφωνία, που προωθείται από τον Λευκό Οίκο ως τρόπος άμβλυνσης των ανησυχιών των ψηφοφόρων, αντικατοπτρίζει μια ευρύτερη ένταση: οι υπεύθυνοι χάραξης πολιτικής επιθυμούν τα οικονομικά και γεωπολιτικά πλεονεκτήματα της ταχείας επέκτασης της ΤΝ, αλλά οι τεράστιες ενεργειακές απαιτήσεις της τεχνολογίας δημιουργούν πολιτικές και περιβαλλοντικές πιέσεις που γίνονται όλο και πιο δύσκολο να αγνοηθούν.
