Τον Νοέμβριο του 2024, ο πρόεδρος των ΗΠΑ, Joe Biden, και ο Κινέζος πρόεδρος, Xi Jinping, έκαναν την πρώτη ουσιαστική κοινή δήλωση σχετικά με τους κινδύνους για την εθνική ασφάλεια που θέτει η τεχνητή νοημοσύνη (ΤΝ). Συγκεκριμένα, τόνισαν ότι τόσο οι Ηνωμένες Πολιτείες όσο και η Κίνα πιστεύουν «στην ανάγκη διατήρησης του ανθρώπινου ελέγχου πάνω στην απόφαση χρήσης πυρηνικών όπλων».
Αυτό μπορεί να ακούγεται ως μια εύκολη διπλωματική νίκη, καθώς θα ήταν δύσκολο να βρεθεί λογικός άνθρωπος που θα υποστήριζε την παράδοση του ελέγχου των πυρηνικών όπλων στην ΤΝ. Ωστόσο, με την κινεζική κυβέρνηση, δεν υπάρχει τέτοιο πράγμα όπως εύκολη νίκη, ειδικά σε σοβαρά θέματα ασφαλείας.
Οι Κινέζοι είναι εγγενώς σκεπτικιστές απέναντι στις προτάσεις μείωσης κινδύνου των ΗΠΑ. Η Ρωσία είχε αντιταχθεί σε παρόμοια γλώσσα σε πολυμερή σώματα. Δεδομένου ότι οι διμερείς συνομιλίες με τις ΗΠΑ για την ΤΝ και την πυρηνική ασφάλεια θα άνοιγαν ρήγμα ανάμεσα στη Ρωσία και την Κίνα, η πρόοδος σε αυτό το μέτωπο δεν ήταν δεδομένη.
Τελικά, το αποτέλεσμα ήταν σημαντικό, καθώς κατέδειξε ότι δύο υπερδυνάμεις της ΤΝ μπορούν να συμμετέχουν σε εποικοδομητική διαχείριση κινδύνων, ακόμη και όταν ανταγωνίζονται σθεναρά για την ηγεμονία στην ΤΝ.
Επιπλέον, διπλωμάτες και ειδικοί από τις δύο χώρες είχαν συναντηθεί νωρίτερα το 2024, στη Γενεύη, για μια εκτεταμένη συνεδρίαση αφιερωμένη στους κινδύνους της ΤΝ. Αν και δεν παρήγαγε κανένα ουσιαστικό αποτέλεσμα, το ίδιο το γεγονός ότι πραγματοποιήθηκε ήταν ένα σημαντικό βήμα.
Τώρα, καθώς η ορμή πίσω από την ανάπτυξη και την εφαρμογή της ΤΝ, τόσο για πολιτικούς όσο και για στρατιωτικούς σκοπούς, επιταχύνεται, οι ΗΠΑ και η Κίνα πρέπει να αξιοποιήσουν αυτό το θεμέλιο, επιδιώκοντας συνεχή διπλωματία σε υψηλό επίπεδο σχετικά με τους κινδύνους της ΤΝ, ακόμη και καθώς καθεμία επιδιώκει την πρωτιά στην κούρσα της ΤΝ.
Καθώς οι δυνατότητες της ΤΝ προοδεύουν και διαχέονται, μη κρατικοί φορείς θα μπορούσαν να τις αξιοποιήσουν για να απειλήσουν τόσο τις ΗΠΑ όσο και την Κίνα. Τέτοιες απειλές θα μπορούσαν να λάβουν πολλές μορφές, όπως κυβερνοεπιθέσεις, νέα βιολογικά όπλα, εκστρατείες παραπληροφόρησης και θανατηφόρα drones που λειτουργούν με ΤΝ και μπορούν να πλήξουν οπουδήποτε.
Οι κίνδυνοι, όμως, δεν σταματούν εκεί. Καθώς οι στρατοί των ΗΠΑ και της Κίνας αυξάνουν τη χρήση της ΤΝ, μειώνοντας τους χρόνους λήψης αποφάσεων, αυξάνεται ο κίνδυνος τα συστήματα που υποστηρίζονται από ΤΝ να προκαλέσουν ακούσια μια σύγκρουση ή μια καταστροφική κλιμάκωση. Καθώς η ΤΝ γίνεται όλο και πιο κεντρική στο παγκόσμιο τραπεζικό σύστημα, οι συναλλαγές που υποστηρίζονται από ΤΝ θα μπορούσαν να προκαλέσουν μια χρηματιστηριακή κατάρρευση.
Και κοιτάζοντας στο μέλλον, κανείς δεν μπορεί να φανταστεί ένα ισχυρό, ευθυγραμμισμένο σύστημα ΤΝ που απειλεί με σοβαρό πλήγμα την ανθρωπότητα. Ως οι μόνες υπερδυνάμεις της ΤΝ στον κόσμο, οι ΗΠΑ και η Κίνα πρέπει να συνεργαστούν άμεσα για να αντιμετωπίσουν αυτούς και άλλους κινδύνους.
Η συνεργασία δεν σημαίνει ότι η Κίνα και οι ΗΠΑ θα σταματήσουν να ανταγωνίζονται. Ως σύμβουλος εθνικής ασφάλειας κατά τη διάρκεια της διοίκησης Biden, εργάστηκα σκληρά για να διασφαλίσω ότι οι ΗΠΑ διατηρούσαν το προβάδισμα στην ΤΝ, ώστε η τεχνολογία να λειτουργεί υπέρ μας και όχι εναντίον μας. Είδα ότι η κούρσα για την ηγεμονία σε στρατιωτικές, πληροφοριακές, εμπορικές εφαρμογές και η υιοθέτηση αμερικανικών και κινεζικών μοντέλων και εφαρμογών ΤΝ από χώρες σε όλο τον κόσμο θα συνεχίσει μόνο να εντείνεται.
Ωστόσο, ακριβώς λόγω αυτού του έντονου ανταγωνισμού, η διπλωματία είναι απαραίτητη. Θα ήταν βαθιά ανεύθυνο για τις ΗΠΑ και την Κίνα να τρέχουν μπροστά χωρίς να συνεργάζονται σχετικά με τους κινδύνους, ή χωρίς να συζητούν τις τεράστιες ευκαιρίες που παρουσιάζει η ΤΝ για την αντιμετώπιση διακρατικών προκλήσεων – από την κλιματική κρίση έως τη δημόσια υγεία.
Βεβαίως, κορυφαίοι στοχαστές έχουν συμμετάσχει σε διπλωματικές προσπάθειες “Track 2”. Τέτοιες συζητήσεις είναι πολύτιμες και πρέπει να συνεχιστούν. Τελικά, όμως, δεν υπάρχει υποκατάστατο για την άμεση διακυβερνητική εμπλοκή.
Ούτε η εμπλοκή μπορεί να περιμένει, δεδομένης της εκπληκτικής ταχύτητας της τεχνολογικής προόδου και των προβλέψιμων δυσκολιών στην επίτευξη διπλωματικών επιτευγμάτων. Η διαχείριση των κινδύνων της ΤΝ είναι αχαρτογράφητη περιοχή, οπότε η πρόοδος δεν θα είναι ούτε γρήγορη ούτε εύκολη.
Πολλοί σχολιαστές έχουν κάνει παραλληλισμούς με τον έλεγχο των πυρηνικών όπλων και αυτή η αναλογία έχει κάποια αξία. Οι υπερδυνάμεις φέρουν την ευθύνη για τη διαχείριση των κινδύνων που σχετίζονται με ισχυρές τεχνολογίες, και έχουμε εκπληρώσει επιτυχώς αυτήν την ευθύνη στο παρελθόν μέσω συμφωνιών ελέγχου των όπλων. Αλλά η ΤΝ παρουσιάζει επίσης διαφορετικές προκλήσεις, απαιτώντας πιο καινοτόμες προσεγγίσεις.
Πρώτον, η επαλήθευση είναι πιο περίπλοκη. Η καταμέτρηση πυραύλων και πολεμικών κεφαλών, με τα ανιχνεύσιμα ίχνη τους, είναι ένα πράγμα· η καταμέτρηση αλγορίθμων είναι κάτι εντελώς άλλο.
Δεύτερον, η πρόκληση της διπλής χρήσης παρουσιάζεται διαφορετικά. Υπάρχει μια αρκετά σαφής γραμμή μεταξύ ειρηνικής πυρηνικής ενέργειας και πυρηνικών όπλων. Αντίθετα, το ίδιο μοντέλο ΤΝ που μπορεί να βοηθήσει στην πρόοδο της επιστημονικής έρευνας και να δημιουργήσει ανάπτυξη, μπορεί επίσης να βοηθήσει στην επίτευξη θανατηφόρων αποτελεσμάτων.
Τρίτον, οι συζητήσεις για τον έλεγχο των όπλων έχουν επικεντρωθεί κυρίως σε κράτη που απειλούν άλλα κράτη. Ο κίνδυνος της ΤΝ περιλαμβάνει κρατικές απειλές, αλλά και απειλές από μη κρατικούς φορείς και τους κινδύνους που σχετίζονται με την ευθυγράμμιση της ΤΝ. Αυτό παρουσιάζει διαφορετικές προκλήσεις και ευκαιρίες για τη διπλωματία.
Τέταρτον, τουλάχιστον στις ΗΠΑ, η ανάπτυξη της ΤΝ δεν καθοδηγείται από την κυβέρνηση, αλλά από τον ιδιωτικό τομέα – και όχι από μία εταιρεία, αλλά από πολλές που ανταγωνίζονται μεταξύ τους. Αυτό σημαίνει ότι ένα ευρύτερο φάσμα παραγόντων πρέπει να συμμετέχει στις συζητήσεις.
Τέλος, υπάρχει ένα ευρύ φάσμα απόψεων για το πόσο γρήγορα και πόσο μακριά θα φτάσουν οι δυνατότητες της ΤΝ. Κάποιοι την βλέπουν ως μια “κανονική” τεχνολογία της οποίας η πλήρης υιοθέτηση θα διαρκέσει δεκαετίες, ενώ άλλοι υποστηρίζουν ότι μια έκρηξη υπερνοημοσύνης είναι μόλις λίγα χρόνια μακριά. Με τα πυρηνικά όπλα, βασικά ήξερες με τι είχες να κάνεις. Η εξέλιξη των δυνατοτήτων της ΤΝ είναι πολύ λιγότερο ξεκάθαρη.
Το πλαίσιο ελέγχου των πυρηνικών όπλων δεν δημιουργήθηκε εν μία νυκτί. Χρειάστηκαν χρόνια για να επινοηθούν οι σχετικοί έλεγχοι, τα πρωτόκολλα και οι προφυλάξεις – και χρειάστηκαν δεκαετίες διπλωματίας για να διατηρηθούν. Με την ΤΝ, βρισκόμαστε στα αρχικά στάδια κάτι παρόμοιου σε φιλοδοξία, αλλά διαφορετικού σε ουσία και πολυπλοκότητα. Αυτό καθιστά ακόμη πιο σημαντικό να προχωρήσουμε άμεσα με προσπάθειες μείωσης κινδύνου.
