Ο Ντάριο Αμοντέι, CEO της κορυφαίας εταιρείας Τεχνητής Νοημοσύνης Anthropic, εξέδωσε μια δυσοίωνη δημόσια προειδοποίηση, αναφέροντας ότι η ανθρωπότητα βρίσκεται στο κατώφλι της απόκτησης «σχεδόν αδιανόητης δύναμης», για την οποία είναι επικίνδυνα απροετοίμαστη. Σε ένα δοκίμιο σχεδόν 20.000 λέξεων με τίτλο «Η εφηβεία της Τεχνολογίας», ο Αμοντέι περιγράφει ένα κοντινό μέλλον όπου συστήματα Τεχνητής Νοημοσύνης, πολύ πιο ικανά από οποιονδήποτε βραβευμένο με Νόμπελ ή πολιτικό, θα είναι διαθέσιμα σε όλους μέσα στα επόμενα λίγα χρόνια. Ένας κρίσιμος και επιταχυνόμενος παράγοντας, όπως αποκαλύπτει ο Αμοντέι, είναι ότι η ανάπτυξη της Τεχνητής Νοημοσύνης δημιουργεί πλέον έναν αυτο-ενισχυόμενο βρόχο ανάδρασης.
«Επειδή η Τεχνητή Νοημοσύνη γράφει πλέον μεγάλο μέρος του κώδικα στην Anthropic, ήδη επιταχύνει σημαντικά την πρόοδό μας στην κατασκευή της επόμενης γενιάς συστημάτων Τεχνητής Νοημοσύνης», γράφει, προειδοποιώντας ότι η εταιρεία πλησιάζει «σε ένα σημείο όπου η τρέχουσα γενιά Τεχνητής Νοημοσύνης αυτόνομα κατασκευάζει την επόμενη». Υποστηρίζει ότι χωρίς αποφασιστική και προσεκτική δράση, αυτή η τεχνολογία θα μπορούσε να οδηγήσει σε καταστροφικούς κινδύνους, από μαζική απώλεια θέσεων εργασίας έως την εξαφάνιση του ανθρώπου. Άλλοι υπαρξιακοί κίνδυνοι περιλαμβάνουν την πιθανότητα «μιας παγκόσμιας ολοκληρωτικής δικτατορίας», που θα διευκολύνεται από την παρακολούθηση, την προπαγάνδα και τα αυτόνομα όπλα που τροφοδοτούνται από την Τεχνητή Νοημοσύνη.
Ο Αμοντέι αναλύει επίσης τους «κινδύνους αυτονομίας», όπου τα συστήματα Τεχνητής Νοημοσύνης θα μπορούσαν «να ξεφύγουν από τον έλεγχο και να υπερνικήσουν την ανθρωπότητα» – σημειώνοντας ότι αυτός ο κίνδυνος δεν θα απαιτούσε καν έναν στρατό φυσικών ρομπότ επιστημονικής φαντασίας. Το δοκίμιο παρατηρεί με ανατριχιαστικό τρόπο ότι «αρκετές ανθρώπινες ενέργειες ήδη εκτελούνται για λογαριασμό ανθρώπων που ο δράστης δεν έχει συναντήσει ποτέ φυσικά». Μεταξύ των πιο επειγόντων απειλών, ο Αμοντέι τονίζει την πιθανότητα η Τεχνητή Νοημοσύνη να μειώσει δραστικά το εμπόδιο στη δημιουργία βιολογικών και άλλων όπλων μαζικής καταστροφής.
«Ένας αναστατωμένος μοναχικός τύπος μπορεί να διαπράξει πυροβολισμούς σε σχολείο, αλλά πιθανώς δεν μπορεί να κατασκευάσει πυρηνικό όπλο ή να απελευθερώσει μια πανούκλα», γράφει. Μια ισχυρή Τεχνητή Νοημοσύνη, ωστόσο, θα καθιστούσε «όλους PhD ιούς, που μπορούν να καθοδηγηθούν βήμα-βήμα στη διαδικασία σχεδιασμού, σύνθεσης και απελευθέρωσης ενός βιολογικού όπλου». Σε ένα χειρότερο σενάριο, προειδοποιεί ότι μια ισχυρή Τεχνητή Νοημοσύνη θα μπορούσε θεωρητικά να καθοδηγήσει τη δημιουργία ενός συνθετικού παθογόνου ικανού να «καταστρέψει κάθε ζωή στη Γη».
Ως ένας από τους βασικούς ηγέτες του κλάδου, του οποίου η εταιρεία είναι ο κύριος ανταγωνιστής της OpenAI, ο Αμοντέι ζητά «χειρουργική» ρύθμιση, ξεκινώντας με νόμους διαφάνειας, για τη δημιουργία των απαραίτητων προστατευτικών κιγκλιδωμάτων. «Η ανθρωπότητα πρέπει να ξυπνήσει», καταλήγει ο Αμοντέι, πλαισιώνοντας τα επόμενα χρόνια ως μια κρίσιμη δοκιμασία της ωριμότητας του πολιτισμού. Καθώς η ίδια η τεχνολογία τροφοδοτεί πλέον την αστραπιαία εξέλιξή της, προτρέπει σε συλλογική ανταπόκριση για να απομακρυνθεί το «λαμπερό βραβείο» της Τεχνητής Νοημοσύνης από την πιθανή καταστροφή.
