Ο Διευθύνων Σύμβουλος της Anthropic, Ντάριο Αμοντέι, εξέφρασε βαθιά ανησυχία για το γεγονός ότι οι ηγετικές φυσιογνωμίες στον χώρο της Τεχνητής Νοημοσύνης (AI), συμπεριλαμβανομένου του ίδιου, δεν θα πρέπει να έχουν τον τελικό λόγο για το μέλλον αυτής της τεχνολογίας. Σε συνέντευξή του στο “60 Minutes” του CBS News, ο κ. Αμοντέι τόνισε την ανάγκη για ενισχυμένη ρύθμιση της Τεχνητής Νοημοσύνης, υποστηρίζοντας ότι οι αποφάσεις για την πορεία της δεν πρέπει να περιορίζονται σε λίγες εταιρείες και ακόμη λιγότερους ανθρώπους.
«Είμαι βαθιά άβολος με αυτές τις αποφάσεις να λαμβάνονται από λίγες εταιρείες, από λίγους ανθρώπους», δήλωσε χαρακτηριστικά ο Αμοντέι, επαναλαμβάνοντας την πάγια θέση του υπέρ της υπεύθυνης και στοχαστικής ρύθμισης του τομέα. Όταν ρωτήθηκε από τον δημοσιογράφο Άντερσον Κούπερ ποιος τους “εξέλεξε” για να λαμβάνουν τέτοιες αποφάσεις, ο Αμοντέι απάντησε ειλικρινά: «Κανείς».
Η Anthropic ακολουθεί τη φιλοσοφία της διαφάνειας σχετικά με τους περιορισμούς και τους κινδύνους που ενέχει η Τεχνητή Νοημοσύνη. Πρόσφατα, η εταιρεία ανέφερε ότι απέτρεψε «την πρώτη τεκμηριωμένη περίπτωση μεγάλης κλίμακας κυβερνοεπίθεσης Τεχνητής Νοημοσύνης που εκτελέστηκε χωρίς ουσιαστική ανθρώπινη παρέμβαση». Επιπλέον, η Anthropic δώρισε 20 εκατομμύρια δολάρια στην Public First Action, μια οργάνωση που επικεντρώνεται στην ασφάλεια και τη ρύθμιση της Τεχνητής Νοημοσύνης.
Παρά το γεγονός ότι δεν υπάρχουν ακόμη ομοσπονδιακοί κανονισμοί που να απαγορεύουν ή να ρυθμίζουν την ασφάλεια της Τεχνητής Νοημοσύνης, και ενώ όλες οι 50 πολιτείες των ΗΠΑ έχουν εισάγει νομοθεσία σχετική με την Τεχνητή Νοημοσύνη, οι ειδικοί του κλάδου πιέζουν τις εταιρείες να προσεγγίσουν την κυβερνοασφάλεια με αίσθημα επείγοντος. Αυτό επιβεβαιώνεται και από την προειδοποίηση του CEO της Mandiant, Κέβιν Μάντια, για την πρώτη κυβερνοεπίθεση από « πράκτορα Τεχνητής Νοημοσύνης» εντός των επόμενων 12-18 μηνών, η οποία φαίνεται να έχει ήδη προληφθεί από την Anthropic.
Ο Αμοντέι έχει σκιαγραφήσει κινδύνους σε βραχυπρόθεσμο, μεσοπρόθεσμο και μακροπρόθεσμο ορίζοντα από την ανεξέλεγκτη Τεχνητή Νοημοσύνη: αρχικά θα παρουσιάσει προκαταλήψεις και παραπληροφόρηση, στη συνέχεια θα παράγει επιβλαβείς πληροφορίες χρησιμοποιώντας βελτιωμένη γνώση επιστημών και μηχανικής, και τέλος θα παρουσιάσει υπαρξιακή απειλή, αφαιρώντας την ανθρώπινη αυτονομία και πιθανώς καθιστώντας την υπερβολικά αυτόνομη, αποκλείοντας τους ανθρώπους από συστήματα. Οι ανησυχίες αυτές απηχούν εκείνες του «νονός της Τεχνητής Νοημοσύνης», Τζέφρι Χίντον, ο οποίος προειδοποιεί ότι η Τεχνητή Νοημοσύνη θα αποκτήσει την ικανότητα να ξεπερνά σε ευφυΐα και να ελέγχει τους ανθρώπους, ίσως μέσα στην επόμενη δεκαετία.
Οι αρχές της Anthropic, που ιδρύθηκε το 2021, τέθηκαν γύρω από μεγαλύτερο έλεγχο και ασφαλιστικές δικλείδες για την Τεχνητή Νοημοσύνη. Ο Αμοντέι, προηγουμένως αντιπρόεδρος έρευνας στην OpenAI του Σαμ Άλτμαν, αποχώρησε λόγω διαφωνιών σχετικά με την ασφάλεια της Τεχνητής Νοημοσύνης. Σύμφωνα με αναφορές, η Anthropic αποτιμάται πλέον στα 380 δισεκατομμύρια δολάρια, ενώ η OpenAI εκτιμάται στα 500 δισεκατομμύρια δολάρια.
