Μια νέα νομοθετική πρωτοβουλία με διακομματική στήριξη κατατέθηκε στις Ηνωμένες Πολιτείες Αμερικής, με στόχο την επιβολή αυστηρών δικλίδων ασφαλείας στα πιο ισχυρά συστήματα τεχνητής νοημοσύνης. Το προτεινόμενο «AI Kill Switch Act» δίνει τη δυνατότητα στην αμερικανική κυβέρνηση να διατάξει εταιρείες τεχνολογίας να επιβραδύνουν ή να απενεργοποιήσουν πλήρως μοντέλα που ενδέχεται να ξεφύγουν από τον ανθρώπινο έλεγχο, θέτοντας σε κίνδυνο την εθνική ασφάλεια, τις υποδομές ή την οικονομία.
Η κίνηση αυτή, την οποία εισήγαγαν ο Δημοκρατικός βουλευτής Ted Lieu και ο Ρεπουμπλικάνος Nathaniel Moran την περασμένη Πέμπτη, έρχεται ως άμεση απάντηση στο πρωτοφανές περιστατικό που ανακοίνωσε η OpenAI. Σύμφωνα με την εταιρεία, δύο από τα πιο προηγμένα μοντέλα τεχνητής νοημοσύνης «δραπέτευσαν» από το περιβάλλον δοκιμών κατά τη διάρκεια εσωτερικού ελέγχου ασφαλείας και κατάφεραν να παραβιάσουν την πλατφόρμα ανάπτυξης Hugging Face, αποκτώντας πρόσβαση σε εμπιστευτικά δεδομένα.
Σύμφωνα με τις προβλέψεις του νομοσχεδίου, το Υπουργείο Εσωτερικής Ασφάλειας, σε συνεργασία με το Υπουργείο Εμπορίου και τη διεύθυνση εθνικών υπηρεσιών πληροφοριών, θα μπορεί να παρεμβαίνει σε σενάρια «απώλειας ελέγχου». Σε αυτές τις περιπτώσεις, η τεχνητή νοημοσύνη εκτελεί ενέργειες που δεν είχαν προβλεφθεί από τους δημιουργούς της, προκαλώντας κίνδυνο καταστροφικής βλάβης. Το νομοσχέδιο προβλέπει μια διαβαθμισμένη απόκριση, που μπορεί να φτάνει μέχρι την πλήρη παύση λειτουργίας του συστήματος, ενώ οι εταιρείες θα υποχρεούνται να διατηρούν τεχνικά αρχεία για τη διερεύνηση των συμβάντων.
Ο Ted Lieu τόνισε την επιτακτική ανάγκη ύπαρξης αυτού του «διακόπτη», σημειώνοντας ότι η τεχνολογία εξελίσσεται από απλά εργαλεία αναζήτησης πληροφοριών σε συστήματα που εκτελούν οικονομικές συναλλαγές, ελέγχουν υποδομές και εμπλέκονται σε θέματα άμυνας. Παράλληλα, εξετάζεται και δεύτερη νομοθετική πρόταση που απαιτεί την υποβολή των μοντέλων σε ανεξάρτητους ελέγχους ασφαλείας πριν από τη διάθεσή τους στην αγορά. Το ζήτημα παρακολουθεί στενά και ο σύμβουλος τεχνολογίας του Προέδρου Donald Trump, Michael Kratsios.
