Η Τράπεζα της Αγγλίας κρούει τον κώδωνα του κινδύνου για τους ψηφιακούς πράκτορες τεχνητής νοημοσύνης (AI agents), οι οποίοι έχουν τη δυνατότητα να λαμβάνουν αποφάσεις και να εκτελούν συναλλαγές αυτόνομα στο χρηματοπιστωτικό σύστημα. Η υποδιοικητής της τράπεζας, Sarah Breeden, μιλώντας στο ετήσιο φόρουμ της Ευρωπαϊκής Κεντρικής Τράπεζας στη Sintra, τόνισε ότι η διαρκής ανθρώπινη επίβλεψη ενδέχεται σύντομα να μην είναι ρεαλιστική.

Σε αντίθεση με τα εργαλεία παραγωγικής τεχνητής νοημοσύνης, όπως το ChatGPT, το Gemini και το Claude, τα οποία περιορίζονται στη δημιουργία κειμένου ή εικόνας, τα νέα συστήματα έχουν σχεδιαστεί για να ολοκληρώνουν σύνθετες εργασίες με ελάχιστη ανθρώπινη παρέμβαση. Ένας τέτοιος πράκτορας μπορεί να εκτελεί αγοραπωλησίες, να πραγματοποιεί πληρωμές και να προβαίνει σε δεσμεύσεις υπηρεσιών χωρίς έγκριση για κάθε κίνηση. Η Sarah Breeden υπογράμμισε ότι το χρηματοπιστωτικό σύστημα αναμένεται να εξελιχθεί σε ένα οικοσύστημα που θα λειτουργεί αυτόνομα, σε μεγάλη κλίμακα και με υψηλές ταχύτητες.

Το πρόβλημα εντοπίζεται στη «μαζική συμπεριφορά»: εάν πολλά μοντέλα εκπαιδευτούν στα ίδια δεδομένα και αντιδρούν στα ίδια σήματα, οι ταυτόχρονες αποφάσεις τους μπορεί να εντείνουν την αστάθεια της αγοράς σε περιόδους κρίσης. Η υποδιοικητής πρότεινε την ανάγκη για δικλείδες ασφαλείας, παρόμοιες με τους διακόπτες που σταματούν τις συναλλαγές σε περίπτωση δυσλειτουργίας, προκειμένου να αποτραπεί μια ολοκληρωτική κατάρρευση.

Οι ανησυχίες αυτές ανακύπτουν την ώρα που εταιρείες όπως η Anthropic προωθούν νέα μοντέλα, όπως το Claude Sonnet 5, ενώ ακόμη και το Πεντάγωνο στις Ηνωμένες Πολιτείες ενσωματώνει πράκτορες τεχνητής νοημοσύνης για την ανάλυση πληροφοριών, παρά τη διαβεβαίωση ότι οι τελικές αποφάσεις θα παραμείνουν στα χέρια των ανθρώπων.