Φανταστείτε να αναθέτετε σε έναν AI agent τη μετατροπή 10.000 δολαρίων ΗΠΑ σε καναδικά δολάρια μέχρι το τέλος της ημέρας. Ο agent εκτελεί, αλλά λανθασμένα. Παραβιάζει τις παραμέτρους, πραγματοποιεί μια μη εξουσιοδοτημένη στοιχηματική κίνηση με μόχλευση και το κεφάλαιό σας εξατμίζεται. Ποιος φέρει την ευθύνη; Ποιος σας αποζημιώνει;
Αυτή τη στιγμή, κανείς δεν υποχρεούται. Και αυτό, υποστηρίζει μια ομάδα ερευνητών, αποτελεί τη βασική ευπάθεια της εποχής των “agentic AI”.
Σε μια εργασία που δημοσιεύθηκε στις 8 Απριλίου, ερευνητές από τη Microsoft Research, το Columbia University, το Google DeepMind, το Virtuals Protocol και την startup t54 Labs, πρότειναν ένα εκτεταμένο νέο πλαίσιο χρηματοοικονομικής προστασίας, το Agentic Risk Standard (ARS). Το ARS έχει σχεδιαστεί για να προσφέρει στα AI agents ό,τι παρέχουν οι συμβάσεις μεσεγγύησης, οι ασφάλειες και τα clearinghouses στις παραδοσιακές χρηματοοικονομικές συναλλαγές. Το πρότυπο είναι ανοιχτού κώδικα και διαθέσιμο στο GitHub μέσω της t54 Labs.
“Μιλάμε για μια ολόκληρη ‘οικονομία agentic’, η οποία διαφέρει πολύ από την απλή χρήση AI agents για χρηματοοικονομικές εργασίες,” δήλωσε ο Chandler Fang, ιδρυτής της t54, στο Fortune. Τόνισε ότι υπάρχουν δύο θεμελιώδεις τύποι agentic συναλλαγών: οι χρηματοοικονομικές συναλλαγές με ανθρώπινη παρέμβαση (human-in-the-loop) και οι αυτόνομες συναλλαγές από agents. “Ολοι εστιάζουν στο human-in-the-loop, και αυτό είναι ένα σοβαρό πρόβλημα, επειδή το χρηματοοικονομικό οικοσύστημα αυτή τη στιγμή δεν έχει τρόπο να λειτουργήσει παρά μόνο να μεταβιβάζει όλη την ευθύνη σε έναν άνθρωπο.” Αυτό οφείλεται στη πιθανολογική φύση αυτής της τεχνολογίας, εξήγησαν οι ερευνητές.
Το πιθανολογικό πρόβλημα
Το κεντρικό πρόβλημα που εντοπίζει η ομάδα είναι αυτό που ονομάζει “κενό εγγυήσεων” (guarantee gap). Αυτό ορίζεται ως “μια απόκλιση μεταξύ της πιθανολογικής αξιοπιστίας που παρέχουν οι τεχνικές ασφάλειας AI και των εκτελεστών εγγυήσεων που χρειάζονται οι χρήστες πριν αναθέσουν εργασίες υψηλού κινδύνου”. Η περιγραφή αυτή θυμίζει τα όσα είχε δηλώσει στο Fortune ο ειδικός ηγεσίας Jason Wild, σχετικά με το πώς τα εργαλεία AI είναι πιθανολογικά, προκαλώντας σύγχυση στους μάνατζερ παντού. “Χωρίς έναν τρόπο να περιοριστούν οι πιθανές απώλειες,” έγραψε η ομάδα της t54, “οι χρήστες περιορίζουν ορθολογικά την ανάθεση σε AI μόνο σε εργασίες χαμηλού κινδύνου, περιορίζοντας έτσι την ευρύτερη υιοθέτηση υπηρεσιών που βασίζονται σε agents.”
Οι βελτιώσεις ασφάλειας σε επίπεδο μοντέλου, υποστηρίζουν, μπορούν να μειώσουν την *πιθανότητα* αποτυχίας ενός AI, αλλά όχι να την εξαλείψουν. Τα μεγάλα γλωσσικά μοντέλα είναι εγγενώς στοχαστικά, πράγμα που σημαίνει ότι ανεξάρτητα από το πόσο καλά εκπαιδευμένος ή ρυθμισμένος είναι ένας AI agent, μπορεί να “παραισθανθεί” και να κάνει λάθη. Όταν αυτός ο agent διαχειρίζεται τον επενδυτικό σας λογαριασμό ή εκτελεί χρηματοοικονομικές κλήσεις API, ακόμα και μια μεμονωμένη αποτυχία μπορεί να οδηγήσει σε άμεση, πραγματική απώλεια.
“Οι περισσότερες έρευνες για την αξιόπιστη AI στοχεύουν στη μείωση της πιθανότητας αποτυχίας,” δήλωσε η Wenyue Hua, Senior Researcher στη Microsoft Research. “Αυτή η εργασία είναι απαραίτητη, αλλά η πιθανότητα δεν αποτελεί εγγύηση. Το ARS υιοθετεί μια συμπληρωματική προσέγγιση: αντί να προσπαθούμε να κάνουμε το μοντέλο τέλειο, τυποποιούμε τι συμβαίνει χρηματοοικονομικά όταν δεν είναι. Το αποτέλεσμα είναι ένα πρωτόκολλο διακανονισμού, όπου η προστασία του χρήστη είναι ντετερμινιστική, όχι πιθανολογική.”
Η λύση των ερευνητών δανείζεται στοιχεία από αιώνες χρηματοοικονομικής μηχανικής. Το ARS εισάγει ένα πολυεπίπεδο πλαίσιο διακανονισμού: αποθήκες μεσεγγύησης που κρατούν τις αμοιβές υπηρεσιών και τις απελευθερώνουν μόνο με επαληθευμένη παράδοση της εργασίας. απαιτήσεις εξασφαλίσεων που οι πάροχοι υπηρεσιών AI πρέπει να καταθέσουν πριν αποκτήσουν πρόσβαση στα κεφάλαια των χρηστών. και προαιρετική ασφάλιση — ένας τρίτος φορέας που φέρει τον κίνδυνο, τιμολογεί την πιθανότητα αποτυχίας ενός AI, χρεώνει ένα ασφάλιστρο και δεσμεύεται να αποζημιώσει τον χρήστη εάν τα πράγματα πάνε στραβά.
Το πλαίσιο διακρίνει μεταξύ δύο τύπων εργασιών AI. Οι *τυπικές εργασίες υπηρεσιών* — δημιουργία μιας παρουσίασης, σύνταξη μιας έκθεσης — ενέχουν περιορισμένη χρηματοοικονομική έκθεση, οπότε αρκεί ο διακανονισμός μέσω μεσεγγύησης. Οι *εργασίες που περιλαμβάνουν ανταλλαγή χρημάτων* — συναλλαγές νομισμάτων, θέσεις με μόχλευση, κλήσεις χρηματοοικονομικών API — απαιτούν από τον agent να αποκτήσει πρόσβαση στο κεφάλαιο του χρήστη *πριν* από την επαλήθευση των αποτελεσμάτων, γεγονός που καθιστά την ασφάλιση απαραίτητη. Η λογική είναι η ίδια που διέπει τις αγορές παραγώγων, όπου οι clearinghouses στέκονται μεταξύ των αντισυμβαλλομένων, ώστε μια μεμονωμένη αθέτηση να μην προκαλέσει ντόμινο.
Η εργασία χαρτογραφεί το ARS ρητά σε σχέση με υπάρχοντες κλάδους κατανομής κινδύνου σε έναν πίνακα: οι κατασκευές χρησιμοποιούν εγγυητικές επιστολές καλής εκτέλεσης, το ηλεκτρονικό εμπόριο χρησιμοποιεί μεσεγγύηση πλατφόρμας, οι χρηματοπιστωτικές αγορές χρησιμοποιούν απαιτήσεις περιθωρίου και clearinghouses, και το DeFi χρησιμοποιεί εξασφαλίσεις μέσω έξυπνων συμβολαίων. Οι AI agents, υποστηρίζουν οι ερευνητές, είναι απλώς η επόμενη κατηγορία υπηρεσιών υψηλού κινδύνου που χρειάζεται τη δική της εκδοχή αυτής της υποδομής.
Ο χρόνος είναι κρίσιμος
Οι χρηματοοικονομικές ρυθμιστικές αρχές ήδη περιβάλλουν. Η έκθεση 2026 Regulatory Oversight Report της FINRA, που δημοσιεύθηκε τον Δεκέμβριο, περιλάμβανε για πρώτη φορά ενότητα για την παραγωγική AI, προειδοποιώντας τους χρηματιστηριακούς αντιπροσώπους να αναπτύξουν διαδικασίες που στοχεύουν συγκεκριμένα στις “παραισθήσεις” (hallucinations) και να ελέγχουν τους AI agents που μπορεί να δρουν “πέραν του πραγματικού ή προοριζόμενου πεδίου και εξουσίας του χρήστη”. Η SEC και άλλες υπηρεσίες παρακολουθούν στενά.
Ωστόσο, το ARS παρουσιάζεται ως κάτι που οι ρυθμιστικές αρχές δεν έχουν ακόμη κατασκευάσει: όχι ένα σύνολο κανόνων, αλλά ένα *πρωτόκολλο* — μια τυποποιημένη μηχανή καταστάσεων που διέπει τον τρόπο κλειδώματος των κεφαλαίων, τον τρόπο υποβολής των αξιώσεων και τον τρόπο ενεργοποίησης των αποζημιώσεων όταν ένας AI agent αποτυγχάνει. Οι ερευνητές αναγνωρίζουν ότι το ARS είναι ένα επίπεδο ενός μεγαλύτερου “trust stack” (στοίβα εμπιστοσύνης) και ότι το πραγματικό σημείο συμφόρησης θα είναι η κατασκευή ακριβών μοντέλων τιμολόγησης κινδύνου για τη συμπεριφορά των agents.
“Αυτή η εργασία είναι το πρώτο βήμα στη δημιουργία ενός πλαισίου υψηλού επιπέδου για τη σύλληψη της συνολικής διαδικασίας που σχετίζεται με τις αυτόνομες συναλλαγές από agents και του πώς μοιάζει η εκτίμηση κινδύνου,” δήλωσε ο Fang στο Fortune. “Στο μέλλον, θα πρέπει να εισάγουμε πιο συγκεκριμένες λεπτομέρειες, μοντέλα και άλλες έρευνες για να κατανοήσουμε πώς υπολογίζουμε τον κίνδυνο σε διαφορετικές περιπτώσεις χρήσης.”
