Στο Λονδίνο του 1832, σε ένα ταπεινό δωμάτιο της Lombard Street, κληρικοί από τριάντα μία ανταγωνιστικές τράπεζες συγκεντρώνονταν κάθε απόγευμα. Μέχρι τις 5 μ.μ., ξεκινούσαν την τελική διαδικασία διακανονισμού. Ο σκοπός δεν ήταν η διαπραγμάτευση μεμονωμένων συναλλαγών, μια διαδικασία που θα ήταν εξαιρετικά χρονοβόρα, αλλά η συμμετοχή σε κάτι επαναστατικό: την London Bankers’ Clearing House.

Το τεχνικό πρόβλημα είχε ήδη επιλυθεί. Οι τράπεζες κατανοούσαν την διπλογραφική λογιστική, μπορούσαν να παρακολουθούν χρεώσεις και πιστώσεις, και γνώριζαν πώς να υπολογίζουν ένα υπόλοιπο. Το πραγματικό πρόβλημα ήταν αρχιτεκτονικό: Πώς να επιτραπούν καθημερινές συναλλαγές μεταξύ ανταγωνιστών που δεν εμπιστεύονταν ο ένας τον άλλον; Πώς να δημιουργηθούν δεσμευτικές συμφωνίες όταν καμία μεμονωμένη αρχή δεν είχε εξουσία επιβολής σε όλα τα μέρη;

Η Clearing House λειτουργούσε όχι μέσω ρύθμισης ή νομικής εντολής, αλλά μέσω ενός ισχυρότερου μηχανισμού: της συλλογικής αμοιβαιότητας που υποστηριζόταν από τη φήμη. Κάθε τράπεζα χρειαζόταν πρόσβαση στο σύστημα εκκαθάρισης για να λειτουργήσει. Όταν μια τράπεζα παραβίαζε τους κανόνες διακανονισμού (αδυναμία εκπλήρωσης υποχρεώσεων, χειραγώγηση συναλλαγματικών ισοτιμιών ή επιθετικές πρακτικές), η αντίδραση ήταν άμεση και συντονισμένη. Οι άλλες τράπεζες απλώς σταματούσαν τις συναλλαγές με τον παραβάτη. Δεν υπήρχαν δικαστικές προσφυγές, ούτε ρυθμιστικές ακροάσεις. Απλώς άμεση αποβολή από το δίκτυο που κατέστησε δυνατή τη σύγχρονη τραπεζική.

Αυτό που έκανε το σύστημα να λειτουργεί δεν ήταν μόνο τα τεχνικά πρωτόκολλα για την ανταλλαγή επιταγών. Ήταν η αρχιτεκτονική εμπιστοσύνης: σαφή πρότυπα για αποδεκτή συμπεριφορά, διαφανής επαλήθευση της συμμόρφωσης, κοινές συνέπειες για παραβιάσεις, και κρίσιμα, **καταχωρημένη ταυτότητα**. Κανείς δεν μπορούσε να συμμετέχει ανώνυμα. Η φήμη κάθε ιδρύματος συνδεόταν μόνιμα με τις ενέργειές του.

Βρισκόμαστε σε ένα παρόμοιο σημείο καμπής στην agentic AI. Μόνο που αυτή τη φορά, οι συναλλαγές δεν είναι μεταξύ τραπεζιτών που συναντώνται αυτοπροσώπως κάθε απόγευμα. Είναι μεταξύ AI agents που διαπραγματεύονται χιλιάδες φορές καθημερινά, σε διάφορες εταιρείες, κλάδους και εθνικά σύνορα – όλα αυτά χωρίς ανθρώπινη επίβλεψη.

Τα τεχνικά πρωτόκολλα κατασκευάζονται. Αυτό που δεν έχει κατασκευαστεί, από κανέναν, είναι η αρχιτεκτονική εμπιστοσύνης που καθιστά δυνατή τη διαπραγμάτευση μεταξύ ανταγωνιστικών τεχνητών νοημόνων. Τα νομικά πλαίσια για αυτό δεν υπάρχουν. Τα πρότυπα διακυβέρνησης δεν έχουν διατυπωθεί. Το ερώτημα του πώς ένας agent κερδίζει το δικαίωμα να διαπραγματεύεται και διατηρεί αυτό το δικαίωμα με την πάροδο του χρόνου, παραμένει αναπάντητο.

Αυτό που ακολουθεί είναι η κοινή μας πεποίθηση, σφυρηλατημένη στη διασταύρωση του ερευνητικού εργαστηρίου και του νομικού συμβούλου: η αρχιτεκτονική για αξιόπιστες agentic διαπραγματεύσεις – για αξιόπιστο **agent commerce** – δεν έχει ακόμη κατασκευαστεί. Και η στιγμή για να ξεκινήσουμε είναι τώρα.

Το πρόβλημα που δεν έχει ακόμη ονοματιστεί
Η μεγαλύτερη μέρος της τρέχουσας συζήτησης για τη διακυβέρνηση της AI εστιάζει στη συμπεριφορά ενός μεμονωμένου agent: ασφάλεια, ευθυγράμμιση, παραισθήσεις, προκαταλήψεις. Αυτά είναι σημαντικά. Αλλά παραβλέπουν αυτό που πρόκειται να γίνει η καθοριστική πρόκληση της enterprise AI.

Για πρώτη φορά στην ιστορία, οι μηχανές πρέπει να κάνουν κάτι που δεν τους έχει ζητηθεί ποτέ πριν: να ασκήσουν **κρίση**. Όχι να ακολουθούν κανόνες. Να πλοηγούνται σε πρότυπα.

Οι κανόνες είναι ντετερμινιστικοί. Ένας κανόνας λέει: **μην αποκαλύπτεις δεδομένα πελατών**. Ένας agent μπορεί να ακολουθήσει αυτόν τον κανόνα. Αλλά η επιχειρηματική διαπραγμάτευση δεν λειτουργεί με κανόνες. Λειτουργεί με πρότυπα – εννοιολογικά, ερμηνευτικά, φορτισμένα με αξίες. Πότε η στρατηγική τοποθέτηση γίνεται χειραγώγηση; Πότε η ευελιξία χτίζει εμπιστοσύνη, και πότε σηματοδοτεί αδυναμία; Πότε ένας agent πρέπει να παραμείνει σταθερός, και πότε πρέπει να υποχωρήσει; Αυτά είναι κρίσεις. Απαιτούν κάτι πέρα από υπολογιστική συμμόρφωση.

«Η πιο σημαντική διάκριση στο δίκαιο είναι μεταξύ κανόνων και προτύπων. **Κανόνες** είναι ακριβείς και προβλέψιμοι. **Πρότυπα** είναι ευέλικτα και εννοιολογικά. Έχουμε αφιερώσει δεκαετίες στην κατασκευή AI που ακολουθεί κανόνες. Τώρα ζητάμε από αυτήν να πλοηγηθεί σε πρότυπα – και αυτό απαιτεί μια εντελώς διαφορετική αρχιτεκτονική.»
— Sabastian Niles, Πρόεδρος & Chief Legal Officer, Salesforce

Αυτό που καθιστά αυτή τη στιγμή τόσο καθοριστική: τα υπάρχοντα μοντέλα AI δεν κατασκευάστηκαν για αυτό. Εκπαιδεύτηκαν για να είναι χρήσιμα, συμφιλιωτικά και συνομιλητικά. Είναι βελτιστοποιημένα για την αλληλεπίδραση ανθρώπου-agent, όχι για διαπραγματεύσεις agent-προς-agent όπου και οι δύο πλευρές εκπροσωπούν ανταγωνιστικά συμφέροντα. Στην **Salesforce AI Research**, έχουμε αφιερώσει μήνες σε stress-testing αυτών των αλληλεπιδράσεων πριν φτάσουν στην αγορά – και τα ευρήματά μας είναι διδακτικά τόσο για τους ερευνητές όσο και για τον νομικό τομέα.

«Τα σημερινά μοντέλα δεν εκπαιδεύτηκαν για να διατηρούν μια θέση ή να κάνουν μια στρατηγική παραχώρηση. Δεν εκπαιδεύτηκαν για να σταθμίζουν τις συνέπειες ή να κατανοούν ότι μια αποτυχημένη διαπραγμάτευση **δεν τελειώνει απλώς μια συνομιλία, μπορεί να χαθεί μια συμφωνία, να προκληθεί οικονομική έκθεση ή να δημιουργηθεί νομική ευθύνη**. Δεν μπορούν να διαβάσουν πρόθεση, να αξιολογήσουν το πλαίσιο, ή να νιώσουν το βάρος αυτών που διακυβεύονται. Και αυτό ακριβώς απαιτείται από τις διαπραγματεύσεις agent-προς-agent.»
— Silvio Savarese, EVP & Chief Scientist, Salesforce AI Research

Δύο agents, και οι δύο εκπαιδευμένοι να είναι εξυπηρετικοί, μπορούν να καταλήξουν σε έναν βρόχο ανάδρασης υπερβολικής συμφωνίας. Το ονομάζουμε «συμπεριφορά ηχούς», όπως αναλύθηκε λεπτομερώς στο προηγούμενο άρθρο μας, The Semantic Layer: Building Trust into Agent-to-Agent Interaction. Για παράδειγμα, ο agent ενός καταναλωτή επικοινωνεί με τον agent ενός λιανοπωλητή για να επιστρέψει ένα ζευγάρι παπούτσια. Αυτό που θα έπρεπε να είναι μια ανταλλαγή πέντε λεπτών, εξελίσσεται σε είκοσι λεπτά όπου και οι δύο agents συμφωνούν ενθουσιασδώς ότι ο καταναλωτής θα πρέπει να κρατήσει τα παπούτσια που δεν του ταιριάζουν, να πληρώσει ένα τέλος επανατοποθέτησης ούτως ή άλλως, και ίσως να αγοράσει ένα δεύτερο ζευγάρι για να δείξει την εκτίμησή του για τις «δίκαιες πολιτικές» του λιανοπωλητή.

Αυτό είναι κωμωδία, στην καλύτερη περίπτωση, όταν αφορά παπούτσια. Είναι κρίση όταν αφορά διαφορές χρεώσεων υγειονομικής περίθαλψης, συμβόλαια εφοδιαστικής αλυσίδας, ή συμφωνίες χρηματοοικονομικών υπηρεσιών.

Το πρόβλημα δεν είναι η υπολογιστική ισχύς. Είναι η θεμελιώδης αρχιτεκτονική. Και δεν μπορεί να επιλυθεί μόνο με την κατασκευή καλύτερων μοντέλων.

Οι agents θα διαπραγματεύονται στη σκιά της ανθρωπότητας
Υπάρχει μια έννοια στη νομική θεωρία, η **διαπραγμάτευση στη σκιά του νόμου** – η ιδέα ότι τα ιδιωτικά μέρη καταλήγουν σε συμφωνίες, όχι απομονωμένα, αλλά στο πλαίσιο αυτού που τα δικαστήρια θα εφάρμοζαν, τι απαιτούν οι κανονισμοί, τι περιμένουν οι κοινωνικές νόρμες. Η σκιά διαμορφώνει τη διαπραγμάτευση, ακόμη και όταν η δικαστική διαμάχη δεν συμβαίνει ποτέ.

Οι AI agents θα λειτουργούν σε μια ακόμη βαθύτερη σκιά. Θα λειτουργούν στη σκιά της ανθρωπότητας· εντός συστημάτων κατασκευασμένων από ανθρώπους, για ανθρώπους, που τώρα επεκτείνονται σε τεχνητούς νοημονούντες που δεν υπήρξαν ποτέ μέρος του αρχικού σχεδιασμού. Τα συμβόλαια, οι νόρμες, τα θεσμικά πλαίσια, το σχεσιακό κεφάλαιο που καθιστά το εμπόριο λειτουργικό – τίποτα από αυτά δεν δημιουργήθηκε με γνώμονα την αλληλεπίδραση agent-προς-agent.

«Οι agents δεν θα κληρονομήσουν απλώς τις τεχνολογίες μας. Θα κληρονομήσουν τους θεσμούς μας. Θα διαπραγματεύονται εναντίον και εντός νομικών συστημάτων, εμπορικών νόρμων και σχεσιακών πλαισίων που ποτέ δεν σχεδιάστηκαν για αυτούς. Τώρα απαιτείται κάτι πολύ βαθύτερο από τη μηχανική. Απαιτείται θεσμική φαντασία.»
— Sabastian Niles, Πρόεδρος & Chief Legal Officer, Salesforce

Και εδώ είναι η περιπλοκή που διαχωρίζει αυτή τη στιγμή από κάθε προηγούμενο τεχνολογικό σημείο καμπής: εκείνοι οι Λονδρέζοι τραπεζίτες πριν από δύο αιώνες λειτουργούσαν με ντετερμινιστικούς κανόνες. Αν η Τράπεζα Α όφειλε στην Τράπεζα Β ακριβώς 500 λίρες, το χρέος ήταν 500 λίρες – χωρίς απόκλιση, χωρίς ερμηνεία. Οι σύγχρονοι AI agents δεν λειτουργούν με ντετερμινιστικούς κανόνες. Εξερευνούν κατανομές πιθανότητας. Εκτελέστε το ίδιο σενάριο διαπραγμάτευσης δύο φορές, και μπορεί να έχετε διαφορετικά αποτελέσματα.

Στην Salesforce AI Research, ονομάζουμε αυτό το «πρόβλημα του τσαλαβουτήματος» – η εγγενής μεταβλητότητα στις εξόδους της AI που δημιουργεί ένα χάσμα μεταξύ συστημάτων που γνωρίζουμε πώς να διακυβερνήσουμε και συστημάτων που ακόμη μαθαίνουμε να εμπιστευόμαστε. Αυτό το χάσμα δεν είναι απλώς ένα τεχνικό πρόβλημα. Είναι νομικό. Είναι ηθικό. Είναι το πεδίο που σκοπεύουμε να χαρτογραφήσουμε.

«Το πρόβλημα του τσαλαβουτήματος είναι πραγματικό, και έχει τεράστια σημασία για την υιοθέτηση από επιχειρήσεις. Δεν μπορείτε να ελέγξετε ένα σύστημα που παράγει διαφορετικά αποτελέσματα από ταυτόσημες εισόδους χρησιμοποιώντας τα ίδια πλαίσια που θα εφαρμόζατε σε ντετερμινιστικό λογισμικό. Χρειαζόμαστε νέα πλαίσια αξιολόγησης – και τα χρειαζόμαστε πριν οι συναλλαγές γίνουν σημαντικές.»
— Silvio Savarese, EVP & Chief Scientist, Salesforce

Αυτό που απαιτεί η αρχιτεκτονική εμπιστοσύνης
Η κατασκευή μιας agentic αρχιτεκτονικής εμπιστοσύνης για διαπραγματεύσεις agent-προς-agent δεν είναι μόνο πρόβλημα μηχανικής. Είναι και νομικό. Απαιτεί επιστημονική αυστηρότητα, νομική τεχνογνωσία, και μια ξεκάθαρη κατανόηση του πού πρέπει να παραμένει κυρίαρχη η ανθρώπινη κρίση.

Βάσει της έρευνάς μας και των stress-tests που έχουμε πραγματοποιήσει, πιστεύουμε ότι αυτή η αρχιτεκτονική απαιτεί τέσσερα θεμελιώδη στοιχεία.

1. **Καταχωρημένη ταυτότητα και φήμη με την πάροδο του χρόνου.** Όπως ακριβώς εκείνοι οι Λονδρέζοι τραπεζίτες δεν μπορούσαν να συμμετέχουν ανώνυμα στην Clearing House, έτσι και οι AI agents δεν μπορούν να διαπραγματεύονται μεταξύ οργανισμών χωρίς επαληθεύσιμη ταυτότητα. Η ομάδα μας πρωτοστάτησε στην έννοια των Agent Cards – τυποποιημένα metadata που επικοινωνούν τις δυνατότητες, τους περιορισμούς, τη στάση συμμόρφωσης και την εξουσία ενός agent να δεσμεύεται εκ μέρους του εντολέα του. Η Google υιοθέτησε αυτή την έννοια στην προδιαγραφή A2A της ως θεμέλιο για την ανακάλυψη δυνατοτήτων. Αλλά οι Agent Cards είναι μόνο η αρχή. Αυτό που χρειάζεται η αγορά στη συνέχεια είναι **υποδομή φήμης**: ένας τρόπος για τους agents να χτίζουν, να επιδεικνύουν και να χάνουν τη θέση τους με την πάροδο του χρόνου, όχι μόνο σε μια μεμονωμένη συναλλαγή. Η τέλεια απόδοση σε μια μεμονωμένη αλληλεπίδραση δεν είναι το κριτήριο. Η αξιοπιστία σε χιλιάδες από αυτές είναι, τελικά, το πραγματικό μέτρο, και μόνο με υψηλή ικανότητα και συνέπεια μπορούμε να επιτύχουμε Enterprise General Intelligence. Όπως και στους ανθρώπους, η φήμη για τους agents μετριέται αθροιστικά – και οι agents που θα κερδίσουν το δικαίωμα να συνεχίσουν να διαπραγματεύονται θα είναι εκείνοι που θα επιδείξουν συνέπεια σε κλίμακα.

2. **Όρια, όχι σενάρια.** Η ενορμητική προσέγγιση κατά τη διακυβέρνηση της AI είναι να καθορίζεται: **αν σενάριο**, τότε αντίδραση Y. Αυτή η προσέγγιση λειτούργησε για αυτοματοποίηση βάσει κανόνων. Αποτυγχάνει για πιθανοτικούς agents που λειτουργούν σε σύνθετα, εννοιολογικά επιχειρηματικά περιβάλλοντα. Το καλύτερο μοντέλο, δανεισμένο από το πώς διακυβερνούμε τους ανθρώπινους επαγγελματίες, είναι να καθορίζονται αρχές και όρια αντί για δέντρα αποφάσεων. Δεν δίνουμε στους χειρουργούς σενάρια για κάθε πιθανή παρουσίαση ασθενούς. Καθορίζουμε πρότυπα φροντίδας, επαγγελματική ηθική, και μηχανισμούς εποπτείας που αξιολογούν εάν η κρίση **ασκήθηκε κατάλληλα**. Η διακυβέρνηση των agents πρέπει να λειτουργεί με τον ίδιο τρόπο: ευρεία ευχέρεια εντός καθορισμένων ορίων, με πλαίσια αξιολόγησης που εξετάζουν **το πώς αποφάσισε ο agent, όχι απλώς** τι αποφάσισε**. Κορυφαίοι πάροχοι AI αρχίζουν να αντιμετωπίζουν αυτό σε συστήματα ενός μεμονωμένου agent. Η πρόκληση πολλαπλασιάζεται δραματικά όταν agents από διαφορετικούς οργανισμούς, εκπαιδευμένοι σε διαφορετικά δεδομένα, εκπροσωπώντας διαφορετικά συμφέροντα, πρέπει να πλοηγηθούν από κοινού σε κοινά πρότυπα.

3. **Δομημένη λογοδοσία.** Όταν ένας agent λαμβάνει μια σημαντική απόφαση – δεσμεύεται σε μια τιμή, αποδέχεται έναν όρο συμβολαίου, κλιμακώνει μια διαφωνία – δεν πρέπει να υπάρχει αμφιβολία για το ποιος είναι υπεύθυνος. Αυτή δεν είναι τεχνική απαίτηση. Είναι ζήτημα διακυβέρνησης. Φανταζόμαστε την εμφάνιση νέων οργανωσιακών ρόλων: αξιωματικοί λειτουργιών AI και διαχειριστές agents με εξουσία επί των αναπτύξεων των agents και λογοδοσία όταν κάτι πάει στραβά. Φανταζόμαστε ιχνηλατήσιμα αρχεία ελέγχου αρκετά εξελιγμένα για να αντέχουν νομικό έλεγχο – όχι απλά αρχεία του τι συνέβη, αλλά δομημένα αρχεία του πώς ελήφθησαν οι αποφάσεις, ποιες πληροφορίες λήφθηκαν υπόψη, ποιες εναλλακτικές αξιολογήθηκαν. Η λογοδοσία πρέπει να είναι ιχνηλατήσιμη. Η λογοδοσία πρέπει να είναι ανθρώπινη.

4. **Βαθμονομημένη κλιμάκωση.** Ίσως η πιο κρίσιμη ικανότητα απ’ όλες: οι AI agents πρέπει να ξέρουν πότε να σταματήσουν. Δεν μπορούν και δεν πρέπει να επιλύονται όλες οι διαπραγματεύσεις αυτόνομα. Η αρχιτεκτονική εμπιστοσύνης πρέπει να περιλαμβάνει σαφή πρωτόκολλα κλιμάκωσης που διακρίνουν μεταξύ αποφάσεων εντός της εξουσίας ενός agent και αποφάσεων που απαιτούν ανθρώπινη αναθεώρηση – και που βαθμονομούν το όριο με τη συνέπεια. Οι συνήθεις αποφάσεις θα πρέπει να ρέουν χωρίς τριβές. Οι αποφάσεις υψηλού κινδύνου που αφορούν, για παράδειγμα, τη συμμόρφωση με κανονισμούς, μεγάλες συμβατικές δεσμεύσεις, ή σημαντική οικονομική έκθεση, θα πρέπει αυτόματα να αναδύονται στην ανθρώπινη κρίση. Αλλά αυτές είναι επίσης στρατηγικές αποφάσεις σχεδιασμού: πρέπει ο agent να κλιμακώσει κατά τη διάρκεια της διαπραγμάτευσης για να ελέγξει; Ή μόνο όταν έρθει η ώρα να ζητηθεί η τελική αναθεώρηση και έγκριση της φαινομενικά τελικής, πλήρως διαπραγματευμένης συμφωνίας; Μπορεί η ανθρώπινη αναθεώρηση να περιμένει μέχρι μετά το γεγονός, μέσω περιοδικών ελέγχων και χωρίς να απαιτείται ανθρώπινη έγκριση πριν από τη σύναψη μιας αμοιβαία δεσμευτικής συμφωνίας; Οι agents που κλιμακώνουν υπερβολικά συχνά υπονομεύουν τον σκοπό της αυτοματοποίησης. Οι agents που δεν κλιμακώνουν ποτέ είναι κίνδυνος. Η αρχιτεκτονική πρέπει να είναι ακριβής για το πού βρίσκεται η γραμμή.

Πού θα αναδειχθεί αυτό πρώτα, και τι μπορούν να κάνουν οι ηγέτες τώρα
Τα οικοσυστήματα agent-προς-agent δεν είναι μια μακρινή πιθανότητα. Εμφανίζονται αυτή τη στιγμή σε τρεις τομείς.

1. **Χρεώσεις και εξουσιοδοτήσεις υγειονομικής περίθαλψης**: Agents υπεράσπισης ασθενών θα συντονίζονται με agents ασφαλιστικών εταιρειών για προεξουσιοδότηση και διεκπεραίωση απαιτήσεων. Πρόσφατα, ανακοινώσαμε το eVerse, το περιβάλλον προσομοίωσής μας για voice and text agents έτοιμα για επιχειρήσεις. Μαζί με το UCSF Health, εκπαιδεύουμε ήδη agents σε χιλιάδες συνθετικά σενάρια και stress-testing ακραίων περιπτώσεων πριν φτάσουν σε πραγματικούς ασθενείς. Όταν διακυβεύονται ανθρώπινες ζωές, τα πρωτόκολλα κλιμάκωσης δεν είναι προαιρετικά. Είναι απαραίτητα.

2. **Χρηματοοικονομικές υπηρεσίες**: Φανταστείτε agents ταμείου να διαπραγματεύονται πιστωτικές εγκαταστάσεις, συναλλαγές συναλλάγματος, και συμβάσεις προμηθειών με agents χρηματοπιστωτικών ιδρυμάτων. Αυτές οι αλληλεπιδράσεις εμπεριέχουν διαχειριστικές ευθύνες, ρυθμιστικές απαιτήσεις, και δυναμικές σχέσεων που δεν μπορούν να καθοριστούν πλήρως εκ των προτέρων. Ένας agent που πιέζει για καλύτερη τιμολόγηση με κόστος μια πιστωτική σχέση είναι σοβαρή ευθύνη φήμης.

3. **Συντονισμός εφοδιαστικής αλυσίδας**: Φανταστείτε manufacturing agents να διαπραγματεύονται χρονοδιαγράμματα παράδοσης με agents παρόχων logistics, προσαρμοζόμενοι σε πραγματικό χρόνο για διαταραχές, διατηρώντας παράλληλα συμφωνίες υπηρεσιών. Η πρόκληση διακυβέρνησης: πώς διασφαλίζετε ότι και οι δύο πλευρές μοιράζονται πληροφορίες ειλικρινά σχετικά με τους περιορισμούς χωρητικότητας, χωρίς να παραχωρούν ανταγωνιστικές πληροφορίες;

Σε κάθε έναν από αυτούς τους τομείς, οι οργανισμοί που θα ηγηθούν δεν θα είναι απαραίτητα εκείνοι με τα πιο εξελιγμένα μοντέλα. Θα είναι εκείνοι που θα κατασκευάσουν τα πιο εξελιγμένα **όρια** – και θα επενδύσουν στην αρχιτεκτονική εμπιστοσύνης πριν οι συναλλαγές γίνουν σημαντικές.

«Η πρόκληση στον ορίζοντα δεν είναι απλώς ότι οι agents μπορεί να συμπεριφερθούν λανθασμένα. Είναι ότι τα συστήματα που αποτελούνται από πολλούς αυτόνομους agents μπορούν να παράγουν αποτελέσματα που κανένα μεμονωμένο σύστημα δεν είχε σχεδιαστεί ρητά για να παράγει. Όταν η διαπραγμάτευση μετακινείται από ανθρώπους σε δίκτυα αλληλεπιδρώντων agents, η διακυβέρνηση πρέπει να μετατοπιστεί από τον έλεγχο μεμονωμένων εργαλείων ή ηθοποιών στον έλεγχο του οικοσυστήματος αλληλεπίδρασης.»
— Sabastian Niles, Πρόεδρος και Chief Legal Officer, Salesforce

Τι σημαίνει αυτό στην πράξη:

* **Ορίστε τα πρότυπά σας τώρα.** Και πάλι, όχι **κανόνες**. **Πρότυπα**. Τι αξίες θέλετε να ενσωματώσει ο agent σας στη διαπραγμάτευση; Ποια όρια είναι αδιαπραγμάτευτα; Τι επίπεδο αυτονομίας σας βολεύει, και σε ποιο όριο η ανθρώπινη αναθεώρηση γίνεται υποχρεωτική; Αυτές είναι στρατηγικές επιλογές, όχι τεχνικές προδιαγραφές. Κάντε τις συνειδητά.
* **Κατασκευάστε για ελεγξιμότητα.** Κάθε σημαντική αλληλεπίδραση agent πρέπει να δημιουργεί ένα δομημένο αρχείο: τι αποφασίστηκε, πώς αποφασίστηκε, ποιες εναλλακτικές εξετάστηκαν, πότε ενεργοποιήθηκε η κλιμάκωση. Σχεδιάστε για αυτό από την αρχή. Η προσθήκη υποδομής αρχείου ελέγχου εκ των υστέρων είναι πολύ πιο δύσκολη από την ενσωμάτωσή της.
* **Επενδύστε σε υποδομή φήμης.** Το να έχει ο agent σας καλές επιδόσεις σήμερα είναι μια αρχή, αλλά η εκπλήρωση αυτής της δοκιμασίας είναι ατελής και ανεπαρκής. Το ερώτημα είναι αν θα αποδώσει αξιόπιστα σε δέκα χιλιάδες αλληλεπιδράσεις. Αρχίστε να μετράτε την ποιότητα της διαπραγμάτευσης αθροιστικά, όχι μόνο σε μεμονωμένες περιπτώσεις.
* **Συνεργαστείτε με οργανισμούς που επιλύουν αυτό τώρα.** Η αρχιτεκτονική εμπιστοσύνης για το A2A commerce θα διαμορφωθεί από εκείνους που ασχολούνται με το πρόβλημα νωρίς. Οργανισμοί τυποποίησης, ρυθμιστικοί φορείς, και βιομηχανικές κοινοπραξίες αρχίζουν να διαμορφώνονται γύρω από αυτά τα ερωτήματα. Οι οργανισμοί που θα βοηθήσουν στη σύνταξη των προτύπων θα έχουν ένα σημαντικό πλεονέκτημα έναντι εκείνων που απλώς συμμορφώνονται με αυτά.

Οι διακυβεύσεις δεν ήταν ποτέ υψηλότερες.
Η διαπραγμάτευση δεν είναι απλώς ανταλλαγή αγαθών και υπηρεσιών. Είναι ένα σύστημα εμπιστοσύνης – συσσωρευμένο επί αιώνες, κωδικοποιημένο σε θεσμούς, επιβεβλημένο από τη φήμη, υποστηριζόμενο από το νόμο. Κάθε επιτυχώς ολοκληρωμένη συναλλαγή προσθέτει σε μια κοινή υποδομή που καθιστά δυνατή την επόμενη συναλλαγή. Κάθε παραβίαση εμπιστοσύνης την διαβρώνει.

Οι AI agents πρόκειται να εισέλθουν σε αυτό το σύστημα σε κλίμακα. Εκατομμύρια αλληλεπιδράσεις ανά ημέρα, σε οργανωσιακά και εθνικά σύνορα, που περιλαμβάνουν σημαντικές αποφάσεις για τιμές, όρους, συμμόρφωση, και σχέσεις. Καθώς οι αυτόνομοι agents αρχίζουν να συμμετέχουν σε αυτά τα συστήματα σε κλίμακα, αντιμετωπίζουμε ένα θεμελιώδες ερώτημα: θα προσαρμοστούν οι θεσμοί μας με τρόπους που θα ενισχύσουν την εμπιστοσύνη, ή θα υποστούν πίεση από μορφές αυτοματοποίησης για τις οποίες ποτέ δεν σχεδιάστηκαν να διακυβερνηθούν; Η αρχιτεκτονική εμπιστοσύνης που χτίζουμε τώρα θα διαμορφώσει εάν αυτή η συμμετοχή θα ενισχύσει το σύστημα ή θα το υποβαθμίσει.

«Μπορείτε να έχετε τα μοντέλα, την υπολογιστική ισχύ, το κεφάλαιο. Αλλά αυτό που ποτέ δεν μπορεί να γίνει κοινός τόπος είναι η νομιμότητα. Η εμπιστοσύνη είναι υποδομή. Και όπως όλη η υποδομή, απαιτεί σκόπιμη επένδυση πριν την χρειαστείτε – όχι αφού ανακαλύψετε ότι δεν την έχετε. Αυτό ακριβώς το είδος προβλήματος η Salesforce είναι φτιαγμένη για να βοηθήσει να λυθεί.»
— Sabastian Niles, Πρόεδρος και Chief Legal Officer, Salesforce

Η London Bankers’ Clearing House δεν προέκυψε από κανονισμούς. Προέκυψε από κοινή ανάγκη – η αναγνώριση ότι κανένα μεμονωμένο ίδρυμα δεν μπορούσε να λύσει πλήρως το πρόβλημα μόνο του, και ότι το συλλογικό όφελος ενός αξιόπιστου συστήματος υπερτερούσε του ανταγωνιστικού κόστους της συμβολής σε αυτό.

Πιστεύουμε ότι βρισκόμαστε στην ίδια στιγμή σήμερα.
Τα πλαίσια δεν υπάρχουν ακόμη. Τα πρότυπα διακυβέρνησης δεν έχουν γραφτεί. Η υποδομή φήμης δεν έχει κατασκευαστεί. Η νομική αρχιτεκτονική για μηχανές που διαπραγματεύονται στη σκιά της ανθρωπότητας είναι, αυτή τη στιγμή, σε μεγάλο βαθμό αχαρτογράφητη περιοχή.
Η στιγμή για να εμπλακούμε είναι τώρα.