Καθημερινά, εκατομμύρια εργαζόμενοι χρησιμοποιούν την Okta για να αποκτήσουν πρόσβαση σε εφαρμογές και άλλες υπηρεσίες. Σύντομα, οι AI agents (πράκτορες τεχνητής νοημοσύνης) ενδέχεται να απαιτούν την ίδια πρόσβαση. Ο CEO της Okta, Todd McKinnon, αναφέρει ότι η εταιρεία του εξετάζει πώς να εγγυηθεί την ασφάλεια, καθώς οι άνθρωποι ενδεχομένως να αναθέτουν τις ψηφιακές τους ευθύνες σε AI agents.
Ο McKinnon υποστήριξε την ύπαρξη ενός “διακόπτη απενεργοποίησης” (kill switch) για την περίπτωση που τα πράγματα ξεφύγουν ανεξέλεγκτα. Σε συνέντευξή του στο “Decoder” του The Verge, που δημοσιεύθηκε τη Δευτέρα, περιέγραψε τους AI agents ως μια νέα κατηγορία ψηφιακών εργαζομένων, ικανών να έχουν πρόσβαση σε συστήματα, να μετακινούν δεδομένα και να εκτελούν ενέργειες σε ολόκληρο το ψηφιακό περιβάλλον μιας εταιρείας. Οι επιχειρήσεις πειραματίζονται ολοένα και περισσότερο με AI agents για την αυτοματοποίηση ροών εργασίας, την ανάπτυξη λογισμικού, ακόμη και για την εκτέλεση ορισμένων φυσικών εργασιών.
Αυτού του είδους η δύναμη απαιτεί αυστηρές παραμέτρους, τόνισε ο McKinnon. «Χρειάζεται ένα σύστημα για την παρακολούθησή τους, τον καθορισμό του ρόλου τους, των δικαιωμάτων τους, με τι μπορούν να συνδεθούν και τι μπορούν να κάνουν», ανέφερε, προσθέτοντας ότι οι εταιρείες θα πρέπει επίσης να έχουν τη δυνατότητα να «τραβούν την πρίζα» εάν οι agents ξεφύγουν από τον έλεγχο. Η πρόταση της Okta δεν θα τερμάτιζε πλήρως τους AI agents, αλλά ο διακόπτης απενεργοποίησης θα περιόριζε την πρόσβασή τους σε ευαίσθητα δεδομένα.
Ο Harish Pari, ανώτερος αντιπρόεδρος ασφάλειας AI στην Okta, δήλωσε στο Business Insider ότι ο κίνδυνος αναδύεται ήδη. «Κάθε οργανισμός αναπτύσσει AI agents», είπε. «Αλλά για να κάνουν οι agents τη δουλειά τους, χρειάζονται πρόσβαση σε ευαίσθητα συστήματα και δεδομένα, δημιουργώντας έτσι ένα νέο διάνυσμα επίθεσης».
Ενώ το πλεονέκτημα είναι η παραγωγικότητα, η Okta επισημαίνει ότι οι κίνδυνοι είναι εξίσου σημαντικοί και απαιτούν προσεκτικά όρια, συμπεριλαμβανομένου του «μεγάλου κόκκινου κουμπιού». Στις 15 Μαρτίου, η εταιρεία δημοσίευσε ένα δελτίο τύπου με τίτλο “Το σχέδιο για την ασφαλή επιχειρηματική οντότητα (agentic enterprise)”. Σε αυτό, η Okta αναφέρει ότι οι εταιρείες που χρησιμοποιούν AI θα πρέπει «να είναι σε θέση να ανακαλούν άμεσα την πρόσβαση σε κάθε σύστημα για τον περιορισμό του κινδύνου». Το πλαίσιο προβλέπει επίσης την επιβολή δικαιωμάτων κοινής χρήσης δεδομένων σε πραγματικό χρόνο, ανθρώπινη έγκριση για επικίνδυνες ενέργειες και λεπτομερή αρχεία ελέγχου που παρακολουθούν κάθε απόφαση και προσπάθεια πρόσβασης ενός agent.
Η Okta δεν είναι η μόνη. Στις αρχές του 2024, ο Γερουσιαστής της Καλιφόρνια Scott Wiener πρότεινε ένα νομοσχέδιο ρύθμισης της AI που θα απαιτούσε από τις εταιρείες να ενσωματώσουν έναν μηχανισμό ασφαλείας. Το νομοσχέδιο έλαβε υποστήριξη από τον υποστηρικτή της AI Elon Musk, πριν ο Κυβερνήτης Gavin Newsom το θέσει σε βέτο αργότερα εκείνο το έτος. Παρόλα αυτά, ο McKinnon δήλωσε στο “Decoder” ότι είναι σημαντικό οι ιδιωτικές εταιρείες να δημιουργήσουν τους δικούς τους μηχανισμούς ασφαλείας. «Τα πράγματα θα πάνε στραβά, και θα υπάρξουν προβλήματα, απειλές και prompt injection», εξήγησε, τονίζοντας τη σημασία της παρεμπόδισης της πρόσβασης των agents σε δεδομένα σε περίπτωση κρίσης. «Είναι σχεδόν σαν να αποσύρεις ένα μηχάνημα από το δίκτυο».
