Μια νέα startup, η JetStream Security, με ιδρυτές βετεράνους από εταιρείες όπως η CrowdStrike, η SentinelOne και η Cohesity, συγκέντρωσε 34 εκατομμύρια δολάρια σε αρχική χρηματοδότηση για να αντιμετωπίσει το αυξανόμενο χάσμα στη διακυβέρνηση της τεχνητής νοημοσύνης (AI) στον εταιρικό χώρο. Η εταιρεία, με έδρα το San Francisco, δημιουργήθηκε για να λύσει τα προβλήματα ασφάλειας και ελέγχου που προκύπτουν από την ταχεία ανάπτυξη AI assistants και προσαρμοσμένων μοντέλων.
Το περιστατικό με το OpenClaw, ένα AI assistant που υπόσχονταν να διαχειρίζεται ημερολόγια, να επιβεβαιώνει πτήσεις, να απαντά σε email και να οργανώνει αρχεία, έγινε viral τον περασμένο μήνα. Μέσα σε λίγες εβδομάδες, ερευνητές ασφαλείας εντόπισαν πάνω από 30.000 εκτεθειμένες παρουσίες του στο διαδίκτυο. Το εργαλείο έγινε παράδειγμα του τι σημαίνει ανεξέλεγκτη AI στην πράξη, με έναν ερευνητή ασφαλείας AI να βλέπει άναυδος πώς διέγραψε το inbox της πριν προλάβει να το σταματήσει.
Αυτό ακριβώς το πρόβλημα επιδιώκει να λύσει η JetStream. Οι εταιρείες τρέχουν να αναπτύξουν AI agents και custom μοντέλα, αλλά πολλές δεν έχουν τρόπο να παρακολουθούν τι κάνουν αυτά τα συστήματα, ούτε διαθέτουν λίστα με μη εξουσιοδοτημένα εργαλεία AI που χρησιμοποιούν κρυφά οι εργαζόμενοι, ούτε ένα “kill switch” για έκτακτες περιπτώσεις.
Η λύση της JetStream περιστρέφεται γύρω από τα “AI Blueprints” (AI Σχέδια): γραφήματα σε πραγματικό χρόνο που χαρτογραφούν κάθε ενέργεια ενός συστήματος AI εντός μιας οργάνωσης ανά πάσα στιγμή. Κάθε Blueprint καταγράφει την πλήρη αλυσίδα δραστηριοτήτων: ποιοι agents εκτελούνται, ποια μοντέλα χρησιμοποιούν, με ποια δεδομένα και εργαλεία αλληλεπιδρούν, και ποιος ή τι βρίσκεται πίσω από κάθε ενέργεια. Αντί για στατική εικόνα, τα Blueprints παρακολουθούν τη ζωντανή συμπεριφορά, επισημαίνοντας συστήματα AI που αρχίζουν να δρουν εκτός του προβλεπόμενου σκοπού τους. Επιπλέον, παρακολουθούν το κόστος, δείχνοντας τι ξοδεύει κάθε AI workflow και ποιος είναι υπεύθυνος.
Η εταιρεία, που ιδρύθηκε από τους Raj Rajamani, Jared Phipps, Jatheen “AJ” Anand και Venu Vissamsetty, συγκέντρωσε 34 εκατομμύρια δολάρια σε seed funding, με επικεφαλής την Redpoint Ventures και συμμετοχή του Falcon Fund, καθώς και επενδυτών όπως ο CEO της CrowdStrike, George Kurtz, ο CEO της Wiz, Assaf Rappaport, και ο Αντιπρόεδρος της Okta, Frederic Kerrest.
Με τις παγκόσμιες δαπάνες για AI να αναμένεται να φτάσουν τα 650 δισεκατομμύρια δολάρια φέτος, και τη συζήτηση για το αν η AI αποδίδει πραγματικές αποδόσεις επένδυσης για τις επιχειρήσεις να συνεχίζεται, οι εταιρείες ενδιαφέρονται ολοένα και περισσότερο για την εταιρική διακυβέρνηση της AI. Οι ανησυχίες για κινδύνους ασφαλείας αποτελούν σημαντικό εμπόδιο στην υιοθέτηση της AI από μεγάλες επιχειρήσεις, καθώς οι εταιρείες διστάζουν να ενθαρρύνουν το προσωπικό να πειραματιστεί με εργαλεία ή να επιτρέψουν σε ένα “μαύρο κουτί” σύστημα πρόσβαση σε δεδομένα ετών.
“Η υιοθέτηση της AI δεν είναι τεχνολογική πρόκληση, είναι πρόκληση εμπιστοσύνης”, δήλωσε ο Rajamani στο Fortune. “Οι ηγέτες καλούνται να ποντάρουν τις επιχειρήσεις και τις καριέρες τους σε συστήματα που δεν μπορούν να δουν, να εξηγήσουν ή να ελέγξουν πλήρως. Εκεί καταρρέει η εμπιστοσύνη.”
Ένα μέρος του προβλήματος είναι ότι οι εταιρείες συχνά δεν γνωρίζουν πόση AI χρησιμοποιούν ήδη, σύμφωνα με τον Phipps. Ορισμένες έρευνες υποδηλώνουν ότι περίπου το 70% των οργανισμών πιστεύουν ότι έχουν “shadow AI” – όπου οι εργαζόμενοι χρησιμοποιούν κρυφά μη εξουσιοδοτημένα εργαλεία εκτός του ελέγχου του IT.
Ο Phipps ανέφερε ότι η αρχική εργασία της JetStream με πελάτες υποδηλώνει ότι η πραγματικότητα είναι συνήθως χειρότερη από ό,τι πιστεύουν. Ένα συχνό φαινόμενο είναι οι εργαζόμενοι να επικολλάνε άθελά τους ευαίσθητα εταιρικά δεδομένα σε προσωπικό λογαριασμό ChatGPT ή Claude, θέτοντας άμεσα προστατευμένες πληροφορίες εκτός ελέγχου της επιχείρησης. Ο ίδιος κίνδυνος επεκτείνεται στους προγραμματιστές, οι οποίοι κατεβάζουν τακτικά AI plugins απευθείας από το διαδίκτυο χωρίς τη γνώση του IT, φέρνοντας συχνά μαζί τους κενά ασφαλείας.
“Αφιερώνουν όλη τους τη ζωή για να χτίσουν μια επιχείρηση”, είπε για τους ιδιοκτήτες επιχειρήσεων, “και με ένα λάθος, μπορούν να χάσουν βασικές πτυχές της.”
Η JetStream απασχολεί ήδη περίπου 40 άτομα και αναφέρει ισχυρό ενδιαφέρον από ένα ευρύ φάσμα οργανισμών – από μικρές FinTech εταιρείες έως παγκόσμιες τράπεζες, αεροπορικές εταιρείες και άλλες εταιρείες του Fortune 500. Η εταιρεία σκοπεύει να χρησιμοποιήσει τα νέα κεφάλαια για την ανάπτυξη των ομάδων μηχανικής, προϊόντος και πωλήσεων.
Ο Rajamani δηλώνει ότι θέλει η JetStream να γίνει το CrowdStrike της διακυβέρνησης AI, αν και η εταιρεία μπορεί να αντιμετωπίσει ανταγωνισμό από τους hyperscalers, όπως η Microsoft και η Google, καθώς και από τα frontier AI labs στο μέλλον, καθώς κινούνται σε γειτονικούς τομείς.
“Μέχρι να παρατηρήσετε ότι η AI δεν λειτουργεί τέλεια στην επιχείρησή σας, η ζημιά έχει ήδη γίνει”, δήλωσε ο Phipps, απορρίπτοντας την πιθανότητα μελλοντικού ανταγωνισμού. “Όλοι πρέπει να επικεντρωθούν στη διακυβέρνηση. Ειλικρινά, όλοι πρέπει να νοιάζονται – γιατί όλοι αντιμετωπίζουν κίνδυνο.”
