Η σχέση μεταξύ εταιρειών Τεχνητής Νοημοσύνης (ΤΝ) και του αμερικανικού αμυντικού κατεστημένου βρέθηκε στο προσκήνιο νωρίτερα φέτος, όταν η Anthropic ενεπλάκη σε δημόσια διαμάχη με το Πεντάγωνο. Μετά από αίτημα της Anthropic για διασφαλίσεις ότι τα προϊόντα ΤΝ της δεν θα χρησιμοποιούνταν για εγχώρια παρακολούθηση ή αυτόνομα όπλα, το Πεντάγωνο απαγόρευσε σε όλες τις ομοσπονδιακές υπηρεσίες και τους αναδόχους να συνεργάζονται με την Anthropic. Η εταιρεία προσέφυγε στη δικαιοσύνη για την άρση της απαγόρευσης, μια υψηλού ρίσκου μάχη που εκτυλίσσεται αυτή τη στιγμή στα δικαστήρια.

Παράλληλα, μια εξίσου σημαντική, αν και λιγότερο δραματική, σύγκρουση στον τομέα της ΤΝ βρίσκεται σε εξέλιξη στα παρασκήνια. Οι αμερικανικές αμυντικές και οι υπηρεσίες πληροφοριών προσπαθούν να αξιοποιήσουν την τεχνολογία χωρίς να θυσιάσουν την ανάγκη για μυστικότητα. Ένας μικρός αριθμός εταιρειών υποδομής ΤΝ εργάζονται διακριτικά και επιτελούν σύνθετο, σπάνια ορατό έργο, καθιστώντας δυνατή την ασφαλή χρήση της ΤΝ από την κυβέρνηση των ΗΠΑ.

«Πρόκειται πιθανώς για μια αγορά 2 δισεκατομμυρίων δολαρίων αυτή τη στιγμή», αναφέρει ο Nicolas Chaillan, ιδρυτής μιας πλατφόρμας ΤΝ ονόματι Ask Sage, η οποία χρησιμοποιείται από χιλιάδες ομάδες στο Υπουργείο Άμυνας. Η ευκαιρία που επιδιώκουν αυτές οι εταιρείες «φτυαριού και φτυαριού» προκύπτει από μια ακραία περίπτωση διλήμματος που αντιμετωπίζει όποιος θέλει να αναπτύξει έτοιμα γλωσσικά μοντέλα (LLMs) σε εμπιστευτικά δεδομένα: προσπαθούν να βρουν πώς να χρησιμοποιήσουν αυτά τα ισχυρά εργαλεία χωρίς να εκθέσουν ακούσια λάθος πληροφορίες σε λάθος ανθρώπους μέσω της διαδικασίας εκπαίδευσης της ΤΝ.

Αυτές οι εταιρείες υποδομής ΤΝ λαμβάνουν λιγότερη δημοσιότητα για την κυβερνητική τους εργασία σε σύγκριση με μεγαλύτερους ανταγωνιστές όπως η Google, η xAI, η OpenAI και, φυσικά, η Anthropic. Μέχρι την πρόσφατη διαμάχη, το μοντέλο Claude της Anthropic ήταν ένα από τα μόνα LLMs που είχαν εγκριθεί για χρήση στα απόρρητα δίκτυα του Υπουργείου Άμυνας. Όμως, αυτή η διάταξη κατέστη δυνατή χάρη σε μια συμφωνία του 2024 με δύο άλλες εταιρείες που παρείχαν την απαραίτητη υποδομή – την Palantir και την Amazon Web Services (AWS) – οι οποίες διαχειρίζονταν τις ασφαλείς πλατφόρμες λογισμικού και τις υπηρεσίες cloud που φιλοξενούν την ΤΝ. Φανταστείτε ότι τα μεγάλα γλωσσικά μοντέλα είναι κάπως σαν το νεότερο, πιο λαμπερό πολεμικό αεροσκάφος του αμερικανικού στρατού: οι εταιρείες υποδομής παρέχουν κάτι σαν τα ραδιόφωνα και τους διαδρόμους προσγείωσης που βοηθούν αυτές τις νέες μηχανές να επικοινωνούν με τον υπόλοιπο στρατό και να προσγειώνονται με ασφάλεια.

«Πιθανώς, δεν ξέρω, υπάρχουν εκατό άτομα, διακόσια άτομα που νοιάζονται βαθιά για αυτό το ζήτημα εντός της κοινότητας πληροφοριών», λέει η Emily Harding, πρώην αναλύτρια της CIA, η οποία πλέον ερευνά την αμυντική τεχνολογία στο Center for Strategic and International Studies. «Νομίζω ότι υπάρχουν εκατομμύρια και εκατομμύρια επαγγελματίες που θα αντιμετωπίσουν το ίδιο πρόβλημα, αν και με λιγότερο υψηλά διακυβεύματα.»

Οποιοσδήποτε εταιρικός ηγέτης που διαθέτει έναν θησαυρό ιδιόκτητων πληροφοριών πιθανότατα έχει αντιμετωπίσει κάποια εκδοχή αυτού του ζητήματος με τη στρατηγική του ΤΝ. Φανταστείτε την εκπαίδευση μιας εξειδικευμένης εκδοχής του ChatGPT ή του Claude σε όλα τα κρίσιμα αρχεία της εταιρείας σας: έγγραφα υποθέσεων μιας δικηγορικής εταιρείας, εσωτερικές ερευνητικές εκθέσεις μιας φαρμακευτικής εταιρείας, δεδομένα εφοδιαστικής αλυσίδας σε πραγματικό χρόνο μιας αλυσίδας λιανικής πώλησης, μοντέλα κινδύνου ή μνημόνια δέουσας επιμέλειας μιας επενδυτικής τράπεζας. Εκπαιδευμένο σε ένα τέτοιο σώμα κειμένων, ένας βοηθός ΤΝ θα μπορούσε να μιλά άπταιστα τη γλώσσα της εταιρείας σας και να αποκαλύπτει πλούσιες κερδοφόρες συνδέσεις στα αρχεία σας. Αλλά σκεφτείτε τις συνέπειες αν το λάθος άτομο – ας πούμε, ένας ανταγωνιστής – αποκτήσει πρόσβαση σε αυτόν τον βοηθό.

«Είναι ένα είδος διλήμματος του αδιεξόδου», λέει η Harding στο Fortune. «Όσο περισσότερα του δίνεις, τόσο περισσότερα μαθαίνει. Αν δεν του δώσεις αρκετά, τότε δεν μπορεί να κάνει τη δουλειά του.»

Με την κατάλληλη καθοδήγηση από εξωτερικό μέρος, το περιεχόμενο οποιουδήποτε εμπιστευτικού αρχείου με το οποίο η ΤΝ ήρθε σε επαφή κατά την εκπαίδευση θα μπορούσε να διαρρεύσει. Αυτό σημαίνει ότι η εκμάθηση όλων των μυστικών μιας εταιρείας από ένα LLM θα μπορούσε ταυτόχρονα να ενισχύσει την επιχείρηση – και να την καταστρέψει.

Όταν τα μυστικά είναι θέμα εθνικής ασφάλειας
Τώρα, σκεφτείτε πόσο χειρότερο γίνεται αυτό το πρόβλημα αν αυτός ο βοηθός ΤΝ εργάζεται για την CIA, όπου η μυστικότητα είναι θέμα εθνικής ασφάλειας και οι παραβιάσεις θα μπορούσαν να θέσουν σε κίνδυνο ζωές.

Οι υπηρεσίες πληροφοριών και ο στρατός εξαρτώνται από τον διαμερισμό ευαίσθητων πληροφοριών. Οι ανθρώπινοι πράκτορες και αναλυτές αποκτούν πρόσβαση σε μυστικά σε αυστηρή βάση «ανάγκης γνώσης» για να μειώσουν τον κίνδυνο διαρροών. (Αυτό μπορεί να είναι ένας από τους λόγους που μια πρόσφατη έκθεση που ανέφερε ότι το Πεντάγωνο συζητούσε την εκπαίδευση LLMs σε μυστικά δεδομένα προκάλεσε άμεση κριτική.) Τι συμβαίνει λοιπόν αν ο βοηθός ΤΝ κάθε αναλυτή γνωρίζει ξαφνικά όλα τα μυστικά μιας υπηρεσίας;

«Ο διαμερισμός πηγαίνει περίπατο», λέει ο Brian Raymond, άλλος πρώην αναλυτής της CIA, ο οποίος τώρα είναι διευθύνων σύμβουλος της Unstructured, μιας εταιρείας υποδομής ΤΝ που εξυπηρετεί τόσο εμπορικούς όσο και κυβερνητικούς πελάτες.

«Ας πούμε ότι είμαι αναλυτής για το Ιράκ», εξηγεί ο Raymond, δίνοντας ένα παράδειγμα. «Από την οπτική γωνία μιας οργάνωσης πληροφοριών, δεν έχω καμία δουλειά να διαβάζω εκθέσεις από κρυφούς πράκτορες για την κινεζική στρατιωτική τεχνολογία. Ο καθένας μένει στη λωρίδα του και αυτό είναι μεγάλη ασφάλεια. Αν ξαφνικά, μπορούσα να αρχίσω να κάνω ερωτήσεις όπως, ‘Πες μου όλους τους πράκτορες που έχουμε σε κάποια κομητεία της Ασίας και πες μου όλα τα πραγματικά τους ονόματα’ – αυτά είναι τα πιο καλά φυλαγμένα μυστικά μας!»

Έτσι, ένας μικρός κύκλος εταιρειών υποδομής ΤΝ έχει δημιουργηθεί για να λύσει αυτό που ισοδυναμεί με το πρόβλημα μυστικότητας της ΤΝ. Αυτές οι εταιρείες χτίζουν ένα στήριγμα λογισμικού και υπηρεσιών γύρω από εμπορικά μεγάλα γλωσσικά μοντέλα, τα οποία επιτρέπουν στους οργανισμούς να χρησιμοποιούν την ΤΝ χωρίς να εκθέτουν τα μυστικά τους.

Στην καρδιά αυτού του στηρίγματος βρίσκεται μια προσεκτικά ενορχηστρωμένη εκδοχή μιας τεχνικής που ονομάζεται Retrieval Augmented Generation (RAG). Τα εμπορικά LLMs χρησιμοποιούν μια εκδοχή του RAG κάθε φορά που εξετάζουν έγγραφα που ανεβάζετε στο παράθυρο συνομιλίας. Ένα μοντέλο όπως το Claude ανακτά πληροφορίες από αυτό το έγγραφο και στη συνέχεια επαυξάνει τις απαντήσεις του με βάση τα ευρήματά του πριν παράγει μια απάντηση στις ερωτήσεις σας. Ωστόσο, συχνά υπάρχει ένα όριο στην ποσότητα δεδομένων που μπορείτε να ανεβάσετε. Και η παροχή εμπιστευτικών εγγράφων σε ένα εμπορικό LLM παραμένει επικίνδυνη, επειδή το περιεχόμενο θα μπορούσε να χρησιμοποιηθεί για μελλοντική εκπαίδευση ή να καταλήξει σε μια προσωρινή κρυφή μνήμη που δεν είναι απαραίτητα απομονωμένη από την άποψη του παρόχου.

Οι εταιρείες που συνεργάζονται με την κυβέρνηση των ΗΠΑ προσφέρουν πολύ πιο ασφαλή, διαχειριζόμενα συστήματα RAG, στα οποία τα εμπορικά LLMs λειτουργούν περισσότερο ως μηχανή επεξεργασίας – και οι ευαίσθητες πληροφορίες παραμένουν περιορισμένες σε ασφαλείς βιβλιοθήκες. Αυτά τα συστήματα μπορούν να χρησιμοποιηθούν για να διαχωριστεί αυτό που ένα εμπορικό μοντέλο ΤΝ όπως το Claude ή το ChatGPT «γνωρίζει» από αυτό που αναζητά.

Το ισοδύναμο της ΤΝ ενός «ασφαλούς δωματίου»
Ας υποθέσουμε ότι η αναλύτρια για το Ιράκ από το παράδειγμα του Raymond χρησιμοποιεί έναν ασφαλή, βασισμένο σε RAG, βοηθό ΤΝ για να συγκεντρώσει μια έκθεση σχετικά με τις αμερικανικές ναυτικές δυνάμεις στον Περσικό Κόλπο. Η αναλύτρια πληκτρολογεί μια ερώτηση στο παράθυρο συνομιλίας αυτού του βοηθού, ζητώντας την τελευταία καταμέτρηση πολεμικών πλοίων εκεί. Το σύστημα RAG που χρησιμοποιεί αξιοποιεί μια ιδιωτική, ασφαλή βιβλιοθήκη που, ας πούμε, περιέχει ορισμένες πρόσφατες, απόρρητες αναφορές πληροφοριών σχετικά με τις ναυτικές ανάπτυξεις στην περιοχή. Αυτή η βιβλιοθήκη – τεχνικά μια διανυσματική βάση δεδομένων, μαθηματικά ευρετηριασμένη για συνδεδεμένες έννοιες και όχι μόνο για λέξεις-κλειδιά – είναι το πρώτο μέρος που αναζητά το σύστημα για μια απάντηση.

Σκεφτείτε αυτό ως το βήμα όπου ο βοηθός ΤΝ εισέρχεται σε ένα ασφαλές δωμάτιο για να ενημερωθεί σε βάση ανάγκης γνώσης. Ο βοηθός ανακτά αυτές τις απόρρητες λεπτομέρειες σχετικά με τα αμερικανικά πλοία και στη συνέχεια τις παραδίδει σε ένα εμπορικό LLM όπως το Gemini που εκτελείται σε ασφαλείς διακομιστές. Στη συνέχεια, το LLM χρησιμοποιεί τις απόρρητες λεπτομέρειες για να επαυξήσει την απάντησή του πριν την παραγωγή της στο παράθυρο κειμένου για την αναλύτρια. Ασφαλή συστήματα όπως αυτά συχνά ρυθμίζονται για να διαγράφουν ερωτήσεις και απαντήσεις από τη μνήμη τους μόλις ολοκληρωθεί μια συνεδρία, έτσι ώστε οι απόρρητες πληροφορίες να μην χρησιμοποιούνται για μεταγενέστερη εκπαίδευση ούτε να διατηρούνται σε κάποια μνήμη.

Η αναλύτρια για το Ιράκ σε αυτό το παράδειγμα θα είχε μόνο την άδεια πρόσβασης σε μια ασφαλή βιβλιοθήκη εγγράφων που σχετίζονται με τα καθήκοντά της στο Ιράκ. Ερωτήσεις εκτός θέματος σχετικά με την Κίνα, από το παράδειγμα του Raymond, δεν θα ήταν απαντήσιμες. Δεν θα υπήρχαν απόρρητα κινεζικά έγγραφα στην ασφαλή βιβλιοθήκη, ούτε το εμπορικό LLM θα είχε αυτές τις πληροφορίες στα δεδομένα εκπαίδευσής του. Με λίγα λόγια, αυτή η μέθοδος δημιουργεί ένα στήριγμα που δίνει στην ΤΝ έναν τρόπο να διαβάζει και να χρησιμοποιεί ευαίσθητα δεδομένα χωρίς να τα θυμάται για πάντα ή να τα αποκαλύπτει σε λάθος ανθρώπους.

Η εταιρεία του Raymond, Unstructured, λειτουργεί στη βάση του στηρίγματος. Η ομάδα του καθαρίζει και μετατρέπει ακατάστατα εσωτερικά αρχεία – από χειρόγραφες σημειώσεις πεδίου για εμπορικούς πελάτες έως εξωτικά απόρρητα μορφοτύπους αρχείων για την κυβέρνηση – ώστε να μπορούν να αναζητηθούν με ασφάλεια μέσα σε μια ασφαλή διανυσματική βάση δεδομένων. Ή, όπως λέει ο Raymond, «Σκουπίζουμε όλα αυτά τα δεδομένα του κόσμου, τα μετατρέπουμε σε μορφή βιβλίου και τα βάζουμε στη βιβλιοθήκη.»

Άλλες εταιρείες, όπως η Arize AI με έδρα το Berkeley, η οποία έχει αντλήσει πάνω από 130 εκατομμύρια δολάρια σε χρηματοδότηση από την ίδρυσή της το 2020, εργάζονται στο κέντρο της δομής. Η Arize δοκιμάζει και παρακολουθεί τις RAG διοχετεύσεις, καθώς και τους πράκτορες και τις εφαρμογές που είναι χτισμένες πάνω τους – διορθώνοντας και κυνηγώντας σφάλματα και παραισθήσεις.

«Ο έλεγχος αυτών των συστημάτων είναι δύσκολος και η διασφάλιση ότι κάνουν το σωστό είναι ένα από τα πιο κρίσιμα κομμάτια της διαδικασίας», δηλώνει ο CEO της Arize, Jason Loepatecki, στο Fortune. «Δεν θα ανέπτυσσα ένα ΤΝ χωρίς να χρησιμοποιήσω ένα από τα προϊόντα μου ή τα προϊόντα των ανταγωνιστών μου.»

Στην κορυφή του στηρίγματος βρίσκονται παίκτες όπως η Ask Sage. Ενώ η Unstructured και η Arize εξυπηρετούν ένα σχετικά ισότιμο μείγμα κυβερνητικών και εμπορικών πελατών, η Ask Sage είναι περισσότερο ειδικός στο Πεντάγωνο, κάνοντας περίπου το 65% της επιχείρησής της με το Υπουργείο Άμυνας. Η εταιρεία με έδρα τη Βιρτζίνια πωλεί μια διεπαφή λογισμικού στρατιωτικών προδιαγραφών, όπου οι χρήστες μπορούν να κάνουν με ασφάλεια ερωτήσεις σε εγκεκριμένα εμπορικά LLMs, να εκτελούν πράκτορες και να λαμβάνουν απαντήσεις από τα δικά τους περιορισμένα δεδομένα, όλα αυτά χωρίς το μοντέλο να «μαθαίνει» ποτέ τα μυστικά στο παρασκήνιο.

Ένας εσωτερικός ανταγωνιστής του Πενταγώνου;
Τον Δεκέμβριο, το Υπουργείο Άμυνας ανακοίνωσε την έναρξη της δικής του εσωτερικής πλατφόρμας LLM, με την ονομασία GenAI.mil. Ο υπουργός Άμυνας Pete Hegseth εισήγαγε την κυκλοφορία μέσω ενός μηνύματος σε ολόκληρο το τμήμα που ανέφερε: «Περιμένω κάθε μέλος του τμήματος να συνδεθεί, να τη μάθει και να την ενσωματώσει αμέσως στις ροές εργασίας σας.» Μετά από αυτό, οι αξιωματούχοι του Πενταγώνου δήλωσαν ότι πάνω από ένα εκατομμύριο μοναδικοί χρήστες συνδέθηκαν στην πλατφόρμα.

Προς το παρόν, η GenAI.mil προσφέρει μια απλή διεπαφή chatbot, επιτρέποντας στα μέλη των ενόπλων δυνάμεων να χρησιμοποιούν ένα εμπορικό LLM που εκτελείται σε ασφαλείς διακομιστές για τη σύνταξη εγγράφων ή την ανάλυση αρχείων – αλλά μόνο για εργασία που δεν είναι ταξινομημένη. Αυτός είναι ένας από τους λόγους που η GenAI.mil – σε αντίθεση με προϊόντα από την Ask Sage, την Palantir ή την Scale AI – δεν μπορεί να κάνει RAG σε ασφαλείς εξωτερικές βάσεις δεδομένων γεμάτες με άκρως απόρρητα αρχεία. Ένας αξιωματούχος του Πενταγώνου δήλωσε στο Fortune ότι το τμήμα σκοπεύει να αναπτύξει εργαλεία ΤΝ σε «όλα τα επίπεδα ταξινόμησης» στο μέλλον, αλλά αρνήθηκε να απαντήσει σε ερωτήσεις σχετικά με το χρονοδιάγραμμα, την ειδική αρχιτεκτονική λογισμικού ή τις επερχόμενες αλλαγές στην πλατφόρμα GenAI.mil. Στην τρέχουσα μορφή της τουλάχιστον, το νέο προϊόν του Πενταγώνου δεν μπορεί να λύσει το πρόβλημα μυστικότητας της ΤΝ.

Αυτό είναι ίσως καλά νέα για προϊόντα όπως η Ask Sage. Ενώ ο Chaillan δηλώνει ότι οι νέες κρατικές συνδρομές έχουν σταθεροποιηθεί από τον Ιανουάριο, 14.000 ομάδες σε 27 αμερικανικές κυβερνητικές υπηρεσίες παραμένουν συνδρομή στην Ask Sage. Με βάση αυτούς τους αριθμούς, η Ask Sage εξαγοράστηκε τον Νοέμβριο από την εταιρεία αναλύσεων με επίκεντρο την άμυνα BigBear.ai σε μια συμφωνία 250 εκατομμυρίων δολαρίων. (Ο Chaillan αποχώρησε από την εταιρεία τον Φεβρουάριο.)

Ο Raymond, από την Unstructured, βλέπει τη νέα πλατφόρμα του Πενταγώνου ως ευκαιρία. «Με την GenAI.mil να κάνει αυτά τα μοντέλα πιο διαθέσιμα, αυτό θα ξεκλειδώσει μεγάλη ζήτηση για αυτό που χτίζουμε», είπε.

Οι γνώστες του στρατού και των κοινοτήτων πληροφοριών των ΗΠΑ έχουν δεκάδες χιλιάδες έγγραφα για να συνοψίσουν, τόνους κειμένου για να συντάξουν και ατέλειωτες εργασίες συμμόρφωσης για να εκτελέσουν, όλα θαμμένα κάτω από ένα πυκνό δάσος κυβερνητικών ακρωνυμίων. «Πάρε ένα ATO στην κυβέρνηση με FedRAMP, ή ξέρεις, διάλεξε τον δικό σου καημό συμμόρφωσης», λέει ο Chaillan. Για τέτοιες εργασίες, πρόσθεσε, μια πλατφόρμα όπως η AskSage «μειώνει δραστικά τον χειρωνακτικό ανθρώπινο φόρτο.»

Και αυτός είναι πιθανώς ένας από τους πολλούς λόγους για τους οποίους ηγέτες όπως ο Loepatecki της Arize βλέπουν μια τεράστια ευκαιρία να λύσουν το πρόβλημα μυστικότητας της ΤΝ τόσο εντός όσο και εκτός της κυβέρνησης.

«Η κάθετη που δραστηριοποιούμαστε είναι πιθανώς ένας από τους ταχύτερα αναπτυσσόμενους χώρους «φτυαριού και φτυαριού»», λέει ο Loepatecki. «Τα δεδομένα του κόσμου είναι άπειρα, και οι περιοχές δεδομένων που δεν θέλεις να εκπαιδευτούν δημόσια είναι μεγάλες.»