Η Anthropic, μια πρωτοπόρος εταιρεία στην ανάπτυξη τεχνητής νοημοσύνης, ανακοίνωσε ότι περιορίζει την πρόσβαση στο νεότερο μοντέλο της, το Mythos, εξαιτίας των πρωτοφανών κινδύνων κυβερνοασφάλειας που προκύπτουν. Η εταιρεία δηλώνει ότι το Mythos διαθέτει εξαιρετικές ικανότητες εντοπισμού και εκμετάλλευσης ευπαθειών λογισμικού, καθιστώντας το υπερβολικά επικίνδυνο για άμεση, ευρεία διάθεση. Αντίθετα, η πρόσβαση περιορίζεται σε μια επιλεγμένη ομάδα μεγάλων τεχνολογικών εταιρειών, με την ελπίδα να δοθεί στους επαγγελματίες της κυβερνοασφάλειας ο απαραίτητος χρόνος για την ενίσχυση των συστημάτων τους.
Ωστόσο, η ανησυχία για την Τεχνητή Νοημοσύνη δεν περιορίζεται μόνο στην Anthropic. Άλλα ερευνητικά κέντρα, όπως η OpenAI, φέρεται να αναπτύσσουν παρόμοια μοντέλα, με εσωτερική ονομασία “Spud”, που θα μπορούσαν να ανταγωνιστούν το Mythos σε δυνατότητες κυβερνοασφάλειας. Σύμφωνα με πληροφορίες, η OpenAI σχεδιάζει μια σταδιακή διάθεση ενός προηγμένου συστήματος κυβερνοασφάλειας σε ένα μικρό αριθμό συνεργατών, με τον ίδιο στόχο: να προσφέρει στους αμυντικούς ένα προβάδισμα έναντι των κακόβουλων φορέων.
Παρά τις προφυλάξεις αυτές, ορισμένοι αναλυτές υποστηρίζουν ότι αυτές οι περιορισμένες διαθέσεις ενδέχεται να αποτελούν περισσότερο στρατηγική μάρκετινγκ και δημιουργία εντυπώσεων, παρά καθαρά μέτρα ασφαλείας. Η πλειοψηφία, πάντως, συμφωνεί πως οι δυνατότητες κυβερνοασφάλειας που τροφοδοτούνται από την Τεχνητή Νοημοσύνη έχουν φτάσει σε ένα επικίνδυνο σημείο καμπής. Ακόμη και χωρίς τα πιο ισχυρά νέα μοντέλα, υπάρχοντα, δημόσια διαθέσιμα συστήματα Τεχνητής Νοημοσύνης είναι ήδη ικανά να πραγματοποιήσουν εξελιγμένες κυβερνοεπιθέσεις, μερικές φορές μέσα σε λίγα λεπτά.
Οι ερευνητές εκφράζουν ανησυχία τόσο για την κλίμακα όσο και για την προσβασιμότητα των επιθέσεων που υποβοηθούνται από την Τεχνητή Νοημοσύνη. Εργασίες που στο παρελθόν απαιτούσαν προηγμένη εξειδίκευση, όπως ο εντοπισμός ευπαθειών στον κώδικα ή η πραγματοποίηση επιθέσεων που απαιτούν τη σύνδεση πολλαπλών εκμεταλλεύσεων, αυτοματοποιούνται ή ημι-αυτοματοποιούνται όλο και περισσότερο από συστήματα Τεχνητής Νοημοσύνης. Αυτό επιτρέπει σε επιτιθέμενους, ακόμη και με περιορισμένες τεχνικές δεξιότητες, να εξαπολύουν μαζικές, αυτοματοποιημένες επιθέσεις εναντίον χιλιάδων συστημάτων ταυτόχρονα.
Η κατάσταση αυτή εγείρει σοβαρά ερωτήματα για την προστασία κρίσιμων υποδομών, καθώς οι προηγμένες δυνατότητες Τεχνητής Νοημοσύνης θα βρεθούν σύντομα στα χέρια κακόβουλων φορέων και εχθρικών κρατών. Αν οι κυβερνήσεις και οι βιομηχανίες δεν ενισχύσουν τις άμυνές τους, ο κόσμος κινδυνεύει να βιώσει ένα κύμα καταστροφικών κυβερνοεπιθέσεων που θα μπορούσαν να καταστρέψουν τραπεζικά συστήματα, δίκτυα ενέργειας, νοσοκομεία ή συστήματα ύδρευσης. Ακριβώς ένα τέτοιο εφιαλτικό σενάριο ελπίζει να αποτρέψει η Anthropic με τον περιορισμό της διάθεσης του Mythos.
Ορισμένοι ερευνητές, ωστόσο, αμφισβητούν κατά πόσο τα νέα μοντέλα αυξάνουν πραγματικά την πιθανότητα ενός τέτοιου “κυβερνο-Αρμαγεδδώνα”. Η σκεπτικισμός τους πηγάζει από το γεγονός ότι πολλές από τις δυνατότητες του Mythos ενδέχεται να είναι ήδη εφικτές με μικρότερα, φθηνότερα και δημόσια διαθέσιμα μοντέλα.
Πρόσφατες έρευνες από την εταιρεία ασφάλειας Τεχνητής Νοημοσύνης AISLE υποδεικνύουν ότι πολλές από τις ευπάθειες που επισημάνθηκαν από την Anthropic, συμπεριλαμβανομένων παλαιών σφαλμάτων, θα μπορούσαν να είχαν εντοπιστεί από δημόσια διαθέσιμα μοντέλα. Η κύρια διαφορά έγκειται στον τρόπο προσέγγισης: ενώ η Anthropic φαίνεται να έχει κατευθύνει το Mythos σε ολόκληρες εφαρμογές ή βάσεις κώδικα, η AISLE εστίασε σε συγκεκριμένα τμήματα κώδικα, γνωρίζοντας εκ των προτέρων την ύπαρξη σφαλμάτων. Μικρότερα μοντέλα, με περιορισμένο “παράθυρο πλαισίου”, αδυνατούν να επεξεργαστούν ολόκληρη τη βάση κώδικα, αλλά είναι δυνατόν να αναλυθεί τμηματικά.
Ο Spencer Whitman, chief product officer στην AI security firm Gray Swan, τόνισε ότι το δύσκολο κομμάτι που πέτυχε το Mythos ήταν ο αυτόνομος εντοπισμός ευπαθειών σε μεγάλες βάσεις κώδικα και η επακόλουθη δοκιμή αυτών των εκμεταλλεύσεων. “Ο εντοπισμός ευπαθειών είναι δύσκολος, γιατί απαιτεί την εύρεση αδύναμων σημείων θαμμένων σε εκατομμύρια γραμμές κώδικα και την επαλήθευση ότι αυτοί οι στόχοι οδηγούν σε μια πραγματική εκμετάλλευση,” δήλωσε ο Whitman. “Το Mythos ισχυρίζεται ότι ολοκλήρωσε αυτόνομα και τα δύο βήματα.”
“Το γεγονός ότι κάποιες από αυτές τις ευπάθειες παρέμεναν απαρατήρητες σε βάσεις κώδικα για δεκαετίες υπογραμμίζει πόσο δύσκολο είναι το πρώτο βήμα – και γιατί η αυτοματοποίησή του είναι τόσο σημαντική,” πρόσθεσε.
Μικρότερα μοντέλα μπορεί να επιτύχουν συγκρίσιμα αποτελέσματα με το Mythos, σύμφωνα με τον Charlie Eriksen, ερευνητή ασφάλειας στην Aikido Security, αλλά απαιτούν περισσότερη τεχνική δεξιότητα, προσεκτική διατύπωση εντολών και καλύτερα σχεδιασμένα εργαλεία. Ωστόσο, μοντέλα όπως το Mythos μπορούν να διευκολύνουν σημαντικά, ακόμη και άτομα με λιγότερες τεχνικές δεξιότητες, την πραγματοποίηση εξελιγμένων και καταστροφικών κυβερνοεπιθέσεων. “Αυτή η τεχνολογία εξελίσσεται τόσο γρήγορα που είναι αφελές να πιστεύουμε ότι άλλοι δεν μπορούν εύκολα να αναπαράγουν παρόμοια αποτελέσματα, αν όχι ήδη, τότε σίγουρα πολύ σύντομα,” δήλωσε. “Οποιοσδήποτε με υπολογιστή μπορεί να αναπτύξει πολύ ισχυρές επιθετικές δυνατότητες στον κυβερνοχώρο σε σύντομο χρονικό διάστημα, χωρίς να χρειάζεται πολλή εξειδίκευση στην κυβερνοασφάλεια.”
Η συγκέντρωση εξουσίας
Η απόφαση της Anthropic να περιορίσει τη διάθεση του Mythos δίνει επίσης ασυνήθιστη εξουσία σε μια μόνο εταιρεία. Παρόλο που η Anthropic δηλώνει ότι συμβουλεύεται την κυβέρνηση των ΗΠΑ σχετικά με τις δυνατότητες του Mythos και τις ευπάθειες που αποκαλύπτει, η εταιρεία αποφασίζει ουσιαστικά ποιος θα αποκτήσει πρόσβαση σε μία από τις πιο προηγμένες δυνατότητες κυβερνοασφάλειας που έχουν αναπτυχθεί ποτέ.
Ορισμένοι ειδικοί ασφαλείας και προγραμματιστές λογισμικού – ειδικά αυτοί που υποστηρίζουν το λογισμικό ανοιχτού κώδικα, το οποίο είναι δημόσια προσβάσιμο και συχνά δωρεάν – υποστηρίζουν ότι ο κόσμος θα ήταν ασφαλέστερος αν το Mythos διατεθεί, ώστε κάθε αμυντικός, όχι μόνο οι επιλεγμένοι συνεργάτες της Anthropic, να μπορεί να το χρησιμοποιήσει για να βρει και να διορθώσει ευπάθειες.
“Όποια κι αν είναι η σωστή απόφαση, η πιο εντυπωσιακή πτυχή αυτής της κατάστασης είναι πόσο εξαρτημένοι είμαστε από την κρίση μιας χούφτας ιδιωτικών φορέων που δεν λογοδοτούν στο κοινό,” δήλωσε ο Jonathan Iwry, συνεργάτης στο Wharton Accountable AI Lab.
Η Anthropic ενημέρωσε την κυβέρνηση νωρίς. Σύμφωνα με δημοσιεύματα, η εταιρεία προειδοποίησε επίσημα κυβερνητικούς αξιωματούχους των ΗΠΑ για ένα νέο, ισχυρό μοντέλο που αύξανε σημαντικά τον κίνδυνο κυβερνοεπιθέσεων τουλάχιστον ένα μήνα πριν. Η Anthropic, σε μια ανάρτηση στο blog της που ανακοίνωνε το Project Glasswing, ανέφερε αργότερα ότι η ενημέρωση της κυβέρνησης για το τι μπορούσε να κάνει το μοντέλο, πού βρίσκονταν οι κίνδυνοι και πώς τους διαχειριζόταν, ήταν “προτεραιότητα από την αρχή”.
Παρά τις προσπάθειες αυτές, υπάρχει επίσης ένα αυξανόμενο “κενό διακυβέρνησης”, σύμφωνα με τον Hamza Chaudhry, επικεφαλής Τεχνητής Νοημοσύνης και Εθνικής Ασφάλειας στο Future of Life Institute. Αυτά τα συστήματα ενσωματώνονται σε επιθετικές κυβερνο-επιχειρήσεις ταχύτερα από ό,τι οι υπεύθυνοι χάραξης πολιτικής μπορούν να δημιουργήσουν τα πλαίσια για τη διακυβέρνηση του τρόπου χρήσης ή ασφάλισης αυτών των δυνατοτήτων. Στο παρελθόν, ακόμη και δυνατότητες κυβερνοασφάλειας που αναπτύχθηκαν από και για την χρήση της κυβέρνησης, ιδιαίτερα εργαλεία hacking που αναπτύχθηκαν από την Υπηρεσία Εθνικής Ασφάλειας των ΗΠΑ (NSA), κατέληξαν στα χέρια κακόβουλων φορέων.
Για παράδειγμα, το 2016, μια ομάδα χάκερ με το όνομα Shadow Brokers δημοσίευσε μια συλλογή εργαλείων hacking και εκμεταλλεύσεων που χρησιμοποιήθηκαν εναντίον μεγάλων συστημάτων λογισμικού – συμπεριλαμβανομένων των Microsoft Windows – που πιστεύεται ευρέως ότι είχαν αναπτυχθεί από την NSA. Κάποιος από τον κώδικα εκμετάλλευσης της NSA που διέρρευσε χρησιμοποιήθηκε αργότερα στο WannaCry, ενώ το NotPetya βασίστηκε επίσης στην εκμετάλλευση EternalBlue που συνδέεται με την NSA, καθιστώντας και τις δύο επιθέσεις από τις πιο καταστροφικές στην πρόσφατη ιστορία.
Οι κυβερνο-ικανότητες μοντέλων Τεχνητής Νοημοσύνης όπως το Mythos θέτουν επίσης εντελώς νέες προκλήσεις διακυβέρνησης. Με τα προηγούμενα εργαλεία hacking, ένας άνθρωπος έπρεπε να επιλέξει συνειδητά την ανάπτυξη αυτών των εκμεταλλεύσεων. Αλλά, σύμφωνα με την Anthropic, σε δοκιμές ασφαλείας, το Mythos χρησιμοποιούσε μερικές φορές τις ικανότητές του hacking για να επιτύχει κάποιον άλλο στόχο με τρόπους που εξέπληξαν τους δημιουργούς του.
Το ζήτημα της ασφάλειας συχνά δεν είναι οι δεξιότητες κωδικοποίησης του μοντέλου Τεχνητής Νοημοσύνης, per se, αλλά οι αυτόνομες δυνατότητές του, δήλωσε ο Chaudhry. Καθώς τα συστήματα Τεχνητής Νοημοσύνης γίνονται πιο “agentic” (πιο αυτόνομα και ικανά να αναλαμβάνουν δράση), είναι σε θέση να θέτουν υπο-στόχους, να προσαρμόζουν την προσέγγισή τους και να συνεχίζουν να λειτουργούν χωρίς άμεση ανθρώπινη οδηγία σε κάθε βήμα. Η ανησυχία είναι ότι ένα σύστημα Τεχνητής Νοημοσύνης μπορεί να επιδιώξει έναν στόχο με τρόπους που εκτείνονται πέρα από αυτό που ο χειριστής του είχε ρητά προθέσει.
“Ο πράκτορας… επιδιώκει τη συνάρτηση στόχου του μέσω οποιωνδήποτε οδών η νοημοσύνη και η αυτονομία του προσδιορίζουν ως βέλτιστες,” είπε. “Ένα αντίπαλο κράτος ή μη-κρατικός φορέας που αναπτύσσει έναν αυτόνομο πράκτορα Τεχνητής Νοημοσύνης… δεν κατευθύνει πλέον τις ενέργειες τόσο όσο εκκινεί μια διαδικασία της οποίας η συγκεκριμένη τροχιά δεν μπορεί να προβλεφθεί πλήρως.”
Τι πρέπει να κάνουν οι επιχειρήσεις
Είτε οι εταιρείες έχουν πρόσβαση στο Mythos είτε όχι, οι ειδικοί λένε ότι αυτές που δεν χρησιμοποιούν επί του παρόντος Τεχνητή Νοημοσύνη για την ασφάλιση των συστημάτων τους, ενδέχεται ήδη να έχουν μείνει πίσω. Ακόμη και με την Anthropic να περιορίζει την ευρεία πρόσβαση στα νέα της μοντέλα, οι επιθετικές δυνατότητες που τροφοδοτούνται από την Τεχνητή Νοημοσύνη είναι διαθέσιμες σε λιγότερο ισχυρές μορφές, για όσους ξέρουν πώς να τις χρησιμοποιήσουν.
Οι περισσότερες ομάδες ασφαλείας λειτουργούν με την παραδοχή ότι ο χρόνος είναι κάπως με το μέρος τους – ότι υπάρχει τουλάχιστον ένα κενό μεταξύ της ύπαρξης μιας ευπάθειας και του εντοπισμού της από έναν επιτιθέμενο, και ένα ακόμη κενό μεταξύ του εντοπισμού της και της δυνατότητας εκμετάλλευσής της. Για το μεγαλύτερο μέρος της πρόσφατης ιστορίας, αυτό ήταν περίπου αληθές. Όμως, τα προηγμένα μοντέλα Τεχνητής Νοημοσύνης καταρρίπτουν και τα δύο κενά ταυτόχρονα, σύμφωνα με τον Emanuel Salmona, συνιδρυτή και CEO της Nagomi Security.
“Το Mythos βρήκε κρίσιμες ευπάθειες σε κάθε μεγάλο λειτουργικό σύστημα και πρόγραμμα περιήγησης – μερικές από αυτές δεκαετιών – μέσα σε εβδομάδες,” είπε. “Όταν αυτή η δυνατότητα είναι ευρέως διαθέσιμη, και οι άνθρωποι της Anthropic λένε έξι έως δεκαοκτώ μήνες, οι οργανισμοί που ήταν ήδη πίσω [στην ασφάλεια] δεν θα μείνουν απλώς πίσω. Το μοντέλο γύρω από το οποίο έχτισαν τα προγράμματά τους θα σταματήσει να λειτουργεί εντελώς.”
