Η Wall Street βρίσκεται σε επιφυλακή μετά την ανακοίνωση του νέου, ισχυρού μοντέλου τεχνητής νοημοσύνης από την Anthropic, το οποίο φέρεται να έχει εντοπίσει ευπάθειες ασφαλείας που παρέμεναν άγνωστες επί 27 χρόνια. Ως απάντηση, ο υπουργός Οικονομικών των ΗΠΑ, Scott Bessent, και ο πρόεδρος της Federal Reserve, Jerome Powell, συγκάλεσαν έκτακτη συνάντηση με τους επικεφαλής των μεγαλύτερων τραπεζών της χώρας. Σκοπός της συνάντησης, που πραγματοποιήθηκε στα γραφεία του Υπουργείου Οικονομικών, ήταν η ενημέρωση των τραπεζιτών για τους αυξημένους κινδύνους κυβερνοασφάλειας που προκύπτουν από το νέο μοντέλο της Anthropic, ονόματι Mythos, καθώς και από παρόμοια μελλοντικά μοντέλα.
Σύμφωνα με πηγές που επικαλείται το Bloomberg, στην κρίσιμη αυτή συνάντηση παρευρέθηκαν υψηλόβαθμοι αξιωματούχοι, όπως η CEO της Citigroup, Jane Fraser, ο CEO της Morgan Stanley, Ted Pick, ο CEO της Bank of America, Brian Moynihan, ο CEO της Wells Fargo, Charlie Scharf, και ο CEO της Goldman Sachs, David Solomon. Αν και προσκλήθηκε, ο CEO της JPMorgan, Jamie Dimon, δεν μπόρεσε να παρευρεθεί.
Η συνάντηση πραγματοποιείται λίγες εβδομάδες αφότου το Fortune είχε αποκλειστικά αποκαλύψει ότι η Anthropic ανέπτυσσε ένα μοντέλο που η ίδια χαρακτήριζε ως “μακράν το πιο ισχυρό AI μοντέλο” που είχε δημιουργήσει ποτέ. Το μοντέλο αυτό, αρχικά γνωστό ως Claude Mythos, διέρρευσε κατά λάθος τον προηγούμενο μήνα μέσω του συστήματος διαχείρισης περιεχομένου της εταιρείας.
Την Τρίτη, η Anthropic δημοσίευσε μια έκθεση με τίτλο “Αξιολόγηση των δυνατοτήτων κυβερνοασφάλειας του Claude Mythos Preview”, τονίζοντας τις εντυπωσιακές δυνατότητες του νέου της μοντέλου. Μία από αυτές τις δυνατότητες, το Mythos Preview, κατάφερε να εντοπίσει πολυάριθμες ευπάθειες ηλικίας 10 και 20 ετών, συμπεριλαμβανομένης μίας 27 ετών στον OpenBSD, ένα λειτουργικό σύστημα με φήμη για την υψηλή του ασφάλεια.
Η Anthropic είχε προηγουμένως ενημερώσει ανώτατους κυβερνητικούς αξιωματούχους και φορείς του κλάδου στις ΗΠΑ για τις δυνατότητες του Mythos Preview. Σε σχετική ανάρτηση στο ιστολόγιό της, η εταιρεία εξέφρασε την πρόθεσή της να συνεργαστεί με κυβερνητικές υπηρεσίες σε όλα τα επίπεδα, ώστε η εθνική ασφάλεια να αποτελεί προτεραιότητα κατά την κυκλοφορία νέων μοντέλων AI, διασφαλίζοντας παράλληλα την πρωτοπορία των ΗΠΑ στις τεχνολογίες AI.
Η Anthropic δήλωσε στο Fortune ότι η συνεργασία με την κυβέρνηση ήταν αρχική της πρόθεση. Σημειώνεται ότι η εταιρεία βρίσκεται σε δικαστική διαμάχη με το Πεντάγωνο, αφού το Υπουργείο Άμυνας την είχε “μαυρίσει” για περιορισμούς που επέβαλε στη χρήση των τεχνολογιών AI της.
Πρόσφατα, σε συνεργασία με την Amazon Web Services, την Amazon, την Google και την JPMorgan Chase, μεταξύ άλλων κορυφαίων τεχνολογικών εταιρειών, η Anthropic εγκαινίασε το Project Glasswing. Αυτή η πρωτοβουλία στοχεύει στην ασφάλιση κρίσιμου λογισμικού εν μέσω των ραγδαίων εξελίξεων στην AI. Στο πλαίσιο της συνεργασίας, η Anthropic ανακοίνωσε ότι θα μοιράζεται τα ευρήματά της με ολόκληρο τον κλάδο.
Εκτός από τους συνεργάτες της στους τομείς της τεχνολογίας και των χρηματοοικονομικών υπηρεσιών, η εταιρεία έχει παραχωρήσει πρόσβαση σε 40 επιπλέον οργανισμούς που αναπτύσσουν ή διαθέτουν κρίσιμες υποδομές λογισμικού, ενώ έχει δεσμευτεί για τη διάθεση έως και 100 εκατομμυρίων δολαρίων σε πιστώσεις χρήσης του Mythos Preview, της βασικής μονάδας χρήσης AI. Η Anthropic επισήμανε ότι το project ξεκίνησε ως αντίδραση στις δυνατότητες που έχει παρατηρήσει στο νέο της μοντέλο αιχμής, Mythos, τις οποίες πιστεύει ότι θα μπορούσαν να “αναδιαμορφώσουν την κυβερνοασφάλεια”.
“Δεδομένης της ταχύτητας της προόδου στην AI, δεν θα αργήσει οι δυνατότητες αυτές να διαδοθούν, πιθανώς και σε φορείς που δεν είναι αφοσιωμένοι στην ασφαλή ανάπτυξή τους”, προειδοποίησε η εταιρεία. “Οι συνέπειες – για τις οικονομίες, τη δημόσια ασφάλεια και την εθνική ασφάλεια – θα μπορούσαν να είναι σοβαρές.”
Η Anthropic ανέφερε ότι θα κυκλοφορήσει το νέο μοντέλο αρχικά σε “μια περιορισμένη ομάδα βιομηχανικών συνεργατών, ώστε να δοθεί στους αμυντικούς η δυνατότητα να αρχίσουν να ασφαλίζουν τα πιο σημαντικά συστήματα πριν μοντέλα με παρόμοιες δυνατότητες γίνουν ευρέως διαθέσιμα.”
Άλλοι επιχειρηματίες έχουν εκφράσει ανησυχία για τους κινδύνους κυβερνοασφάλειας που θέτουν τα ισχυρά μοντέλα AI. Ο Jamie Dimon, στην ετήσια επιστολή του προς τους μετόχους, επισήμανε τους κινδύνους κυβερνοασφάλειας που αντιμετωπίζουν οι μεγάλες βιομηχανίες και εταιρείες από την AI, αναφέροντας ότι “παραμένει ένας από τους μεγαλύτερους κινδύνους μας”. Πρόσθεσε, “Η AI σχεδόν σίγουρα θα επιδεινώσει αυτόν τον κίνδυνο”.
Ως μέρος του Project Glasswing, η JPMorgan στοχεύει στη μείωση των κινδύνων κυβερνοασφάλειας που προκύπτουν από τις ταχέως εξελισσόμενες δυνατότητες της AI. “Η προώθηση της κυβερνοασφάλειας και της ανθεκτικότητας του χρηματοπιστωτικού συστήματος είναι κεντρική αποστολή της JPMorganChase, και πιστεύουμε ότι ο κλάδος είναι ισχυρότερος όταν τα κορυφαία ιδρύματα συνεργάζονται σε κοινές προκλήσεις”, δήλωσε ο Pat Opet, Chief Information Security Officer της JPMorgan, σε δήλωσή του.
“Το Project Glasswing παρέχει μια μοναδική, πρώιμη ευκαιρία για την αξιολόγηση εργαλείων AI επόμενης γενιάς για αμυντική κυβερνοασφάλεια σε κρίσιμες υποδομές, τόσο με δικούς μας όρους όσο και σε συνεργασία με αξιοσέβαστους ηγέτες της τεχνολογίας”, πρόσθεσε.
