Η πρόσφατη ανακοίνωση της Anthropic σχετικά με το νέο, πανίσχυρο μοντέλο Τεχνητής Νοημοσύνης, Mythos, προκάλεσε ένα κύμα προειδοποιήσεων και δυσοίωνων προβλέψεων, ωστόσο, δεν είναι όλοι πεπεισμένοι για τη σοβαρότητα των απειλών. Η εταιρεία δήλωσε την Τρίτη ότι δεν θα κυκλοφορήσει το Mythos, το μοντέλο επόμενης γενιάς της, επικαλούμενη ανησυχίες για την κυβερνοασφάλεια. Σύμφωνα με την Anthropic, το Mythos είναι τόσο ισχυρό που θα μπορούσε να επιτρέψει σε μη ειδικούς να εκμεταλλευτούν ευπάθειες σε μεγάλα λειτουργικά συστήματα.
Αντί για ευρεία διάθεση, η Anthropic ανακοίνωσε ότι θα διαθέσει την προεπισκόπηση Claude Mythos Preview σε 11 εξωτερικούς οργανισμούς, συμπεριλαμβανομένων των Google, Microsoft, Amazon Web Services, JPMorgan Chase και Nvidia, στο πλαίσιο του «Project Glasswing».
Οι ισχυρισμοί της Anthropic σχετικά με τις δυνατότητες του Mythos προκάλεσαν γρήγορα ανησυχία, οδηγώντας ακόμη και σε συνάντηση μεταξύ του Προέδρου της Ομοσπονδιακής Τράπεζας των ΗΠΑ (Fed) Jerome Powell, του υπουργού Οικονομικών Scott Bessent και των επικεφαλής μεγάλων αμερικανικών τραπεζών.
Ορισμένοι αναλυτές της Τεχνητής Νοημοσύνης εξέφρασαν ανησυχίες για τις επιπτώσεις στην κυβερνοασφάλεια, ενώ άλλοι αμφισβήτησαν τη σημασία της ανακοίνωσης της Anthropic, υποστηρίζοντας ότι το Mythos δεν φαίνεται να ξεπερνά κατά πολύ άλλα διαθέσιμα μοντέλα και ότι πρόκειται πιθανότατα για μια καλά σχεδιασμένη στρατηγική δημοσίων σχέσεων.
Προκαλεί πραγματικά το Mythos τρόμο στις ομάδες ασφαλείας; Ή μήπως η Anthropic είναι απλώς δεξιοτέχνης στο marketing των μοντέλων της; Συγκεντρώσαμε τις απόψεις ειδικών για να ρίξουμε φως στη συζήτηση που έχει ξεσπάσει στο διαδίκτυο για την τελευταία εξέλιξη στον χώρο της Τεχνητής Νοημοσύνης.
Ο Gary Marcus, ερευνητής και συγγραφέας στον τομέα της Τεχνητής Νοημοσύνης, χαρακτήρισε τις ανησυχίες γύρω από το Mythos ως «υπερβολικές». «Σε έναν βαθμό, νιώθω ότι μας κορόιδεψαν», έγραψε ο Marcus στο Substack. «Το demo ήταν σίγουρα μια απόδειξη ότι πρέπει να τακτοποιήσουμε τους ρυθμιστικούς και τεχνικούς μας μηχανισμούς, αλλά όχι η άμεση απειλή που πίστεψαν τα μέσα ενημέρωσης και το κοινό». Ο Marcus πρόσθεσε ότι, από ό,τι είδε, το μοντέλο φαίνεται να είναι «οριακά καλύτερο» από τα προηγούμενα, αντί για «επανάσταση».
Ο Yann LeCun, ιδρυτής του AMI Labs και πρώην επικεφαλής επιστήμονας Τεχνητής Νοημοσύνης στη Meta, επίσης εξέφρασε σκεπτικισμό. «Το δράμα του Mythos = ανοησίες από αυταπάτη», έγραψε σε ανάρτησή του στο X, απαντώντας σε μια δημοσίευση της Aisle, εταιρείας ασφάλειας Τεχνητής Νοημοσύνης. Η Aisle ανέφερε ότι δοκίμασε μικρότερα, φθηνότερα μοντέλα στις ίδιες ευπάθειες που επισημάνθηκαν στην ανακοίνωση του Mythos της Anthropic και διαπίστωσε ότι μπορούσαν να κάνουν παρόμοια ανάλυση.
Ο Jake Moore, παγκόσμιος ειδικός κυβερνοασφάλειας στην ESET, δήλωσε στο Business Insider ότι υπήρχαν στοιχεία marketing στην ανακοίνωση της Anthropic, αλλά «θεμελιωδώς, αυτό το μοντέλο φαίνεται απίστευτα εντυπωσιακό και θα βελτιώνεται μόνο με τον χρόνο». «Η Anthropic έχει χτίσει τη φήμη της ως η εταιρεία Τεχνητής Νοημοσύνης που βάζει την ‘ασφάλεια πρώτη’, οπότε ανακοινώσεις σαν αυτή εξυπηρετούν δύο σκοπούς: γνήσια προσοχή και σηματοδότηση της θέσης της ως προς την ασφάλεια», πρόσθεσε ο Moore.
Ο Dave Kasten, επικεφαλής πολιτικής στην Palisade Research, πιστεύει ότι είναι πιθανό άλλα μοντέλα Τεχνητής Νοημοσύνης να μην είναι πολύ πίσω από το Mythos. «Η προσδοκία μου είναι ότι η Anthropic είναι λίγο μπροστά, αλλά όχι συντριπτικά μπροστά, και δεν έχουν απαραίτητα ένα μόνιμο πλεονέκτημα εδώ», δήλωσε στο CNBC. Επισήμανε μια πρόσφατη αναφορά των Axios, σύμφωνα με την οποία η OpenAI διαθέτει επίσης ένα μοντέλο με προηγμένες δυνατότητες κυβερνοασφάλειας, το οποίο σχεδιάζει να διαθέσει μόνο σε μια μικρή ομάδα. Ο Kasten εκτιμά ότι και το Gemini δεν απέχει πολύ, αλλά η συνεργασία της Google στο Mythos υποδηλώνει ότι η Anthropic έχει ένα πλεονέκτημα με αυτό το συγκεκριμένο μοντέλο, τουλάχιστον για λίγους μήνες.
Ο David Sacks, πρώην υπεύθυνος Τεχνητής Νοημοσύνης του Λευκού Οίκου, εξέφρασε κάποιον σκεπτικισμό σχετικά με τις προειδοποιήσεις της Anthropic. «Ο κόσμος δεν έχει άλλη επιλογή από το να πάρει στα σοβαρά την απειλή στον κυβερνοχώρο που σχετίζεται με το Mythos. Αλλά είναι δύσκολο να αγνοήσουμε ότι η Anthropic έχει ιστορικό εκφοβιστικών τακτικών», έγραψε ο Sacks στο X, παραθέτοντας προηγούμενες περιπτώσεις όπου η Anthropic εξέδωσε ανησυχητικές προειδοποιήσεις.
Ο T.J. Marlin, CEO της Guardrail Technologies, ο οποίος εργαζόταν παλαιότερα στο τμήμα παγκόσμιας δικαστικής τεχνολογίας της EY, δήλωσε ότι η συνάντηση μεταξύ ομοσπονδιακών αξιωματούχων και της Wall Street αποσκοπούσε στη διασφάλιση ότι οι τράπεζες, σε περίπτωση μεγάλης παραβίασης ασφαλείας, δεν θα μπορούσαν να υποστηρίξουν ότι «δεν γνώριζαν». «Κάθε CEO σε αυτή την αίθουσα που αποτυγχάνει να καταγράψει μια απάντηση σε επίπεδο διοικητικού συμβουλίου, λειτουργεί πλέον στη θέση με τη μεγαλύτερη νομική έκθεση», έγραψε ο Marlin στο LinkedIn.
Ο Pablos Holman, VC στην Deep Future, πιστεύει ότι η κυβερνοασφάλεια θα βελτιωθεί στην πραγματικότητα. «Τώρα όλοι τρελαίνονται για επιθέσεις με Τεχνητή Νοημοσύνη», έγραψε ο Holman σε ανάρτηση στο LinkedIn την 1η Απριλίου, πριν από την ανακοίνωση της Anthropic αυτήν την εβδομάδα. «Αυτό που παραβλέπουν είναι ότι οι αμυντικοί έχουν τα ίδια AI. Συχνά καλύτερα και πολύ περισσότερη υπολογιστική ισχύ». Ο Holman ισχυρίστηκε ότι οι υπερασπιστές της κυβερνοασφάλειας θα έχουν πρόσβαση στα ίδια μοντέλα, καθώς και σε περισσότερους πόρους, όπως ο πηγαίος κώδικας. «Αυτός παραμένει ένας πόλεμος κλιμάκωσης, αλλά τώρα ο αμυνόμενος έχει το πλεονέκτημα», έγραψε. «Η ασφάλεια πρόκειται να βελτιωθεί. Όχι να χειροτερέψει».
Ο Ben Seri, συνιδρυτής της startup κυβερνοασφάλειας Zafran Security, δήλωσε: «Έχουμε εισέλθει στην περίοδο του ‘Μανχάταν Project’ της κυβερνοασφάλειας». Ο Seri επεσήμανε ότι η απειλή στον κυβερνοχώρο ήταν πραγματική και άμεση, ενώ το αμυντικό δυναμικό ήταν πραγματικό αλλά θα χρειαζόταν περισσότερο χρόνο για να υλοποιηθεί. «Η Τεχνητή Νοημοσύνη θα βρίσκει ευπάθειες γρηγορότερα. Η Τεχνητή Νοημοσύνη θα τις διορθώνει γρηγορότερα. Αλλά το σημείο συμφόρησης δεν ήταν ποτέ η ανακάλυψη ή η διόρθωση από μόνη της. Είναι η ικανότητα να αναπτύσσονται οι διορθώσεις σε περιβάλλοντα παραγωγής με ασφάλεια, ταχύτητα και κλίμακα», δήλωσε. «Η ασφαλής υιοθέτηση ταχείας αλλαγής στην παραγωγή είναι η πιο σημαντική αλλαγή που πρέπει να αναλάβουν οι ηγέτες τεχνολογίας και ασφάλειας για να ανταποκριθούν σε αυτή τη στιγμή».
