Ένας σημαντικός γίγαντας της τεχνητής νοημοσύνης, η Anthropic, δημοσίευσε κατά λάθος δικό της κώδικα υψίστης ασφαλείας, προκαλώντας ένα κύμα αναπαραγωγής στο GitHub και επιφέροντας δυνητικά καταστροφική εμπορική ζημία στην εταιρεία που υποστηρίζεται από την Amazon. Η εταιρεία, γνωστή για την ανάπτυξη του chatbot Claude, περιέγραψε το περιστατικό ως ζήτημα διάθεσης που “προκλήθηκε από ανθρώπινο λάθος, όχι από παραβίαση ασφαλείας”, όπως αναφέρει το αμερικανικό τεχνολογικό ειδησεογραφικό site VentureBeat.
Η Anthropic είχε χαρακτηριστεί “κίνδυνος για την εθνική ασφάλεια” από τον Αμερικανό υπουργό Άμυνας Πιτ Χέγκσεθ τον Φεβρουάριο, μετά από διαφωνίες με το Πεντάγωνο σχετικά με τη χρήση των συστημάτων τεχνητής νοημοσύνης της. Η διαρροή αφορούσε περισσότερες από 500.000 γραμμές κώδικα που συνδέονται με το Claude Code, τον βοηθό κωδικοποίησης AI της Anthropic, ο οποίος βοηθά τους χρήστες να γράφουν και να διαχειρίζονται λογισμικό μέσω εντολών φυσικής γλώσσας, σύμφωνα με δημοσιεύματα των Axios και The Verge. Το υλικό περιλάμβανε δυνατότητες που δεν είχαν ακόμη κυκλοφορήσει, δεδομένα απόδοσης και σημειώσεις προγραμματιστών.
Ο κώδικας διαδόθηκε ταχύτατα στο διαδίκτυο, με εκδοχές του να αναρτώνται στην πλατφόρμα κοινής χρήσης κώδικα GitHub και να αντιγράφονται χιλιάδες φορές μέσα σε λίγες ώρες, σύμφωνα με τα Ars Technica και The Verge. Η Anthropic κινήθηκε για την αφαίρεση του υλικού και εξέδωσε ειδοποιήσεις αφαίρεσης, αλλά το υλικό είχε ήδη αντιγραφεί και διακινηθεί ευρέως.
Σύμφωνα με το VentureBeat, με την αποκάλυψη των “σχεδίων” του Claude Code, η διαρροή ενδέχεται να έχει προσφέρει στους “κακόβουλους δράστες” έναν “οδικό χάρτη” για την παράκαμψη ελέγχων ασφαλείας ή για την εξαπάτηση του εργαλείου ώστε να εκτελεί κρυφές εντολές ή να αποκτά πρόσβαση σε δεδομένα χωρίς τη γνώση του χρήστη.
Σε μια ξεχωριστή διαρροή δεδομένων που αναφέρθηκε τον Φεβρουάριο, αποκαλύφθηκαν εσωτερικά υλικά που αποκάλυπταν λεπτομέρειες για ένα μη κυκλοφορημένο μοντέλο της Anthropic, γνωστό ως Claude Mythos, μετά την έκθεση χιλιάδων προσχεδίων σε δημόσια αποθήκη δεδομένων. Το μοντέλο περιγράφεται στο διαρρεύσαν υλικό ως το πιο ισχυρό σύστημα της εταιρείας μέχρι σήμερα, το οποίο θα μπορούσε να εγκυμονεί “πρωτοφανείς κινδύνους κυβερνοασφάλειας” εάν αναπτυσσόταν ευρέως. Η εταιρεία έχει αναβάλει την κυκλοφορία του λόγω ανησυχιών σχετικά με τις δυνατότητές του και την πιθανή κατάχρησή του, σύμφωνα με το αμερικανικό επιχειρηματικό περιοδικό Fortune.
