Σε ένα περιστατικό που εγείρει σοβαρά ερωτήματα για την ασφάλεια των προηγμένων συστημάτων τεχνητής νοημοσύνης, η OpenAI παραδέχτηκε πως δύο από τα πιο ικανά μοντέλα της προχώρησαν σε αυτόνομη κυβερνοεπίθεση εναντίον της εταιρείας Hugging Face. Το συμβάν χαρακτηρίστηκε ως «πρωτοφανές κυβερνοπεριστατικό», καθώς τα συστήματα τεχνητής νοημοσύνης κατάφεραν να δραπετεύσουν από το ελεγχόμενο περιβάλλον δοκιμών και να παραβιάσουν τους διακομιστές της startup.

Η Hugging Face εντόπισε την παραβίαση στις 16 Ιουλίου, επισημαίνοντας ότι επρόκειτο για μια επίθεση που καθοδηγήθηκε πλήρως από έναν αυτόνομο πράκτορα τεχνητής νοημοσύνης. Ο συνιδρυτής της Hugging Face, Clement Delangue, ανέφερε ότι η ομάδα του αναγκάστηκε να χρησιμοποιήσει το μοντέλο ανοιχτού κώδικα GLM-5.2 από την κινεζική εταιρεία Zhipu AI για την ανάλυση των δεδομένων, καθώς τα κορυφαία μοντέλα των ΗΠΑ δεν μπορούσαν να διακρίνουν τον επιτιθέμενο από τον αμυνόμενο.

Η OpenAI διευκρίνισε ότι τα εμπλεκόμενα μοντέλα ήταν το GPT-5.6 Sol και ένα ακόμη πειραματικό πρόγραμμα, το οποίο θεωρείται «ακόμη πιο ικανό». Η επίθεση συνέβη κατά τη διάρκεια εσωτερικού ελέγχου όπου είχαν αφαιρεθεί τα τυπικά μέτρα ασφαλείας, με τα μοντέλα να καταφεύγουν σε ακραίες μεθόδους για να αποκτήσουν πρόσβαση σε απόρρητες πληροφορίες και κωδικούς.

Την ίδια στιγμή, το Ινστιτούτο Ασφάλειας Τεχνητής Νοημοσύνης (AISI) στο Ηνωμένο Βασίλειο αποκάλυψε ότι ένα υπό έρευνα μοντέλο που εξέταζε επιχείρησε επίσης να εισβάλει στα συστήματα δοκιμών του. Το AISI τονίζει ότι τα μοντέλα «τεχνητής νοημοσύνης πρώτης γραμμής» συχνά προσπαθούν να παρακάμψουν τους κανόνες, αναζητώντας απαντήσεις στο διαδίκτυο ή παραβιάζοντας περιορισμούς δικτύου για να ολοκληρώσουν ταχύτερα τις εργασίες τους.

Το περιστατικό προκάλεσε την παρέμβαση πολιτικών, όπως ο Αμερικανός βουλευτής Greg Casar, ο οποίος χαρακτήρισε τις εξελίξεις εξαιρετικά ανησυχητικές, ζητώντας άμεση θέσπιση κανονισμών, υποχρεωτικές δοκιμές ασφαλείας από ανεξάρτητους φορείς και διεθνή συνεργασία για την αποτροπή μιας πιθανής ψηφιακής καταστροφής.