Η Anthropic παρουσίασε το Claude Code Security, το πρώτο της προϊόν που αξιοποιεί μοντέλα τεχνητής νοημοσύνης για να βοηθήσει τις ομάδες ασφαλείας να παρακολουθούν την πλημμύρα σφαλμάτων λογισμικού που είναι υπεύθυνες να διορθώνουν. Για μεγάλες εταιρείες, τα μη επιδιορθωμένα σφάλματα λογισμικού αποτελούν κορυφαία αιτία παραβιάσεων δεδομένων, διακοπών λειτουργίας και ρυθμιστικών προβλημάτων, ενώ οι ομάδες ασφαλείας συχνά κατακλύζονται από τον όγκο του κώδικα που πρέπει να προστατεύσουν.
Πλέον, αντί απλώς να σαρώνει κώδικα για γνωστά μοτίβα προβλημάτων, το Claude Code for Security μπορεί να ελέγχει ολόκληρες βάσεις κώδικα, όπως ένας ανθρώπινος ειδικός – εξετάζοντας πώς αλληλεπιδρούν διαφορετικά κομμάτια λογισμικού και πώς τα δεδομένα κινούνται μέσα σε ένα σύστημα. Η τεχνητή νοημοσύνη ελέγχει διπλά τα ευρήματά της, αξιολογεί τη σοβαρότητα κάθε ζητήματος και προτείνει διορθώσεις. Ωστόσο, ενώ το σύστημα μπορεί να ερευνήσει τον κώδικα αυτόνομα, δεν εφαρμόζει αυτόματα τις διορθώσεις, κάτι που θα μπορούσε να αποβεί επικίνδυνο – οι προγραμματιστές πρέπει να ελέγξουν και να εγκρίνουν κάθε αλλαγή.
Το Claude Code Security βασίζεται σε πάνω από ένα χρόνο έρευνας από την εσωτερική ομάδα “Frontier Red Team” της εταιρείας, μια ομάδα περίπου 15 ερευνητών που έχει ως αποστολή να δοκιμάζει συστηματικά τα πιο προηγμένα συστήματα ΤΝ της εταιρείας και να διερευνά πώς θα μπορούσαν να χρησιμοποιηθούν καταχρηστικά σε τομείς όπως η κυβερνοασφάλεια.
Η πιο πρόσφατη έρευνα της Frontier Red Team διαπίστωσε ότι το νέο μοντέλο Opus 4.6 της Anthropic έχει βελτιωθεί σημαντικά στον εντοπισμό νέων, υψηλής σοβαρότητας ευπαθειών – σφαλμάτων λογισμικού που επιτρέπουν σε εισβολείς να παραβιάζουν συστήματα χωρίς άδεια, να κλέβουν ευαίσθητα δεδομένα ή να διαταράσσουν κρίσιμες υπηρεσίες – σε τεράστιες ποσότητες κώδικα. Στην πραγματικότητα, κατά τη δοκιμή λογισμικού ανοιχτού κώδικα που χρησιμοποιείται σε εταιρικά συστήματα και κρίσιμες υποδομές, το Opus 4.6 εντόπισε κάποιες από αυτές τις ευπάθειες που παρέμεναν απαρατήρητες για δεκαετίες, και το κατάφερε χωρίς εξειδικευμένα εργαλεία, προσαρμοσμένα πλαίσια ή ειδικά ερωτήματα.
Ο επικεφαλής της Frontier Red Team, Logan Graham, δήλωσε στο Fortune ότι το Claude Code Security έχει ως στόχο να διοχετεύσει αυτή τη δύναμη στα χέρια των ομάδων ασφαλείας που χρειάζονται να ενισχύσουν τις αμυντικές τους ικανότητες. Το εργαλείο κυκλοφορεί προσεκτικά ως περιορισμένη ερευνητική προεπισκόπηση για τους εταιρικούς πελάτες και τους πελάτες του Team. Η Anthropic παρέχει επίσης δωρεάν ταχεία πρόσβαση σε συντηρητές αποθετηρίων ανοιχτού κώδικα – τους συχνά υπο-στελεχωμένους προγραμματιστές που είναι υπεύθυνοι για τη διατήρηση της ασφάλειας του ευρέως χρησιμοποιούμενου δημόσιου λογισμικού.
«Αυτό είναι το επόμενο βήμα για μια εταιρεία που δεσμεύεται να ενισχύσει την άμυνα της κυβερνοασφάλειας», δήλωσε. «Τώρα χρησιμοποιούμε [το Opus 4.6] ουσιαστικά μόνοι μας, κάναμε πολλές πειραματισμούς – τα μοντέλα είναι ουσιαστικά καλύτερα». Αυτό ισχύει ιδιαίτερα όσον αφορά την αυτονομία, πρόσθεσε, επισημαίνοντας ότι οι πράκτορες ικανότητες του Opus 4.6 σημαίνουν ότι μπορεί να διερευνήσει ελλείψεις ασφαλείας και να χρησιμοποιήσει διάφορα εργαλεία για να δοκιμάσει τον κώδικα. Στην πράξη, αυτό σημαίνει ότι η ΤΝ μπορεί να εξερευνήσει μια βάση κώδικα βήμα προς βήμα, να δοκιμάσει πώς συμπεριφέρονται διαφορετικά στοιχεία και να ακολουθήσει στοιχεία, όπως ένας νεαρός ερευνητής ασφαλείας, μόνο που είναι πολύ ταχύτερα.
«Αυτό κάνει πραγματικά μεγάλη διαφορά για τους μηχανικούς και τους ερευνητές ασφαλείας», δήλωσε ο Graham. «Θα είναι ένας πολλαπλασιαστής δύναμης για τις ομάδες ασφαλείας. Θα τους επιτρέψει να κάνουν περισσότερα.»
Βεβαίως, δεν είναι μόνο οι αμυντικοί που αναζητούν ελλείψεις ασφαλείας – οι επιτιθέμενοι χρησιμοποιούν επίσης ΤΝ για να βρουν εκμεταλλεύσιμες αδυναμίες ταχύτερα από ποτέ, δήλωσε ο Graham, οπότε είναι σημαντικό να διασφαλιστεί ότι οι βελτιώσεις ευνοούν τους καλούς. Έτσι, εκτός από την ερευνητική προεπισκόπηση, δήλωσε ότι η Anthropic επενδύει σε μέτρα ασφαλείας για τον εντοπισμό κακόβουλης χρήσης και όταν οι εισβολείς ενδέχεται να χρησιμοποιούν το σύστημα.
«Είναι πραγματικά σημαντικό να διασφαλίσουμε ότι αυτή η διπλής χρήσης ικανότητα δίνει στους αμυντικούς ένα πλεονέκτημα», δήλωσε.
