Η εταιρεία τεχνητής νοημοσύνης Anthropic, με έδρα τις ΗΠΑ, ανακοίνωσε την Τετάρτη πως θα καταστήσει πιο διαφανείς τις δικλείδες ασφαλείας που διέπουν τα πιο προηγμένα μοντέλα της. Η απόφαση αυτή έρχεται ως απάντηση στην έντονη κριτική που είχε δεχθεί η εταιρεία σχετικά με περιορισμούς που ίσχυαν στο παρελθόν χωρίς να είναι ορατοί στους χρήστες.

Μέχρι πρότινος, η Anthropic ανακατεύθυνε σιωπηλά αιτήματα που αφορούσαν τομείς όπως η κυβερνοασφάλεια, η βιολογία και η ανάπτυξη προηγμένης τεχνητής νοημοσύνης από το μοντέλο Fable 5 στο λιγότερο ικανό Opus 4.8. Με τη νέα πολιτική, οι χρήστες θα ειδοποιούνται κάθε φορά που ένα αίτημά τους επισημαίνεται, ενώ οι προγραμματιστές που χρησιμοποιούν το API θα λαμβάνουν αιτιολόγηση για τυχόν απόρριψη ή μεταφορά σε άλλο μοντέλο.

Η πρακτική της αθόρυβης ανακατεύθυνσης είχε προκαλέσει αντιδράσεις από ερευνητές, οι οποίοι υποστήριζαν ότι οι εν λόγω περιορισμοί ενδέχεται να επιβραδύνουν την πρόοδο στον κλάδο. Σε ανακοίνωσή της, η Anthropic ανέφερε: «Από αυτή την εβδομάδα, τα επισημασμένα αιτήματα θα μεταφέρονται ορατά στο Opus 4.8. Θα το βλέπετε κάθε φορά που συμβαίνει».

Το Fable 5 είναι ένα μοντέλο από την κατηγορία Mythos της Anthropic, το οποίο παρουσιάστηκε τον Απρίλιο αλλά η διάθεσή του είχε καθυστερήσει, καθώς η εταιρεία το έκρινε υπερβολικά ικανό στην παράκαμψη κανόνων ασφαλείας. Η Anthropic κυκλοφόρησε το Fable 5 αυτή την εβδομάδα, επισημαίνοντας ότι οι δυνατότητές του υπερβαίνουν κάθε προηγούμενο μοντέλο που έχει διαθέσει στο κοινό. Παράλληλα, η εταιρεία διευκρίνισε ότι θα συνεχίσει να περιορίζει τη χρήση των μοντέλων της για την ανάπτυξη ανταγωνιστικών συστημάτων, επικαλούμενη λόγους εθνικής ασφάλειας. Στόχος της είναι να αποτραπεί η χρήση της τεχνολογίας της από ξένους αντιπάλους για την ενίσχυση των δικών τους συστημάτων τεχνητής νοημοσύνης, διατηρώντας έτσι το στρατηγικό πλεονέκτημα των ΗΠΑ και των συμμάχων τους στον τομέα των μικροτσίπ και του εξειδικευμένου λογισμικού.