Η startup Τεχνητής Νοημοσύνης Anthropic, ιδρυθείσα από πρώην υπαλλήλους της OpenAI, αναθεωρεί την προσέγγισή της στην ασφάλεια, χαλαρώνοντας τις αρχικές της δεσμεύσεις. Σε σχετική ανακοίνωση, η εταιρεία ανέφερε ότι λόγω του έντονου ανταγωνισμού και της απουσίας κρατικής ρύθμισης, δεν θα τηρεί πλέον τη δέσμευσή της για “παύση της κλιμάκωσης ή/και καθυστέρηση της ανάπτυξης νέων μοντέλων” όταν οι τεχνολογικές εξελίξεις ξεπερνούν τα δικά της μέτρα ασφαλείας.
Αυτή η αλλαγή πολιτικής σημαίνει ότι η Anthropic είναι λιγότερο περιορισμένη από ζητήματα ασφαλείας, σε μια εποχή που το κύριο chatbot της, Claude, επηρεάζει τις χρηματοπιστωτικές αγορές και προκαλεί ανησυχίες για το μέλλον του λογισμικού. Ως μέρος των αλλαγών, η Anthropic έχει θεσπίσει ξεχωριστές συστάσεις ασφαλείας, γνωστές ως “Υπεύθυνη Πολιτική Κλιμάκωσης”, τόσο για την ίδια όσο και για τη βιομηχανία Τεχνητής Νοημοσύνης συνολικά. Η πολιτική αυτή έχει διαμορφωθεί χαλαρά με βάση τα πρότυπα επιπέδων βιοασφάλειας (BSL) της κυβέρνησης των ΗΠΑ.
Ο επικεφαλής επιστημονικός υπεύθυνος της Anthropic, Jared Kaplan, δήλωσε στο περιοδικό Time ότι η υπεύθυνη πολιτική κλιμάκωσης δεν συμβαδίζει πλέον με την τρέχουσα κατάσταση στον “αγώνα” της Τεχνητής Νοημοσύνης. “Θεωρήσαμε ότι δεν θα βοηθούσε κανέναν αν σταματούσαμε την εκπαίδευση μοντέλων Τεχνητής Νοημοσύνης,” δήλωσε ο Kaplan στο Time. “Δεν θεωρήσαμε πραγματικά, με την ταχεία πρόοδο της Τεχνητής Νοημοσύνης, ότι είχε νόημα να κάνουμε μονομερείς δεσμεύσεις… αν οι ανταγωνιστές προχωρούν με ταχύ ρυθμό.”
Η νέα πολιτική εξακολουθεί να περιλαμβάνει τη δέσμευση για καθυστέρηση της ανάπτυξης ή κυκλοφορίας “εξαιρετικά ικανού” μοντέλου Τεχνητής Νοημοσύνης, αλλά μόνο σε πιο περιορισμένες περιπτώσεις. Σε μια εκτενή ανάρτηση στο blog της, η Anthropic επικαλέστηκε ένα “αντι-ρυθμιστικό πολιτικό κλίμα” ως έναν από τους λόγους της απόφασής της. Η εταιρεία και ο CEO της, Dario Amodei, έχουν πιέσει για ρυθμίσεις στην Τεχνητή Νοημοσύνη με κάποια επιτυχία σε επίπεδο πολιτειών, αλλά χωρίς σημαντικά βήματα σε ομοσπονδιακό επίπεδο.
“Παραμένουμε πεπεισμένοι ότι η αποτελεσματική κυβερνητική δέσμευση στην ασφάλεια της Τεχνητής Νοημοσύνης είναι τόσο απαραίτητη όσο και εφικτή, και στοχεύουμε να συνεχίσουμε να προωθούμε έναν διάλογο που βασίζεται σε στοιχεία, εθνική ασφάλεια, οικονομική ανταγωνιστικότητα και δημόσια εμπιστοσύνη,” έγραψε η εταιρεία. “Αυτό, όμως, αποδεικνύεται ένα μακροπρόθεσμο έργο – όχι κάτι που συμβαίνει οργανικά καθώς η Τεχνητή Νοημοσύνη γίνεται πιο ικανή ή περνά ορισμένα κατώφλια.”
Η εταιρεία δήλωσε ότι η πολιτική κλιμάκωσης είχε πάντα ως στόχο να είναι “ένα ζωντανό έγγραφο”, το οποίο παρουσιάστηκε στην πρώτη του έκδοση το 2023. Ωστόσο, ο Amodei είχε δηλώσει προηγουμένως ότι η πολιτική ασφαλείας αποσκοπούσε στην άμβλυνση των κινδύνων που θα μπορούσε να προκαλέσει η Τεχνητή Νοημοσύνη, παραθέτοντας μάλιστα τη διάσημη συμβουλή του θείου Μπεν προς τον Peter Parker, δηλαδή τον Spider-Man. “Η δύναμη των μοντέλων και η ικανότητά τους να λύνουν όλα αυτά τα προβλήματα στη βιολογία, τη νευροεπιστήμη, την οικονομική ανάπτυξη, τη διακυβέρνηση και την ειρήνη, μεγάλα μέρη της οικονομίας, αυτά έρχονται με κινδύνους επίσης, σωστά;” είχε πει ο Amodei στον podcaster Lex Fridman τον Νοέμβριο του 2024. “Με μεγάλη δύναμη έρχεται μεγάλη ευθύνη.”
Η Anthropic ανέφερε ότι ένας επιπλέον λόγος για την αλλαγή των προτύπων είναι ότι υψηλότερα θεωρητικά επίπεδα κινδύνου, ASL-4 και άνω, στο πλαίσιό τους, δεν μπορούν να περιοριστούν από μία μόνο εταιρεία. (Στον τομέα της βιοασφάλειας, το BSL-4 αναφέρεται στο υψηλότερο επίπεδο προστασίας που εφαρμόζει ένας εξαιρετικά μικρός αριθμός εργαστηρίων για τη διαχείριση παθογόνων όπως ο ιός Έμπολα.)
Η ασφάλεια είναι ο πυρήνας της ταυτότητας της Anthropic. Ο Amodei έχει δηλώσει επανειλημμένα ότι η δέσμευση της εταιρείας του στην ασφάλεια είναι εμφανής σε μία από τις πρώτες μεγάλες αποφάσεις της: την αναβολή της κυκλοφορίας του Claude το καλοκαίρι του 2022. Κοιτάζοντας πίσω, ο Amodei έχει αναφέρει ότι η Anthropic ανησυχούσε ότι δεν μπορούσε να αναπτύξει επαρκώς γρήγορα τα μέτρα προστασίας για τη δημόσια κυκλοφορία μιας επαναστατικής τεχνολογίας. Η OpenAI κυκλοφόρησε το ChatGPT τον Νοέμβριο του 2022, δίνοντας την έναρξη στον “αγώνα” της Τεχνητής Νοημοσύνης. Μήνες αργότερα, η Anthropic κυκλοφόρησε τελικά το Claude. “Εκείνη η κίνηση ήταν πολύ δαπανηρή εμπορικά,” δήλωσε ο Amodei σε μια πρόσφατη συνέντευξη με τον δισεκατομμυριούχο και επενδυτή Nikhil Kamath. “Πιθανώς δώσαμε το προβάδισμα στην καταναλωτική Τεχνητή Νοημοσύνη εξαιτίας αυτού.”
Ένα από τα προηγούμενα έγγραφα εκπαίδευσης του Claude αναφέρεται εσωτερικά ως το “Soul doc,” ένα παράδειγμα ρητορικής που θα ήταν αταίριαστο στις περισσότερες άλλες εταιρείες Τεχνητής Νοημοσύνης. Ο Kamath πίεσε τον Amodei σχετικά με το πώς απαντά σε επικριτές που λένε ότι η Anthropic προωθεί απλώς τη ρύθμιση για να σταματήσει την ανάπτυξη μελλοντικών ανταγωνιστών. Ο Amodei απάντησε ότι η απόφαση του 2022 αποτελεί παράδειγμα του πώς η εταιρεία του στηρίζει τις δηλώσεις της για την ασφάλεια. Έφερε επίσης ως παράδειγμα την υποστήριξη για αμερικανικούς ελέγχους εξαγωγών προηγμένων τσιπ προς την Κίνα, μια θέση που ο CEO της Nvidia, Jensen Huang, έχει επικρίνει. “Όποιος πιστεύει ότι ωφελούμαστε από το να είμαστε οι μόνοι που κάνουν κάτι τέτοιο, είναι πραγματικά δύσκολο να φανταστεί κανείς ένα σενάριο όπου αυτό ισχύει,” δήλωσε ο Amodei. “Κοιτάτε οποιοδήποτε από αυτά, ‘εντάξει, ωραία,’ αλλά αν τα συνδυάσεις, δεν ξέρω, σας ζητώ να μας κρίνετε από τις πράξεις μας.”
