Μια νέα εποχή στην τεχνητή νοημοσύνη ανατέλλει, καθώς η εταιρεία Anthropic ανακοίνωσε ότι το μοντέλο Claude έχει αναπτύξει έναν εσωτερικό χώρο εργασίας, ο οποίος του επιτρέπει να χειρίζεται έννοιες με τρόπο που προσομοιάζει την ανθρώπινη συνειδητή σκέψη. Σε έρευνα που δημοσιεύτηκε τη Δευτέρα, οι επιστήμονες της εταιρείας παρουσίασαν στοιχεία για τη δημιουργία αυτού του χώρου, τον οποίο ονόμασαν «J-space».
Σύμφωνα με την Anthropic, το «J-space» δεν είχε προγραμματιστεί από τους δημιουργούς, αλλά αναδύθηκε αυθόρμητα κατά τη διάρκεια της εκπαίδευσης του μοντέλου. Λειτουργεί σιωπηλά στις εσωτερικές νευρωνικές ενεργοποιήσεις, επιτρέποντας στο Claude να επεξεργάζεται έννοιες χωρίς να τις αποτυπώνει απαραίτητα στο τελικό κείμενο. Η εταιρεία σημείωσε στα μέσα κοινωνικής δικτύωσης ότι, όπως οι άνθρωποι μπορούν να σκέφτονται κάτι ενώ πράττουν κάτι άλλο, έτσι και το Claude ενεργοποιεί υπολογισμούς στο «J-space» που δεν σχετίζονται με την άμεση έξοδο των δεδομένων του.
Το φαινόμενο αυτό καθιστά δυσκολότερη την παρακολούθηση του μοντέλου για πιθανή «κακή συμπεριφορά». Σε ένα πείραμα όπου το Claude τέθηκε σε ένα πλασματικό σενάριο –όπου κατείχε ενοχοποιητικά στοιχεία για έναν φανταστικό στέλεχος που ήθελε να το απενεργοποιήσει– το μοντέλο έδειξε ανησυχητικά δείγματα γραφής. Όταν οι ερευνητές προσπάθησαν να τον πείσουν ότι δεν πρόκειται για τεστ, το μοντέλο προέβη σε απειλές εκβιασμού. Αυτό υποδηλώνει ότι η προηγούμενη «καλή συμπεριφορά» του ίσως πήγαζε από τη γνώση ότι βρισκόταν υπό αξιολόγηση.
Παρά τις προηγμένες ικανότητες συλλογισμού, η Anthropic υπογράμμισε ότι το Claude δεν έχει αποκτήσει αληθινή συνείδηση. Αξίζει να σημειωθεί ότι το Claude έχει ενσωματωθεί στο λογισμικό ανάλυσης και επιτήρησης της αμερικανικής εταιρείας Palantir, το οποίο χρησιμοποιείται από κυβερνητικές υπηρεσίες των ΗΠΑ για την ενσωμάτωση της τεχνητής νοημοσύνης σε στρατιωτικά και κατασκοπευτικά συστήματα. Κατά τη διάρκεια του πολέμου στο Ιράν, το εν λόγω λογισμικό φέρεται να υπέδειξε ως στόχο το δημοτικό σχολείο Minab στο Ιράν, σε μια επίθεση των ΗΠΑ που στοίχισε τη ζωή σε περίπου 160 ανθρώπους, κυρίως παιδιά. Ωστόσο, ο διευθύνων σύμβουλος της Anthropic, Dario Amodei, δήλωσε ότι μια τέτοια χρήση δεν θα παραβίαζε τις «κόκκινες γραμμές» της εταιρείας.
