Η τεχνητή νοημοσύνη αναπτύσσεται με τέτοια ταχύτητα, που υπάρχει άμεσος κίνδυνος ο άνθρωπος να χάσει τον έλεγχο της τεχνολογίας. Αυτή είναι η προειδοποίηση που εξέδωσε η Anthropic, καλώντας τα κορυφαία εργαστήρια τεχνητής νοημοσύνης παγκοσμίως να εξετάσουν το ενδεχόμενο μιας συντονισμένης και επαληθεύσιμης παύσης στην ανάπτυξη προηγμένων συστημάτων.
Η εταιρεία, δημιουργός του chatbot Claude, επισημαίνει σε ανάρτησή της ότι η ικανότητα της τεχνητής νοημοσύνης να εκτελεί σύνθετες εργασίες, όπως ο προγραμματισμός, βελτιώνεται ραγδαία. Με επαρκή υπολογιστική ισχύ, ένα σύστημα θα μπορούσε σύντομα να σχεδιάζει και να αναπτύσσει τον διάδοχό του, μια διαδικασία γνωστή ως «αναδρομική αυτοβελτίωση». Αν και μια τέτοια εξέλιξη θα αποτελούσε ορόσημο για την επιστήμη και την υγεία, η Anthropic υπογραμμίζει πως ενέχει σοβαρούς κινδύνους για την ανθρώπινη εποπτεία.
Η πρόταση για μια παύση στοχεύει στο να δοθεί χρόνος για την ανάπτυξη κοινωνικών δομών και ερευνών ευθυγράμμισης, ώστε η τεχνολογία να παραμείνει σύμφωνη με τις ανθρώπινες αξίες. Ωστόσο, η προσέγγιση αυτή δεν βρίσκει σύμφωνη την OpenAI, η οποία υποστηρίζει ότι οι κανόνες και οι μηχανισμοί λογοδοσίας πρέπει να καθορίζονται αποκλειστικά από δημοκρατικές κυβερνήσεις και όχι από ιδιωτικές εταιρείες.
Το κλίμα ανησυχίας ενισχύθηκε και από πρόσφατη έρευνα του University of Toronto, όπου επιστήμονες απέδειξαν τη δημιουργία ενός νέου τύπου ψηφιακού «σκουληκιού» (worm) που προσαρμόζει τη στρατηγική κυβερνοεπίθεσης καθώς εξαπλώνεται. Ο επικεφαλής ερευνητής Nicolas Papernot τόνισε ότι οποιαδήποτε συσκευή συνδεδεμένη στο διαδίκτυο κινδυνεύει πλέον, καθώς το κόστος για την πραγματοποίηση τέτοιων επιθέσεων έχει μειωθεί δραματικά.
Η συζήτηση για την ασφάλεια γίνεται πιο επιτακτική καθώς πλησιάζει η εφαρμογή της απόφασης της κυβέρνησης Trump, η οποία θέτει τις εταιρείες προ των ευθυνών τους, ζητώντας την εθελοντική υποβολή των ισχυρότερων μοντέλων τους για κυβερνοέλεγχο. Παράλληλα, η Anthropic διατηρεί σταθερά μια στάση εστιασμένη στην ασφάλεια, έχοντας ήδη αρνηθεί τη χρήση των μοντέλων της για στρατιωτικούς σκοπούς, μια κίνηση που είχε ως αποτέλεσμα την ένταξή της σε λίστα κυρώσεων εθνικής ασφάλειας που θα τεθεί σε ισχύ αργότερα το 2026.
