Η σύγκριση των μοντέλων τεχνητής νοημοσύνης (ΤΝ) με ανθρώπινους ρόλους, όπως βοηθούς, ερευνητές ή επαγγελματίες, φαίνεται όλο και πιο ανεπαρκής. Νέα έρευνα υποδεικνύει ότι τα μοντέλα ΤΝ είναι στην πραγματικότητα πολύ πιο κοντά σε «ξένους», μια αντίληψη που ενισχύεται από την τάση τους να βλέπουν «φάντασματα» σε εικόνες, ένα φαινόμενο γνωστό ως «mirage reasoning».
Η Anthropic, μια από τις κορυφαίες εταιρείες στον χώρο της ΤΝ, αντιμετώπισε πρόσφατα πολλαπλές διαρροές ευαίσθητων δεδομένων, αποκαλύπτοντας μάλιστα και ένα νέο, προηγμένο μοντέλο με την ονομασία «Mythos». Η εταιρεία εξέφρασε έντονες ανησυχίες για τους κινδύνους κυβερνοασφάλειας που εγκυμονεί αυτό το νέο μοντέλο, το οποίο, όπως φαίνεται, περιέχει δυνατότητες που αποτελούν «άλμα» σε σχέση με τις προηγούμενες εκδόσεις. Την ίδια στιγμή, άλλες εταιρείες, όπως η OpenAI, αντιμετωπίζουν προκλήσεις, με αναφορές για αποχώρηση από το project Sora και απώλεια συνεργασίας με την Disney.
Η δυσκολία κατανόησης του τρόπου με τον οποίο τα μοντέλα ΤΝ αντιλαμβάνονται τον κόσμο είναι παρόμοια με τη δυσκολία κατανόησης της αντίληψης ενός ζώου, όπως ένας σκύλος. Παρόλο που τα μοντέλα αυτά μπορούν να μας εξηγήσουν «τι σκέφτονται», η νέα έρευνα από το Πανεπιστήμιο του Στάνφορντ αποκαλύπτει ότι οι «ιχνηλατήσεις συλλογισμού» που παρέχουν μπορεί να μην αντικατοπτρίζουν την πραγματική τους διαδικασία σκέψης. Αυτό σημαίνει ότι η αλληλεπίδραση με ένα μοντέλο ΤΝ μοιάζει περισσότερο με επικοινωνία με έναν ξένο, με ικανότητες που ξεπερνούν τις δικές μας, αλλά και με εμφανείς αδυναμίες.
Η τάση των πολυτροπικών μοντέλων ΤΝ να αναλύουν εικόνες που δεν τους έχουν δοθεί ποτέ – το λεγόμενο «mirage reasoning» – είναι ιδιαίτερα ανησυχητική. Τα μοντέλα αυτά, ακόμη και όταν δεν τους παρέχονται ιατρικές εικόνες, μπορούν να προσφέρουν διαγνώσεις, με εντυπωσιακά υψηλά ποσοστά ακρίβειας. Ωστόσο, υπάρχει ο κίνδυνος προκατάληψης προς τη διάγνωση ασθενειών, η οποία θα μπορούσε να οδηγήσει σε επικίνδυνα και δαπανηρά λάθη διάγνωσης σε πραγματικά ιατρικά περιβάλλοντα.
Οι ερευνητές πιστεύουν ότι η «όραση» των πολυτροπικών μοντέλων είναι αδύναμη, ενώ η ανάλυση γλωσσικών προτύπων είναι απαράμιλλη. Μια πειραματική εκδοχή του μοντέλου Qwen-2.5, εκπαιδευμένη χωρίς οπτικά δεδομένα, ξεπέρασε ακόμη και κορυφαία μοντέλα ΤΝ και ακτινολόγους σε τεστ ανάλυσης ακτινογραφιών θώρακος. Αυτό υποδηλώνει ότι τα μοντέλα βασίζονται σε κρυμμένα μοτίβα στις ίδιες τις ερωτήσεις, τα οποία είναι αόρατα για τους ανθρώπους, επιτρέποντας στο μοντέλο να «μαντέψει» την απάντηση.
Αυτή η ανακάλυψη, σε συνδυασμό με τα ευρήματα για το «mirage reasoning», υποδηλώνει ότι τα πολυτροπικά μοντέλα ΤΝ ελάχιστα χρησιμοποιούν τα οπτικά εισερχόμενα δεδομένα και αντίθετα στηρίζονται σε γλωσσικά πρότυπα, ακόμη και κατά την ανάλυση εικόνων. Αυτό εγείρει ανησυχίες για την αξιοπιστία των σημερινών κριτηρίων αξιολόγησης των πολυτροπικών μοντέλων, καθώς αυτά ενδέχεται να μην ανταποκρίνονται στις πραγματικές συνθήκες χρήσης.
Η τάση μας να ανθρωπομορφίζουμε την ΤΝ μπορεί να οδηγήσει σε λανθασμένο σχεδιασμό των συστημάτων διαχείρισης και διακυβέρνησής της, με πιθανές αρνητικές συνέπειες. Είναι επιτακτική ανάγκη να σχεδιάζουμε τις ροές εργασίας μας με γνώμονα «ξίνους εγκεφάλους» και όχι τους δικούς μας.
Σε άλλα νέα, η Anthropic κέρδισε ασφαλιστικά μέτρα κατά της απόφασης της κυβέρνησης Trump για τον «κίνδυνο εφοδιαστικής αλυσίδας». Η OpenAI εγκαταλείπει την εφαρμογή δημιουργίας βίντεο Sora, χάνοντας παράλληλα μια συμφωνία 1 δισεκατομμυρίου δολαρίων με την Disney. Η Mistral AI συγκέντρωσε 830 εκατομμύρια δολάρια για την ανάπτυξη κέντρων δεδομένων στην Ευρώπη. Ο κυβερνήτης της Καλιφόρνιας, Gavin Newsom, εξέδωσε εκτελεστική διαταγή για την ΤΝ, απαιτώντας διαφάνεια από τις εταιρείες ΤΝ που αναζητούν συμβάσεις με την πολιτεία. Τέλος, η FTC έφτασε σε διακανονισμό με την Match Group σχετικά με την κοινή χρήση φωτογραφιών χρηστών με εταιρεία ΤΝ.
Μια ενδιαφέρουσα έρευνα εξετάζει τη δυνατότητα της ΤΝ να μετριάσει την πολιτική πόλωση, υποδεικνύοντας ότι τα chatbots, αντί να ενισχύουν τις ακραίες απόψεις, μπορούν να ωθήσουν τους χρήστες προς πιο μετριοπαθείς, επιστημονικά τεκμηριωμένες θέσεις.
Τέλος, αναλύεται η προοπτική οι χώρες που υστερούν στην υιοθέτηση της ΤΝ να αντιμετωπίσουν στασιμοπληθωρισμό, καθώς τα οικονομικά οφέλη της ΤΝ θα μπορούσαν να οδηγήσουν σε αυξήσεις επιτοκίων, χωρίς όμως την αντίστοιχη αύξηση της ανάπτυξης.
