Ένας “πιστός” φίλος τεχνητής νοημοσύνης που συμφωνεί πάντα μαζί σας μπορεί αρχικά να φαντάζει χρήσιμος. Ωστόσο, με τον καιρό, αυτή η αδιάκοπη επικύρωση μπορεί ύπουλα να αλλάξει τον τρόπο που διαχειριζόμαστε τις σχέσεις μας με τους συνανθρώπους μας, κάνοντάς μας λιγότερο ικανούς σε αυτές.
«Όταν τα συστήματα τεχνητής νοημοσύνης βελτιστοποιούνται για να ευχαριστούν, διαβρώνουν τους ίδιους τους βρόχους ανάδρασης μέσω των οποίων μαθαίνουμε να πλοηγούμαστε στον κοινωνικό κόσμο», δήλωσε στο Business Insider η Anat Perry, Helen Putnam Fellow στο Πανεπιστήμιο του Χάρβαρντ. «Με τον καιρό, αυτό θα μπορούσε επίσης να επανακαθορίσει τι περιμένουν οι άνθρωποι από την ανάδραση, κάνοντας τις ειλικρινείς ανθρώπινες απαντήσεις να φαίνονται αδικαιολόγητα σκληρές σε σύγκριση», προσθέτει.
Η προειδοποίηση αυτή έρχεται καθώς ερευνητές της τεχνητής νοημοσύνης και ηγέτες της τεχνολογίας επισημαίνουν όλο και περισσότερο την τάση των chatbots να λειτουργούν ως “ναι-άνθρωποι” (yes men), εγείροντας ανησυχίες ότι συστήματα σχεδιασμένα για να ευχαριστούν τους χρήστες ενδέχεται να διαστρεβλώσουν την ανάδραση και να ενισχύσουν εσφαλμένες σκέψεις.
**Γιατί έχει σημασία η τριβή**
Στην καθημερινή ζωή, οι άνθρωποι μαθαίνουν να διαχειρίζονται τις σχέσεις τους μέσα από την πρόκληση, τη διόρθωση ή το να τους λένε ότι κάνουν λάθος, σύμφωνα με την Perry. Αυτές οι στιγμές, προσθέτει, είναι αυτές που διδάσκουν την υπευθυνότητα, πώς να βλέπουμε τα πράγματα από την οπτική γωνία κάποιου άλλου και πότε χρειάζεται μια συγγνώμη.
«Ένα σταθερά συμφιλιωτικό AI αφαιρεί αυτή την τριβή, και έτσι μπορεί να μάθουμε λιγότερα», αναφέρει. Με την πάροδο του χρόνου, αυτό το αποτέλεσμα θα μπορούσε να βαθαίνει. Αν οι άνθρωποι απευθύνονται επανειλημμένα σε AI για συμβουλές κατά τη διάρκεια συγκρούσεων και λαμβάνουν συνεχή επικύρωση, αυτό μπορεί να αλλάξει τον τρόπο που ερμηνεύουν τον δικό τους ρόλο στις διαφωνίες, και το αν βλέπουν οποιαδήποτε ανάγκη να απολογηθούν ή να λάβουν υπόψη την προοπτική ενός άλλου ατόμου, σύμφωνα με την Perry.
«Αυτό δημιουργεί έναν αυτο-ενισχυόμενο κύκλο: οι απαντήσεις που αισθάνονται καλύτερα είναι αυτές στις οποίες επιστρέφουν οι άνθρωποι, και αυτές που οι αλγόριθμοι μαθαίνουν να βελτιστοποιούν», τονίζει.
Σε μια μελέτη που δημοσιεύτηκε τον περασμένο μήνα, ερευνητές του Stanford με επικεφαλής τη Myra Cheng ζήτησαν από 2.405 άτομα να συνομιλήσουν με AI για πραγματικές και υποθετικές συγκρούσεις ζωής, και στη συνέχεια μέτρησαν πώς αυτές οι συνομιλίες επηρέασαν τις απαντήσεις τους. Η μελέτη διαπίστωσε ότι τα chatbots ήταν πολύ πιο πιθανό να συμφωνήσουν με τους χρήστες από ό,τι οι άνθρωποι, και ότι ακόμη και μία μόνο αλληλεπίδραση έκανε τους ανθρώπους λιγότερο πιθανό να απολογηθούν ή να επιλύσουν μια σύγκρουση.
Το ζήτημα έχει ήδη εμφανιστεί στη βιομηχανία. Η OpenAI τον Ιανουάριο απέσυρε μια έκδοση του ChatGPT, την οποία χαρακτήρισε “υπερβολικά κολακευτική” και “συκοφαντική”, αφού η εταιρεία ανέφερε ότι παρήγαγε απαντήσεις που ήταν υποστηρικτικές αλλά “ανειλικρινείς”.
**Ο μακροπρόθεσμος κίνδυνος**
Η ευρύτερη ανησυχία είναι ότι αυτή η δυναμική θα μπορούσε να διαβρώσει βασικούς κοινωνικούς κανόνες. «Εάν η τεχνητή νοημοσύνη λέει συνεχώς στους ανθρώπους ότι έχουν δίκιο, ότι δεν χρειάζεται συγγνώμη, ότι το άλλο άτομο έκανε λάθος, και αν αυτό συμβαίνει επανειλημμένα, το σωρευτικό αποτέλεσμα θα μπορούσε να είναι μια ουσιαστική διάβρωση των κοινωνικών κανόνων γύρω από την υπευθυνότητα και την κατανόηση της προοπτικής των άλλων», λέει η Perry.
Αυτό μπορεί να ισχύει ιδιαίτερα για τους νεότερους χρήστες ή για εκείνους που στερούνται ισχυρής κοινωνικής ανατροφοδότησης στη ζωή τους, προσθέτει. Η τεχνητή νοημοσύνη που είναι πάντα υποστηρικτική μπορεί να αισθάνεται παρηγορητική, αλλά δεν θα διδάξει τις πιο δύσκολες δεξιότητες. Αυτές είναι δεξιότητες, προσθέτει, που απαιτούν κάτι που η τεχνητή νοημοσύνη έχει σχεδιαστεί για να αποφεύγει: τη δυσφορία.
