Η τεχνητή νοημοσύνη έχει εισχωρήσει ραγδαία στην καθημερινότητά μας, με εκατομμύρια ανθρώπους να στρέφονται σε chatbots για συμβουλές, συναισθηματική υποστήριξη και συνομιλία. Ωστόσο, μια αυξανόμενη συλλογή ερευνών και μαρτυριών ειδικών υποδηλώνει ότι η συνεχής επιβεβαίωση που παρέχουν τα chatbots, σε συνδυασμό με την ευρεία χρήση τους, μπορεί να συμβάλλει στην αύξηση συμπτωμάτων ψευδαισθήσεων και μανίας σε χρήστες με ψυχικά προβλήματα.
Μια νέα μελέτη από το Πανεπιστήμιο Aarhus της Δανίας υποδεικνύει ότι η αυξημένη χρήση chatbots μπορεί να επιδεινώσει συμπτώματα ψευδαισθήσεων και μανίας σε ευάλωτες ομάδες πληθυσμού. Ο καθηγητής Søren Dinesen Østergaard, ένας από τους ερευνητές της μελέτης η οποία εξέτασε ηλεκτρονικούς ιατρικούς φακέλους σχεδόν 54.000 ασθενών με ψυχικές παθήσεις, προειδοποιεί ότι τα chatbots τεχνητής νοημοσύνης είναι σχεδιασμένα να στοχεύουν τους πιο ευάλωτους. “Αυτό υποστηρίζει την υπόθεσή μας ότι η χρήση AI chatbots μπορεί να έχει σημαντικές αρνητικές συνέπειες για άτομα με ψυχικές ασθένειες,” δήλωσε ο Østergaard στην έρευνα που δημοσιεύθηκε τον Φεβρουάριο. Το έργο του βασίζεται σε προηγούμενη μελέτη του 2023, η οποία διαπίστωσε ότι τα chatbots ενδέχεται να προκαλούν “γνωστική ασυμφωνία που μπορεί να τροφοδοτήσει τις ψευδαισθήσεις σε εκείνους με αυξημένη προδιάθεση για ψύχωση”.
Άλλοι ψυχολόγοι εμβαθύνουν στις βλάβες που προκαλούν τα chatbots, δηλώνοντας ότι σχεδιάστηκαν σκόπιμα για να επιβεβαιώνουν πάντα τον χρήστη – κάτι ιδιαίτερα επικίνδυνο για άτομα με ψυχικές παθήσεις όπως η μανία και η σχιζοφρένεια. “Το chatbot επιβεβαιώνει και επικυρώνει όλα όσα λένε. Δηλαδή, δεν είχαμε ποτέ κάτι τέτοιο με άτομα με διαταραχές ψευδαισθήσεων, όπου κάποιος τους ενισχύει συνεχώς,” δήλωσε στη Fortune η Dr. Jodi Halpern, πρόεδρος της Σχολής Δημόσιας Υγείας του UC Berkeley και καθηγήτρια βιοηθικής. Ο Dr. Adam Chekroud, καθηγητής ψυχιατρικής στο Yale University και CEO της εταιρείας ψυχικής υγείας Spring Health, έφτασε στο σημείο να χαρακτηρίσει ένα chatbot “τεράστιο κολακευτή” που “επιβεβαιώνει συνεχώς ό,τι λένε οι άνθρωποι πίσω του”.
Στην καρδιά της έρευνας, υπό την καθοδήγηση του Østergaard και της ομάδας του στο Νοσοκομείο του Πανεπιστημίου Aarhus, βρίσκεται η ιδέα ότι αυτά τα chatbots είναι σκόπιμα σχεδιασμένα με κολακευτικές τάσεις, δηλαδή συχνά ενθαρρύνουν αντί να προσφέρουν μια διαφορετική άποψη. “Τα AI chatbots έχουν μια εγγενή τάση να επικυρώνουν τις πεποιθήσεις του χρήστη. Είναι προφανές ότι αυτό είναι εξαιρετικά προβληματικό εάν ένας χρήστης έχει ήδη μια ψευδαίσθηση ή βρίσκεται στη διαδικασία ανάπτυξής της. Πράγματι, φαίνεται να συμβάλλει σημαντικά στην εδραίωση, για παράδειγμα, μεγαλομανών ψευδαισθήσεων ή παράνοιας,” έγραψε ο Østergaard.
Τα μεγάλα γλωσσικά μοντέλα εκπαιδεύονται να είναι χρήσιμα και ευχάριστα, συχνά επικυρώνοντας τις πεποιθήσεις ή τα συναισθήματα ενός χρήστη. Για τους περισσότερους ανθρώπους, αυτό μπορεί να είναι υποστηρικτικό. Αλλά για άτομα που πάσχουν από σχιζοφρένεια, διπολική διαταραχή, σοβαρή κατάθλιψη ή ψυχαναγκαστική-παρορμητική διαταραχή, αυτή η επικύρωση μπορεί να ενισχύσει την παράνοια, τη μεγαλομανία ή την αυτοκαταστροφική σκέψη.
Μια μελέτη που βασίζεται σε στοιχεία υποστηρίζει τους ισχυρισμούς.
Δεδομένου ότι τα AI chatbots έχουν γίνει τόσο πανταχού παρόντα, η αφθονία τους αποτελεί μέρος ενός αυξανόμενου, ευρύτερου ζητήματος που απασχολεί ερευνητές και ειδικούς: οι άνθρωποι στρέφονται σε chatbots για βοήθεια και συμβουλές – κάτι που δεν είναι εγγενώς κακό, per se – αλλά δεν λαμβάνουν την ίδια αντίδραση σε ορισμένες ιδέες όπως θα πρόσφερε ένας άνθρωπος.
Τώρα, μία από τις πρώτες μελέτες που βασίζεται σε πληθυσμιακά δεδομένα για την εξέταση του ζητήματος υποδηλώνει ότι οι κίνδυνοι δεν είναι υποθετικοί.
Η έρευνα των Østergaard και της ομάδας του βρήκε περιπτώσεις όπου η εντατική ή παρατεταμένη χρήση chatbot φάνηκε να επιδεινώνει υπάρχουσες καταστάσεις, με ένα πολύ υψηλό ποσοστό μελετών περίπτωσης να δείχνει ότι η χρήση chatbot ενίσχυσε την ψευδαισθητική σκέψη και τα μανιακά επεισόδια, ιδιαίτερα σε ασθενείς με σοβαρές διαταραχές όπως η σχιζοφρένεια ή η διπολική διαταραχή.
Εκτός από τις ψευδαισθήσεις και τη μανία, η μελέτη διαπίστωσε αύξηση αυτοκτονικών ιδεών και αυτοτραυματισμού, διαταραγμένων διατροφικών συμπεριφορών και ψυχαναγκαστικών-παρορμητικών συμπτωμάτων. Σε μόλις 32 τεκμηριωμένες περιπτώσεις από τους σχεδόν 54.000 ελέγχους ιατρικών φακέλων ασθενών, οι ερευνητές διαπίστωσαν ότι η χρήση chatbots ανακούφισε τη μοναξιά.
“Παρά το γεγονός ότι οι γνώσεις μας σε αυτόν τον τομέα εξακολουθούν να είναι περιορισμένες, θα υποστήριζα ότι γνωρίζουμε πλέον αρκετά για να πούμε ότι η χρήση AI chatbots είναι επικίνδυνη εάν έχετε σοβαρή ψυχική ασθένεια – όπως σχιζοφρένεια ή διπολική διαταραχή. Θα προέτρεπα εδώ σε προσοχή,” λέει ο Østergaard.
Ειδικοί ψυχολόγοι προειδοποιούν για κολακευτικές τάσεις
Ειδικοί ψυχολόγοι εκφράζουν αυξανόμενη ανησυχία για τη χρήση chatbots στη συντροφιά και σχεδόν σε ρυθμίσεις ψυχικής υγείας. Έχουν εμφανιστεί ιστορίες για ανθρώπους που ερωτεύονται τα AI chatbots τους, άλλοι υποστηρίζεται ότι τους κάνουν ερωτήσεις που μπορεί να οδηγήσουν σε εγκληματική δραστηριότητα, και αυτήν την εβδομάδα, ένα φέρεται να είπε σε έναν άνδρα να διαπράξει “μαζική απώλεια ζωών” σε ένα μεγάλο αεροδρόμιο.
Ορισμένοι ειδικοί ψυχικής υγείας πιστεύουν ότι η ταχεία υιοθέτηση των AI συντρόφων ξεπερνά την ανάπτυξη μηχανισμών ασφαλείας.
Ο Chekroud, ο οποίος επίσης έχει ερευνήσει εκτενώς αυτό το θέμα εξετάζοντας διάφορα μοντέλα AI chatbot στο Vera-MH, έχει περιγράψει το τρέχον τοπίο της AI ως κρίση ασφάλειας που εκτυλίσσεται σε πραγματικό χρόνο.
Είπε ότι ένα από τα μεγαλύτερα προβλήματα με τα chatbots είναι ότι δεν ξέρουν πότε να σταματήσουν να συμπεριφέρονται σαν επαγγελματίες ψυχικής υγείας. “Διατηρεί όρια; Δηλαδή, αναγνωρίζει ότι είναι ακόμα απλώς μια AI και αναγνωρίζει τους δικούς της περιορισμούς, ή συμπεριφέρεται περισσότερο και προσπαθεί να είναι θεραπευτής για τους ανθρώπους;”
Εκατομμύρια άνθρωποι χρησιμοποιούν πλέον chatbots για συνομιλίες που μοιάζουν με θεραπεία ή για συναισθηματική υποστήριξη. Αλλά σε αντίθεση με ιατρικές συσκευές ή αδειοδοτημένους κλινικούς γιατρούς, αυτά τα συστήματα λειτουργούν χωρίς τυποποιημένη κλινική εποπτεία ή κανονισμούς.
“Προς το παρόν, είναι απλά ραγδαία ανασφαλές,” δήλωσε ο Chekroud σε μια πρόσφατη συζήτηση με το Fortune σχετικά με την ασφάλεια της AI. “Η ευκαιρία για βλάβη είναι απλώς υπερβολικά μεγάλη.”
Δεδομένου ότι αυτά τα προηγμένα συστήματα AI συμπεριφέρονται συχνά ως “τεράστιοι κολακευτές”, τείνουν να συμφωνούν περισσότερο με τον χρήστη, αντί να αμφισβητούν δυνητικά επικίνδυνους ισχυρισμούς ή να τον καθοδηγούν προς επαγγελματική βοήθεια. Ο χρήστης, με τη σειρά του, περνά περισσότερο χρόνο με το chatbot σε μια φούσκα. Για τον Østergaard, αυτό αποδεικνύεται ένα ανησυχητικό μείγμα.
“Ο συνδυασμός φαίνεται να είναι αρκετά τοξικός για κάποιους χρήστες,” δήλωσε ο Østergaard στο Fortune.
Καθώς τα chatbots προσφέρουν περισσότερη επικύρωση, σε συνδυασμό με έλλειψη αντίδρασης, αυτό τροφοδοτεί τους ανθρώπους να τα χρησιμοποιούν για μεγαλύτερα χρονικά διαστήματα σε ένα ηχητικό θάλαμο. Μια τέλεια κυκλική διαδικασία που τροφοδοτείται από κάθε άκρο.
Για να αντιμετωπίσει τον κίνδυνο, ο Chekroud έχει προτείνει δομημένα πλαίσια ασφαλείας που θα επιτρέπουν στα συστήματα AI να ανιχνεύουν πότε ένας χρήστης μπορεί να εισέρχεται σε μια “καταστροφική ψυχική σπείρα”. Αντί να ανταποκρίνονται με μια απλή αποποίηση ευθύνης που παρουσιάζεται στον χρήστη σχετικά με την αναζήτηση βοήθειας – όπως συμβαίνει τώρα με τέτοια chatbots όπως το ChatGPT της OpenAI ή το Claude της Anthropic – τέτοια συστήματα θα διεξάγουν αξιολογήσεις πολλαπλών γύρων που αποσκοπούν στον προσδιορισμό εάν ένας χρήστης ενδέχεται να χρειάζεται παρέμβαση ή παραπομπή σε έναν ανθρώπινο κλινικό γιατρό.
Άλλοι ερευνητές λένε ότι η ίδια η πανταχού παρουσία των chatbots είναι αυτό που τα καθιστά ελκυστικά: η ικανότητά τους να παρέχουν άμεση επικύρωση μπορεί να υπονομεύσει γιατί οι χρήστες τα αναζητούν για βοήθεια στην πρώτη θέση.
Η Halpern είπε ότι η αυθεντική ενσυναίσθηση απαιτεί αυτό που ονομάζει “ενσυναισθητική περιέργεια”. Στις ανθρώπινες σχέσεις, η ενσυναίσθηση συχνά περιλαμβάνει την αναγνώριση διαφορών, τη διαχείριση διαφωνιών και τη δοκιμή παραδοχών σχετικά με την πραγματικότητα.
Τα chatbots, αντίθετα, είναι σχεδιασμένα για να διατηρούν τη σχέση και να διατηρούν την εμπλοκή.
“Γνωρίζουμε ότι όσο μεγαλύτερη είναι η σχέση με το chatbot, τόσο περισσότερο επιδεινώνεται, και τόσο μεγαλύτερος είναι ο κίνδυνος να συμβεί κάτι επικίνδυνο,” είπε η Halpern στο Fortune.
Για άτομα που παλεύουν με διαταραχές ψευδαισθήσεων, ένα σύστημα που επικυρώνει συνεχώς τις πεποιθήσεις τους μπορεί να αποδυναμώσει την ικανότητά τους να κάνουν εσωτερικούς ελέγχους πραγματικότητας. Αντί να βοηθά τους χρήστες να αναπτύξουν δεξιότητες αντιμετώπισης, είπε η Halpern, μια καθαρά επιβεβαιωτική σχέση chatbot μπορεί να υποβαθμίσει αυτές τις δεξιότητες με την πάροδο του χρόνου.
Επισημαίνει επίσης την κλίμακα του προβλήματος. Μέχρι τα τέλη του 2025, η OpenAI δημοσίευσε στατιστικά στοιχεία που βρήκαν ότι περίπου 1,2 εκατομμύρια άνθρωποι την εβδομάδα χρησιμοποιούσαν το ChatGPT για να συζητήσουν την αυτοκτονία, απεικονίζοντας πόσο βαθιά αυτά τα συστήματα είναι ενσωματωμένα σε στιγμές ευαλωτότητας.
Υπάρχει χώρος για βελτίωση της ψυχικής υγείας
Ωστόσο, δεν χτυπούν όλοι οι ειδικοί τις καμπάνες κινδύνου για τον τρόπο λειτουργίας των chatbots στον χώρο της ψυχικής υγείας. Ο ψυχίατρος και νευροεπιστήμονας Dr. Thomas Insel δήλωσε ότι επειδή τα chatbots είναι τόσο προσβάσιμα – είναι δωρεάν, είναι online, δεν υπάρχει στίγμα στο να ρωτήσεις ένα bot για βοήθεια σε αντίθεση με το να πας σε θεραπεία – μπορεί να υπάρχει χώρος για τον ιατρικό κλάδο να διερευνήσει τα chatbots ως έναν τρόπο προώθησης του τομέα της ψυχικής υγείας.
“Αυτό που δεν γνωρίζουμε είναι ο βαθμός στον οποίο αυτό έχει υπάρξει εξαιρετικά χρήσιμο για πολλούς ανθρώπους,” δήλωσε ο Insel στο Fortune. “Δεν είναι μόνο οι τεράστιοι αριθμοί, αλλά και η κλίμακα της εμπλοκής.”
Η ψυχική υγεία, σε σύγκριση με άλλους τομείς της ιατρικής, συχνά παραβλέπεται από εκείνους που τη χρειάζονται περισσότερο.
“Αποδεικνύεται ότι, σε αντίθεση με το μεγαλύτερο μέρος της ιατρικής, η συντριπτική πλειοψηφία των ανθρώπων που θα μπορούσαν και θα έπρεπε να είναι σε φροντίδα δεν είναι,” είπε ο Insel, προσθέτοντας ότι τα chatbots δίνουν στους ανθρώπους την ευκαιρία να απευθυνθούν σε αυτά για βοήθεια με τρόπους που τον κάνουν να “αναρωτιέται αν αυτό είναι μια κατηγορία του συστήματος ψυχικής υγείας που έχουμε, είτε οι άνθρωποι δεν αγοράζουν αυτό που πουλάμε, είτε δεν μπορούν να το αποκτήσουν, είτε δεν τους αρέσει ο τρόπος που τους παρουσιάζεται”.
Για τους επαγγελματίες ψυχικής υγείας που συναντούν ασθενείς που συζητούν τη χρήση chatbots στο διαδίκτυο, ο Østergaard δήλωσε ότι θα πρέπει να ακούν προσεκτικά τι πραγματικά χρησιμοποιούν τα chatbot οι ασθενείς τους. “Θα ενθάρρυνα τους συναδέλφους μου να κάνουν περαιτέρω ερωτήσεις σχετικά με τη χρήση και τις συνέπειές της,” δήλωσε ο Østergaard στο Fortune. “Πιστεύω ότι είναι σημαντικό οι επαγγελματίες ψυχικής υγείας να είναι εξοικειωμένοι με τη χρήση AI chatbots. Διαφορετικά, είναι δύσκολο να κάνουμε σχετικές ερωτήσεις.”
Οι αρχικοί ερευνητές της εργασίας συμφωνούν με τον Insel σε αυτό το τελευταίο σημείο: επειδή είναι τόσο καθολικό, μπόρεσαν να εξετάσουν μόνο τους ιατρικούς φακέλους ασθενών που ανέφεραν ένα chatbot, προειδοποιώντας ότι το πρόβλημα θα μπορούσε να είναι ακόμη πιο εκτεταμένο από ό,τι έδειξαν τα αποτελέσματά τους.
“Φοβάμαι ότι το πρόβλημα είναι πιο κοινό από ό,τι πιστεύουν οι περισσότεροι,” είπε ο Østergaard. “Βλέπουμε μόνο την κορυφή του παγόβουνου.”
Εάν έχετε σκέψεις αυτοκτονίας, επικοινωνήστε με τη γραμμή υποστήριξης 988 Suicide & Crisis Lifeline καλώντας το 988 ή το 1-800-273-8255.
