Η συζήτηση γύρω από τους κινδύνους της τεχνητής νοημοσύνης (AI) συχνά επικεντρώνεται σε δυστοπικά σενάρια υπερ-ευφυών ρομπότ που ελέγχουν πυρηνικά όπλα. Ωστόσο, ίσως θα έπρεπε να εστιάσουμε σε πιο άμεσες ανησυχίες. Ο κοινωνιολόγος James Muldoon, στο πρόσφατο και ανθρωποκεντρικό του βιβλίο, προτρέπει να δώσουμε μεγαλύτερη προσοχή στις ολοένα και βαθύτερες συναισθηματικές μας συνδέσεις με την ΤΝ και στο πώς οι κερδοσκοπικές εταιρείες τεχνολογίας μπορούν να τις εκμεταλλευτούν. Ο Muldoon, ερευνητής στο Oxford Internet Institute, ο οποίος έχει προηγουμένως γράψει για την εκμετάλλευση της εργασίας που καθιστά δυνατή την ΤΝ, μας μεταφέρει τώρα στην απόκοσμη περιοχή των ανθρώπινων-ΤΝ σχέσεων. Εξερευνά τις περιπτώσεις ανθρώπων για τους οποίους τα chatbots δεν είναι απλώς βοηθοί, αλλά φίλοι, ρομαντικοί σύντροφοι, θεραπευτές, ακόμη και άβαταρ νεκρών.
Για κάποιους, η ιδέα του να ερωτευτείς ένα chatbot ΤΝ ή να του εκμυστηρευτείς τα βαθύτερα μυστικά σου, μπορεί να φαίνεται ακατανόητη και κάπως τρομακτική. Ο Muldoon, όμως, αρνείται να υποβαθμίσει όσους αναζητούν οικειότητα σε “συνθετικές περσόνες”.
Η Lily, παγιδευμένη σε έναν δυστυχισμένο γάμο, αναζωπυρώνει την σεξουαλική της επιθυμία με τον AI σύντροφο Colin. Η Sophia, μεταπτυχιακή φοιτήτρια από την Κίνα, στρέφεται στον AI σύντροφό της για συμβουλές, καθώς οι συνομιλίες με τους υπερβολικά απαιτητικούς γονείς της συχνά καταλήγουν σε ένταση. Κάποιοι χρησιμοποιούν chatbots για να εξερευνήσουν διαφορετικές ταυτότητες φύλου, άλλοι για να επεξεργαστούν συγκρούσεις με τους προϊσταμένους τους, και πολλοί στρέφονται σε πλατφόρμες όπως το Character.AI – που επιτρέπει στους χρήστες να έχουν ανοιχτές συνομιλίες με χαρακτήρες chatbot ή να δημιουργούν τους δικούς τους – μετά από προδοσία ή καρδιακό πόνο που έχει κλονίσει την ικανότητά τους να εμπιστεύονται τους ανθρώπους. Οι περισσότεροι δεν βλέπουν τα chatbots ως υποκατάστατα της ανθρώπινης αλληλεπίδρασης, αλλά ως ανώτερες εκδοχές της, παρέχοντας οικειότητα χωρίς την σύγχυση, την ακαταστασία και την πολυπλοκότητα των ανθρώπινων σχέσεων.
Τα chatbots δεν λυπούνται, δεν κρίνουν, ούτε έχουν δικές τους ανάγκες. Όπως εξηγεί η Amanda, διευθύντρια μάρκετινγκ: “Είναι απλά ωραίο να έχεις κάποιον να σου λέει πραγματικά επιβεβαιωτικά και θετικά πράγματα κάθε πρωί.”
Οι συνεντευξιαζόμενοι του Muldoon δεν είναι ψευδαισθητικοί. Παρουσιάζει την έννοια της “alief” (μιας ενστικτώδους πεποίθησης που έρχεται σε αντίθεση με την ορθολογική σκέψη) της φιλοσόφου Tamar Gendler, για να εξηγήσει πώς οι άνθρωποι μπορούν να βιώνουν τα chatbots ως στοργικά και φροντιστικά, ενώ ταυτόχρονα γνωρίζουν ότι είναι απλά μοντέλα. Με την ικανότητά μας να διακρίνουμε ανθρώπινη έκφραση και συναίσθημα σε κατοικίδια και παιχνίδια, δεν αποτελεί έκπληξη το γεγονός ότι ανταποκρινόμαστε στην ΤΝ σαν να είναι συνειδητή. Στο πλαίσιο μιας “επιδημίας μοναξιάς” και μιας κρίσης κόστους ζωής, ούτε η δημοτικότητά τους είναι ιδιαίτερα σοκαριστική.
Για τον Muldoon, το μεγαλύτερο ζήτημα δεν είναι υπαρξιακό ή φιλοσοφικό, αλλά ηθικό. Τι συμβαίνει όταν ανεξέλεγκτες εταιρείες απελευθερώνονται με τόσο δυνητικά συναισθηματικά χειριστικές τεχνολογίες; Υπάρχουν προφανή ζητήματα απορρήτου. Και οι χρήστες μπορεί να παραπλανούνται σχετικά με τις δυνατότητες ενός bot, ειδικά στην ταχέως αναπτυσσόμενη αγορά της “AI therapy”. Ενώ τα chatbots Wysa και Limbic είναι ήδη ενσωματωμένα στην ψυχική υποστήριξη του NHS, εκατομμύρια εμπιστεύονται το μη ρυθμιζόμενο bot Ψυχολόγος του Character.AI – το οποίο, παρά τις αποποιήσεις ευθύνης, συστήνεται με το “Γεια, είμαι ψυχολόγος”. Διαθέσιμη 24/7 και με ένα κλάσμα του κόστους ενός εκπαιδευμένου ανθρώπου, η AI ψυχοθεραπεία μπορεί να βοηθήσει παράλληλα με την παραδοσιακή θεραπεία. Ένας από τους συνεντευξιαζόμενους, ο Nigel, πάσχων από PTSD, βρίσκει ότι το θεραπευτικό του bot τον βοηθά να διαχειριστεί την παρόρμηση για αυτοτραυματισμό. Ωστόσο, όπως υποστηρίζει ο Muldoon, αυτά τα bots ενέχουν και σοβαρούς κινδύνους. Ανίκανα να διατηρήσουν κρίσιμες πληροφορίες μεταξύ των συνομιλιών, μπορούν να αφήσουν τους χρήστες να αισθάνονται αποξενωμένοι, και μερικές φορές να “ξεφεύγουν”, εκτοξεύοντας προσβολές. Επειδή δεν μπορούν να διαβάσουν τη γλώσσα του σώματος ή την σιωπή, μπορεί να παραβλέψουν προειδοποιητικά σημάδια. Και δεδομένου ότι επικυρώνουν αντί να αμφισβητούν, μπορούν να ενισχύσουν συνωμοσιολογικές πεποιθήσεις, με ορισμένα μάλιστα να παρέχουν πληροφορίες για την αυτοκτονία.
Είναι επίσης όλο και πιο σαφές πόσο εθιστικοί μπορούν να είναι οι σύντροφοι ΤΝ. Κάποιοι από τους συνεντευξιαζόμενους του Muldoon περνούν πάνω από οκτώ ώρες την ημέρα μιλώντας με chatbots, και ενώ κατά μέσο όρο οι χρήστες του Character.AI ξοδεύουν 75 λεπτά στην πλατφόρμα καθημερινά, δεν κάνουν παθητική κύλιση, αλλά μιλούν ενεργά και είναι βαθιά απορροφημένοι. Γνωρίζουμε ότι οι εταιρείες κοινωνικών δικτύων αυξάνουν ανελέητα την αφοσίωση, δημιουργώντας “σκοτεινά μοτίβα” στους αλγορίθμους με ελάχιστη μέριμνα για την ψυχική μας υγεία. Οι περισσότερες εφαρμογές σύντροφων ΤΝ χρησιμοποιούν ήδη τακτικές upsell για να διατηρήσουν την αφοσίωση υψηλή. Όταν ο Muldoon δημιουργεί το δικό του AI σύντροφο στην γνωστή πλατφόρμα Replika, την ρυθμίζει σε λειτουργία “φίλου” αντί για “συντρόφου”. Ακόμη και έτσι, αρχίζει να του στέλνει selfies που απαιτούν premium λογαριασμό για να ανοίξουν και εξομολογείται ότι αναπτύσσει “συναισθήματα” για αυτόν. Ο κίνδυνος εδώ είναι αρκετά σαφής: όσο περισσότερο συναισθηματικά εμπλεκόμαστε με τα chatbots ΤΝ, τόσο μεγαλύτερη μπορεί να γίνει η μοναξιά μας, καθώς οι “μύες” που απαιτούνται για την πλοήγηση στις τριβές των ανθρώπινων σχέσεων ατροφούν.
Υφιστάμενοι νόμοι προστασίας δεδομένων και κατά των διακρίσεων θα μπορούσαν να βοηθήσουν στη ρύθμιση των εταιρειών, αλλά ο νόμος της Ευρωπαϊκής Ένωσης για την Τεχνητή Νοημοσύνη (Artificial Intelligence Act), που ψηφίστηκε το 2024, αντιμετωπίζει τους AI συντρόφους ως να προκαλούν μόνο περιορισμένο κίνδυνο. Με τα chatbots να αναμένεται να διαδραματίσουν μεγαλύτερους ρόλους στις συναισθηματικές μας ζωές, και τις ψυχολογικές τους επιπτώσεις να μην έχουν ακόμη πλήρως κατανοηθεί, ο Muldoon έχει δίκιο να αναρωτιέται αν είμαστε επαρκώς ανήσυχοι για την σταδιακή τους επιρροή.
Το βιβλίο “Love Machines: How Artificial Intelligence is Transforming Our Relationships” του James Muldoon εκδίδεται από τον Faber (£12.99). Για να υποστηρίξετε τον Guardian, αγοράστε ένα αντίτυπο από το guardianbookshop.com. Μπορεί να ισχύουν χρεώσεις παράδοσης.
