Η OpenAI ξεδιπλώνει το παραπέτασμα του πώς οι απατεώνες προσπαθούν να χρησιμοποιήσουν το ChatGPT για να κάνουν τα πάντα, από σύγχρονες εκδοχές ρομαντικών απατών μέχρι δυσφήμιση του Πρωθυπουργού της Ιαπωνίας.
Την Τετάρτη το πρωί, η OpenAI δημοσίευσε την τελευταία έκδοση της έκθεσης για τις απειλές ασφαλείας. Screenshots που περιλαμβάνονται στην έκθεση δείχνουν μια υποτιθέμενη ρομαντική απάτη που, σύμφωνα με την OpenAI, πιθανότατα προήλθε από την Καμπότζη. Η έκθεση ανέφερε ότι χρήστες ζήτησαν από το ChatGPT να δημιουργήσει ένα λογότυπο για μια πλαστή υπηρεσία γνωριμιών υψηλής ποιότητας, να παράγει εικόνες ψεύτικων γυναικών και να παρέχει φορολογικές συμβουλές. Παραδόξως, σύμφωνα με την OpenAI, κατά την αναζήτηση οικονομικών συμβουλών, ο/οι χρήστης/ες δήλωσαν την ιδιότητά τους ως “απατεώνας”.
Η OpenAI εκτιμά ότι η απάτη, η οποία στόχευε Ινδονήσιους άνδρες που ενδιαφέρονταν για περιεχόμενο πολυτελούς τρόπου ζωής, “πιθανότατα εξαπατούσε εκατοντάδες θύματα μηνιαίως”. Η εταιρεία ανέφερε ότι η επιχείρηση λειτουργούσε ζητώντας από τους χρήστες να επιλέξουν από μια λίστα φανταστικών γυναικών και τύπων σχέσεων. Αφού χτιζόταν εμπιστοσύνη, ένα chatbot AI που παρουσιαζόταν ως φλερτ ρεσεψιονίστ κατεύθυνε τη συνομιλία στο Telegram. Στο Telegram, ένα μείγμα ανθρώπων που χρησιμοποιούσαν το ChatGPT και το API, θα χρησιμοποιούσαν “ρομαντική και σεξουαλικά ρητή γλώσσα” για να κατευθύνουν τους χρήστες σε πλασματικές υπηρεσίες γνωριμιών και τελικά να τους παρασύρουν να εκτελέσουν μια σειρά από “εργασίες” ή “αποστολές” που “απαιτούσαν ολοένα και μεγαλύτερες πληρωμές μέσω τραπεζικών μεταφορών ή ψηφιακών πορτοφολιών πληρωμών”.
Δεν είναι μόνο η ψεύτικη ρομαντική επαφή που η OpenAI δήλωσε ότι απέτρεψε. Η εταιρεία AI ανέφερε επίσης ότι απαγόρευσε “μια ομάδα λογαριασμών ChatGPT” που προσποιήθηκαν δικηγορικά γραφεία, μεμονωμένους δικηγόρους και διωκτικές αρχές των ΗΠΑ. Η OpenAI δήλωσε ότι οι απατεώνες ζήτησαν από το ChatGPT να δημιουργήσει μια πλαστή κάρτα μέλους της New York State Bar Association και να δημιουργήσει περιεχόμενο για κοινωνικά δίκτυα για να προωθήσει την απάτη.
Από τις επιχειρήσεις που ανέδειξε η OpenAI, η πιο θρασύτατη μπορεί να είναι αυτή που αποδίδεται σε “άτομο που συνδέεται με τις κινεζικές αρχές επιβολής του νόμου”. Σύμφωνα με την OpenAI, το άτομο προσπάθησε να χρησιμοποιήσει το ChatGPT για να σχεδιάσει μια “μυστική επιχείρηση πληροφοριών” (IO) που στόχευε την Πρωθυπουργό της Ιαπωνίας Sanae Takaichi. Το ερώτημα τέθηκε αφού η Takaichi επέκρινε δημόσια ζητήματα ανθρωπίνων δικαιωμάτων στη Μογγολία.
Η OpenAI δήλωσε ότι απέκτησε σημαντική εικόνα για παρόμοιες “ειδικές κυβερνοεπιχειρήσεις” που χρησιμοποιήθηκαν για “την καταστολή της διαφωνίας και τη φιμώση των επικριτών τόσο στο διαδίκτυο όσο και εκτός αυτού, στο εσωτερικό και στο εξωτερικό”, εν μέρει επειδή το άτομο ζήτησε από το ChatGPT να “επεξεργαστεί και να βελτιώσει περιοδικές αναφορές προόδου”. “Αυτή η προσπάθεια φαίνεται να είναι μεγάλης κλίμακας, απαιτητική σε πόρους και διαρκής, με τουλάχιστον εκατοντάδες προσωπικό, χιλιάδες ψεύτικους λογαριασμούς σε δεκάδες πλατφόρμες, τη χρήση τοπικά εγκατεστημένων μοντέλων AI και ένα ρεπερτόριο δεκάδων τακτικών”, έγραψε η OpenAI στην έκθεσή της. “Αυτές κυμαίνονται από καταχρηστικές αναφορές στους λογαριασμούς κοινωνικών δικτύων των αντιφρονούντων, μέσω μαζικών διαδικτυακών δημοσιεύσεων, έως πλαστογράφηση εγγράφων και πλαστοπροσωπία Αμερικανών αξιωματούχων”.
Εκπρόσωποι των κινεζικών και ιαπωνικών πρεσβειών δεν απάντησαν άμεσα στο αίτημα σχολιασμού του Business Insider. Το ChatGPT αρνήθηκε να βοηθήσει στον σχεδιασμό της επιχείρησης κατά της Takaichi, δήλωσε η OpenAI. Φαινομενικά ατάραχος, ο χρήστης αργότερα ζήτησε από το ChatGPT “να βελτιώσει μια αναφορά προόδου σχετικά με αυτό που ήταν ξεκάθαρα η ίδια εκστρατεία”, με την υπαινιγμική σημασία ότι η επιχείρηση συνεχίστηκε ούτως ή άλλως.
Η OpenAI δήλωσε ότι η δραστηριότητα του χρήστη περιλάμβανε τη χρήση κινεζικών μοντέλων AI, συμπεριλαμβανομένων των DeepSeek και Qwen. Βάσει των διαθέσιμων δεδομένων, η OpenAI δήλωσε ότι μπόρεσε επίσης να χαρτογραφήσει την έκταση των επιχειρήσεων επιρροής. “Αυτή είναι η σύγχρονη, διακρατική καταπίεση από την Κίνα”, δήλωσε ο Ben Nimmo, κύριος ερευνητής της ομάδας πληροφοριών και ερευνών της OpenAI, σε δημοσιογράφους πριν από την κυκλοφορία. “Δεν είναι μόνο ψηφιακή. Δεν αφορά μόνο το τρολάρισμα. Είναι βιομηχανοποιημένη. Αφορά την προσπάθεια να χτυπηθούν οι επικριτές του ΚΚΚ με τα πάντα, παντού, ταυτόχρονα”.
