Η κορυφαία υπηρεσία πληροφοριριών της Κίνας προειδοποιεί ότι ξένες δυνάμεις χρησιμοποιούν deepfakes και άλλες τεχνολογίες τεχνητής νοημοσύνης (AI) για να προκαλέσουν πανικό και να αποσπάσουν ευαίσθητες πληροφορίες, θέτοντας σε κίνδυνο την εθνική ασφάλεια της χώρας.
Η τεχνολογία deepfake, που αξιοποιεί αλγορίθμους βαθιάς μάθησης της AI για την προσομοίωση και πλαστογράφηση εικόνων, ήχου και βίντεο, μπορεί να καταχραστεί ή να χρησιμοποιηθεί κακόβουλα, απειλώντας τα νόμιμα δικαιώματα των ατόμων, την κοινωνική σταθερότητα και την εθνική ασφάλεια, όπως ανέφερε το Υπουργείο Κρατικής Ασφάλειας (MSS) σε άρθρο του την Παρασκευή.
Σύμφωνα με το υπουργείο, “εχθρικές ξένες δυνάμεις κατά της Κίνας” έχουν χρησιμοποιήσει αυτή την τεχνολογία για να δημιουργήσουν πλαστά βίντεο και να προσπαθήσουν να τα διαδώσουν στην Κίνα με σκοπό να “παραπλανήσουν την κοινή γνώμη και να δημιουργήσουν πανικό”.
Επιπλέον, η χρήση της AI μπορεί να οδηγήσει σε διαρροές δεδομένων και κινδύνους ασφαλείας. Αναφέρθηκε ένα περιστατικό όπου προσωπικό χρησιμοποίησε εργαλεία AI ανοιχτού κώδικα που επέτρεπαν την πρόσβαση σε αρχεία χωρίς κωδικό πρόσβασης, με αποτέλεσμα κάποιος με ξένη IP να αποκτήσει πρόσβαση και να κατεβάσει ευαίσθητα δεδομένα.
Το υπουργείο προειδοποιεί επίσης για την αλγοριθμική μεροληψία, όπου τα μεγάλα γλωσσικά μοντέλα ενδέχεται να ενισχύσουν τις διακρίσεις αν τα δεδομένα εκπαίδευσης αντανακλούν κοινωνικές προκαταλήψεις ή υπο-αντιπροσωπεύουν ορισμένα ζητήματα.
Για την αντιμετώπιση αυτών των κινδύνων, το υπουργείο συμβουλεύει τους χρήστες να είναι προσεκτικοί κατά την παραχώρηση δικαιωμάτων πρόσβασης, να αποφεύγουν τη χρήση διαδικτυακών εργαλείων AI για την επεξεργασία ευαίσθητων δεδομένων, να μην αποθηκεύουν κωδικούς πληρωμών και να απενεργοποιούν την κοινή χρήση δεδομένων και την αποθήκευση στο cloud. Θα πρέπει επίσης να παρακολουθούν τα “ψηφιακά τους αποτυπώματα”, να διαγράφουν περιοδικά το ιστορικό συνομιλιών με AI, να ενημερώνουν το λογισμικό προστασίας από ιούς και να είναι σε επαγρύπνηση όταν τους ζητούνται προσωπικά στοιχεία ταυτοποίησης και τραπεζικών λογαριασμών.
“Η ασφάλεια είναι η προϋπόθεση για την ανάπτυξη, και η ανάπτυξη μπορεί να διασφαλίσει την ασφάλεια”, τόνισε το υπουργείο. “Μόνο κατανοώντας την τεχνολογία και χρησιμοποιώντας την με ασφάλεια, μπορούμε να διασφαλίσουμε ότι τα μεγάλα μοντέλα AI θα γίνουν θετική δύναμη στην προώθηση της κοινωνικής προόδου.”
Επεσήμανε την ανάγκη οι χρήστες να βελτιώσουν την αντίληψη ασφαλείας τους, να ασκούν προσοχή κατά την παραχώρηση αδειών σε λογισμικό μεγάλων μοντέλων, και να αναφέρουν ύποπτες δραστηριότητες, όπως μοντέλα AI που κλέβουν προσωπικές πληροφορίες ή στέλνουν ευαίσθητα δεδομένα στο εξωτερικό.
Το υπουργείο έχει συχνά εκφράσει ανησυχίες για κινδύνους ασφαλείας σε τομείς που σχετίζονται με την AI. Τον Μάρτιο, είχε δηλώσει ότι οι εταιρείες και τα κυβερνητικά γραφεία πρέπει να αποτρέπουν τη διαρροή δεδομένων κατά την εκπαίδευση μοντέλων AI και να είναι σε επαγρύπνηση για εγκληματίες που εκμεταλλεύονται κενά για να καταστρέψουν έξυπνα συστήματα σε εργοστάσια, χρηματοπιστωτικά ιδρύματα ή ενεργειακές εγκαταστάσεις, κάτι που μπορεί να οδηγήσει σε οικονομικές απώλειες και ατυχήματα.
Τον Οκτώβριο, η Κίνα ενέκρινε τροπολογία στον Νόμο περί Κυβερνοασφάλειας, προσθέτοντας ενότητα για την ασφάλεια και την ανάπτυξη της AI. Αυτή απαιτεί βελτιωμένες ηθικές κατευθυντήριες γραμμές, ενισχυμένη παρακολούθηση και αξιολόγηση κινδύνων ασφαλείας, και αυστηρότερους κανονισμούς ασφαλείας που σχετίζονται με την AI.
