Η OpenAI, η γνωστή εταιρεία τεχνητής νοημοσύνης, βρέθηκε στο επίκεντρο νέων συζητήσεων μετά την ανακοίνωση μιας συμφωνίας με το αμερικανικό Πεντάγωνο. Η εξέλιξη αυτή έρχεται λίγες μόνο ημέρες αφότου η εταιρεία είχε εκφράσει δημόσια την υποστήριξή της σε ανταγωνίστριά της, την Anthropic, για τη στάση της απέναντι στις απαιτήσεις του Πενταγώνου. Η συμφωνία με την OpenAI υπήρξε ιδιαίτερα ασυνήθιστη, ειδικά μετά την πρόσφατη χαρακτηρισμό της Anthropic ως “κίνδυνο για την αλυσίδα εφοδιασμού” από την κυβέρνηση των ΗΠΑ.
Η απόφαση της OpenAI προκάλεσε κριτική από πολλούς ερευνητές στον τομέα της τεχνητής νοημοσύνης και ειδικούς σε θέματα πολιτικής τεχνολογίας. Παρόλο που η OpenAI δήλωσε ότι έχει συμπεριλάβει περιορισμούς στη συμφωνία της, οι οποίοι αφορούν την παρακολούθηση πολιτών των ΗΠΑ και τη χρήση θανατηφόρων αυτόνομων όπλων – ζητήματα για τα οποία η Anthropic είχε εγείρει αντιρρήσεις χωρίς ανταπόκριση από το Πεντάγωνο – η ανησυχία παραμένει.
Ένα από τα κύρια σημεία τριβής αφορά την εγχώρια μαζική παρακολούθηση. Οι ειδικοί προειδοποιούν εδώ και καιρό ότι η προηγμένη τεχνητή νοημοσύνη μπορεί να συλλέγει διάσπαρτα, φαινομενικά ασήμαντα δεδομένα – όπως η τοποθεσία, τα οικονομικά στοιχεία, το ιστορικό αναζήτησης ενός ατόμου – και να τα συνθέτει σε μια ολοκληρωμένη εικόνα της ζωής του, αυτομάτως και σε μεγάλη κλίμακα. Ο Διευθύνων Σύμβουλος της Anthropic, Dario Amodei, έχει δηλώσει ότι αυτό το είδος μαζικής παρακολούθησης που οδηγείται από την τεχνητή νοημοσύνη παρουσιάζει σοβαρούς και πρωτοφανείς κινδύνους για τις “θεμελιώδεις ελευθερίες” των ανθρώπων, ενώ “ο νόμος δεν έχει ακόμη συμβαδίσει με τις ταχέως αναπτυσσόμενες δυνατότητες της τεχνητής νοημοσύνης”.
Ενώ η OpenAI ανέφερε σε ανάρτησή της στο blog ότι κατέληξε σε συμφωνία με το Πεντάγωνο, εξασφαλίζοντας ότι η τεχνολογία της δεν θα χρησιμοποιηθεί για μαζική εγχώρια παρακολούθηση ή για άμεσα αυτόνομα συστήματα όπλων – τα δύο σκληρά όρια που η Anthropic είχε αρνηθεί να παραβιάσει – ορισμένοι νομικοί και πολιτικοί εμπειρογνώμονες έχουν εκφράσει ανησυχίες για ένα πιθανό κενό στη νομοθεσία.
Μέρος της διαμάχης εστιάζεται στην ασαφή νομιμότητα της ανάλυσης δεδομένων Αμερικανών σε μεγάλη κλίμακα, η οποία είναι νόμιμη βάσει των τρεχουσών νομοθεσιών των ΗΠΑ, ακόμη και αν μοιάζει αδιάκριτη με τη μαζική παρακολούθηση. “Αυτή τη στιγμή, σύμφωνα με το νόμο των ΗΠΑ, είναι νόμιμο για τις κυβερνητικές αρχές να αγοράζουν διαθέσιμες εμπορικά πληροφορίες από μεσίτες δεδομένων και τρίτους”, δήλωσε ο Samir Jain, αντιπρόεδρος Πολιτικής στο Center for Democracy & Technology. “Αν αγοράσεις τεράστιες ποσότητες δεδομένων και επιτρέψεις στην τεχνητή νοημοσύνη να τις αναλύσει, μπορεί τελικά, ουσιαστικά, να εμπλακείς σε μαζική παρακολούθηση Αμερικανών μέσω αυτής της διαδικασίας. Αυτό δεν περιορίζεται ή απαγορεύεται αυτή τη στιγμή από το νόμο”.
Η OpenAI δηλώνει ότι οι “κόκκινες γραμμές” της εφαρμόζονται μέσω τεχνικών συστημάτων που σχεδιάζει να δημιουργήσει, καθώς και μέσω της διατύπωσης στη σύμβασή της με το Πεντάγωνο. Σύμφωνα με ανάρτηση στο blog της εταιρείας, η σύμβαση επιτρέπει στο Υπουργείο Άμυνας να χρησιμοποιεί την ΤΝ “για όλους τους νόμιμους σκοπούς, σύμφωνα με την ισχύουσα νομοθεσία, τις επιχειρησιακές απαιτήσεις και τα καθιερωμένα πρωτόκολλα ασφάλειας και εποπτείας”, ενώ απαγορεύει ρητά την ανεξέλεγκτη παρακολούθηση ιδιωτικών πληροφοριών Αμερικανών.
Το πρόβλημα είναι ότι το τι θεωρείται “νόμιμο” μπορεί να αλλάξει. Η σύμβαση της OpenAI αναφέρεται σε υφιστάμενους νόμους και πολιτικές του Υπουργείου Άμυνας, αλλά αυτές οι πολιτικές θα μπορούσαν να τροποποιηθούν στο μέλλον. “Τίποτα από αυτά που έχουν δημοσιοποιήσει δεν θα εμποδίσει αυτές τις πολιτικές να αλλάξουν στο μέλλον”, δήλωσε ο Jain.
Ορισμένοι επικριτές υποστηρίζουν ότι οι υπάρχουσες υπηρεσίες πληροφοριών ήδη επιτρέπουν μορφές παρακολούθησης που η OpenAI δηλώνει ότι απαγορεύει. Ο Mike Masnick, ιδρυτής του Techdirt, έγραψε στα μέσα κοινωνικής δικτύωσης ότι η συμφωνία “επιτρέπει σίγουρα την εγχώρια παρακολούθηση”, επισημαίνοντας την Εκτελεστική Εντολή 12333, μια μακροχρόνια εξουσιοδότηση που επιτρέπει στις υπηρεσίες πληροφοριών να συλλέγουν επικοινωνίες εκτός των Ηνωμένων Πολιτειών, κάτι που μπορεί να περιλαμβάνει δεδομένα Αμερικανών όταν αποκτώνται παρεμπιπτόντως.
Κάποια από τη συζήτηση επικεντρώνεται σε συγκεκριμένα τμήματα του αμερικανικού δικαίου που διέπουν διάφορες δραστηριότητες εθνικής ασφάλειας. Οι ενέργειες του αμερικανικού στρατού διέπονται γενικά από τον Τίτλο 10 του Ομοσπονδιακού Κώδικα των ΗΠΑ. Αυτό περιλαμβάνει το έργο που επιτελούν η Υπηρεσία Πληροφοριών Άμυνας (Defense Intelligence Agency) και η Διοίκηση Κυβερνοχώρου των ΗΠΑ (U.S. Cyber Command) για την υποστήριξη στρατιωτικών επιχειρήσεων. Ωστόσο, μέρος του έργου της DIA εμπίπτει σε διαφορετικό τμήμα του αμερικανικού νόμου, τον Τίτλο 50 του Κώδικα των ΗΠΑ, ο οποίος γενικά διέπει τη μυστική συλλογή πληροφοριών και τις μυστικές επιχειρήσεις. Το έργο της Κεντρικής Υπηρεσίας Πληροφοριών (CIA) και της Υπηρεσίας Εθνικής Ασφάλειας (NSA) συνήθως εμπίπτει επίσης στον Τίτλο 50. Ορισμένες από τις πιο ευαίσθητες δραστηριότητες του Τίτλου 50, ιδίως οι μυστικές επιχειρήσεις, διεξάγονται σε μεγάλο βαθμό παρασκηνιακά και απαιτούν προεδρική έγκριση.
Σε ανάρτηση στο blog που δημοσιεύθηκε το Σαββατοκύριακο, η OpenAI μοιράστηκε μια λεπτομερή περιγραφή της συμφωνίας της με το Πεντάγωνο, και σύμφωνα με ανάρτηση στα μέσα κοινωνικής δικτύωσης από τον γνωστό ερευνητή της OpenAI, Noam Brown, η επικεφαλής των συνεργασιών εθνικής ασφάλειας της OpenAI, Katarina Mulligan, ανέφερε στον Brown ότι η σύμβαση της OpenAI δεν καλύπτει εργασίες του Τίτλου 50 από την κοινότητα πληροφοριών, ένα από τα κύρια αίτια ανησυχίας από τους επικριτές. Εκπρόσωποι της OpenAI δεν απάντησαν άμεσα σε αίτημα για σχόλια από το Fortune.
Ωστόσο, νομικοί μελετητές έχουν σημειώσει ότι η διάκριση μεταξύ δραστηριοτήτων του Τίτλου 10 και του Τίτλου 50 γίνεται ολοένα και πιο ασαφής. Στην πράξη, οι δύο μπορεί να μοιάζουν πολύ, και και οι δύο μπορούν να περιλαμβάνουν την ανάλυση δεδομένων για ξένους παράγοντες ή την παρακολούθηση μοτίβων. Όμως, αυτή η αλληλοεπικάλυψη δημιουργεί μια γκρίζα ζώνη για εταιρείες όπως η OpenAI: μια σύμβαση που απαγορεύει τις εργασίες του Τίτλου 50 δεν αποτρέπει αυτόματα υπηρεσίες του Τίτλου 10, όπως η DIA, από το να χρησιμοποιούν ΤΝ για την ανάλυση εμπορικά διαθέσιμων ή μη ταξινομημένων συνόλων δεδομένων.
“Αν λένε ότι το σύστημά τους δεν μπορεί να χρησιμοποιηθεί για οποιεσδήποτε δραστηριότητες του Τίτλου 50, τότε αυτό μειώνει το εύρος των δραστηριοτήτων για τις οποίες μπορεί να χρησιμοποιηθεί το σύστημα ΤΝ”, δήλωσε ο Jain. “Αλλά αυτό δεν λύνει το πρόβλημα”.
