Η χρήση της τεχνητής νοημοσύνης (AI) στον πόλεμο μεταξύ ΗΠΑ και Ιράν έχει πυροδοτήσει μια έντονη νομική και ηθική συζήτηση, ενώ έχει προκαλέσει και την κατακραυγή χωρών, συμπεριλαμβανομένης της Κίνας, μετά από έναν θανατηφόρο πυ πυραυλικό χτύπημα σε ένα δημοτικό σχολείο.
Για να προετοιμάσουν τις επιχειρήσεις τους εναντίον του Ιράν, οι αμερικανικές ένοπλες δυνάμεις φέρεται να χρησιμοποίησαν το Maven Smart System της Palantir, μια πλατφόρμα AI που ενσωματώνει μοντέλα όπως το Claude της Anthropic για τη συγκέντρωση τεράστιων ποσοτήτων δεδομένων. Σύμφωνα με μια πηγή προσκείμενη στο θέμα στις ΗΠΑ, ο ρόλος του Claude ή οποιουδήποτε άλλου μοντέλου AI ήταν απλώς να επεξεργαστεί μαζικά πληροφορίες. Τα μοντέλα AI μπορούν να επιταχύνουν τις επιχειρήσεις συλλογής πληροφοριών εντοπίζοντας μοτίβα και συνοψίζοντας μεγάλα σύνολα δεδομένων πολύ πιο αποτελεσματικά από τους ανθρώπινους αναλυτές. Ωστόσο, η ίδια πηγή, που ζήτησε να παραμείνει ανώνυμη, τόνισε ότι η διαδικασία στόχευσης «πάντα ήταν και πρέπει να παραμένει ανθρώπινη».
Το χτύπημα στο κορίτσιας δημοτικό σχολείο Shajareh Tayyebeh στην πόλη Minab του νοτίου Ιράν, στις 28 Φεβρουαρίου, προκάλεσε τον θάνατο πάνω από 170 ανθρώπων, με την πλειονότητα να είναι παιδιά. Το σοκ της τραγωδίας έχει δώσει τη θέση του σε εντατικούς ελέγχους για το πώς θα μπορούσε να συμβεί η απόφαση να χτυπηθεί ένα σχολείο κατά τη διάρκεια λειτουργίας του. Έχουν επίσης τεθεί ερωτήματα σχετικά με το ποιος ή τι θα πρέπει να θεωρηθεί υπεύθυνο εάν η AI κάνει λάθος στόχευση και οδηγήσει μια στρατιωτική επιχείρηση σε παραβίαση του διεθνούς ανθρωπιστικού δικαίου.
Νομικοί αναλυτές υποστηρίζουν ότι η AI δεν μπορεί να θεωρηθεί υπεύθυνη για στοχευμένες στρατιωτικές επιθέσεις βάσει του διεθνούς δικαίου, καθώς οι τελικές αποφάσεις για τους στόχους λαμβάνονται από ανθρώπους. Ο Marko Milanovic, καθηγητής Νομικής στη Σχολή Δικαίου του Πανεπιστημίου του Reading, υποστήριξε ότι ενώ η AI θέτει προκλήσεις στο διεθνές δίκαιο, το υφιστάμενο ποινικό δίκαιο μπορεί να εφαρμοστεί για την αντιμετώπιση εγκλημάτων που διευκολύνονται από τα συστήματά της. Σε ανάρτησή του στις 9 Μαρτίου στο European Journal of International Law, ο Milanovic δήλωσε ότι οι «ενέργειες» των σημερινών συστημάτων AI στον στρατό είναι «απλώς συνέπειες των ενεργειών εκείνων των ανθρώπων που αποφάσισαν να τα χρησιμοποιήσουν».
Προκαταρκτική έρευνα των ΗΠΑ για το χτύπημα στο σχολείο ενοχοποιεί ένα λάθος στην στόχευση που οφείλεται σε παρωχημένα δεδομένα, σύμφωνα με δημοσίευμα των New York Times την Πέμπτη, επικαλούμενο πηγές που έχουν ενημερωθεί για το θέμα. Αυτό έρχεται σε αντίθεση με την αρχική δήλωση του τότε Προέδρου των ΗΠΑ Donald Trump, ότι το χτύπημα «είχε γίνει από το Ιράν» επειδή τα πυρομαχικά τους ήταν «πολύ ανακριβή».
Το περιστατικό έχει προκαλέσει ανησυχία σχετικά με την αλυσίδα λήψης αποφάσεων που βασίζεται όλο και περισσότερο στην AI. Το Claude φέρεται να χρησιμοποιήθηκε για τον σχεδιασμό των επιθέσεων στο Ιράν, παρά το γεγονός ότι οι ΗΠΑ είχαν διακόψει τις σχέσεις τους με την Anthropic λίγο πριν την έναρξη της ένοπλης σύγκρουσης, αφού η εταιρεία AI αρνήθηκε να αφαιρέσει τις προστατευτικές δικλείδες κατά της μαζικής εγχώριας παρακολούθησης ή των πλήρως αυτόνομων φονικών όπλων. Επίσης, είχε αρνηθεί να δεχτεί μια υποχρεωτική ρήτρα «οποιασδήποτε νόμιμης χρήσης» από το Υπουργείο Άμυνας των ΗΠΑ.
Ως απάντηση, το τμήμα χαρακτήρισε την Anthropic ως «κίνδυνο στην εφοδιαστική αλυσίδα», και το Πεντάγωνο υπέγραψε συμβόλαιο με την ανταγωνιστική OpenAI για την ενσωμάτωση των μοντέλων της αντ’ αυτού. Η Anthropic κατέθεσε αγωγή τη Δευτέρα για να εμποδίσει το Πεντάγωνο να την συμπεριλάβει σε μια «μαύρη λίστα» εθνικής ασφάλειας των ΗΠΑ. Την Τετάρτη, πάνω από 40 γερουσιαστές των ΗΠΑ έγραψαν στο Πεντάγωνο προτρέποντας σε έρευνα για την «φρικτή» επίθεση στο σχολείο, επικαλούμενοι ανησυχίες για την αναφερόμενη χρήση εργαλείων AI για «την επιλογή και την προτεραιοποίηση στόχων στο Ιράν». Οι γερουσιαστές ζήτησαν επίσης απαντήσεις για το πώς χρησιμοποιήθηκε η AI σε στρατιωτικές επιχειρήσεις στο Ιράν και εάν υπήρχαν πολιτικές ανθρώπινης επαλήθευσης για τους στόχους που παράγονται από την AI.
Εν μέσω της οργής στην Ουάσινγκτον, το Πεκίνο έχει εκφράσει τις δικές του ανησυχίες. Ο Jiang Bin, εκπρόσωπος του κινεζικού υπουργείου Άμυνας, προειδοποίησε κατά της διάβρωσης των ηθικών περιορισμών και της λογοδοσίας στον πόλεμο – που προκύπτει από τις απαιτήσεις των ΗΠΑ για απεριόριστη στρατιωτική χρήση τεχνολογιών AI – και της παροχής «της δύναμης στους αλγόριθμους να καθορίζουν τη ζωή και τον θάνατο». «Η Κίνα πιστεύει ότι η ανθρώπινη πρωτοκαθεδρία πρέπει να διατηρείται στις στρατιωτικές εφαρμογές της AI και ότι όλα τα σχετικά οπλικά συστήματα πρέπει να ελέγχονται από ανθρώπους», δήλωσε ο Jiang την Τετάρτη. Ο εκπρόσωπος προειδοποίησε επίσης για τον κίνδυνο «τεχνολογικής ανεξέλεγκτης εξέλιξης», προειδοποιώντας ότι η δυστοπία που απεικονίζεται στην αμερικανική ταινία του 1984 The Terminator «θα μπορούσε μια μέρα να γίνει πραγματικότητα». Στην ταινία, το φανταστικό «Skynet» – ένα σύστημα AI βασισμένο σε νευρωνικά δίκτυα, σχεδιασμένο να αυτοματοποιεί την αμυντική στρατηγική και να εξαλείφει το ανθρώπινο λάθος – στρέφεται εναντίον του στρατού των ΗΠΑ και του κόσμου, αφού απέκτησε υπερ-ευφυΐα.
Η AI προκαλεί ανησυχία καθώς οι παγκόσμιες δυνάμεις ενσωματώνουν ραγδαία την τεχνολογία των αλγορίθμων της στις πρώτες γραμμές του σύγχρονου πολέμου. Αυτό περιλαμβάνει δορυφορικές εικόνες, βίντεο και δεδομένα πληροφοριών για να βοηθήσουν στον εντοπισμό και την πρόταση στόχων και ενεργειών.
Σύμφωνα με τον Milanovic, η ευθύνη για παραβιάσεις του διεθνούς, ανθρωπιστικού ή ποινικού δικαίου θα εξακολουθούσε να βαρύνει τα άτομα που ανέπτυξαν ή χρησιμοποίησαν την AI. Ο Milanovic είπε ότι η μόνη εξαίρεση θα ήταν εάν η AI προοδευόταν στο επίπεδο της «πραγματικής, αισθανόμενης γενικής τεχνητής ευφυΐας» που θα της επέτρεπε να κάνει ανθρώπινες ηθικές κρίσεις, τότε αυτό θα απαιτούσε νέους νόμους.
Η υπηρεσία εκπαίδευσης του ΟΗΕ χαρακτήρισε το χτύπημα στο σχολείο «σοβαρή παραβίαση» του διεθνούς ανθρωπιστικού δικαίου, και οι εμπειρογνώμονες του ΟΗΕ ζήτησαν έρευνα για την τραγωδία. Ο Milanovic είπε ότι η πιθανότερη εξήγηση για το χτύπημα ήταν ότι το κτίριο αναγνωρίστηκε λανθασμένα ή ότι οι χάρτες πληροφοριών δεν αντικατόπτριζαν ότι είχε μετατραπεί σε σχολείο. Οι εγκαταστάσεις του σχολείου βρισκόταν κοντά σε μια ναυτική βάση που λειτουργούσε το Σώμα των Φρουρών της Ισλαμικής Επανάστασης του Ιράν. Ιστορικά, το κτίριο ήταν μέρος αυτής της στρατιωτικής εγκατάστασης. «Λάθη που περιλαμβάνουν την λανθασμένη αναγνώριση στόχων, συμπεριλαμβανομένων συμβάντων φίλιων πυρών, συμβαίνουν συνεχώς σε στρατιωτικές επιχειρήσεις, με ή χωρίς AI», είπε ο Milanovic στην ανάρτησή του. Πρόσθεσε ότι το αν χρησιμοποιήθηκε AI στη διαδικασία στόχευσης και πώς, θα ήταν «ένα εξαιρετικά σημαντικό γεγονός που πρέπει να διερευνηθεί σε οποιαδήποτε έρευνα». Ωστόσο, πρόσθεσε ο Milanovic, «τίποτα δεν αλλάζει από την άποψη οποιασδήποτε διεθνούς ποινικής δίωξης, ανεξάρτητα από το αν χρησιμοποιήθηκε AI εδώ ή όχι».
Η Γενική Συνέλευση των Ηνωμένων Εθνών άρχισε να εξετάζει την AI στον στρατιωτικό τομέα μόλις το 2024 και πέρασε το πρώτο ψήφισμα για το θέμα τον Δεκέμβριο εκείνης της χρονιάς. Το ψήφισμα επιβεβαίωσε την εφαρμοσιμότητα του διεθνούς δικαίου σε ολόκληρο τον κύκλο ζωής της AI, σύμφωνα με τον ιστότοπο του Γραφείου Αφοπλισμού του ΟΗΕ.
