Μια startup τεχνητής νοημοσύνης (AI) με έδρα το Σαν Φρανσίσκο, η Checkr, θέτει έναν φιλόδοξο στόχο: την εξασφάλιση κρατικών συμβάσεων για την επαλήθευση ταυτότητας. Ο CEO της εταιρείας, Daniel Yanisse, δήλωσε ότι η Checkr θέλει να συμβάλει στην καταπολέμηση της απάτης και της σπατάλης στον δημόσιο τομέα, όχι μόνο μέσω της ελέγχου νέων υπαλλήλων, αλλά και της επαλήθευσης της επιλεξιμότητας των πολιτών για παροχές, όπως το Medicare και η Κοινωνική Ασφάλιση.
Αν και ο Yanisse ανέφερε ότι η εταιρεία δεν είναι έτοιμη να ανακοινώσει νέα προϊόντα, εκτίμησε ότι ένα σύστημα δημόσιας βοήθειας χωρίς τριβές μπορεί να είναι πραγματικότητα μέσα στα επόμενα χρόνια. Ωστόσο, ειδικοί σε θέματα AI και ασφάλειας επισημαίνουν ότι υπάρχουν νομικά και τεχνικά εμπόδια για οποιαδήποτε εταιρεία αναλάβει την αυτοματοποίηση συστημάτων παροχών και πρόνοιας μέσω AI.
Η Checkr χρησιμοποιεί κυρίως AI για τη διενέργεια ελέγχων ιστορικού και την άντληση πληροφοριών, όπως ποινικά μητρώα και αναφορές οδικής κυκλοφορίας. Η εταιρεία διαθέτει σημαντικές συμβάσεις με την Uber και τη Lyft για τον έλεγχο νέων οδηγών, ενώ η αποτίμησή της ξεπερνά τα 5,7 δισεκατομμύρια δολάρια, μετά από χρηματοδότηση 120 εκατομμυρίων δολαρίων το 2022. Το 2025, η Checkr ανακοίνωσε έσοδα άνω των 800 εκατομμυρίων δολαρίων και ξεπέρασε τους 120.000 πελάτες.
Όσον αφορά τις προθέσεις της Checkr για τη συνεργασία με το κράτος, ο Yanisse τόνισε ότι για το Medicare και άλλα προγράμματα, “υπάρχει πολλή απάτη και κακοί παράγοντες που λαμβάνουν κρατικά χρήματα αντί για τους σωστούς ανθρώπους που χρειάζονται βοήθεια”. Πρόσθεσε ότι είναι εξαιρετικά δύσκολο για το κράτος να επαληθεύει την κατάσταση απασχόλησης και το εισόδημα των πολιτών. Το πρόγραμμα Medicare Fee-for-Service εκτίμησε “ακατάλληλες πληρωμές” ύψους 28,83 δισεκατομμυρίων δολαρίων το 2025, με ποσοστό 6,55%, αν και δεν οφείλονται όλες αυτές οι περιπτώσεις σε σκόπιμη απάτη. Πληρωμές σε άτομα που δεν υπέβαλαν επαρκή δικαιολογητικά και έχουν μη επαληθευμένα επίπεδα εισοδήματος θεωρούνται επίσης ακατάλληλες από το Medicaid.
“Με την AI, δυστυχώς, θα αυξηθεί η απάτη, η κλοπή ταυτότητας και οι διαδικτυακές απάτες,” δήλωσε ο Yanisse. “Πρόκειται για πολλές τριβές, πολλές επαναλήψεις, και τώρα υπάρχουν και deepfakes.” Εκπρόσωπος της Checkr επιβεβαίωσε ότι η πιθανή συμμετοχή της εταιρείας σε κυβερνητικά έργα είναι “ακόμη σε εννοιολογικό στάδιο”. Η εταιρεία επισήμανε επίσης μελέτη της Middesk, πλατφόρμας επαλήθευσης επιχειρηματικής ταυτότητας, σύμφωνα με την οποία από 1,09 τρισεκατομμύρια δολάρια σε πληρωμές Medicaid προς περίπου 1,6 εκατομμύρια παρόχους μεταξύ 2018 και 2024, 563 εκατομμύρια δολάρια πήγαν σε παρόχους που είναι στη μαύρη λίστα για ομοσπον médicas προγράμματα λόγω ποινικών αδικημάτων ή κακής συμπεριφοράς.
Η αυτοματοποίηση της επαλήθευσης ταυτότητας μπορεί να είναι δύσκολη. Ο Stuart Russell, καθηγητής επιστήμης υπολογιστών στο UC Berkeley και πρωτοπόρος της AI, εξέφρασε “μη αισιοδοξία” για την επιτυχία της χρήσης AI στον προσδιορισμό της επιλεξιμότητας για παροχές. “Ένα σύστημα AI αυτού του τύπου, κάποια έκδοση ενός LLM, είναι ανίκανο να παράγει αληθινές εξηγήσεις για τις αποφάσεις του, καθιστώντας αδύνατη την αμφισβήτηση ψευδών αποφάσεων,” δήλωσε ο Russell. Επικαλέστηκε επίσης τον Γενικό Κανονισμό Προστασίας Δεδομένων (GDPR) της Ευρωπαϊκής Ένωσης, ο οποίος απαγορεύει οι αποφάσεις με σημαντικές νομικές επιπτώσεις σε άτομα να λαμβάνονται εξ ολοκλήρου από αυτοματοποιημένα συστήματα.
Η Baobao Zhang, αναπληρώτρια καθηγήτρια στην πολιτική της AI στο Syracuse University, αν και δεν μπορεί να αξιολογήσει την ποιότητα του συστήματος επαλήθευσης της Checkr, τόνισε ότι προηγούμενες προσπάθειες της κυβέρνησης να συνδυάσουν παροχές με αυτοματοποιημένα συστήματα χρησιμεύουν ως προειδοποιητικά παραδείγματα. “Αν η ομοσπονδιακή κυβέρνηση ή άλλες κρατικές κυβερνήσεις προσπαθούν να συμβληθούν με έναν προμηθευτή για την αυτοματοποίηση της ανίχνευσης απάτης στην πρόνοια, χρειάζονται σοβαρή αξιολόγηση στον πραγματικό κόσμο πριν την υλοποίηση, διότι τα διακυβεύματα είναι υψηλά, όπως έχει αποδείξει η ιστορία,” δήλωσε η Zhang.
Στην Indiana, μια προσπάθεια ενοποίησης και αυτοματοποίησης του συστήματος επιλεξιμότητας πρόνοιας μέσω ανάθεσης σε εξωτερικό συνεργάτη, κατέληξε σε δικαστική διαμάχη, με το κράτος να μηνύει την εταιρεία για 1,3 δισεκατομμύρια δολάρια για το ακυρωμένο έργο το 2010. Σύμφωνα με δικαστικά αρχεία, η Υπηρεσία Οικογενειακών και Κοινωνικών Υπηρεσιών της Indiana κατηγόρησε την IBM για λάθη επεξεργασίας που οδήγησαν σε λανθασμένες απορρίψεις παροχών, προκαλώντας ζημιά στους έχοντες ανάγκη.
Στην Αυστραλία, ένα αυτοματοποιημένο κυβερνητικό πρόγραμμα, το Robodebt, σχεδιασμένο για την ανίχνευση απάτης, ζήτησε από δικαιούχους παροχών να επιστρέψουν χρήματα και απέστειλε επιστολές ισχυριζόμενη ότι χρωστούσαν χιλιάδες δολάρια, βασισμένο σε λανθασμένο αλγόριθμο. Μια βασιλική επιτροπή, η ανώτατη μορφή δημόσιας έρευνας της Αυστραλίας, διαπίστωσε ότι τουλάχιστον τρία άτομα αυτοκτόνησαν αφού τους ζητήθηκε ψευδώς να επιστρέψουν χρέη που δεν όφειλαν από το Robodebt. Το σύστημα κρίθηκε παράνομο από δικαστήριο το 2019.
Η Ifeoma Ajunwa, ιδρύτρια του Προγράμματος AI και το Μέλλον της Εργασίας στο Emory University, δήλωσε ότι εάν οποιαδήποτε κυβερνητική υπηρεσία υιοθετήσει AI, θα πρέπει να υπάρχει ένα συμβουλευτικό συμβούλιο αποτελούμενο από τεχνολόγους και κοινωνικούς επιστήμονες, και οι επηρεαζόμενες ομάδες πολιτών θα πρέπει να έχουν λόγο. “Πιστεύω ότι πρέπει να κινούμαστε με προσοχή όταν αναθέτουμε κυβερνητικές λειτουργίες σε τεχνολογίες AI,” δήλωσε η Ajunwa. “Ενώ αυτά τα εργαλεία διαφημίζονται για την αύξηση της αποτελεσματικότητας και τη μείωση του κόστους, πρέπει επίσης να καθιερώσουμε δικλείδες ασφαλείας για τη χρήση τους, ώστε να προστατεύονται οι πολίτες.”
