Ο νομπελίστας Geoffrey Hinton, γνωστός και ως ο «νονός» της Τεχνητής Νοημοσύνης (ΤΝ), εκφράζει την ανησυχία του για την κατεύθυνση που λαμβάνει η έρευνα στον τομέα. Σύμφωνα με τον Hinton, οι μεγάλες εταιρείες τεχνολογίας και οι ερευνητές δεν επικεντρώνονται στο «τέλος του παιχνιδιού» της ΤΝ, δηλαδή στις μακροπρόθεσμες συνέπειες για την ανθρωπότητα, αλλά προτάσσουν τα βραχυπρόθεσμα κέρδη.
«Για τους ιδιοκτήτες των εταιρειών, αυτό που οδηγεί την έρευνα είναι τα βραχυπρόθεσμα κέρδη», δήλωσε ο Hinton, ομότιμος καθηγητής επιστήμης υπολογιστών στο Πανεπιστήμιο του Τορόντο, στο περιοδικό Fortune. Για τους προγραμματιστές, η εστίαση είναι παρόμοια στην άμεση εργασία που έχουν μπροστά τους και όχι στην τελική έκβαση της έρευνας. «Οι ερευνητές ενδιαφέρονται να λύσουν προβλήματα που κεντρίζουν την περιέργειά τους. Δεν ξεκινάμε με τον ίδιο στόχο, ποιο θα είναι το μέλλον της ανθρωπότητας;», ανέφερε χαρακτηριστικά.
Ο Hinton, ο οποίος έχει προειδοποιήσει στο παρελθόν για τους κινδύνους της ΤΝ χωρίς ασφαλιστικές δικλείδες, εκτιμά ότι υπάρχει μια πιθανότητα 10% έως 20% να εξαφανιστεί η ανθρωπότητα μετά την ανάπτυξη υπερνοημοσύνης. Το 2023, 10 χρόνια αφότου πούλησε την εταιρεία του DNNresearch στην Google, ο Hinton αποχώρησε από τη θέση του στην εταιρεία, επιθυμώντας να μιλήσει ελεύθερα για τους κινδύνους της τεχνολογίας και φοβούμενος την αδυναμία «να αποτρέψει κακόβουλους παράγοντες από το να τη χρησιμοποιήσουν για κακό».
Οι κίνδυνοι της ΤΝ, κατά τον Hinton, διακρίνονται σε δύο κατηγορίες: τον κίνδυνο που εγκυμονεί η ίδια η τεχνολογία για το μέλλον της ανθρωπότητας και τις συνέπειες της χειραγώγησης της ΤΝ από ανθρώπους με κακές προθέσεις. «Υπάρχει μια μεγάλη διάκριση μεταξύ δύο διαφορετικών ειδών κινδύνου», εξήγησε. «Υπάρχει ο κίνδυνος κακόβουλων παραγόντων να καταχραστούν την ΤΝ, και αυτό είναι ήδη εδώ. Αυτό συμβαίνει ήδη με ψεύτικα βίντεο και κυβερνοεπιθέσεις, και μπορεί να συμβεί πολύ σύντομα με ιούς. Και αυτό είναι πολύ διαφορετικό από τον κίνδυνο η ίδια η ΤΝ να γίνει κακόβουλος παράγοντας».
Ενώ ο Hinton υποστηρίζει την αυστηρότερη ρύθμιση, η έκκλησή του για δράση για την αντιμετώπιση των πιθανών κακομεταχειρίσεων της ΤΝ είναι μια δύσκολη μάχη, καθώς κάθε πρόβλημα με την τεχνολογία απαιτεί μια διακριτή λύση. Οραματίζεται στο μέλλον έναν μηχανισμό ελέγχου προέλευσης για βίντεο και εικόνες, ο οποίος θα καταπολεμά την εξάπλωση των deepfakes. Ωστόσο, αναγνωρίζει ότι οι λύσεις αυτές μπορούν να καλύψουν μόνο ένα μέρος του προβλήματος.
Όσον αφορά τον κίνδυνο που εγκυμονεί η ίδια η ΤΝ, ο Hinton πιστεύει ότι οι εταιρείες τεχνολογίας πρέπει να αλλάξουν θεμελιωδώς την αντίληψή τους για τη σχέση τους με την ΤΝ. Όταν η ΤΝ επιτύχει υπερνοημοσύνη, όχι μόνο θα ξεπεράσει τις ανθρώπινες ικανότητες, αλλά θα έχει και ισχυρή επιθυμία να επιβιώσει και να αποκτήσει επιπλέον έλεγχο. Το τρέχον πλαίσιο γύρω από την ΤΝ – ότι οι άνθρωποι μπορούν να ελέγχουν την τεχνολογία – δεν θα είναι πλέον σχετικό.
Ο Hinton προτείνει τα μοντέλα ΤΝ να εμποτιστούν με ένα «μητρικό ένστικτο», ώστε να μπορούν να αντιμετωπίζουν τους λιγότερο ισχυρούς ανθρώπους με συμπάθεια, αντί να επιθυμούν να τους ελέγχουν. Επικαλούμενος ιδανικά της παραδοσιακής θηλυκότητας, αναφέρει ως μοναδικό παράδειγμα ένα πιο ευφυές ον να υποκύπτει στην επιρροή ενός λιγότερο ευφυούς, τη σχέση βρέφους και μητέρας. «Και έτσι πιστεύω ότι αυτό είναι ένα καλύτερο μοντέλο που θα μπορούσαμε να εφαρμόσουμε με υπερνοήμονα ΤΝ», κατέληξε. «Αυτές θα είναι οι μητέρες, και εμείς θα είμαστε τα μωρά».
