Ο CEO της Nvidia, Jensen Huang, κατά τη διάρκεια του συνεδρίου GTC της εταιρείας, έδωσε έμφαση σε ένα επαναλαμβανόμενο θέμα: τα “tokens” της τεχνητής νοημοσύνης. Σε συνομιλία του με αναλυτές την Τρίτη, ο Huang περιέγραψε τους μελλοντικούς υπολογιστές ως “εξοπλισμό παραγωγής” που θα δημιουργεί tokens. Υποστήριξε μάλιστα ότι τα tokens θα αποτελέσουν βασικό στοιχείο των εταιρικών προϋπολογισμών, όπως ακριβώς συμβαίνει με τους φορητούς υπολογιστές ή τις συνδρομές λογισμικού.

Τι είναι όμως ακριβώς αυτά τα tokens, δεδομένης της αυξημένης συζήτησης γύρω από αυτά; Τα tokens είναι ουσιαστικά μονάδες κειμένου – μια λέξη ή ένα μέρος μιας λέξης – που καθορίζουν τον τρόπο μέτρησης και τιμολόγησης της εργασίας της τεχνητής νοημοσύνης. Μια σύντομη λέξη μπορεί να αντιστοιχεί σε ένα token, ενώ μεγαλύτερες λέξεις ενδέχεται να χωρίζονται σε πολλαπλά tokens. Ως γενικός κανόνας, ένα token αντιστοιχεί περίπου σε τέσσερις χαρακτήρες.

Μεγάλα γλωσσικά μοντέλα, όπως το ChatGPT της OpenAI ή το Claude της Anthropic, καταγράφουν τον αριθμό των tokens που επεξεργάζονται κατά την εισαγωγή κειμένου από έναν χρήστη, καθώς και τον αριθμό των tokens που παράγονται ως απάντηση. Στη συνέχεια, οι γίγαντες της τεχνητής νοημοσύνης χρεώνουν τις εταιρείες ανάλογα. Όσο μεγαλύτερος ο όγκος του κειμένου που επεξεργάζεται κανείς, τόσο περισσότερα tokens απαιτούνται για την επεξεργασία από τα μοντέλα AI. Σε αντίθεση με το κόστος των υφιστάμενων λογισμικών, το οποίο τιμολογείται με συνδρομές ή σταθερές χρεώσεις, η τιμολόγηση της τεχνητής νοημοσύνης βασίζεται στην πραγματική χρήση.

Ο Huang δήλωσε ότι στο μέλλον, καθώς η τεχνολογία θα γίνεται ακόμη πιο κεντρική στην εργασία, οι μηχανικοί ενδέχεται να λαμβάνουν “token budgets” για να ενισχύσουν την παραγωγικότητά τους. Κατά την κεντρική του ομιλία τη Δευτέρα, προχώρησε ακόμη και στην ιδέα της προσφοράς tokens στους μηχανικούς της Nvidia, αξίας του μισού ετήσιου μισθού τους, ως κίνητρο για την προσέλκυση ταλέντων.

Η ιδέα αυτή επαναφέρθηκε και την Τρίτη. Ο Huang τόνισε ότι το κόστος θα αξίζει τον κόπο, ειδικά για τους υψηλά αμειβόμενους μηχανικούς, οι οποίοι, με τη βοήθεια των “agents” (αυτόνομων εφαρμογών που μπορούν να εκτελούν διάφορες εργασίες), μπορούν να επιτύχουν σημαντικά κέρδη στην παραγωγικότητα. Στην παρουσίαση της Nvidia, ο Huang πρόσθεσε ότι το πιο ισχυρό και ενεργειακά αποδοτικό υλικό μπορεί να παράγει tokens με χαμηλότερο κόστος με την πάροδο του χρόνου. “Αν τους πρόσθετα 100 δολάρια την ημέρα για κόστος συμπερασμάτων (κόστος token), θα ήμουν παραπάνω από ευτυχής να το κάνω”, δήλωσε ο Huang σχετικά με την πληρωμή για tokens πάνω από τους μισθούς των μηχανικών, ιδιαίτερα σε περιόδους έντονης εργασίας. “Ακόμα κι αν προσέθετα 1.000 δολάρια στην κρίσιμη στιγμή, θα ήμουν παραπάνω από ευτυχής να το κάνω.”

Ο Huang δεν είναι ο μόνος. Η έννοια αρχίζει να διαδίδεται σε όλο τον τεχνολογικό κλάδο, με μηχανικούς να ρωτούν για την υπολογιστική ισχύ κατά τις συνεντεύξεις τους και στελέχη να το εξετάζουν ως μέρος των πακέτων αποζημίωσης. Η άνοδος της “agentic AI” (τεχνητής νοημοσύνης με δυνατότητα αυτενέργειας) θα μπορούσε να αυξήσει δραματικά τη χρήση των tokens, δήλωσε ο Huang, καθώς θα λειτουργούν χωρίς ανθρώπινη επίβλεψη. “Αυτή τη στιγμή, καθώς μιλάμε, όλοι οι φορητοί μας υπολογιστές είναι κάπως ανενεργοί”, είπε την Τρίτη. “Αλλά στο μέλλον, ο υπολογιστής θα λειτουργεί 24/7 και θα δημιουργεί tokens, επειδή οι agents σας θα εργάζονται.”