Ο Αντρέι Καρπάθι, γνωστός για τη θητεία του ως διευθυντής AI στην Tesla και ως συνιδρυτής της OpenAI, έχει υιοθετήσει μια νέα προσέγγιση στη χρήση της τεχνητής νοημοσύνης, εστιάζοντας στην πλήρη αξιοποίηση του διαθέσιμου προϋπολογισμού. Όπως δήλωσε σε συνέντευξή του στο podcast “No Priors”, η σκέψη του έχει μετατοπιστεί προς την “κατανάλωση κάθε τελευταίου AI token” που έχει στη διάθεσή του.

“Αισθάνομαι νευρικός όταν μου απομένουν συνδρομές”, ανέφερε χαρακτηριστικά, τονίζοντας ότι αυτό σημαίνει πως δεν έχει μεγιστοποιήσει την “ροή των tokens” του. Τα tokens, οι μονάδες μέτρησης που χρησιμοποιούν εταιρείες όπως η OpenAI και η Anthropic για την τιμολόγηση των μοντέλων τους, λειτουργούν ουσιαστικά σαν προϋπολογισμός για καταναλωτές και εργαζομένους. Όσο περισσότερα tokens χρησιμοποιούνται, τόσο περισσότερη εργασία μπορούν να εκτελέσουν τα συστήματα AI.

Αυτή η αλλαγή νοοτροπίας έχει επηρεάσει τον τρόπο που ο Καρπάθι αλληλεπιδρά με την AI. Το βασικό πλέον όριο δεν είναι πόσο γρήγορα μπορεί να γράψει μια γραμμή κώδικα, αλλά πόσα tokens μπορεί να διαθέσει. Ο στόχος του πλέον είναι να “μεγιστοποιεί τις συνδρομές”, ακόμη και αλλάζοντας μεταξύ ανταγωνιστικών προϊόντων καθώς πλησιάζουν τα όρια χρήσης. “Αν ξεμείνεις από ποσόστωση στο Codex, θα πρέπει να μεταβείς στο Claude”, συμβουλεύει.

Τα σχόλια του Καρπάθι έρχονται σε μια περίοδο όπου πολλοί επαγγελματίες στον χώρο της τεχνολογίας αναθεωρούν την προσέγγισή τους στη χρήση της AI. Πρόσφατα, ο CEO της Nvidia, Jensen Huang, δήλωσε ότι αναμένει οι εργαζόμενοι με μισθό 500.000 δολαρίων να χρησιμοποιούν tokens αξίας 250.000 δολαρίων. “Είναι πλέον ένα από τα εργαλεία προσέλκυσης στο Silicon Valley”, ανέφερε, αναφερόμενος στην ερώτηση: “Πόσα tokens συνοδεύουν τη θέση μου;”.

Ο CEO της Box, Aaron Levie, συμμερίστηκε την άποψη αυτή, γράφοντας στο X ότι η αύξηση των δαπανών για AI tokens “τελικά θα επηρεάσει και την υπόλοιπη εργασία γνώσης”. Αυτή η τάση υποδηλώνει ότι η διαθεσιμότητα υπολογιστικής ισχύος δεν αποτελεί πλέον το κύριο περιοριστικό παράγοντα για την παραγωγή AI. Ο Καρπάθι παρομοίασε την αίσθηση αυτή με την εποχή που ήταν υποψήφιος διδάκτορας: “Αισθανόσουν νευρικός όταν οι GPU σου δεν δούλευαν. Τώρα, δεν αφορά τα FLOPS, αλλά τα tokens.”