Ο Aaron Levie, CEO της Box, δήλωσε πρόσφατα ότι δεν ανησυχεί για τον αριθμό των “tokens” που χρησιμοποιούν οι μηχανικοί της εταιρείας του. Αντιθέτως, πιστεύει ότι η αυξημένη χρήση “tokens” είναι επιθυμητή, καθώς υποδηλώνει ότι η εταιρεία πειραματίζεται με νέες ιδέες. “Για μένα αυτή τη στιγμή, λέω, ‘Ναι, θα έπρεπε μάλλον να σπαταλάμε πολλά tokens, γιατί αυτό σημαίνει ότι δοκιμάζουμε νέα πράγματα'”, ανέφερε ο Levie σε πρόσφατο επεισόδιο του “a16z Show”.

Οι απόψεις του Levie αντικατοπτρίζουν την τρέχουσα κατάσταση σε μεγάλο μέρος της Silicon Valley όσον αφορά τη χρήση “agentic AI”. Ο Jensen Huang, CEO της Nvidia, είχε δηλώσει πρόσφατα ότι θα “ανησυχούσε βαθιά” εάν ένας μηχανικός που αμείβεται με 500.000 δολάρια δεν χρησιμοποιούσε “tokens” αξίας 250.000 δολαρίων. Ορισμένες εταιρείες, όπως η Meta και η OpenAI, μάλιστα, ενθαρρύνουν το “Tokenmaxxing” (μέγιστη χρήση tokens), παρουσιάζοντας πίνακες κατάταξης με τους μεγαλύτερους χρήστες.

Ο Levie έχει αναφερθεί στο παρελθόν στο πώς οι εταιρείες πρέπει να συνειδητοποιήσουν ότι η χρήση “tokens” δεν θα περιοριστεί μόνο στις ομάδες μηχανικών τους. Τα “tokens” είναι ο τρόπος με τον οποίο τα μεγάλα γλωσσικά μοντέλα επεξεργάζονται τις λέξεις σε αριθμητικές εισόδους και εξόδους. Οι πάροχοι τεχνητής νοημοσύνης, συμπεριλαμβανομένης της OpenAI, χρεώνουν με βάση τον αριθμό των “tokens” που χρησιμοποιούνται.

Οι μηχανικοί και οι εταιρείες αντιμετωπίζουν σημαντικά ερωτήματα σχετικά με το πώς θα αναπτύξουν “AI agents”, οι οποίοι, λόγω της φύσης τους, εκτελούν πιο σύνθετες εντολές και λειτουργούν για μεγαλύτερο χρονικό διάστημα, αυξάνοντας έτσι τη χρήση “tokens”. Ο Levie τόνισε ότι κάθε μηχανικός αντιμετωπίζει αυτό το ζήτημα. “Πρέπει να αποφασίσεις, θέλεις αυτό να είναι μια μακροχρόνια εντολή; Πρέπει να είναι ένας μακροχρόνιος πράκτορας;”, είπε. “Πρέπει να το παραλληλοποιήσεις; Ποιο είναι το επίπεδο άνεσής σου με τα σπαταλημένα tokens;”.

Ο Levie εκτιμά ότι αυτά τα ερωτήματα δεν θα επιλυθούν “μέχρι να βρούμε πραγματικά έναν τρόπο να χτίσουμε χωρητικότητα κέντρων δεδομένων”. Εκείνη τη στιγμή, οι πάροχοι τεχνητής νοημοσύνης ενδέχεται να χρεώνουν λιγότερο για τα “tokens”, καθώς δεν θα ανησυχούν τόσο για την υπερβολική χρήση της περιορισμένης υπολογιστικής τους ισχύος. Ήδη, εταιρείες τεχνητής νοημοσύνης όπως η Anthropic έχουν εφαρμόσει πολιτικές για να αντιμετωπίσουν την αιχμή χρήσης.

Εν τω μεταξύ, η “agentic AI” δεν αφορά μόνο τη χρήση “tokens”, δήλωσε ο Levie. Τόνισε ότι οι CFOs και οι CIOs “τρέχουν πανικόβλητοι προσπαθώντας να καταλάβουν” εάν οι τρέχουσες πολιτικές IT και ενσωμάτωσης των εταιρειών τους λειτουργούν στην εποχή της “agentic AI”. “Πώς συντονίζεις, ξέρεις, πιθανώς το γεγονός ότι μπορεί να χτυπάς αυτό το σύστημα 10.000 φορές την ώρα ή κάτι τέτοιο, όχι από άποψη απόδοσης”, ανέφερε, “αλλά απλώς πώς βεβαιώνεσαι ότι οι άνθρωποι δεν μετακίνησαν ένα αρχείο από ένα πράγμα, κατά λάθος, από έναν φάκελο σε έναν άλλο φάκελο, ενώ ο άλλος προσπαθούσε να κάνει μια εγγραφή, και κάποιος άλλος προσπαθούσε να διαγράψει κάτι επειδή έχεις αυτούς τους πράκτορες να τρέχουν ανεξέλεγκτα.”