Η ανταγωνιστική φύση των μηχανικών λογισμικού έχει βρει ένα νέο πεδίο δράσης, ξεπερνώντας τις παραδοσιακές γραμμές κώδικα. Καλωσορίσατε στην εποχή του “tokenmaxxing”, όπου οι προγραμματιστές, εξοπλισμένοι με τα νεότερα εργαλεία τεχνητής νοημοσύνης, διαθέτουν “πορτοφόλια” γεμάτα tokens. Τα tokens, που αποτελούν μέτρο της υπολογιστικής ισχύος και καθορίζουν το κόστος της εργασίας της AI, έχουν προταθεί ως μια μορφή ανταμοιβής για τους μηχανικούς, ακόμη και εμφανίζονται σε περιγραφές θέσεων εργασίας για υποτροφίες AI σε εταιρείες όπως η OpenAI και η Anthropic.
Ωστόσο, τίθεται το κρίσιμο ερώτημα: αποτελεί η δαπάνη tokens ένα δίκαιο μέτρο της παραγωγικότητας ενός προγραμματιστή; Η συζήτηση έχει ανάψει στα μέσα κοινωνικής δικτύωσης αυτήν την εβδομάδα, καθώς επαγγελματίες του τεχνολογικού κλάδου εξετάζουν την έννοια του “tokenmaxxing”. Σύμφωνα με δημοσίευμα του The Information, ορισμένοι μηχανικοί της Meta ανταγωνίζονται για να ξοδέψουν tokens, στοχεύοντας σε υψηλές θέσεις σε μια εσωτερική πλατφόρμα, την “Claudeonomics”, η οποία καταγράφει τη χρήση και επιτρέπει στους εργαζομένους να διεκδικούν τίτλους όπως “Token Legend”.
Κάποιοι υποστηρίζουν ότι πρόκειται για έναν χρήσιμο δείκτη υιοθέτησης νέων εργαλείων από τους εργαζομένους, ενώ άλλοι εκφράζουν την ανησυχία ότι μπορεί να οδηγήσει σε αναποτελεσματική χρήση της AI εντός των εταιρειών, ενθαρρύνοντας φαινομενικές επιδόσεις. “Η κατάταξη των μηχανικών με βάση τη δαπάνη tokens είναι σαν να κατατάσσω την ομάδα μάρκετινγκ μου με βάση ποιος ξόδεψε τα περισσότερα χρήματα”, έγραψε η COO της Linear, Cristina Cordova, στο X. “Μην μπερδεύετε τον υψηλό ρυθμό κατανάλωσης με υψηλό ποσοστό επιτυχίας.”
Για να κατανοήσουμε το “tokenmaxxing”, είναι απαραίτητο να γνωρίζουμε τι είναι ένα token. Τα μεγάλα γλωσσικά μοντέλα αναλύουν τις λέξεις σε αριθμητικές εισόδους, αντιμετωπίζοντας κάθε token ως περίπου ¾ μιας λέξης. Τα μοντέλα AI χρεώνουν με βάση τον αριθμό των tokens που χρησιμοποιούνται. Το tokenmaxxing, λοιπόν, είναι η επιθυμία για τη δαπάνη όσο το δυνατόν περισσοτέρων tokens. Η Meta και η OpenAI είναι μόνο μερικές από τις τεχνολογικές εταιρείες που διαθέτουν πίνακες κατάταξης tokens, όπως έχει αναφερθεί προηγουμένως από τους New York Times.
Ενώ είναι δύσκολο να μετρηθεί η έκταση του tokenmaxxing, οι δαπάνες των εταιρειών σε AI αυξάνονται σαφώς. Η fintech εταιρεία Ramp χαρακτήρισε την κατάσταση ως ένα “$1 τρισεκατομμυρίου τυφλό σημείο” στο X, επικαλούμενη στοιχεία της Gartner που δείχνουν ότι η μηνιαία δαπάνη σε AI μεταξύ των επιχειρήσεων έχει τετραπλασιαστεί τον τελευταίο χρόνο. Αποτελεί, επίσης, μια επίδειξη ισχύος. Ιδρυτές και μηχανικοί που βλέπουν μπροστά αναρτούν τις δαπάνες τους σε tokens στο X για να σηματοδοτήσουν πόσο αφοσιωμένοι είναι στην AI. Ένας εργαζόμενος στην xAI έγραψε ότι η τεχνολογία μετέτρεπε κάθε καλή ιδέα “σε θέατρο”.
Ο CEO της Y Combinator, Garry Tan, φαίνεται να είναι υποστηρικτής. Παραθέτοντας μια προηγούμενη ανάρτηση που επέκρινε τις εταιρείες που είναι “τσιγκούνικες” με τα tokens, ο Tan έγραψε: “Κάνουμε tokenmaxxing περισσότερο από τους περισσότερους.”
Είναι το tokenmaxxing ένα καλό κίνητρο; Ορισμένοι στον τεχνολογικό κόσμο υποστηρίζουν ότι το tokenmaxxing είναι ένα αποτελεσματικό μέτρο, ενώ άλλοι το χαρακτηρίζουν απερίσκεπτη δαπάνη. Ο Jon Chu, συνεργάτης στην Khosla Ventures, χαρακτήρισε τη μέτρηση της δαπάνης tokens ως “απολύτως ανόητη πολιτική” στο X. “Πολλοί φίλοι μου στη Meta μου είπαν ότι κάποιοι κατασκευάζουν bots που απλώς τρέχουν σε επανάληψη καταναλώνοντας tokens όσο το δυνατόν γρηγορότερα λόγω αυτής της πολιτικής”, έγραψε.
Ο Edwin Wee Arbus, εργαζόμενος στην Cursor, πρόσφερε μια πιο σύνθετη άποψη για το μέτρο, χαρακτηρίζοντάς το ως “χρήσιμο, γρήγορο υποκατάστατο, αλλά ελαφρώς ελαττωματικό”. Το συνέκρινε με τον δείκτη μάζας σώματος, ή ΔΜΣ, ο οποίος μπορεί να παρέχει πληροφορίες για την υγεία, αλλά δεν λαμβάνει υπόψη τη μυϊκή ή οστική μάζα.
Ενώ ο CEO της Nvidia, Jensen Huang, δεν έχει τοποθετηθεί άμεσα για το “tokenmaxxing”, έχει τονίσει τη σημασία της χρήσης πολλών tokens από τους μηχανικούς, λέγοντας ότι αν ένας μηχανικός αξίας 500.000 δολαρίων δεν κατανάλωνε τουλάχιστον 250.000 δολάρια σε tokens, θα ήταν “βαθιά ανήσυχος”. Ο Gergely Orosz, συγγραφέας του newsletter “The Pragmatic Engineer”, χαρακτήρισε την πρακτική ως σπατάλη. “Οι προγραμματιστές παραβιάζουν τα πάντα και οτιδήποτε θεωρείται στόχος για περισσότερο bonus ή προαγωγές”, έγραψε. “Αυτό δεν ήταν διαφορετικό.”
Ο Ben Pouladian, ιδρυτής της BEP Research, αντλεί διαφορετικό συμπέρασμα από την τάση, χαρακτηρίζοντας την υπολογιστική ισχύ ως το σημείο συμφόρησης για την καινοτομία. “Στην εποχή της AI, κάθε εργαζόμενος γίνεται καταναλωτής υπολογιστικής ισχύος”, έγραψε στο X.
“Η δαπάνη tokens είναι πάντα ένα αποτέλεσμα, όχι μια είσοδος”, έγραψε ο Arush Shankar, μηχανικός λογισμικού στην Persona, ο οποίος προηγουμένως εργαζόταν στην Square και τη Microsoft, σύμφωνα με το LinkedIn του. “Αξίζει να το εξετάσουμε, αλλά ποτέ μεμονωμένα. Είναι ένα σήμα, αλλά όχι ΤΟ σήμα.”