Ο Διευθύνων Σύμβουλος της Nvidia, Jensen Huang, παρουσίασε ένα νέο σύστημα συμπερασματολογίας (inference) κατά τη διάρκεια του ετήσιου συνεδρίου GTC της εταιρείας, σηματοδοτώντας την πιο αποφασιστική κίνηση της Nvidia μέχρι στιγμής για την υπεράσπιση της κυριαρχίας της, καθώς η συμπερασματολογία αναδεικνύεται στο επόμενο πεδίο μάχης της Τεχνητής Νοημοσύνης.
Η νέα εστίαση στη συμπερασματολογία έρχεται καθώς ο Huang δήλωσε ότι η Nvidia προβλέπει τεράστια ζήτηση. Η εταιρεία εκτιμά ότι η ζήτηση για τα συστήματα AI Blackwell και Rubin θα φτάσει τουλάχιστον το 1 τρισεκατομμύριο δολάρια έως το 2027, αυξημένη από τα περίπου 500 δισεκατομμύρια δολάρια σε προβλεπόμενη ζήτηση έως το 2026.
Ο κολοσσός των τσιπ AI ανακοίνωσε τη νέα Nvidia Groq 3 LPX, η οποία, σύμφωνα με τον Huang, μπορεί να επιταχύνει τα φορτία εργασίας συμπερασματολογίας έως και 35 φορές. Ενσωματώνει τεχνολογία από την startup τσιπ AI Groq και τη συνδυάζει με την αρχιτεκτονική Vera Rubin της Nvidia. Η Samsung κατασκευάζει το νέο τσιπ Groq, και η Nvidia αναμένει ότι το σύστημα θα αρχίσει να διατίθεται στο εμπόριο το δεύτερο εξάμηνο του τρέχοντος έτους.
“Το σημείο καμπής της συμπερασματολογίας έχει φτάσει”, δήλωσε ο Huang στην κεντρική ομιλία.
Το νέο σύστημα της Nvidia βασίζεται στη συμφωνία ύψους περίπου 20 δισεκατομμυρίων δολαρίων που σύναψε με την Groq τον Δεκέμβριο, η οποία περιελάμβανε την αδειοδότηση της τεχνολογίας της Groq και την πρόσληψη των κορυφαίων μηχανικών της. Ο Huang είχε προηγουμένως υπαινιχθεί μια συνεργασία με τη startup Groq κατά την τελευταία ανακοίνωση κερδών της Nvidia. Η Wall Street Journal είχε αναφέρει νωρίτερα ότι η εταιρεία ετοίμαζε ένα νέο σύστημα συμπερασματολογίας που θα ενσωμάτωνε την τεχνολογία Groq.
Οι μονάδες επεξεργασίας γραφικών (GPUs) της Nvidia εξακολουθούν να κυριαρχούν στον χώρο της Τεχνητής Νοημοσύνης και μπορούν να χρησιμοποιηθούν τόσο για την εκπαίδευση μοντέλων AI όσο και για τη συμπερασματολογία, δηλαδή για τον τρόπο με τον οποίο τα μοντέλα AI λαμβάνουν αποφάσεις ή κάνουν προβλέψεις.
Τώρα, ένας αυξανόμενος αριθμός ανταγωνιστών της Nvidia – από υπερ-κλιμακούμενες εταιρείες (hyperscalers) έως startups τσιπ – αναπτύσσουν εξειδικευμένα συστήματα που είναι φθηνότερα και πιο αποδοτικά για την επαναλαμβανόμενη και ευαίσθητη στο κόστος εργασία της συμπερασματολογίας. Η άνοδος των πρακτόρων AI – ή εργαλείων που εκτελούν εργασίες για λογαριασμό ανθρώπων – θα μπορούσε να αυξήσει δραματικά τη ζήτηση για συμπερασματολογία.
Για το σκοπό αυτό, εταιρείες AI όπως η OpenAI έχουν διερευνήσει εναλλακτικές λύσεις στο υλικό της Nvidia. Το Reuters είχε αναφέρει προηγουμένως ότι η OpenAI ήταν δυσαρεστημένη με τα τσιπ συμπερασματολογίας της εταιρείας. Τον Ιανουάριο, η OpenAI υπέγραψε μια συμφωνία υπολογιστικής ισχύος ύψους 10 δισεκατομμυρίων δολαρίων με την startup τσιπ συμπερασματολογίας Cerebras.
