ΣΤΟ ΚΥΝΗΓΙ ΤΩΝ ΤΣΙΠ ΤΕΧΝΗΤΗΣ ΝΟΗΜΟΣΥΝΗΣ

Ο πιο περιζήτητος πόρος στον κλάδο της τεχνολογίας αυτή τη στιγμή είναι ένα τσιπ τεχνητής νοημοσύνης που κατασκευάστηκε από την Nvidia και ονομάζεται H100.  Η εξασφάλιση αυτών των επεξεργαστών GPU είναι "αρκετά πιο δύσκολο να βρεθούν από ό,τι τα ναρκωτικά", έχει πει ο Elon Musk. "Το ποιος παίρνει πόσες H100 και πότε είναι το κορυφαίο κουτσομπολιό της Valley", έγραψε την περασμένη εβδομάδα ο Andrej Karpathy του OpenAI.

Όλη η βιομηχανία AI, από τα μεγάλα εργαστήρια AI μέχρι τους παρόχους cloud και τις μικρές startups, καταλήγουν στο εξής: όλοι λειτουργούν με την υπόθεση ότι τα H100s θα είναι σχεδόν αδύνατο να βρεθούν τουλάχιστον κατά το πρώτο εξάμηνο του επόμενου έτους. Ο χρόνος παράδοσης για νέες παραγγελίες, αν μπορέσετε να τις λάβετε, είναι περίπου έξι μήνες, δηλαδή μια αιωνιότητα στον χώρο της τεχνητής νοημοσύνης.

Εν τω μεταξύ, οι πάροχοι cloud μόλις τώρα αρχίζουν να διαθέτουν ευρέως τα H100 τους και χρεώνουν ακριβά για την περιορισμένη χωρητικότητα που διαθέτουν. Ως επί το πλείστον, αυτοί οι πάροχοι υπηρεσιών φιλοξενίας απαιτούν επίσης εξαιρετικά δαπανηρές, μακροχρόνιες προκαταβολικές δεσμεύσεις. Αυτή η δυναμική οδηγεί τις εταιρείες να αποκτήσουν μεγαλύτερη ευελιξία όσον αφορά την εξασφάλιση των τσιπ που χρειάζονται. 

Οι εταιρείες προμηθεύονται H100

Ο Nat Friedman, πρώην CEO της GitHub, και ο Daniel Gross, ανακοίνωσαν πρόσφατα το δικό τους cluster με πάνω από 2.500 H100, αλλά προορίζεται ειδικά για τις startups στις οποίες επενδύουν οι δύο. Δεν είναι μόνο οι μικρότερες νεοσύστατες επιχειρήσεις που αισθάνονται τη πίεση. Τα μεγαλύτερα εργαστήρια τεχνητής νοημοσύνης έχουν ως επί το πλείστον συγκεντρώσει τεράστιους αριθμούς για να χρηματοδοτήσουν τις παραγγελίες των τσιπ τους και τώρα είναι πιο προσεκτικοί ως προς τον τρόπο με τον οποίο διαχειρίζονται τους πόρους τους.

Ακόμα και το OpenAI αισθάνεται τη συμπίεση των GPU, σύμφωνα με μια ομιλία που έδωσε πρόσφατα ο Sam Altman, την οποία, ενδιαφέρον είναι ότι η εταιρεία ζήτησε να αφαιρεθεί μετά την ανάρτησή της στο διαδίκτυο. Στη συνέντευξη, είπε ότι η πολυτροπική έκδοση του ChatGPT (δηλαδή μια έκδοση που μπορεί να χωνέψει κείμενο σε φωτογραφίες και αντίστροφα) δεν θα κυκλοφορήσει ευρέως μέχρι το επόμενο έτος λόγω της περιορισμένης διαθεσιμότητας υπολογιστών.

Η ανάγκη για H100 σημαίνει ότι η Nvidia έχει παντού τα χέρια της.Όσον αφορά τον τρόπο με τον οποίο διανέμει τα τσιπ, οι δύο πρωταρχικοί της στόχοι φαίνεται να είναι: 1) να διασφαλίσει ότι οι μεγάλοι πάροχοι cloud που κατασκευάζουν ανταγωνιστικά τσιπ δεν θα πάρουν στα χέρια τους τα περισσότερα από τα υπάρχοντα H100 και 2) ότι τα τσιπ της χρησιμοποιούνται πραγματικά από τις εταιρείες που τα χρειάζονται για τις ανάγκες τους.

Κάποια στιγμή, η προσφορά θα καλύψει τη ζήτηση, αν και υπάρχουν διαφορετικές απόψεις για το πότε ακριβώς θα συμβεί αυτό. Ο μπαλαντέρ είναι η Meta, η οποία είναι προφανώς ο μεγαλύτερος πελάτης της Nvidia για τις H100 αυτή τη στιγμή. Ο γίγαντας των μέσων κοινωνικής δικτύωσης ετοιμάζεται να εισαγάγει λειτουργίες τεχνητής νοημοσύνης και chatbots σε όλες τις εφαρμογές του τον επόμενο μήνα.