NVIDIA ogłosiła w trakcie konferencji GTC zapowiadaną od 2024 roku platformę Vera Rubin NVL72, nową platformę obliczeniową zaprojektowaną z myślą o zastosowaniu w skalowalnych zadaniach w obszarze trenowania i uprodukcyjniania tzw. agentowej sztucznej inteligencji. Rozwiązanie łączy siedem układów w jeden spójny system i ma zasilać największe na świecie „fabryki AI”. Według firmy platforma doskonale sprawdzi się w całym cyklu życia modeli: od pretreningu modeli, testowego skalowania po działanie w czasie rzeczywistym. Autorem komentarza eksperckiego jest Przemysław Janicki z SAS Polska.
Nowe rozwiązania powstają przede wszystkim po to, by obsłużyć rosnącą skalę agentowej AI, w której kluczowe staje się ciągłe wnioskowanie i współpraca wielu złożonych komponentów w czasie rzeczywistym, a nie okazjonalne trenowanie modeli. To tłumaczy nacisk na bardziej zoptymalizowaną integrację w każdym obszarze platformy: mocy obliczeniowej dostarczanej przez kombinację jednostek CPU i GPU, warstwy komunikacyjnej oraz pamięci, z uwzględnieniem kosztów energii. Firma deklaruje, że platforma pozwoli na szkolenie dużych modeli MoE (mixture-of-experts) przy użyciu jednej czwartej liczby procesorów GPU w porównaniu z platformą NVIDIA Blackwell i osiągnięcie nawet dziesięciokrotnie wyższej efektywności energetycznej w przeliczeniu na jednostkę mocy, przy jednej dziesiątej kosztu na token, a są to czynniki, które decydują o opłacalności działania „fabryk AI”. Z naszej perspektywy widać, że agentowa AI zmienia sposób projektowania technologii: zamiast pojedynczych modeli tworzymy autonomiczne systemy zdolne do współpracy i działania w czasie rzeczywistym. Ciężar przesuwa się z samych modeli na orkiestrację, pamięć kontekstową, bezpieczeństwo i ciągłe wnioskowanie, co potwierdzają rosnące wdrożenia agentów w środowiskach enterprise oraz inwestycje hyperscalerów w infrastrukturę AI.
Zmienia się także wytwarzanie oprogramowania: agentowa AI wymusza podejście bliższe inżynierii systemów rozproszonych niż klasycznemu dewelopmentowi. Projektujemy dziś środowiska symulacyjne, mechanizmy monitoringu i kontroli ryzyka, silniej łącząc software z infrastrukturą; mimo wyzwań kosztowych i operacyjnych trend ku postrzeganiu AI jako autonomicznych systemów organizacyjnych jest wyraźny. Przykład szybkiego wdrożenia NVL72 w Azure (Microsoft, strategiczny partner SAS i preferowany dostawca rozwiązań chmurowych dla SAS Cloud, już ogłosił uruchomienie systemu w środowisku testowym) pokazuje, że trwa infrastrukturalny wyścig hyperscalerów, a rynek hardware wyraźnie się zmienia, odchodzi od sprzedaży pojedynczych komponentów na rzecz dostarczania kompletnych, rackowych platform projektowanych razem z centrami danych, chłodzeniem i architekturą energetyczną.
