Hardware společnosti NVIDIA je hardwarem pro výzkum náročný na zpracování dat.
Společnost NVIDIA zasadila na veletrhu CES 2025 světu umělé inteligence velkou ránu oznámením projektu DIGITS, osobního superpočítače s umělou inteligencí, který přináší výkon nové platformy Grace Blackwell výzkumníkům, datovým vědcům a studentům, ale s něčím, na co je třeba pamatovat: s velikostí přijatelnou pro domácnosti, aniž by byl obětován pokročilý výpočetní výkon. NVIDIA tak uzavírá tichou dohodu s těmi, kteří si svůj výzkum berou domů do práce, aniž by museli být v univerzitních výzkumných centrech.
Klenotem v koruně společnosti NVIDIA je nový superčip NVIDIA GB10 Grace Blackwell, jak oznámila na svém blogu po představení na veletrhu CES, který nabízí petaflopový výpočetní výkon v oblasti umělé inteligence. To znamená, že uživatelé budou moci vyvíjet, testovat a spouštět závěry na modelech AI přímo ze svého stolního počítače a poté je bezproblémově nasadit do cloudu nebo infrastruktury datového centra. To je docela neuvěřitelný skok oproti tomu, co jsme měli k dispozici doposud. Nebude to však jediné využití, například se dá použít pro strojové učení ve vědeckém výzkumu, aby se roky výzkumu ulehčily na dny nebo týdny.
Velký kvalitativní skok
Jensen Huang, generální ředitel společnosti NVIDIA, řekl:
„Umělá inteligence bude běžnou součástí všech aplikací ve všech odvětvích.“
Srdcem projektu DIGITS je superčip GB10, systém na čipu (SoC) založený na architektuře Grace Blackwell, který poskytuje až 1 petaflop výkonu AI s přesností FP4. GB10 je vybaven grafickým procesorem NVIDIA Blackwell s jádry CUDA nové generace a Tensor Cores páté generace, který je propojen s vysoce výkonným procesorem NVIDIA Grace prostřednictvím propojení čip-čip NVLink-C2C. Tento procesor obsahuje 20 úsporných jader založených na architektuře ARM, přičemž na jeho energetické účinnosti, výkonu a konektivitě se podílí společnost MediaTek.
Zajímavé je, že Project DIGITS poskytuje brutální výkon při spotřebě energie, která umožňuje zapojení do běžné elektrické zásuvky. Obvykle datová centra spotřebovávají tolik energie, že ke svému provozu potřebují vlastní elektroinstalaci. To však není tento případ.
Uživatelé Project DIGITS budou mít přístup k rozsáhlé knihovně softwaru NVIDIA AI pro experimentování a vytváření prototypů, včetně vývojových sad, frameworků a modelů dostupných v katalogu NVIDIA NGC a na portálu NVIDIA Developer Portal. Kromě toho budou moci ladit modely pomocí frameworku NVIDIA NeMo, urychlovat datovou vědu pomocí knihoven NVIDIA RAPIDS a spouštět běžné frameworky, jako jsou PyTorch, Python a Jupyter Notebooks.
Existuje velká šance, že mnoho z ohlášených budoucích projektů v oblasti umělé inteligence a výzkumu a vývoje bude urychleno pomocí některého z těchto zařízení, což je vzrušující a zajímavý skok do budoucnosti pro ty, kteří provádějí výzkum, který vyžaduje rozsáhlé vrstvy zpracování, aby se dostal ven.
Project DIGITS bude k dispozici v květnu od společnosti NVIDIA a jejích klíčových partnerů, přičemž jeho počáteční cena bude 3 000 USD (v přepočtu 72 398 korun), i když je obtížné zjistit, kolik bude stát a zda bude k dispozici v Česku.
Každá jednotka je vybavena 128 GB unifikované koherentní paměti a až 4 TB úložištěm NVMe. S touto konfigurací budou moci vývojáři provozovat jazykové modely s až 200 miliardami parametrů. A pokud potřebujete větší výkon, lze prostřednictvím sítě NVIDIA ConnectX propojit dva superpočítače Project DIGITS a spustit modely s až 405 miliardami parametrů.
Cílem projektu DIGITS je demokratizovat přístup k superpočítačům s umělou inteligencí tím, že je bude možné provozovat přímo na vašem počítači, aniž by bylo nutné je spouštět v cloudu jako OpenAI a jeho ChatGPT nebo Gemini od Googlu, ale naopak je možné je použít konkrétně na cokoli a jakkoli, takže budou pohánět jakýkoli výzkum, nejen ten, který se zaměřuje konkrétně na umělou inteligenci.