Společnost Apple začátkem týdne uvedla na trh nový Mac Studio s nejvýkonnějším čipem M3 Ultra, který překonal vlastní výkonnostní benchmarky.
Čip je vybaven až 32jádrovým CPU a až 80jádrovým GPU, které ve srovnání s čipem M2 Ultra zajistí vyšší výpočetní a grafický výkon. Čip M3 Ultra se v porovnání s předchozími iteracemi křemíku Apple také ukázal jako poměrně výkonný při spouštění modelu DeepSeek R1, což je obrovský model s 671 miliardami parametrů.
Nový čip si s modelem DeepSeek R1 poradil překvapivě dobře
Model DeepSeek R1 s 671 miliardami parametrů váží pořádných 404 GB a vyžaduje paměť s velkou šířkou pásma, což je něco, co je vyhrazeno pro VRAM GPU. Díky jednotné paměťové architektuře Apple nabízí čip M3 Ultra v tomto segmentu jedinečnou výhodu a vykazuje působivé výsledky při minimální spotřebě energie. O podrobnosti se podělil kanál YouTube Dave2D, který porovnal výkon čipu s ohledem na model DeepSeek R1 s předchozími čipy Apple.
Vzhledem k samotné velikosti modelu R1 je k efektivnímu chodu zapotřebí výkonná sestava GPU se značným množstvím VRAM. Běžná počítačová sestava by vyžadovala více GPU, což by vedlo k extrémní spotřebě energie, ale čip M3 Ultra dokázal model provozovat mnohem efektivněji. Jednotná paměťová architektura čipu M3 Ultra poskytuje sdílený fond paměti s vysokou propustností, který umožňuje modelům AI využívat prostředky podobné paměti VRAM.
Menší modely umělé inteligence běží konzistentně a plynule bez využití všech prostředků, ale model DeepSeek R1 s 671 miliardami parametrů vyžaduje nejvyšší konfiguraci čipu Apple M3 Ultra – neuvěřitelných 512 GB. Systém macOS však ve výchozím nastavení ukládá omezení na přidělení VRAM a Dave Lee musel tento limit zvýšit ručně prostřednictvím terminálu, čímž jej zvýšil na 448 GB.
DeepSeek R1 671B Q4 running on a Mac 3 Ultra!@Dave2D video!
MoE are really performant if you have enough memory! @teortaxesTex thoughts? pic.twitter.com/5voLQqxOiz— Pehdrew (@Pehdrew_) March 11, 2025
Model DeepSeek R1 běžel na Mac Studiu M3 Ultra úspěšně a hladce, a přestože se jedná o 4bitovou kvantizovanou verzi, která obětovala přesnost, model si stále zachoval 671 miliard parametrů a fungoval překvapivě dobře. Zatímco konkurence může dosáhnout stejného výkonu s více GPU, čip M3 Ultra má navrch, pokud jde o spotřebu energie. Celý systém odebíral méně než 200 W při běhu mohutného modelu DeepSeek R1. Spotřeba energie je zlomkem toho, co by k dosažení podobných výsledků spotřebovaly počítače se srovnatelným výkonem. Dave zmiňuje, že tradiční konfigurace s více grafickými procesory by si vyžádala desetkrát více energie než čip M3 Ultra.
Model R1 s 671 miliardami parametrů si překvapivě vedl lépe než menší verze se 70 miliardami parametrů, což by mohlo být způsobeno efektivitou architektury. Celkově lze říci, že nový čip Apple M3 Ultra dokáže provozovat modely, které jsou nad jeho síly. O další podrobnosti o výkonu a efektivitě čipu se s vámi podělíme, takže je určitě sledujte.