V tomto kompletním průvodci se dozvíte, co je NPU, jak souvisí s neuronovými sítěmi a proč je tento typ čipu tak důležitý pro úlohy související s umělou inteligencí.
V tomto průvodci si vysvětlíme, co je NPU, jak funguje a proč jde o klíčový pojem týkající se AI. O NPU jste v poslední době možná hodně slyšeli; například od příchodu Microsoft Copilot se tento pojem stal běžným. Pro ty, které tato technologie více zajímá, jsou určeny následující kapitoly.
Co je NPU
NPU je neuronová výpočetní jednotka (Neural Processing Unit). Jak název napovídá, jedná se o procesor speciálně navržený k provádění úloh neuronových sítí. Tento další pojem, „neuronové sítě“, se používá pro spojení NPU s umělou inteligencí.
Neuronová síť je soubor algoritmů, které napodobují strukturu lidského mozku. Díky této struktuře se lidé dokáží učit, identifikovat vzory a předvídat budoucnost na základě našich zkušeností. V algoritmech tato struktura umožňuje strojům napodobit tyto schopnosti lidské mysli.
Neuronové sítě jsou základem tzv. strojového učení, což je specifická oblast umělé inteligence. Díky této technice je možné vytvářet modely, které lze následně použít k tvorbě aplikací, jako je například ChatGPT. Jde o to, že modely umělé inteligence lze použít k mnoha věcem. Strojové učení a neuronové sítě jsou užitečné právě v těchto oblastech:
- Rozpoznávání obrazu. Pokud jste používali Google Lens, víte, o čem mluvím. Se vstupem, kterým může být fotografie nebo grafika, dokáže umělá inteligence extrahovat informace a vysvětlit, co „vidí“. Modely, jako ve všech případech, mohou být obecné, například pro identifikaci jakéhokoli cíle, nebo specifické, například pro identifikaci rostlin.
- Zpracování přirozeného jazyka. V tomto případě dokáže strojové učení extrahovat vzory z lidské řeči. Je základem služeb, jako je ChatGPT, překladačů, jako je DeepL, nebo transkripčních služeb.
- Doporučovací systémy. Neuronové sítě se dokáží učit z věcí, které se vám líbí. Například Netflix sleduje, jak používáte platformu a jaký obsah sledujete, aby vám mohl poskytovat efektivní návrhy. Ačkoli to mnozí nevědí, jedná se také o strojové učení a umělou inteligenci.
Kromě toho se neuronové sítě a strojové učení uplatňují i v dalších oblastech, například v lékařské diagnostice nebo v autonomním řízení, jako je Autopilot společnosti Tesla.
Všechny tyto úlohy, o kterých mluvím, vyžadují obrovský výpočetní výkon. Aby mohly běžet lokálně, obsahuje mnoho zařízení NPU, což není nic jiného než procesor speciálně pro úlohy umělé inteligence. Nezapomeňte, že jde o neuronovou procesorovou jednotku pro spouštění úloh neuronových sítí. Ty jsou základem umělé inteligence a strojového učení.
NPU nejsou žádnou novinkou
V návaznosti na výše uvedené je zásadní upřesnění: NPU nejsou nic nového. Jen se s příchodem počítačů s umělou inteligencí, což je spíše komerční než technický název, dostaly NPU do popředí zájmu. Dovolte mi však uvést několik vzdálených příkladů, jak byly neuronové procesorové jednotky využívány v minulosti.
Rok 2017. Uplynulo 10 let od uvedení prvního iPhonu na trh a společnost to oslavuje uvedením iPhonu X. Jednou z hlavních novinek tohoto zařízení je Face ID. Aby byla tato technologie možná, uvádí společnost na trh procesor A11 Bionic, který kromě CPU a GPU obsahuje i neuronový engine. Ačkoli v té době nedostal název NPU, mohu potvrdit: v roce 2017 Apple uvedl na trh tři mobilní telefony (iPhone 8 a 8 Plus byly také vybaveny tímto čipem) s NPU.
Od té doby se toho událo hodně, ale faktem je, že NPU, neuronové sítě, strojové učení a lokální provádění úloh umělé inteligence jsou tu s námi už pěkných pár let.
Jak NPU funguje
NPU je v podstatě jen další procesor, podobně jako CPU a GPU. Je však navržen jiným způsobem. Zaprvé dokáže zpracovávat mnoho paralelních operací, což je ideální pro opakující se úlohy, které vyžadují neuronové sítě. Za druhé jsou optimalizovány pro specifické operace, jako je například násobení matic. Ty jsou opět typickým typem operací v neuronových sítích. A za třetí, na rozdíl od procesorů jsou úlohy, které provádějí, velmi specifické. Většinu času tedy spotřebovávají jen málo nebo žádné zdroje.
NPU jsou velmi podobné GPU. Ty jsou také schopny provádět mnoho operací paralelně a používají se také ve specifické oblasti: vykreslování grafiky. Pokud je tedy GPU vyhrazen pro úlohy AI, je vysoce efektivní. Stává se však, že vzhledem k jejich vyššímu výkonu mají velmi vysokou spotřebu energie. Neuronové procesory jsou v tomto ohledu vyváženější a poskytují vyšší efektivitu.
Pokud se chcete o tomto tématu dozvědět více, doporučuji vám podívat se na příručku, kterou jsme zveřejnili o rozdílech mezi NPU, CPU a GPU.
Proč je pro umělou inteligenci důležité mít NPU
Úlohy umělé inteligence vyžadují specifický typ zpracování, jak jsme uvedli v předchozí části. CPU nejsou schopny tyto úlohy provádět potřebnou rychlostí. Grafické procesory sice splňují požadavky AI, ale jsou méně efektivní. NPU jsou pro rozvoj této technologie důležité, protože umožňují její lokální implementaci téměř na jakémkoli zařízení, aniž by trpěly typickými nevýhodami grafických karet.
Jednotka NPU umožňuje efektivně přebírat úlohy související s neuronovou sítí, a to s nízkou spotřebou energie a dostatečnou rychlostí, aby poskytovala pozitivní uživatelský zážitek. Proto jsou tak důležité v noteboocích a mobilních telefonech, kde provádějí rozpoznávání obrazu, zpracování fotografií, biometrickou analýzu a další činnosti. A i když zatím nedisponují takovým hrubým výkonem jako grafické procesory, můžeme očekávat, že tyto specializované procesory budou stále výkonnější.