NPU je špecializovaný kolega v modernom počítači: efektívny pri určitej skupine úloh umelej inteligencie, no oveľa menej užitočný, keď od neho chcete vykresľovať hru, kompilovať projekt alebo zachraňovať zlé nákupné rozhodnutie.
Neurónová procesorová jednotka urýchľuje podporované operácie strojového učenia, často s nižšou spotrebou než pri použití CPU alebo veľkého samostatného GPU. Potrebujete ju iba vtedy, keď jej softvér, ktorý skutočne používate, dokáže odoslať vhodnú úlohu. V novom notebooku môže byť dôležitá; v mnohých herných stolových počítačoch a bežných kancelárskych počítačoch zostávajú dôležitejšie procesor, grafická karta, pamäť, úložisko, displej a batéria.
Otestujte si tri procesory
CPU: prispôsobivý univerzál
Centrálny procesor spracúva úlohy operačného systému, logiku aplikácií, rozhodovanie podľa vetvenia a úlohy, pri ktorých jeden krok výrazne závisí od predchádzajúceho. Dokáže spúšťať aj modely umelej inteligencie, najmä menšie, no efektivita a rýchlosť závisia od pracovného zaťaženia.
GPU: paralelný ťažkotonážnik
Grafický procesor zabezpečuje hry a vykresľovanie a zároveň urýchľuje vhodné úlohy umelej inteligencie a výpočtové úlohy. Jeho široká softvérová podpora, paralelné zdroje a vlastná pamäť z neho zvyčajne robia voľbu pre väčšie generatívne modely, prácu s obrazom a náročnú lokálnu inferenciu.
NPU: špecialista s nízkou spotrebou
NPU je navrhnutý na opakované operácie neurónových sietí. Dokáže zabezpečiť podporované funkcie kamery, zvuku alebo asistenta bez toho, aby hlavné procesory museli vykonávať každý výpočet. V notebooku napájanom z batérie je to podstata jeho významu - nie vzrušenie z vlastníctva tretej skratky.
Softvér ho musí vedieť využiť
NPU nerobí nič užitočné jednoducho tým, že je prítomný. Operačný systém, aplikácia alebo framework musí zariadenie podporovať a odoslať mu vhodné pracovné zaťaženie. Nepodporované úlohy pokračujú na CPU, GPU alebo cloudovej službe.
Windows Studio Effects poskytuje konkrétny príklad: podporované funkcie kamery a mikrofónu môžu využívať aktivovaný NPU na efekty, ako je rozmazanie pozadia a kontakt očí. Podobne vyzerajúca funkcia v inej aplikácii môže využívať GPU alebo cloud. Nakupujte podľa konkrétneho softvéru, nie podľa všeobecnej aury umelej inteligencie.
Traja kupujúci, tri rozumné váhy
Nový notebook na niekoľko rokov
Prikladajte NPU významnú váhu, keď záleží na výdrži batérie, súkromných funkciách priamo v zariadení a budúcej podpore operačného systému a keď vaše aplikácie už tento hardvér využívajú. Stále však posudzujte displej, klávesnicu, batériu, CPU, pamäť a úložisko: zlú obrazovku si všimnete každú minútu, zatiaľ čo NPU môže trpezlivo čakať na kompatibilnú úlohu.
Herný stolový počítač
Prikladajte mu menšiu váhu. Hry stále závisia predovšetkým od CPU a GPU a náročná lokálna generatívna umelá inteligencia zvyčajne uprednostňuje podporovanú samostatnú grafickú kartu s dostatkom VRAM. NPU môže spracúvať funkcie na pozadí, no nenahrádza herný hardvér.
Rozpočtový kancelársky alebo použitý počítač
Najprv sa opýtajte, či niektorá požadovaná aplikácia uvádza NPU ako podmienku. Staršie systémy môžu stále využívať cloudovú umelú inteligenciu a spúšťať menšie lokálne nástroje cez CPU alebo GPU. Ak pracujete s webom, e-mailom, dokumentmi a bežnými hovormi, vysoká cena za označenie „AI PC“ môže riešiť problém, ktorý softvér neposkytuje.
TOPS je špecifikácia, nie test osobnosti
TOPS znamená bilióny operácií za sekundu. Ide o teoretické maximum pre konkrétny druh aritmetiky, nie o univerzálne skóre toho, ako rýchlo pôsobí celý počítač. Skutočné výsledky ovplyvňuje formát presnosti, pamäť, softvér, ovládače aj architektúra, takže údaje z rôznych návrhov nie sú automaticky porovnateľné.
Aktuálne usmernenia Microsoftu pre NPU používajú 40 alebo viac TOPS ako jednu z podmienok kategórie Copilot+ PC spolu s ďalšími špecifikáciami. Tým sa stanovuje oprávnenosť na označenie platformy. Neznamená to, že 45 TOPS zrýchli každú aplikáciu viac než zariadenie uvádzajúce 40.
Kde môže byť NPU skutočne užitočný
Hľadajte funkcie, ktoré na ňom bežia dlhodobo alebo často: efekty kamery, potlačenie šumu, spracovanie reči, prepis, skromné lokálne modely a asistenciu operačného systému. Ich efektívne spúšťanie môže šetriť batériu a ponechať kapacitu CPU alebo GPU hlavnej aplikácii.
Výhoda je menšia, keď pracovné zaťaženie nie je podporované, je príliš veľké pre pamäťovú cestu NPU, používa sa tak zriedka, že cloudový prístup je lacnejší, alebo je viazané na softvérový balík špecifický pre GPU.
Pri kúpe použitého zariadenia kontrolujte funkcie, nie nálepku
Zapíšte si presný model procesora a notebooku a potom overte požiadavky funkcie, ktorú chcete používať. Výrobcovia môžu v zdanlivo podobných zariadeniach aktivovať odlišné ovládače a konfigurácie. Prítomnosť akéhokoľvek neurónového akcelerátora nezaručuje každú súčasnú ani budúcu funkciu umelej inteligencie.
Ak kupujete zariadenie najmä na lokálnu generatívnu umelú inteligenciu, začnite veľkosťou modelu, VRAM, podporou frameworku, numerickým formátom, spotrebou a prijateľnou rýchlosťou. Herný GPU a pracovná grafická karta môžu riešiť odlišné verzie tohto problému; rozhodnúť by malo pracovné zaťaženie.
Rozhodnutie v jednej vete
Kúpte si NPU na podporované úlohy, ktoré očakávate často spúšťať - nie preto, že krabica notebooku objavila slovo AI.
Pri väčších lokálnych pracovných zaťaženiach si pozrite grafické karty alebo sa opýtajte GPUsed na konkrétnu možnosť. Prečítajte si, prečo GPU poháňajú modernú umelú inteligenciu, a vyberte GPU podľa práce, ktorú skutočne vykonávate.