En NPU er den specialiserede kollega i en moderne computer: effektiv til et bestemt udvalg af AI-opgaver, men langt mindre nyttig, når den bliver bedt om at gengive et spil, kompilere et projekt eller redde en dårlig købsbeslutning.
En neural processing unit accelererer understøttede maskinlæringsoperationer, ofte med et lavere strømforbrug end CPU'en eller et stort dedikeret grafikkort. Du har kun brug for en, når den software, du faktisk bruger, kan sende passende arbejde til den. I en ny bærbar kan den være vigtig; i mange gaming-desktopcomputere og almindelige kontor-pc'er er CPU, GPU, hukommelse, lager, skærm og batteri stadig vigtigere.
Prøv de tre processorer af
CPU'en: den fleksible generalist
Centralprocessoren håndterer operativsystemets arbejde, programlogik, forgreningsbeslutninger og opgaver, hvor ét trin i høj grad afhænger af det foregående. Den kan også køre AI-modeller, især mindre modeller, men effektiviteten og hastigheden afhænger af arbejdsbelastningen.
GPU'en: den parallelle kraftkarl
En grafikprocessor driver spil og rendering, samtidig med at den accelererer passende AI- og beregningsarbejde. Dens brede softwareunderstøttelse, parallelle ressourcer og lokale hukommelse gør den til det normale valg til større generative modeller, billedbehandling og krævende lokal inferens.
NPU'en: den strømbesparende specialist
En NPU er designet til gentagne neurale netværksoperationer. Den kan holde understøttede kamera-, lyd- eller assistentfunktioner kørende uden at belaste hovedprocessorerne med alle beregningerne. I en batteridrevet bærbar er det dét, der er pointen - ikke spændingen ved at eje et tredje akronym.
Softwaren skal kalde på den
En NPU gør ikke noget nyttigt blot ved at være til stede. Operativsystemet, programmet eller frameworket skal understøtte enheden og sende en passende arbejdsbelastning til den. Ikke-understøttet arbejde fortsætter på CPU'en, GPU'en eller en cloudtjeneste.
Windows Studio Effects er et konkret eksempel: Understøttede kamera- og mikrofonfunktioner kan bruge en aktiveret NPU til effekter som baggrundssløring og øjenkontakt. En lignende funktion i et andet program bruger måske GPU'en eller cloudtjenester. Køb efter navngiven software, ikke efter den generelle aura af kunstig intelligens.
Tre købere, tre fornuftige vægtninger
En ny bærbar til flere år
Vægt NPU'en højt, når batteritid, private funktioner på enheden og fremtidig operativsystemunderstøttelse er vigtige, og når dine programmer allerede bruger hardwaren. Vurder stadig skærm, tastatur, batteri, CPU, hukommelse og lager: Du vil bemærke en dårlig skærm hvert minut, mens NPU'en måske tålmodigt venter på kompatibelt arbejde.
En gaming-desktopcomputer
Vægt den lavere. Spil afhænger stadig primært af CPU'en og GPU'en, og krævende lokal generativ AI foretrækker normalt et understøttet dedikeret grafikkort med tilstrækkelig VRAM. En NPU kan håndtere baggrundsfunktioner, men den erstatter ikke gaming-hardwaren.
En budgetkontor-pc eller brugt pc
Spørg først, om et påkrævet program specifikt nævner en NPU. Ældre systemer kan stadig bruge cloudbaseret AI og køre mindre lokale værktøjer via CPU'en eller GPU'en. Hvis dit arbejde består af web, e-mail, dokumenter og almindelige opkald, kan det at betale meget for et “AI PC”-mærke løse et problem, som softwaren ikke har leveret.
TOPS er en specifikation, ikke en personlighedstest
TOPS betyder billioner af operationer pr. sekund. Det er en teoretisk topværdi for en bestemt type aritmetik, ikke en universel score for, hvor hurtig hele computeren føles. Præcisionsformat, hukommelse, software, drivere og arkitektur påvirker alle de virkelige resultater, så tal fra forskellige designs kan ikke automatisk sammenlignes.
Microsofts aktuelle NPU-vejledning bruger 40 eller flere TOPS som ét krav til kategorien Copilot+ PC sammen med andre specifikationer. Det fastslår, om en platform er berettiget til et platformsmærke. Det betyder ikke, at 45 TOPS gør alle programmer hurtigere end en maskine, der angiver 40.
Hvor en NPU kan være virkelig nyttig
Se efter langvarige eller hyppigt brugte funktioner, der er bygget til den: kameraeffekter, støjreduktion, talebehandling, transskribering, beskedne lokale modeller og hjælp fra operativsystemet. Effektiv kørsel af disse funktioner kan bevare batteritid og frigøre CPU- eller GPU-kapacitet til hovedprogrammet.
Fordelen bliver mindre, når arbejdsbelastningen ikke understøttes, er for stor til NPU'ens hukommelsessti, forekommer så sjældent, at cloudadgang er billigere, eller er bundet til en GPU-specifik softwarestak.
Køb af brugt kræver et funktionstjek, ikke et mærkattjek
Notér den nøjagtige processor og bærbare model, og kontrollér derefter kravene til den funktion, du ønsker. Producenter kan aktivere forskellige drivere og konfigurationer på maskiner, der på overfladen ligner hinanden. Tilstedeværelsen af en neural motor lover ikke alle aktuelle eller fremtidige AI-funktioner.
Hvis købet primært er til lokal generativ AI, skal du tage udgangspunkt i modelstørrelse, VRAM, frameworkunderstøttelse, numerisk format, strømforbrug og acceptabel hastighed. Et gaming-grafikkort og et workstation-grafikkort kan løse forskellige versioner af problemet; arbejdsbelastningen bør afgøre valget.
Beslutningen i én sætning
Køb en NPU til understøttet arbejde, som du forventer at køre ofte - ikke fordi æsken til den bærbare har opdaget ordet AI.
Til større lokale arbejdsbelastninger kan du se grafikkort eller spørge GPUsed om en bestemt mulighed. Læs hvorfor GPU'er driver moderne AI, og vælg en GPU til det arbejde, du faktisk udfører.