NPU е специализираният колега в съвременния компютър: ефективен при определен набор от задачи с изкуствен интелект, но доста по-малко полезен, когато го помолите да рендерира игра, да компилира проект или да поправи лошо решение за покупка.
Невронният процесор ускорява поддържани операции за машинно обучение, често при по-ниска консумация от тази при използване на CPU или голям дискретен GPU. Имате нужда от него само когато софтуерът, който действително използвате, може да му възложи подходяща работа. В нов лаптоп той може да има значение; при много гейминг настолни компютри и обикновени офис компютри CPU, GPU, паметта, хранилището, дисплеят и батерията остават по-важни.
Подложете трите процесора на прослушване
CPU: адаптивният универсалист
Централният процесор обработва задачите на операционната система, логиката на приложенията, решенията с разклонения и задачите, при които всяка стъпка зависи силно от предходната. Той може да изпълнява и модели с изкуствен интелект, особено по-малки, но ефективността и скоростта зависят от работното натоварване.
GPU: паралелният тежковоз
Графичният процесор задвижва игрите и рендерирането, като същевременно ускорява подходящи задачи с изкуствен интелект и изчислителни задачи. Широката му софтуерна поддръжка, паралелните ресурси и локалната памет го правят обичайния избор за по-големи генеративни модели, обработка на изображения и взискателен локален инференс.
NPU: специалистът с ниска консумация
NPU е проектиран за повтарящи се операции на невронни мрежи. Той може да поддържа функции на камерата, аудиото или асистента, без да кара основните процесори да поемат всяко изчисление. При лаптоп, захранван от батерия, именно тази ефективност е важна - не удоволствието да притежавате трети акроним.
Софтуерът трябва да го извика по име
NPU не върши нищо полезно само защото присъства. Операционната система, приложението или рамката трябва да поддържат устройството и да му изпратят подходящо работно натоварване. Неподдържаната работа продължава върху CPU, GPU или облачна услуга.
Windows Studio Effects дава конкретен пример: поддържаните функции на камерата и микрофона могат да използват активиран NPU за ефекти като замъгляване на фона и контакт с очите. Подобна на вид функция в друго приложение може да използва GPU или облака. Купувайте заради конкретно посочен софтуер, а не заради общата аура на изкуствения интелект.
Трима купувачи, три разумни тежести
Нов лаптоп за няколко години
Отдайте значима тежест на NPU, когато животът на батерията, поверителните функции на устройството и бъдещата поддръжка от операционната система са важни и когато приложенията ви вече използват хардуера. Все пак преценете дисплея, клавиатурата, батерията, CPU, паметта и хранилището: ще забелязвате лошия екран всяка минута, докато NPU може търпеливо да чака съвместима работа.
Гейминг настолен компютър
Отдайте му по-малка тежест. Игрите все още зависят основно от CPU и GPU, а взискателният локален генеративен изкуствен интелект обикновено предпочита поддържана дискретна графична карта с достатъчно VRAM. NPU може да обработва фонови функции, но не заменя гейминг хардуера.
Бюджетен офис или употребяван компютър
Първо попитайте дали някое необходимо приложение изрично посочва NPU. По-старите системи все още могат да използват облачен изкуствен интелект и да изпълняват по-малки локални инструменти чрез CPU или GPU. Ако работата ви се състои от уеб, имейл, документи и обикновени разговори, да платите много за обозначение „AI PC“ може да реши проблем, който софтуерът не е създал.
TOPS е спецификация, а не тест за характер
TOPS означава трилиони операции в секунда. Това е теоретичен максимум за определен вид аритметика, а не универсална оценка за това колко бърз се усеща целият компютър. Форматът на точността, паметта, софтуерът, драйверите и архитектурата влияят на реалните резултати, така че стойностите от различни дизайни не са автоматично сравними.
Актуалните указания на Microsoft за NPU използват 40 или повече TOPS като едно от изискванията за категорията Copilot+ PC, заедно с други спецификации. Това установява допустимост за платформено обозначение. Не означава, че 45 TOPS прави всяко приложение по-бързо от машина, която отчита 40.
Къде NPU може действително да е полезен
Търсете продължително работещи или често използвани функции, създадени за него: ефекти на камерата, намаляване на шума, обработка на реч, транскрипция, умерено големи локални модели и помощни функции на операционната система. Ефективното им изпълнение може да запази заряда на батерията и да остави капацитет на CPU или GPU за основното приложение.
Предимството отслабва, когато работното натоварване не се поддържа, е твърде голямо за пътя към паметта на NPU, използва се толкова рядко, че облачният достъп е по-евтин, или зависи от софтуерен стек, специфичен за GPU.
Покупката на употребяван компютър изисква проверка на функциите, а не на стикера
Запишете точния модел на процесора и лаптопа, след което проверете изискванията на желаната функция. Производителите могат да активират различни драйвери и конфигурации при привидно сходни машини. Наличието на какъвто и да е невронен ускорител не гарантира всяка настояща или бъдеща функция с изкуствен интелект.
Ако покупката е главно за локален генеративен изкуствен интелект, започнете от размера на модела, VRAM, поддръжката на рамката, числовия формат, консумацията и приемливата скорост. Гейминг GPU и GPU за работна станция може да решават различни версии на този проблем; работното натоварване трябва да определи избора.
Решението в едно изречение
Купете NPU за поддържана работа, която очаквате да изпълнявате често - не защото кутията на лаптопа е открила думата AI.
За по-големи локални натоварвания разгледайте графични карти или попитайте GPUsed за конкретна опция. Прочетете защо GPU задвижват съвременния изкуствен интелект и изберете GPU за работата, която действително вършите.