Većina novih laptopa hvali se moćnim NPU modulom, koji je važan preduslov za AI primene. Šta je zapravo NPU i vredi li kupovati novi računar samo da biste se dočepali ovog „pametnog“ čipa?
NPU, Neural Processing Unit, je čip koji treba da ubrza proračune vezane za primenu veštačke inteligencije (AI) i mašinskog učenja. Većina današnjih AI modela oslanja se na neuralne mreže. To su, jednostavno rečeno, mreže međusobno povezanih nodova koji prenose informacije; model je zasnovan na našem razumevanju funkcionisanja ljudskog mozga. A čip treba da olakša i ubrza izvršavanje programa zasnovanih na tom modelu.
CPU, GPU, NPU
Prvi personalni računari imali su samo centralni procesor (CPU), koji je obavljao sav posao. Onda je njegova snaga povećana ugradnjom aritmetičkog koprocesora (recimo, uz 80386 se dokupljivao 80387 koprocesor), radi bržeg računanja sa realnim brojevima. Za generisanje slike na ekranu su korišćene grafičke kartice, na početku sasvim jednostavne, a onda je omogućeno da grafičke kartice samostalno procesiraju informacije da bi efikasnije upravljale pokretnim objektima na slici i oslobodile CPU za važnije poslove. Vremenom su procesori ugrađivani u grafičke kartice postali moćni sistemi sa mnogo sopstvene memorije, koja je odvojena od adresnog prostora centralnog procesora. U centru tih kartica nalazi se GPU čip, Graphics Processing Unit, zapravo specijalizovani mikroprocesor. GPU je vremenom dobio i dodatne uloge, pa se danas koristi za rudarenje kriptovaluta, a i za razne AI proračune.
Ako GPU već može da se bavi AI poslovima, zašto je uopšte potreban NPU? Tajna je pre svega u potrošnji energije: NPU troši znatno manje struje nego GPU koji bi obavio sličan posao. A kada se radi o notebook računarima, potrošnja energije je ključni parametar – svi želimo računar koji će funkcionisati 6, 8 ili više sati bez potrebe za punjenjem baterija. NPU je, ako želite da koristite AI alate, ključna komponenta.
Pomenimo i to da uvođenje NPU oslobađa GPU koji može da se bavi svojom osnovnom namenom – generisanjem slike. Tako su uloge u jezgru računara logično podeljene, svaki čip radi ono za šta je optimizovan. Centralni procesor, uz pomoć operativnog sistema, aktivira aplikacije koje se onda za uslugu obraćaju NPU čipu.
Koji programi koriste NPU?
Jedan od primera upotrebe NPU je Intel Meteor Lake platforma, gde Windows Studio Effects optimalno koristi vašu Web kameru da podešava pozadinu i menja fokus prema onome ko govori. Microsoft Copilot+ PC računari kao što je Surface Pro 2024 takođe koriste NPU za editovanje fotografija.
Treba priznati da u ovom trenutku nema mnogo programa koji koriste NPU. Većina AI servisa se i dalje oslanja na procesorsku snagu u cloud-u, dok je vaš PC ili Macintosh tek terminal koji poziva odgovarajuće servise i prikazuje rezultate. Čak i popularni Microsoft Copilot chatbot se ne oslanja na NPU; zato i možete da ga koristite na bilo kom PC-ju. Ovi servisi su ogromni potrošači energije na globalnom nivou, i pitanje je dokle će Microsoft i ostale kompanije moći da ih nude besplatno.
Kada se obraćate nekom AI chatbot-u, sve informacije idu u cloud i možete samo da se pitate ko tome ima pristup i kako koristi ono što ste vi inicirali. Uz NPU, obrada može da se poveri vašem računaru, tako da svi kritični podaci ostanu na njemu
Važno je pomenuti i pitanje privatnosti: kada se obraćate nekom AI chatbot-u, sve informacije idu u cloud i možete samo da se pitate ko tome ima pristup i kako koristi ono što ste vi inicirali. NPU bi doneo mogućnost da se obrada poveri vašem računaru i da svi kritični podaci ostanu na njemu. Na taj način ćete (možda) moći i da umanjite razne „etičke obzire“ koji sprečavaju bota da odgovara na neka od vaših pitanja. Uz neki od besplatnih ili komercijalnih AI modela, možete sami postaviti svoja ograničenja… ili ih potpuno ukinuti.
Koliko je brz?
U doba kada ovo pišemo, raspoloživo je nekoliko NPU sistema: Intel Core Ultra Series 1 (Meteor Lake), Qualcomm Hexagon, nekoliko AMD generacija, Apple Neural Engine, Google Tensor platform for Pixel i Samsung Galaxy platform.
Performanse NPU se mere u TOPS-ima, što je skraćenica od Trillion Operations Per Second. Intel Lunar Lake obezbeđuje 48 TOPS-a, što zadovoljava Copilot+ specifikaciju koja zahteva 40 TOPS. AMD Ryzen Pro 7000 obezbeđuju između 12 i 16 TOPS, što nije dovoljno za Copilot+. AMD Ryzen Al 300 serija dostiže 50 TOPS, Qualcom Hexagon 45 TOPS, dok Qualcomm Snapdragon X Elite 10 nudi svega 10 TOPS.
Začudo, NPU se još nije probio na desktop platforme. Ne postoji čak ni mogućnost da dogradite NPU kupovinom neke posebne kartice. Kada sve hladno pogledate, nemate neki naročit razlog za računar sa NPU čipom. Da, ako ste već kupujete novi laptop, naravno da ćete se opredeliti za neki od modela sa snažnim NPU, jer je to osnova za buduće primene. Ali ako postojeći laptop dobro radi, sasvim lepo ćete na njemu pozivate AI funkcije iz cloud-a.
Autor: dr Sava Zdravković