Nvidia predstavila AI superkompjuter veličine dlana, cena je stvarno sitnica

Vreme čitanja: oko 2 min.

Jetson Orin Nano Super Developer Kit, najnoviji alat kompanije Nvidia za razvoj veštačke inteligencije, mogao bi da donese revolucionarne promene u ovoj oblasti. Po ceni od 249 dolara, što je upola manje u odnosu na prethodni model od 499 dolara, ovaj generativni AI superkompjuter pruža impresivne performanse i brojne mogućnosti za developere, hobiste i studente.

Jetson Orin Nano Super nudi 67 INT8 TOPS (biliona operacija u sekundi), što predstavlja povećanje performansi od 70% u odnosu na prethodnu verziju, dok memorijski protok sada dostiže 102 GB/s, što je povećanje od 50%. Nvidia takođe navodi da je generativni AI inference unapređen za čak 1,7 puta. Ove karakteristike omogućavaju real-time donošenje odluka i obradu podataka direktno na uređaju, što ga čini pogodnim za širok spektar aplikacija.

Srce ovog uređaja čini GPU baziran na Ampere arhitekturi sa tenzorskim jezgrima u kombinaciji sa šestojezgarnim Arm procesorom. Ova kombinacija omogućava simultano pokretanje više AI aplikacija i visoke performanse inference sistema. Pored toga, kit podržava do četiri kamere sa unapređenim rezolucijama i većim brojem sličica po sekundi, što dodatno povećava njegovu upotrebljivost.

Široka primena i softverska podrška

Nvidia ističe fleksibilnost Jetson Orin Nano Super-a, navodeći njegovu pogodnost za kreiranje četbotova zasnovanih na velikim jezičkim modelima, vizuelnih AI agenata i AI robota. Uz to, dolazi sa bogatom softverskom podrškom, uključujući alate poput Isaac za robotiku, Metropolis za vizuelni AI i Holoscan za obradu podataka sa senzora. Zajednica korisnika i edukativni materijali dostupni kroz Nvidia Jetson AI laboratoriju dodatno olakšavaju upotrebu ovog kompleta.

Zanimljivo je da vlasnici starijih verzija ovog uređaja mogu ostvariti slične performanse zahvaljujući softverskom ažuriranju za JetPack SDK. Ova opcija produžava vek trajanja postojećeg hardvera, ali postavlja pitanje da li je kupovina novog uređaja uvek neophodna.

Mali korak za cenu, veliki za AI zajednicu

Jetson Orin Nano Super Developer Kit nije samo povoljniji, već donosi značajne inovacije koje bi mogle olakšati razvoj veštačke inteligencije i učiniti ga pristupačnijim širom sveta. Ostaje da se vidi kako će se ove performanse pokazati u realnim uslovima, ali je jasno da Nvidia nastavlja da pomera granice tehnologije.

(Telegraf.rs)