Zašto je čip od 40.000 dolara trenutno najpoželjniji hardver na svetu?

Nvidia H100 čip od oko 40.000 dolara trenutno je najpoželjniji komad hardvera na svetu.

Velike tehnološke kompanije kao što su Microsoft i Google, koje razvijaju mnoštvo proizvoda sa veštačkom inteligencijom, pa sve do Saudijske Arabije i UAE, koje ulažu u izgradnju sopstvenih AI aplikacija, svi žele da se dokopaju ovog dragocenog resursa.

Preporučujemo

Problemi sa isporukom i velika potražnja doveli su do toga da se o ovom čipu priča kao o "najverlijem traču Silicijumske doline", kako je napisao Andrej Karpati iz OpenAI-a.

Who’s getting how many H100s and when is top gossip of the valley rn https://t.co/AxarseOmg9— Andrej Karpathy (@karpathy) August 2, 2023

Proizvođači servera čekaju duže od šest meseci da prime poslednje narudžbine. Investitori rizičnog kapitala nabavljaju ove čipove za startape koje finansiraju. Izvršni direktor Tesle, Ilon Mask, čak je komentarisao nestašicu Nvidia čipova. Tesla planira da izgradi novi superkompjuter, Dojo, za obuku svojih autonomnih vozila, plan koji je nastao usled nedostatka Nvidia GPU-ova.

Nvidia H100 je dizajniran za maksimalnu brzinu i efikasnost u računarskim operacijama koje su karakteristične za obuku AI modela, što uključuje veliki broj paralelnih procesorskih jezgara koji omogućavaju brzo izvršavanje matematičkih operacija.

Osim toga, H100 čipovi su posebno prilagođeni za rad s generativnim algoritmima koji koriste velike količine podataka. Generisanje teksta, slika ili drugih oblika podataka zahteva prilagodljivost koju ovi čipovi nude.

Memorijski zahtevi su takođe ključna karakteristika obuke veštačke inteligencije. H100 čipovi dolaze s velikim količinama brze, integrisane memorije koja je prilagođena ovim specifičnim potrebama.

Skalabilnost i paralelizacija su važne za efikasnu obuku AI modela. Nvidia H100 čipovi su dizajnirani da efikasno rade u okruženjima gde je potrebna brza komunikacija i koordinacija između čipova, kao i za energetsku efikasnost, koja je ključna za dugoročno korišćenje u data centrima.

Dodatno, integracija s postojećim alatima i bibliotekama koje koriste AI inženjeri olakšava implementaciju ovih čipova u radne tokove.

U suštini, Nvidia H100 čipovi nude kombinaciju performansi, prilagodljivosti, efikasnosti i kompatibilnosti koja ih čini nezamenljivim za mnoge primene veštačke inteligencije. Ovi čipovi su postali ključna infrastruktura koja omogućava tehnološke proboje u oblasti veštačke inteligencije, što objašnjava zašto je potražnja za njima toliko visoka. Svojom jedinstvenom kombinacijom karakteristika, oni su ne samo odgovor na trenutne potrebe već i pokretač budućih inovacija u oblasti veštačke inteligencije.

Veliki tehnološki giganti kao što su Amazon i Google već su započeli razvoj svojih alternativa, u nadi da će popuniti prazninu koju je ostavila nestašica Nvidia čipova. Ipak, stručnjaci ističu da će biti potrebno još vremena pre nego što ovi konkurenti mogu zaista da se približe sofisticiranosti i efikasnosti čipova koje proizvodi Nvidia. Ova situacija ne samo da ističe značaj Nvidia H100 čipova u modernom tehnološkom pejzažu, već i otvara novo poglavlje u trci za dominaciju u brzo rastućem polju veštačke inteligencije.

(Telegraf.rs)