Anthropic traži hakere: Nova inicijativa za otkrivanje ranjivosti u AI sistemima, nagrade do 15.000 dolara

Anthropic, kompanija specijalizovana za razvoj veštačke inteligencije, pokrenula je inicijativu kojom namerava da privuče pažnju nezavisnih stručnjaka za sajber bezbednost. U pitanju je poseban program kroz koji će kompanija plaćati hakerima za identifikaciju slabosti u njihovim AI sistemima. Ovaj pristup, poznat kao bug bounty, ima za cilj da podstakne istraživače da prijave sve eventualne propuste, a ne da ih koriste za potencijalno štetne aktivnosti.

Za razliku od većine tehnoloških firmi koje nemaju uspostavljen formalni proces nagrađivanja za otkrivanje bezbednosnih mana u četbotovima, Anthropic je odlučio da promeni ovu praksu. U saradnji sa HackerOne, kompanija je najavila proširenje svog programa koji je do sada bio dostupan samo ograničenom broju učesnika. Program se fokusira na pronalaženje ponovljivih grešaka koje mogu dovesti do ozbiljnih negativnih ishoda u širokom spektru scenarija.

Preporučujemo

Majkl Selito, koji vodi globalne poslove u kompaniji Anthropic, istakao je da većina dosadašnjih programa nije obuhvatala otkrivanje mogućnosti jailbreakovanja, iako je prepoznato da su svi aktuelni AI modeli podložni takvim napadima u određenoj meri.

Nagrade za uspešno identifikovane propuste mogu dostići i do 15.000 dolara, a ovaj program je deo šire obaveze kompanije prema bezbednosti, koju je potvrdila i u saradnji sa američkom administracijom. Iskusni istraživači koji žele da učestvuju mogu se prijaviti do 16. avgusta, a izabrani kandidati će biti obavešteni na jesen. Nakon početnog perioda testiranja, Anthropic planira dalju ekspanziju programa, kako bi uključila još širi krug istraživača.

(Telegraf.rs)