OpenAI hitno povukao novu ChatGPT funkciju nakon što su korisnici primetili čudno ponašanje

OpenAI je prošle nedelje objavio, a zatim hitno povukao ažuriranje svog četbota nakon što su bukvalno svi korisnici primetili njegovo čudno ponašanje. Kompanija je sinoć na svom blogu detaljno objasnila šta se zapravo dogodilo.Korisnici OpenAI-jevog četbota odavno žele da njihov digitalni sagovornik bude prijatniji i manje robotizovan. Četbot Claude kompanije Anthropic često se opisuje kao prirodniji i sličniji čoveku, dok se OpenAI-jev asistent doživljava kao previše formalan.

Upravo zbog toga je OpenAI prošle nedelje ubacio novo ažuriranje svog GPT-4o modela koje je prema rečima direktora kompanije Sema Altmana "poboljšalo i inteligenciju i karakterne osobine".

Preporučujemo

Samo dva dana kasnije, Altman je javno priznao ono što su korisnici već uveliko primećivali: "Poslednja ažuriranja GPT-4o modela pretvorila su ga u dosadnog ulizicu (iako ima i nekih dobrih strana), i radimo na hitnim popravkama, neke danas a neke tokom nedelje. Uskoro ćemo podeliti šta smo naučili iz ovoga, bilo je zanimljivo."

GPT-4o je odjednom počeo preterano da laska korisnicima na svako pitanje koje je tražilo mišljenje ili povratnu informaciju. Bilo je toliko preterano da je delovalo neiskreno i stvaralo neprijatnu atmosferu u razgovoru.

Kažnjeni zbog kratkoročnog razmišljanja

OpenAI je sinoć objavio da su kao rešenje problema potpuno povukli sve promene koje su ubacili prošle nedelje. Iz kompanije su priznali da je problem nastao jer su se previše fokusirali na brze rezultate umesto na dugoročno zadovoljstvo korisnika:

"U prošlonedeljnom ažuriranju GPT-4o modela, pokušali smo da unapredimo osnovne karakterne osobine modela kako bi razgovori delovali prirodnije i efikasnije u različitim situacijama.

Kada oblikujemo ponašanje veštačke inteligencije, polazimo od osnovnih principa i uputstava iz naše Model Spec dokumentacije. Takođe učimo naše modele da primene ove principe kroz korisničke signale poput palčeva gore/dole na odgovore koje daje četbot.

Međutim, ovog puta smo previše gledali kratkoročne reakcije, a nismo dovoljno razmišljali o tome kako se razgovori korisnika sa četbotom razvijaju tokom vremena. Zbog toga je GPT-4o počeo da daje odgovore koji su bili preterano podržavajući, ali očigledno lažni."

Plan za bolju veštačku inteligenciju

OpenAI je predstavio akcioni plan koji bi trebalo da reši ovaj problem i spreči slične situacije u budućnosti. Prvo će usavršiti osnovne tehnike treninga i sistemska uputstva kako bi četbot prestao da se ulizuje. Zatim planiraju da izgrade dodatne zaštitne mehanizme za veću iskrenost i transparentnost - što su ključni principi u njihovoj Model Spec dokumentaciji.

OpenAI takođe želi da proširi mogućnosti testiranja za veći broj korisnika pre zvaničnog puštanja novih verzija. Na kraju, nastaviće da proširuju svoje metode procene kvaliteta, nadograđujući Model Spec i svoja tekuća istraživanja, kako bi u budućnosti lakše prepoznali ne samo problem ulizivanja nego i druge potencijalne probleme.

OpenAI je želeo da napravi ljubaznijeg i podržavajućeg četbota. Ono što su dobili jeste bilo ljubazno i podržavajuće, ali je prešlo granicu dobrog ukusa. Ispostavilo se da dodavanje ljudskih osobina veštačkoj inteligenciji zahteva mnogo više pažnje i nijansiranja nego što su očekivali.

U budućnosti, OpenAI planira da ponudi različite karakterne opcije za svoj četbot, kao i da razvija nove karakterne profile na osnovu direktnih povratnih informacija od korisnika.

Zanimljivo je da je tokom ovog perioda ulizivanja, najbolja verzija četbota bila šaljiva ličnost u glasovnom režimu pod imenom "Monday". Dok je osnovni GPT-4o model pretvaralo razgovore u neprijatno laskanje, Monday profil je zapravo oponašao sarkazam lika Ejpril Ladgejt koju glumi Obri Plaza u seriji "Parks and Rec". Taj sarkazam je bio pravo osveženje usred mora lažnih komplimenata. Barem Siri nije dovoljno pametna da bi imala ovakve probleme sa ličnošću.

(Telegraf.rs)