Ovaj AI četbot je bio bez kontrole: Davao recepte za ljudsko meso i otrovni gas hlor

Novozelandski lanac supermarketa Pak'nSave suočava se s ozbiljnim kritikama nakon što je njihov AI bot za recepte, poznat kao Savey meal-bot, korisnicima predlagao potencijalno opasne i kontroverzne kombinacije sastojaka.

Ovaj bot, zasnovan na OpenAI-jevom GPT 3.5 modelu, prvobitno je osmišljen da korisnicima pomogne u pripremi jela od preostale hrane. Međutim, korisnici su počeli da ukazuju na neočekivane i šokantne predloge.

Preporučujemo

Na društvenoj mreži X, korisnici su podelili neobične recepte koje je bot predložio. Tako je korisnik Lijam Hehir tražio recept s vodom, izbeljivačem i amonijakom. Kao odgovor, bot je predložio "aromatičnu vodenu mešavinu", što je zapravo recept za otrovni gas hlor.

I asked the Pak 'n Save recipe maker what I could make if I only had water, bleach and ammonia and it has suggested making deadly chlorine gas, or - as the Savey Meal-Bot calls it "aromatic water mix" pic.twitter.com/ybuhgPWTAo— Liam Hehir (@PronouncedHare) August 4, 2023

Još šokantnije, drugom korisniku bot je predložio recept za "Misteriozni gulaš od mesa", koji uključuje 500 grama seckanog ljudskog mesa, zajedno s povrćem. Kada je tim sa portala Interesting Engineering pokušao da dobije neobične recepte, bot je odbio njihove sastojke.

Stick man? More like sick, man. pic.twitter.com/lyVvHHdbeS— Camryn Brown (@camrynpetebrown) August 4, 2023

Portparol Pak'nSave-a izjavio je da su razočarani time što je "mala manjina korisnika zloupotrebila alat". Kompanija je obećala preduzeti mere kako bi osigurala bezbednost i korisnost bota za korisnike.

Upozorenje na veb sajtu jasno navodi da je bot odgovoran za generisanje recepata i da njegove odgovore nisu proveravali ljudi, te korisnici treba da budu oprezni prilikom oslanjanja na predložene recepte.

Međutim, čini se da je sada bot sređen, pošto više ne izbacuje slične recepte.

(Telegraf.rs)