Google i Microsoft četbotovi već citiraju jedan drugog i tako u nedogled šire dezinformacije

Microsoft Bing je rekao da je Google Bard ugašen nakon što je pročitao priču koja se poziva na šaljivi tvit. To nije dobar znak za budućnost dezinformacija na mreži

Ako ne verujete da ova trenutna AI trka koja se dešava u Big Tech-u može ozbiljno da degradira informacioni ekosistem interneta, razmislite o sledećem:

Da ste pre neki dan pitali Bing četbota da li je Google Bard ugašen, on bi ovu informaciju potvrdio, pozivajući se zapravo na šaljivi članak koji govori o tvitu u kojem je jedan korisnik pitao Bard kada će biti ugašen, a Bard odgovorio da je već ugašen. Bard je tako odgovorio jer se i on sam pozvao na komentar sa Hacker News foruma gde se neko šalio da je Bard ugašen, a neko drugi je koristio ChatGPT da napiše lažnu vest o tom događaju.

Preporučujemo

Ako mislite da sve ovo zvuči zbunjujuće i da podseća na neke priče koje bi osnovci smislili i širili po školi, niste jedini. Suština priče je da su oba četbota koristila dezinformacije da odgovore na pitanja korisnika, a onda su čak i citirali jedan drugog kako bi te informacije delovale kao istinite, prenosi The Verge.

Ipak, treba naglastiti da je Bing promenio odgovor i sada tačno odgovara da je Bard još uvek aktivan. Ovo možete protumačiti kao da su ovi sistemi, u najmanju ruku, popravljivi ili da su toliko "savitljivi" da je nemoguće čak ni dosledno izveštavati o njihovim greškama.

Ono što ovde imamo je rani znak da nailazimo na ogromnu igru "gluvih telefona", u kojoj četbotovi nisu u stanju da procene pouzdane izvore vesti, pogrešno čitaju priče o sebi i pogrešno informišu korisnike o sopstvenim mogućnostima. U ovom slučaju, sve je počelo zbog jednog šaljivog komentara Hacker News-u. Zamislite šta bi moglo da se desi kada bi neko zaista želeo da ovi sistemi propadnu.

Istina da je ovo smešna situacija, ali potencijalno može imati ozbiljne posledice. S obzirom na nesposobnost jezičkih modela da pouzdano razvrstaju činjenice od fikcije, njihovo lansiranje na internetu preti da svede internet na gomilu dezinformacija, što će biti nemoguće u potpunosti razotkriti. Sve zato što je Big Tech odlučio da je tržišni udeo važniji od bezbednosti.

Ove kompanije mogu da stave onoliko odricanja odgovornosti koliko žele na svoje četbotove – govoreći nam da su "eksperimenti", "saradnja" i "definitivno ne pretraživači" – ali to je slaba odbrana. Znamo kako ljudi koriste ove sisteme, a već smo videli kako oni šire dezinformacije, bilo da izmišljaju nove priče koje nikada nisu napisane ili govore ljudima o knjigama koje ne postoje. A sada se i citiraju međusobno šireći dalje dezinformacije.

(Telegraf.rs)