Google i Microsoft četbotovi već citiraju jedan drugog i tako u nedogled šire dezinformacije

Ako ne verujete da ova trenutna AI trka koja se dešava u Big Tech-u može ozbiljno da degradira informacioni ekosistem interneta, razmislite o sledećem:

Da ste pre neki dan pitali Bing četbota da li je Google Bard ugašen, on bi ovu informaciju potvrdio, pozivajući se zapravo na šaljivi članak koji govori o tvitu u kojem je jedan korisnik pitao Bard kada će biti ugašen, a Bard odgovorio da je već ugašen. Bard je tako odgovorio jer se i on sam pozvao na komentar sa Hacker News foruma gde se neko šalio da je Bard ugašen, a neko drugi je koristio ChatGPT da napiše lažnu vest o tom događaju.

Preporučujemo

Ako mislite da sve ovo zvuči zbunjujuće i da podseća na neke priče koje bi osnovci smislili i širili po školi, niste jedini. Suština priče je da su oba četbota koristila dezinformacije da odgovore na pitanja korisnika, a onda su čak i citirali jedan drugog kako bi te informacije delovale kao istinite, prenosi The Verge.

Ipak, treba naglastiti da je Bing promenio odgovor i sada tačno odgovara da je Bard još uvek aktivan. Ovo možete protumačiti kao da su ovi sistemi, u najmanju ruku, popravljivi ili da su toliko "savitljivi" da je nemoguće čak ni dosledno izveštavati o njihovim greškama.

Ono što ovde imamo je rani znak da nailazimo na ogromnu igru "gluvih telefona", u kojoj četbotovi nisu u stanju da procene pouzdane izvore vesti, pogrešno čitaju priče o sebi i pogrešno informišu korisnike o sopstvenim mogućnostima. U ovom slučaju, sve je počelo zbog jednog šaljivog komentara Hacker News-u. Zamislite šta bi moglo da se desi kada bi neko zaista želeo da ovi sistemi propadnu.

Istina da je ovo smešna situacija, ali potencijalno može imati ozbiljne posledice. S obzirom na nesposobnost jezičkih modela da pouzdano razvrstaju činjenice od fikcije, njihovo lansiranje na internetu preti da svede internet na gomilu dezinformacija, što će biti nemoguće u potpunosti razotkriti. Sve zato što je Big Tech odlučio da je tržišni udeo važniji od bezbednosti.

Ove kompanije mogu da stave onoliko odricanja odgovornosti koliko žele na svoje četbotove – govoreći nam da su "eksperimenti", "saradnja" i "definitivno ne pretraživači" – ali to je slaba odbrana. Znamo kako ljudi koriste ove sisteme, a već smo videli kako oni šire dezinformacije, bilo da izmišljaju nove priče koje nikada nisu napisane ili govore ljudima o knjigama koje ne postoje. A sada se i citiraju međusobno šireći dalje dezinformacije.

(Telegraf.rs)