Upozorenje vrhunskog fizičara: Veštačkoj inteligenciji se ne smeju dati tri stvari

Trebamo li razviti neljudske umove koji bi nas na kraju mogli brojčano nadmašiti, nadmudriti i zameniti, pita on

Ako se nastavi nekontrolisani razvoj veštačke inteligencije (AI), vođen kompeticijom među kompanijama, ako ne pauziramo kako bismo odredili smernice za njegov razvoj i neke regulacije, moglo bi da nam se dogodi da nas ona nadvlada i istisne kao što je Homo sapiens istisnuo neandertalce, upozorio je u nedavno objavljenom razgovoru fizičar i istraživač veštačke inteligencije Maks Tegmark (Max).

U podkastu Leksa Fridmana (Lex), informatičara i istraživača veštačke inteligencije na MIT, Maks Erik Tegmark, fizičar i istraživač objasnio je zašto je zabrinut sadašnjim načinom razvoja veštačke inteligencije i zašto je sa grupom naučnika pokrenuo otvoreno pismo kojim traže šestomesečni moratorijum na dalje unapređivanje sistema moćnijih nego što je GPT-4.

Preporučujemo

U pismu, koje kritikuje postojeći pristup u stilu - prvo izgradimo brod, a posle ćemo ga popravljati - i upozorava da važnu ulogu u razvoju AI-a vode čelnici kompanija koji nisu izabrani predstavnici ljudi, odnosno biračkog tela, već čelnici tehnoloških kompanija, autori postavljaju četiri pitanja:

- Trebamo li dopustiti mašinama da preplave naše informacione kanale propagandom i neistinom?

- Trebamo li automatizovati sve poslove, uključujući i one koji ispunjavaju ljudske živote smislom?

- Trebamo li razviti neljudske umove koji bi nas na kraju mogli brojčano nadmašiti, nadmudriti i zameniti?

- Trebamo li rizikovati gubitak kontrole nad svojom civilizacijom?

Pismo je do sada potpisalo više od 27.500 ljudi, među kojima su istoričar i autor nekoliko bestselera kao što je Sapiens Yuval Noah Harari, suosnivač Applea Stiv Voznijak (Steve Wozniak), suosnivač Skypea Jan Talin (Jaan Tallinn) te brojni istraživači umetne inteligencije kao što su Stjuart Rasel (Stuart Russell), Jošua Benđio (Yoshua Bengio), Geri Markus (Gary Marcus) i Emad Mostak (Mostaque).

Teško je očekivati da bi pismo samo po sebi moglo zaustaviti ili usporiti kompanije poput Googlea i Microsofta, ali njegove poruke možda bi mogle dopreti do političara koji bi mogli nešto preduzeti u zakonodavnom smislu.

(Telegraf.rs)