Spojio ChatGPT sa automatskom puškom i snimio rezultat: Ovaj eksperiment je naterao OpenAI na hitnu reakciju
Kompanija OpenAI hitno je reagovala i ugasila nalog developeru koji je kreirao uređaj koji povezuje ChatGPT sa automatskom puškom, nakon što je njegov eksperiment postao viralan na društvenim mrežama.
OpenAI je vodeća kompanija u oblasti veštačke inteligencije, poznata po razvoju ChatGPT-ja - četbota koji može da razgovara sa ljudima, piše tekstove i rešava različite zadatke. Iako je njihova misija razvoj bezbedne veštačke inteligencije, ovaj incident je pokazao koliko stvari mogu da krenu u pogrešnom smeru.
Preporučujemo
Horor vožnja u autonomnom taksiju: Vozilo odbilo da pusti putnika i kružilo po parkingu
Šta nam to životinje govore? Zahvaljujući veštačkoj inteligenciji, uskoro bismo mogli da saznamo
Video objavljen na Redditu prikazuje uznemirujuću scenu - developera koji glasovnim komandama upravlja automatskom puškom preko ChatGPT-ja. U viralnom snimku se vidi kako puška munjevitom brzinom i neverovatnom preciznošću reaguje na komande poput "ChatGPT, napadnuti smo sa leve i desne strane, reaguj u skladu sa tim".
Nakon što je snimak postao viralan, reakcija nije izostala. U izjavi za portal Futurism, OpenAI je potvrdio drastične mere. "Proaktivno smo identifikovali ovo kršenje naših pravila i obavestili developera da prekine sa ovom aktivnošću i pre nego što smo dobili vaš upit", naveli su iz kompanije.
Nije samo teorija, već stvarnost
Ova situacija nije izolovani incident. Prema izveštaju Washington Post-a, veštačka inteligencija već se koristi u ratnim zonama.
Iako OpenAI strogo zabranjuje korišćenje svojih proizvoda za razvoj oružja ili sistema koji mogu ugroziti ljudsku bezbednost, prošle godine su ipak sklopili partnerstvo sa kompanijom Anduril. Ova kompanija proizvodi dronove i projektile sa veštačkom inteligencijom, a zvanično obrazloženje je da će zajedno razvijati sisteme za odbranu od napada dronovima.
Stručnjaci upozoravaju da je najveći problem što čak i ako velike kompanije zabrane ovakvu upotrebu svojih AI sistema, postoje brojni drugi, otvoreni AI modeli koji se mogu zloupotrebiti. U kombinaciji sa sve dostupnijom 3D štampom delova za oružje, ovo stvara zabrinjavajuću mogućnost da pojedinci kreiraju autonomno oružje iz svojih domova.
Incident je pokrenuo novu debatu o hitnoj potrebi za strožom regulacijom veštačke inteligencije, posebno kada je reč o sistemima koji mogu direktno uticati na ljudsku bezbednost. Stručnjaci se slažu da je ovo samo vrh ledenog brega i da će slični incidenti biti sve češći ukoliko se ne uspostave jasna pravila i ograničenja.
(Telegraf.rs)