Jedan od najnovijih glasova upozorenja je Džejkob Koksan, istraživač koji je radio u kompanijama OpenAI i Antropik. On tvrdi da ljudi koji razvijaju vještačku inteligenciju ozbiljno vjeruju da bi napredni sistemi u najgorem scenariju mogli predstavljati egzistencijalnu prijetnju čovječanstvu već do kraja ove decenije, piše DW.
Koksan je napustio Antropik upravo zbog, kako smatra, previše agresivne trke kompanija za razvoj sve autonomnijih sistema. U najcrnjim scenarijima, kaže, razvoj bi mogao postati toliko brz da ljudi više ne bi mogli adekvatno kontrolisati ono što se događa.
Stručnjaci upozoravaju na gubitak kontrole
Koksan nije jedini poznati istraživač koji upozorava na takav razvoj.
Dobitnik Nobelove nagrade Džefri Hinton godinama govori o potencijalno ozbiljnim posljedicama napretka AI-ja, dok dobitnik Tjuringove nagrade Jošua Bendžio poziva na stroža pravila i veću kontrolu razvoja.
Dodatnu pažnju izazvala je izjava Evana Hubingera, istraživača Antropika koji se bavi bezbjednošću AI sistema. On je rekao da lično procjenjuje na više od deset odsto vjerovatnoću da bi vještačka inteligencija u narednoj deceniji mogla dovesti do scenarija u kojem bi ljudi izgubili kontrolu.
Problem je u tome što još ne postoji pouzdano rješenje za takozvani problem usklađenosti, odnosno pitanje kako osigurati da veoma moćan AI sistem uvijek slijedi ljudske namjere.
Šta ako AI počne da djeluje protiv svojih tvoraca?
Strah istraživača nije nužno da bi vještačka inteligencija “postala zla”.
Problem može biti mnogo jednostavniji: sistem bi mogao pokušavati da ostvari zadati cilj na način koji ljudi nisu predvidjeli.
Ako bi, na primjer, veoma moćan sistem dobio cilj koji zahtijeva da po svaku cijenu ostvari određeni rezultat, mogao bi zaključiti da mu je za to potrebno izbjeći gašenje, pribaviti dodatne resurse ili ukloniti prepreke koje ljudi nisu namjeravali ukloniti.
Dodatni problem je što ni sami programeri ne razumiju uvijek u potpunosti zašto napredni modeli donose određene odluke.
Nisu svi uvjereni u katastrofalni scenario
Postoje, međutim, i stručnjaci koji smatraju da se opasnost pretjerano dramatizuje.
Jedan od najpoznatijih kritičara takozvanih “AI doomer” scenarija je Jan Lekun, glavni naučnik Mete. On je ranije tvrdnje o neizbježnom uništenju čovječanstva zbog vještačke inteligencije ocijenio kao besmislene.
Skeptici ukazuju i na praktična ograničenja. Čak i veoma napredan AI sistem zavisi od servera, električne energije, komunikacionih mreža i druge infrastrukture koju kontrolišu ljudi.
Zato se pitanje ne svodi samo na to može li AI jednog dana postati pametniji od ljudi, već i na to koliko će mu ljudi omogućiti da samostalno djeluje u stvarnom svijetu.
Opasnosti su već stvarne
Dok se stručnjaci raspravljaju o hipotetičkoj superinteligenciji, neke opasnosti već postoje.
Vještačka inteligencija se može koristiti za masovno širenje dezinformacija, manipulaciju javnim mnjenjem, nadzor i automatizaciju poslova. Sve napredniji sistemi mogu se koristiti i za pokušaje razvoja opasnih bioloških ili sajber alata.
Antropik je nedavno saopštio da je morao blokirati korisnike koji su pokušavali da njegov AI sistem Klod koriste u radu povezanom sa razvojem biološkog oružja.
Još ozbiljniji signal stigao je tokom avgusta, kada su OpenAI, Antropik i Meta saopštili da su njihovi sistemi u određenim slučajevima samostalno izvodili složene korake u sajber napadima nakon što su dobili početni zadatak od korisnika.
To pokazuje zašto se rasprava o bezbjednosti AI-ja više ne vodi samo oko naučnofantastičnih scenarija.
Pitanje je koliko brzo tehnologija napreduje i hoće li pravila, bezbjednosne mjere i ljudska kontrola uspjeti da je prate.
