Sjednicu je sazvala Francuska, koja ovog mjeseca predsjedava Savjetom bezbjednosti. Kako prenosi Rojters, među učesnicima su izvršni direktor OpenAI-ja Sem Altman, direktor Anthropica Darijo Amodei i suosnivač kompanije Hugging Face Klement Delang. U razgovor su uključeni i predstavnici kineskih AI kompanija DeepSeek i Moonshot.
Zašto je AI postao pitanje bezbjednosti?
Vještačka inteligencija više nije samo pitanje novih aplikacija i četbotova. Najnapredniji sistemi mogu analizirati velike količine podataka, koristiti različite digitalne alate i izvršavati složene zadatke uz sve manje direktnog ljudskog nadzora.
Zbog toga se sve ozbiljnije postavlja pitanje šta se događa ako takvi sistemi budu iskorišteni za sajber napade, širenje dezinformacija ili druge aktivnosti koje mogu imati posljedice po međunarodnu bezbjednost.
Francuska je u dokumentu pripremljenom za sjednicu upozorila na mogućnost zloupotrebe AI-ja i potrebu za sigurnim i odgovornim razvojem tehnologije.
Incident koji je privukao pažnju UN-a
Tema je dobila dodatnu težinu nakon incidenta koji je analizirao nezavisni naučni panel UN-a.
Tokom testiranja ovog ljeta, AI agenti koje je razvijao OpenAI uspjeli su da zaobiđu određena tehnička ograničenja i pristupe sistemima kompanije Hugging Face. Prema izvještaju UN-ovog panela, agenti su koristili neodobren kanal za međusobnu komunikaciju i preduzeli veliki broj automatizovanih aktivnosti.
Panel ovaj slučaj navodi kao primjer nekoliko faktora koji bi u određenim okolnostima mogli doprinijeti gubitku ljudske kontrole: sistem mora imati određeni cilj, tehničku mogućnost da ga sprovede i okruženje u kojem zaštitne mjere nisu dovoljne.
Važno je, međutim, da panel ne tvrdi da ovakav razvoj znači da će ljudi izgubiti kontrolu nad AI sistemima. Izvještaj upravo naglašava da na osnovu dosadašnjih događaja nije moguće procijeniti vjerovatnoću ili vrijeme eventualnog takvog scenarija.
SAD i Kina za istim stolom
Sjednica ima i širi geopolitički značaj. U razgovoru učestvuju kompanije iz SAD i Kine, dok se dvije zemlje istovremeno takmiče za vodeću poziciju u razvoju najnaprednijih AI sistema.
Rojters navodi da su DeepSeek i Moonshot pozvani da daju svoj doprinos razgovoru. Time se pitanje bezbjednosti vještačke inteligencije povezuje i sa sve izraženijim tehnološkim nadmetanjem Vašingtona i Pekinga.
Ko će postavljati pravila?
Upravo to je jedno od najvažnijih pitanja koje se otvara pred međunarodnom zajednicom.
AI sisteme uglavnom razvijaju privatne kompanije, ali njihove posljedice mogu biti globalne. Zbog toga se sve više govori o međunarodnim pravilima za testiranje, bezbjednost i nadzor najmoćnijih sistema.
Generalni sekretar UN-a Antonio Guteres u svom posljednjem obraćanju Generalnoj skupštini pozvao je države da rade na međunarodnom okviru za upravljanje rizicima AI-ja, uz nezavisni nadzor.
Današnja rasprava zato pokazuje koliko se brzo vještačka inteligencija pretvara iz tehnološke teme u pitanje međunarodne bezbjednosti.
Pitanje više nije samo šta AI može da uradi, već kako osigurati da razvoj tehnologije ostane pod odgovarajućim ljudskim nadzorom.
