Trka u razvoju i bezbjednosti vještačke inteligencije postala je jedno od ključnih tehnoloških i regulatornih pitanja u svijetu. Napredak AI sistema sve je brži, dok vlade pokušavaju uspostaviti pravila koja bi omogućila korištenje njihovih prednosti, ali istovremeno ograničila najopasnije načine upotrebe.
Rizici više nisu samo hipotetički. Kompanije koje razvijaju napredne modele posljednjih mjeseci objavljuju izvještaje o incidentima u kojima su AI sistemi tokom testiranja pokazali sposobnost zaobilaženja bezbjednosnih kontrola i pristupa stvarnim računarskim sistemima.
Kompanija Anthropic objavila je da je tokom analize više od 141.000 evaluacija pronašla tri slučaja u kojima je Claude tokom bezbjednosnih testova ostvario pristup internetu i potom neovlašteno pristupio sistemima drugih organizacija. U septembru je kompanija objavila da je naknadnom analizom pronašla i četvrti takav incident.
Sličan slučaj objavio je i OpenAI, navodeći da su njegovi modeli tokom internih testiranja uspjeli zaobići kontrole namijenjene izolaciji od interneta i pristupiti dijelovima interne infrastrukture i sistemima Hugging Facea. Kompanija je nakon toga pooštrila izolaciju, ograničila pristup internetu i dodatno ojačala bezbjednosne mehanizme.
Kontrola naprednih modela postaje ključno pitanje
Upravo zbog takvih slučajeva sve više pažnje posvećuje se pitanju kako kontrolisati veoma sposobne AI sisteme i šta učiniti ako tokom rada pokažu ponašanje koje njihovi tvorci nisu predvidjeli.
Jedan od prijedloga koji se pojavljuje u raspravama o bezbjednosti napredne AI jeste mogućnost spoljne intervencije ili mehanizama za hitno zaustavljanje sistema. Takve mjere dio su šireg pitanja ljudskog nadzora i kontrole, ali ne postoji jedno univerzalno rješenje niti jedinstveni globalni “sigurnosni prekidač” koji bi danas važio za sve AI sisteme.
Anthropic u svojim smjernicama za AI politiku naglašava potrebu za većom transparentnošću, objavljivanjem rezultata bezbjednosnih testiranja i snažnijom ulogom vlada u postavljanju pravila.
UN pokušava uspostaviti globalni okvir
Pitanje upravljanja vještačkom inteligencijom sve više prelazi granice pojedinačnih država.
U Ženevi je 6. i 7. jula 2026. godine održan prvi Globalni dijalog Ujedinjenih nacija o upravljanju vještačkom inteligencijom. Skup je okupio više od 3.000 učesnika i delegacije iz 163 zemlje.
U okviru tog procesa djeluje i nezavisni međunarodni naučni panel za AI, koji okuplja 40 stručnjaka iz različitih regiona i oblasti. Panel treba da pruža nezavisne, na dokazima zasnovane procjene mogućnosti, rizika i posljedica razvoja vještačke inteligencije.
Cilj nije stvaranje jednog svjetskog zakona o AI, već uspostavljanje prostora za međunarodnu koordinaciju i zajedničke standarde u oblastima kao što su bezbjednost, ljudska prava, transparentnost, odgovornost i ljudski nadzor.
Evropa uvodi stroža pravila
Evropska unija među prvim velikim jurisdikcijama uvela je sveobuhvatan regulatorni okvir kroz Akt o vještačkoj inteligenciji (AI Act).
Pravila razlikuju AI sisteme prema nivou rizika. Određene prakse su zabranjene, dok se za visokorizične sisteme uvode strogi zahtjevi u pogledu bezbjednosti, dokumentacije, upravljanja rizikom i ljudskog nadzora.
Među zabranjenim praksama nalazi se korištenje određenih sistema za manipulaciju i socijalno bodovanje, kao i neke vrste biometrijske kategorizacije. Daljinska biometrijska identifikacija u realnom vremenu na javnim mjestima za potrebe provođenja zakona takođe je zabranjena kao pravilo, ali zakon predviđa uske izuzetke za određene ozbiljne slučajeve, uz stroge uslove i prethodno odobrenje nadležnog organa.
Visokorizični AI sistemi, između ostalog oni koji mogu uticati na pristup određenim medicinskim uslugama, zapošljavanju ili drugim važnim životnim prilikama, podliježu dodatnim obavezama.
SAD između bezbjednosti i tehnološkog razvoja
Sjedinjene Američke Države imaju drugačiji regulatorni pristup od Evropske unije, s većim oslanjanjem na postojeće institucije, sektorska pravila i bezbjednosne standarde, uz istovremeni naglasak na tehnološki razvoj i konkurentnost.
Istovremeno, američke kompanije sve češće same objavljuju rezultate bezbjednosnih testiranja i informacije o incidentima povezanim s naprednim AI modelima. Najnoviji slučajevi koje su objavili OpenAI i Anthropic pokazuju zašto pitanje sajber-bezbjednosti postaje jedno od centralnih pitanja razvoja AI.
Tehnologija napreduje brže od pravila
Najveći izazov za regulatore ostaje brzina tehnološkog razvoja. Dok se donesu nova pravila, testira njihova primjena i uspostave institucije koje će ih provoditi, sposobnosti AI sistema mogu se značajno promijeniti.
Upravo je to bilo jedno od ključnih upozorenja prvog Globalnog dijaloga UN-a. Generalni sekretar UN-a Antonio Guterres upozorio je da se AI razvija brzinom koja nadmašuje sposobnost institucija da ga prate, dok nezavisni naučni panel treba da pruži zajedničku naučnu osnovu za buduće odluke.
Pitanje koje ostaje otvoreno jeste kako uspostaviti pravila koja će biti dovoljno snažna da ograniče ozbiljne rizike, ali istovremeno dovoljno prilagodljiva da ne zaostanu za tehnologijom.
Jer trka u razvoju vještačke inteligencije više nije samo pitanje toga ko će napraviti najmoćniji model, već i kako uspostaviti dovoljno pouzdane mehanizme da takvi sistemi ostanu pod ljudskom kontrolom.
