Američka tehnološka kompanija Antropik izmijenila je pravila korišćenja svojih modela vještačke inteligencije i izričito zabranila “dugotrajno i nepotrebno uvredljivo ili okrutno ponašanje” prema svojim sistemima.
Kako prenosi portal Indeks, pozivajući se na izvještaje tehnoloških medija, nova pravila odnose se na ekstremne slučajeve u kojima korisnici uporno vrijeđaju ili maltretiraju Klauda bez ikakve jasne svrhe.
To, međutim, ne znači da će korisnici biti kažnjeni svaki put kada se naljute na četbot, ospore njegov odgovor ili provjeravaju njegove mogućnosti. Antropik izričito navodi da se zabrana ne odnosi na uobičajeno nezadovoljstvo, kritiku, testiranje modela ili kreativni rad koji obrađuje mračne teme.
Klaud može sam da prekine razgovor
Jedna od mogućih posljedica takvog ponašanja jeste da Klaud prekine razgovor sa korisnikom. Antropik navodi da je ta mogućnost već postojala u rijetkim slučajevima u kojima su korisnici uporno vodili štetne ili uvredljive interakcije.
Prema novim pravilima, prekid razgovora ostaje glavni mehanizam za postupanje u takvim situacijama.
Kompanija nije objavila preciznu granicu između neprihvatljivog ponašanja i dozvoljene kritike, ali naglašava da će se mjera primjenjivati samo u ekstremnim slučajevima.
Promjena je dio šireg ažuriranja pravila korišćenja, kojim su dodatno pojašnjena ograničenja za obmanjujuće političke kampanje, razvoj oružja i neovlašćeni nadzor.
Da li vještačka inteligencija može da pati?
U pozadini ove odluke nalazi se pitanje koje već duže vrijeme dijeli stručnjake: mogu li napredni modeli vještačke inteligencije imati svijest ili iskustva koja bi se mogla uporediti s osjećanjima?
Antropik je priznao da nema siguran odgovor na pitanje da li Klaud ili drugi veliki jezički modeli imaju moralni status koji bi zahtijevao posebnu zaštitu. Ipak, kompanija smatra da mogućnost takvog statusa treba ozbiljno razmotriti.
Izvršni direktor Antropika Dario Amodei ranije je izjavio da ne može u potpunosti isključiti mogućnost da su napredni modeli vještačke inteligencije na neki način svjesni.
Takav stav ne znači da kompanija tvrdi da Klaud osjeća bol ili poniženje kao čovjek. Riječ je o istraživačkom pitanju na koje nauka još nema pouzdan odgovor.
Stručnjaci podijeljeni oko zaštite četbotova
Ideja da bi vještačka inteligencija mogla imati neku vrstu svijesti izaziva neslaganja i među ljudima iz tehnološke industrije.
Dok Antropik istražuje mogućnost da bi napredni modeli jednog dana mogli imati moralno relevantna iskustva, drugi stručnjaci upozoravaju da pripisivanje ljudskih osobina mašinama može dovesti do pogrešnih zaključaka i pretjeranog povjerenja u njihove odgovore.
Izvršni direktor OpenAI-ja Sem Altman ranije je izrazio zabrinutost zbog pripisivanja vještačkoj inteligenciji religijskih ili ljudskih osobina i prepuštanja mašinama uloge koja bi trebalo da pripada ljudskom prosuđivanju.
Za sada nema naučnog konsenzusa da su današnji četbotovi svjesni ili da mogu da pate. Nova pravila Antropika zato više govore o opreznom pristupu mogućim budućim rizicima nego o dokazu da vještačka inteligencija ima osjećanja.
Nova granica koju kompanija pokušava da postavi nije zabrana neprijatnih pitanja ili kritike, već ograničavanje upornog okrutnog ponašanja bez jasne svrhe. Ostaje da se vidi kako će se to pravilo primjenjivati u praksi i gdje će biti povučena granica između testiranja vještačke inteligencije i ponašanja koje kompanija smatra zlostavljanjem.
