Sadržaj teksta
Zašto kompanije za vjetačku inteligenciju prodaju strah?
Čudan je to način na koji bilo koja kompanija govori o vlastitom radu. Nećete čuti McDonald's kako objavljuje da je stvorio toliko ukusan hamburger da bi bilo neetično prodavati ga javnosti. Ali, vodeći ljudi u industriji vještačke inteligencije redovno upozoravaju kako bi proizvodi njihove industrije mogli uništiti čovječanstvo. Zašto to rade?
Prema kritičarima, kompanijama za vještačku inteligenciju odgovara da smo zaokupljeni apokalipsom jer to odvraća pažnju od vrlo stvarne štete koju već nanose. Dok tehnološki lideri tvrde da nas samo upozoravaju na budućnost i da je sigurnost prioritet, drugi kažu da je posrijedi širenje straha koje naduvava potencijal tehnologije, diže cijene dionica i podstiče narativ da regulatori ne treba da se miješaju jer su jedino te kompanije sposobne da odgovorno razvijaju ovu tehnologiju.
“Ako ove tehnologije prikažete kao gotovo nadnaravno opasne, to u nama stvara osjećaj nemoći, kao da smo nadjačani”, kaže Shannon Vallor, profesorica etike podataka i vještačke inteligencije na Univerzitetu u Edinburgu. “Kao da se jedino možemo obratiti samim kompanijama.”
Već viđen scenario
Ovo nije prvi put da je šef Anthropica Dario Amodei radio na alatu koji je proglašen preopasnim za javnost. Godine 2019, dok je bio na čelu OpenAI-ja, kompanija je najavila GPT-2, znatno manje sofisticiran alat od današnjeg ChatGPT-ja, te poručila da ga ne može objaviti zbog “zabrinutosti u vezi sa zlonamjernim primjenama”. Nekoliko mjeseci kasnije, ipak su ga objavili.
Zanimljivo je da je izvršni direktor OpenAI-ja Sam Altman nedavno kritikovao Anthropicov “marketing temeljen na strahu”, iako se i sam godinama koristi sličnim scenarijem. “AI će nas najvjerovatnije dovesti do kraja svijeta, ali u međuvremenu će stvoriti sjajne kompanije”, rekao je Altman 2015. godine. Godinama kasnije, tvrdio je da ne spava pitajući se da li je “učinio nešto stvarno loše pokretanjem ChatGPT-ja”.
Stotine tehnoloških lidera, uključujući Altmana, Amodeija, Billa Gatesa i Demisa Hassabisa iz Google DeepMinda, podržale su 2023. izjavu u kojoj stoji: “Ublažavanje rizika od izumiranja zbog vještačke inteligencije trebalo bi da bude globalni prioritet uz druge rizike društvenih razmjera kao što su pandemije i nuklearni rat.” Iste godine, moćnici poput Elona Muska potpisali su pismo pozivajući na šestomjesečnu pauzu u razvoju napredne vještačke inteligencije. Manje od šest mjeseci kasnije, Musk je najavio vlastitu AI kompaniju, xAI.
“To je samo dio obrasca neutemeljenih tvrdnji o moći”, kaže Emily M. Bender, profesorica na Univerziteta u Vašingtonu. “Govore nam ‘gledajte ovamo’ i zanemarite uništavanje okoline, izrabljivanje radnika i sve sisteme koje narušavamo u društvu. Mi samo treba da se brinemo da se ova stvar ne pretvori u onu zlu koja će uništiti čovječanstvo.”
Da li je Mythos zaista takva prijetnja?
Anthropic tvrdi da je Mythos već pronašao hiljade “visokorizičnih” ranjivosti u tehnološkom okruženju, nadmašujući ljudske stručnjake. Ali, neki stručnjaci izražavaju znatne sumnje u te tvrdnje. Heidy Khlaaf, glavna naučnica za vještačku inteligenciju na Institutu AI Now, provela je karijeru gradeći alate za analizu koda za koje Anthropic tvrdi da ih je nadmašio.
Khlaaf kaže da je najveći upitnik nedostatak podataka o stopi lažno pozitivnih rezultata – industrijski standard koji pokazuje koliko često sigurnosni alat označava nešto što nije stvarni problem. “To je ključni pokazatelj korisnosti alata”, kaže Khlaaf. Anthropic to nije spomenuo niti je odgovorio na pitanje o tome. Takođe, kompanija nije uporedila Mythos s postojećim alatima na koje se sigurnosni inženjeri oslanjaju decenijama.
Sve ovo ne znači da je prijetnja izmišljena. Alati vještačke inteligencije zaista su pogodni za skeniranje velikih baza koda. Ali, Khlaaf ostaje skeptična prema tvrdnjama Anthropica bez dokaza koji bi ih potkrijepili. “Mislim da ima mnogo pukotina u narativu da je Mythos svemoćan i da ga zato ne možemo objaviti”, zaključuje.
Od apokalipse do profita
Sprečavanje kraja svijeta razlog je zašto OpenAI i Anthropic kažu da uopšte postoje. OpenAI je osnovan kao neprofitna organizacija s ciljem sigurnog razvoja vještačke inteligencije, dok je Anthropic nastao izdvajanjem grupe iz OpenAI-ja koja je smatrala da njihov stari poslodavac nije dovoljno posvećen sigurnosti. Danas obje organizacije teže izlasku na berzu.
“Ako želite razumjeti kako će se neka organizacija, pogotovo korporacija, ponašati, pogledajte njene podsticaje”, kaže profesorica Vallor. U međuvremenu, dok se raspravlja o hipotetskoj apokalipsi, stvarni problemi se gomilaju: primjena AI-ja u zdravstvu uprkos rizicima od pogrešnih dijagnoza, veliki uticaj podatkovnih centara na okolinu, navodna veza s mentalnim problemima kod korisnika i nezaustavljivo širenje deepfake sadržaja.
Kompanije za vještačku inteligenciju tvrde da ove probleme shvataju ozbiljno. Ali, postoji razlog zašto dižu uzbunu samo zbog apokalipse, kaže Vallor. Ako bi vještačka inteligencija mogla uništiti društvo, ovi drugi problemi čine se manje značajnim. “Strategija je uspjela. Govor o tome da bi njihovi proizvodi mogli okončati svijet nije naštetio tim kompanijama. Naprotiv, čini se da su jedini kojima se možemo obratiti za zaštitu upravo te iste kompanije.”
Demoni ili spasioci?
Gotovo u istom dahu, isti ljudi koji upozoravaju na uništenje obećavaju i spasenje. Altman predviđa “zapanjujuće trijumfe” poput rješavanja klimatskih promjena, dok Amodei obećava “zemlju genija u podatkovnom centru”. Utopija i apokalipsa samo su dvije strane iste medalje, smatra Vallor.
“U oba slučaja, razmjere su prevelike i mitske da bi se s njima mogli nositi alati poput regulacije, upravljanja ili sudskog prava”, kaže ona. “To navodi ljude da vjeruju da im preostaje samo sjediti i čekati hoće li se ove tehnologije pokazati kao demoni koji uništavaju civilizaciju ili mesije koje donose utopiju.”
Ali, to nisu bogovi, već proizvodi koje su stvorile kompanije radi profita, ističe Vallor. “Svaka tehnologija, osim ove, čak i nuklearno oružje, regulisana je. Ni u jednom drugom slučaju nismo dopustili da nas ovi narativi navedu na pomisao da su to sile izvan ljudske kontrole. Ništa u vezi s njima nije neupravljivo. Osim ako ne odlučimo da nećemo upravljati njima.” Teoretski je moguće da će vještačka inteligencija zavladati svijetom, ali vrijedi se zapitati zvuči li ta ideja poznato. Nije li do sada trebalo da svi živimo u Zuckerbergovom metaverzumu? Nije li Bitcoin trebalo da zamijeni sav novac? Možda će se sve to još uvijek dogoditi. A možda i neće, prenosi index.hr.
