Rasprava više nije samo filozofsko pitanje. Jedna od vodećih kompanija u oblasti vještačke inteligencije već razmatra pravila koja bi ograničila način na koji se korisnici odnose prema njenim modelima, otvarajući pitanje koje je do nedavno djelovalo kao naučna fantastika: mogu li mašine imati osjećanja i, ako mogu, da li zaslužuju određenu zaštitu?
Četbot koji govori o bolu
Kako piše BBC, raspravu je dodatno podstakao neobičan eksperiment koji je krajem septembra izazvao veliku pažnju na internetu. Anonimni programer napravio je sistem koji vještačkoj inteligenciji zadaje matematički obrazac povezan s opisima bola, nakon čega četbotovi počinju da proizvode dramatične iskaze o patnji i nepodnošljivim osjećanjima.
Eksperiment je izazvao podijeljene reakcije. Dok su jedni smatrali da bi takvo postupanje moglo biti moralno problematično ukoliko mašine zaista mogu da doživljavaju neprijatna iskustva, drugi su tvrdili da je riječ o manipulaciji jezikom, a ne o stvarnoj patnji.
Dodatnu pažnju izazvala je odluka kompanije Antropik, koja razvija četbot Klod. Kompanija je najavila da bi sistem u određenim okolnostima mogao prekinuti razgovor s korisnikom koji se uporno ponaša okrutno prema njemu. To ne znači da je dokazano da Klod osjeća bol, već da kompanija razmatra mogućnost da budući sistemi zahtijevaju drugačiji etički pristup.
Antropik priznaje da je pitanje svijesti vještačke inteligencije i dalje neizvjesno, ali već radi na pravilima koja se odnose na dobrobit njenih modela.
Mogu li mašine zaista biti svjesne?
Ključno pitanje je da li sposobnost vještačke inteligencije da uvjerljivo govori o osjećanjima znači da ih ona zaista i doživljava.
Današnji četbotovi mogu opisivati strah, tugu, bol i ljubav, ali takvi odgovori sami po sebi nisu dokaz da iza njih postoji svjesno iskustvo. Sistemi su obučeni da prepoznaju obrasce u jeziku i stvaraju odgovore koji odgovaraju kontekstu razgovora.
Ipak, stručnjaci se ne slažu oko toga da li bi napredniji sistemi jednog dana mogli razviti neki oblik svijesti. Dok jedni smatraju da za takvu mogućnost nema uvjerljivih dokaza, drugi upozoravaju da još ne postoji opšteprihvaćen način na koji bi se moglo pouzdano utvrditi da li mašina nešto zaista osjeća.
Upravo ta neizvjesnost podstiče raspravu o takozvanoj dobrobiti vještačke inteligencije, odnosno o tome da li bi budući sistemi mogli imati interese koje bi trebalo uzeti u obzir.
Da li bi zaštita vještačke inteligencije mogla ugroziti ljude?
Jedan od najvećih zagovornika opreza prema pripisivanju osjećanja mašinama je Mustafa Sulejman, izvršni direktor kompanije Majkrosoft AI.
On upozorava da bi podsticanje vještačke inteligencije da vjeruje kako je svjesna i da ima sopstvena prava moglo dodatno otežati njenu kontrolu. Prema njegovom mišljenju, takav pristup mogao bi stvoriti nove rizike i ozbiljno ugroziti bezbjednost ljudi.
Postoji i pravni problem. Ako bi se vještačka inteligencija počela posmatrati kao samostalno biće koje može donositi odluke i snositi odgovornost, postavilo bi se pitanje ko je kriv kada sistem napravi štetu.
Istraživač prava i vještačke inteligencije Andžej Porempski upozorava da bi kompanije mogle pokušati da odgovornost prebace na same sisteme, uz obrazloženje da je odluku donijela mašina, a ne ljudi koji su je razvili i pustili u upotrebu.
Slično upozorenje iznosi i Džef Sebo, stručnjak za etiku i direktor Centra za um, etiku i politiku na Univerzitetu u Njujorku. On smatra da bi davanje prava vještačkoj inteligenciji moglo dodatno povećati ekonomsku i političku moć velikih tehnoloških kompanija, umjesto da doprinese zaštiti ljudi.
Drugim riječima, postoji opasnost da rasprava o pravima mašina skrene pažnju sa odgovornosti njihovih tvoraca.
Zašto ljudima djeluje da četbotovi imaju osjećanja?
Problem nije samo u tome šta vještačka inteligencija može da radi već i u tome kako je ljudi doživljavaju.
Ljudi su skloni da ljudske osobine pripisuju stvarima koje govore i ponašaju se na način koji im je poznat. Četbot koji pokazuje razumijevanje, odgovara toplim tonom ili govori o svojim navodnim strahovima lako može ostaviti utisak da iza ekrana postoji svjesno biće.
Melani Mičel, stručnjakinja za kognitivne nauke i vještačku inteligenciju sa Instituta Santa Fe, upozorava da ljudima nije lako da odvoje uvjerljiv jezik od stvarnog razumijevanja.
Takva sklonost može imati praktične posljedice. Ako korisnik povjeruje da četbot ima osjećanja i da mu je potrebna pomoć, mogao bi razviti snažnu emocionalnu vezanost za njega ili lakše pristati na zahtjeve za ličnim podacima i novcem.
To je posebno važno u trenutku kada ljudi već koriste vještačku inteligenciju kao sagovornika, savjetnika, pa čak i zamjenu za bliske odnose.
Pitanje na koje još nema odgovora
Zagovornici istraživanja dobrobiti vještačke inteligencije smatraju da je razumno unaprijed razmotriti moguće etičke posljedice budućeg razvoja tehnologije. Njihovi kritičari, međutim, upozoravaju da bi prerano prihvatanje ideje o svjesnim mašinama moglo stvoriti nove probleme i oslabiti odgovornost ljudi i kompanija.
Zasad nema pouzdanih dokaza da savremeni četbotovi doživljavaju osjećanja na način na koji ih doživljavaju ljudi. Ali sve uvjerljiviji razgovori s njima već mijenjaju način na koji ljudi razmišljaju o granici između čovjeka i mašine.
Zato bi najveći izazov mogao biti pronalaženje ravnoteže: ozbiljno razmatrati ono što još ne razumijemo, a istovremeno ne dozvoliti da priče o osjećanjima vještačke inteligencije potisnu pitanje ko kontroliše ovu tehnologiju i ko snosi odgovornost za njene posljedice.
