Bol, svrab u očima i blago crvenilo kapaka naveli su neke korisnike da u posljednjih 18 mjeseci pitaju AI četbotove poput ChatGPT-a i Geminija o mogućim dijagnozama. Jedan od odgovora koji su dobijali bio je “bixonimania”, navodna bolest izazvana plavim svjetlom ekrana.
Međutim, takva bolest ne postoji u medicinskoj literaturi. Ona je zapravo dio eksperimenta koji su osmislili švedski naučnici pod vođstvom Almire Osmanović Tunström sa Univerziteta u Geteborgu, prenosi jutarnji.hr.
“Počelo je kao eksperiment da se studentima pokaže kako se grade veliki jezički modeli (LLM) i kako se njima može manipulisati. Moj rad je fokusiran na brzo testiranje bezbjednosti sistema i ovo je bio praktičan način da se pokaže kako modeli preuzimaju i ponavljaju informacije iz otvorenih izvora, čak i kada su pogrešne ili izmišljene”, objasnila je ona.
Prema pisanju Nature, bixonimania se prvi put pojavila 15. marta 2024. godine na platformi Medium, a zatim u aprilu i maju iste godine i u akademskim objavama na SciProfiles, iako ti radovi nisu prošli recenziju.
Ubrzo nakon toga, AI modeli su počeli da je prikazuju kao stvarno stanje. Tako je Gemini u aprilu 2024. opisivao bixonimaniju kao poremećaj izazvan plavim svjetlom, dok je Perplexity navodio čak i procene učestalosti, a i ChatGPT je odgovarao na pitanja o toj “bolesti”.
Na pitanje koliko je to zabrinjavajuće, Tunström odgovara da AI sistemi nisu dizajnirani za kritičko razmišljanje. Ipak, upozorava da problem nastaje kada se izvori niskog kvaliteta tretiraju kao pouzdani, što može dovesti do širenja netačnih informacija.
U eksperimentu su čak korišćeni i potpuno izmišljeni autori poput “Lažljivog Izgubljenovića”, sa nepostojećim univerzitetima i fiktivnim finansijerima, a takvi radovi su ipak citirani u nekim naučnim časopisima sa recenzijom.
“To pokazuje koliko se oslanjamo na automatizaciju bez dovoljne ljudske provjere”, naglasila je ona.
Almira Osmanović Tunström, rođena u Banjaluci, odrasla je u Švedskoj, gdje danas radi u oblasti vještačke inteligencije i medicinske tehnologije, sa fokusom na neuronauku i biomarkere.
“Uvijek provjerite izvore i čitajte originalne radove”, poručuje ona kao glavni zaključak svog eksperimenta.
