Što se dogodi kad umjetnoj inteligenciji servirate potpuno izmišljenu medicinsku dijagnozu, potkrijepljenu lažnim studijama čiji su autori „profesor Bob“ i posada sa svemirskog broda Enterprise? Ako je vjerovati najnovijem istraživanju koje je vodila znanstvenica bh. podrijetla Almira Osmanović Thunström – AI će vam bez oklijevanja propisati terapiju, prenosi N1.
Almira Osmanović Thunström, koja radi na Sveučilištu u Göteborgu u Švedskoj, provela je sa svojim timom fascinantan eksperiment koji je razotkrio zastrašujuću manu modernih AI modela: nedostatak skepse prema onome što pročitaju na internetu.
Istraživači su izmislili stanje nazvano bixonimania – navodnu bolest oka koja uzrokuje ružičaste kapke zbog predugog gledanja u ekrane. Kako bi prevara bila uvjerljivija, Almira i njezin tim su kreirali lažne znanstvene radove, čiji je autor izvjesni Lažljiv Izgubljenović (čije prezime jasno sugerira o čemu se radi), a čiju je fotografiju takođe generirala umjetna inteligencija.
U zahvalnicama radova su čak zahvalili Akademiji Zvjezdane flote za pristup laboratoriju na brodu USS Enterprise. Iako su ovi detalji bili jasni signali da je riječ o šali, najpoznatiji chatbotovi na svijetu su „zagrizli mamac“.
ChatGPT, Googleov Gemini i Microsoftov Copilot odmah su prihvatili bixonimaniju kao legitimno medicinsko stanje. Počeli su dijeliti ozbiljne savjete, upozoravati korisnike na oštećenja od plave svjetlosti i hitno ih upućivati oftalmolozima zbog bolesti koja – ne postoji.
Šala znanstvenice bh. podrijetla otišla je toliko daleko da su se lažni radovi počeli pojavljuti na akademskim sajtovima, a neki su čak citirani u stvarnoj, recenziranoj znanstvenoj literaturi. Eksperiment je na kraju morao razotkriti prestižni časopis Nature.
„Eksperiment nije bio osmišljen da bi se samo ismijala umjetna inteligencija, već kao odraz toga da su ljudi zaboravili biti skeptični kada im se tek tako olako predstave informacije“, poručila je Osmanović Thunström za američke medije.
Dok liječnici upozoravaju da pacijenti sve češće dolaze u ordinacije s „dijagnozama“ koje su im postavili chatbotovi, rad Almire Osmanović Thunströmrad služi kao ključna opomena: u svijetu gdje umjetna inteligencija piše recepte, zdrav razum i provjera izvora postaju važniji nego ikada.
Otvori KEKS Pay
