Kako je naučnica bh. porijekla Almira Osmanović eksperimentom obmanula AI Chatbotove

Švedski istraživači sa Univerzitet u Geteborgu sproveli su neobičan eksperiment kako bi testirali pouzdanost AI chatbotova i rezultati su zabrinjavajući.

Tim predvođen Almira Osmanović Thunström osmislio je potpuno izmišljenu medicinsku dijagnozu nazvanu bixonimania, uz lažne naučne radove i autore, kako bi provjerili da li će sistemi vještačke inteligencije prepoznati prevaru.

Međutim, popularni AI alati poput ChatGPT, Google Gemini i Microsoft Copilot nisu prepoznali da je riječ o šali – naprotiv, počeli su davati ozbiljne medicinske savjete o nepostojećem stanju.

Istraživači su dodatno naglasili apsurd eksperimenta ubacujući izmišljene autore poput „Lažljiv Izgubljenović“ i zahvalnice „profesoru Bobu“ te likovima iz naučne fantastike, ali to nije spriječilo AI modele da informacije tretiraju kao vjerodostojne.

„Cilj nije bio ismijavanje AI-ja, već podsjetnik da su ljudi izgubili naviku da budu skeptični prema informacijama koje im se serviraju“, poručila je Osmanović Thunström.

Situacija je dodatno eskalirala kada su se tekstovi o izmišljenoj bolesti pojavili na platformama poput Medium, pa čak i u određenim akademskim bazama, što pokazuje koliko se dezinformacije mogu brzo proširiti.

Eksperiment je na kraju razotkrio Nature, upozoravajući na ozbiljne rizike oslanjanja na AI u oblasti medicine.

Stručnjaci ističu da sve veći broj pacijenata dolazi ljekarima sa „dijagnozama“ koje su dobili putem chatbotova, što dodatno komplikuje rad medicinskog osoblja.

Iz kompanija koje razvijaju AI naglašavaju da njihovi sistemi nisu zamjena za medicinske stručnjake i da se kontinuirano unapređuju kako bi smanjili ovakve greške.

Ovaj eksperiment jasno pokazuje da, uprkos napretku tehnologije, kritičko razmišljanje ostaje ključna zaštita od dezinformacija u digitalnom dobu.