ChatGPT kot zdravnik? 'Zaenkrat je to zelo nevarno'

Od pojava interneta, predvsem pa spletnih brskalnikov, se v primeru slabega počutja namesto na zdravnika po nasvet (lahko) najprej obrnemo na modrosti, ki jih nudi Google. A brskalnike bi lahko kaj kmalu prehiteli klepetalni roboti, ki odgovore uporabnikom nudijo s pomočjo umetne inteligence. Med takimi orodji je tudi ChatGPT.

A dlje časa kot je orodje v uporabi, več pomislekov vzbuja tako pri strokovnjakih kot uporabnikih. Če smo na primer včasih preveč optimistično menili, da bi lahko  umetna inteligenca rešila svet, je zaenkrat ta scenarij še zelo daleč. Prav tako je še zelo daleč verjetnost, da bi se namesto na zdravnika po nasvet lahko obrnili k robotu.

Odgovori na vprašanja, ki jih umetna inteligenca podaja, namreč niso vedno točni, opozarjajo znanstveniki s Harvarda. "Vedno moramo imeti v mislih, da orodja niso popolna. Pri odgovorih bodite posebej previdni," so zapisali v nedavno objavljeni raziskavi. 

Z njo so ugotavljali, kako zanesljiva so orodja pri reševanju zdravstvenih težav, pa tudi prepoznavanju različnih bolezenskih stanj. Rezultate so celo označili za zaskrbljujoče, saj si je klepetalnik odgovore na nekatera vprašanja izmislil. "Tako početje je zato zelo nevarno, nujno se glede svojega stanja posvetujte z zdravnikom."

Ko je umetna inteligenca poskušala rešiti diagnoze rak dojke, prostate in pljuč, je sicer začela s pravilnimi odgovori, nato pa ji je 'domišljija' nekoliko pobegnila. Druga polovica odgovorov je bila netočna, celo izmišljena, raziskavo povzema Zimo.

Več kot tretjina odgovorov orodja ni bila v skladu z zdravniškimi priporočili, več kot 10 odstotkov teh odgovorov pa je bilo t. i. halucinacij. Med odgovori so bili tudi nasveti, ki nimajo nikakršne zveze z zdravljenjem malignih tumorjev.

Napačna dejstva so sestavljena smiselno – zelo nevarno

Posebno nevarnost pa ChatGPT predstavlja zato, ker odgovore kljub napačnim informacijam sestavi tako smiselno, da jim brez težav verjamemo, je izpostavila soavtorica raziskave Danielle Bitterman. "Lahko predstavlja veliko nevarnost," je pristavila. 

Zdaj je na strani bolnikov in ustvarjalcev te programske opreme, da k njeni uporabi in ustvarjanju pristopijo odgovorno. OpenAI je že prej opozoril, da je ChatGPT nagnjen k napakam. Kmalu po lansiranju ChatGPT 4 so na svojem blogu pojasnili, da ta klepetalni robot z umetno inteligenco ni popolnoma zanesljiv in si lahko izmišljuje dejstva ter se pri razlagi tudi zmoti.