Javno zdravje v rokah umetne inteligence: napake in neenakosti?

V preteklih mesecih se je umetna inteligenca izkazala za uporabno, tudi ko pride do reševanja zdravstvenih težav. V nedavni študiji se je namreč klepetalni robot ChatGPT na zdravstvenih forumih pri ponujanju odgovorov pokazal za nekoliko bolj natančnega od zdravnikov – ne glede na to, ali je šlo za tolažbo ali postavljanje diagnoz oz. nudenje natančnih zdravstvenih informacij.

Umetna inteligenca se je tako izkazala za (po mnenju nekaterih) revolucionarno pridobitev na še enem področju. A pozor, zdravniki in strokovnjaki javnega zdravja menijo, da bi bilo treba razvoj programske opreme nekoliko zaustaviti. Vsaj dokler na državnih ravneh ne sprejmejo zakonodaje, ki bi regulirala njeno delovanje, povzema britanski Guardian.

Napačne diagnoze, varnost osebnih podatkov, poglabljanje neenakosti ...

Razvoj same umetne inteligence bi namreč lahko predstavljal zdravstveni riziko za več milijonov oseb, ob tem izpostavljajo strokovnjaki iz Velike Britanije, ZDA, Avstralije, Kostarike in Malezije. 

"Riziko so na primer napačne diagnoze UI, ki bi lahko pacientom povzročile veliko škodo. Poleg tega težavo predstavljajo tudi dileme glede varovanja osebnih podatkov in varnost programskih sistemov, prav tako bi lahko UI poglobila družbene in zdravstvene neenakosti," opozarjajo v zapisu, ki je bil objavljen v znanstveni reviji BMJ Global Health. 

Podali so tudi primer, v katerem so opisali pomisleke ob uporabi pulznega oksimetra, ki deluje s pomočjo UI. Ta je namreč pri temnopoltih uporabnikih zaznal zadostno količino kisika v krvi, čeprav je bila ta prenizka. Če meritev ne bi preverili tudi zdravniki, bi hipoksija pri teh osebah ostala nezdravljena. 

A UI bi po njihovih strokovnih ocenah lahko zdravju škodovala tudi posredno, skozi druga področja. Med temi bi lahko programska oprema zdravju škodovala tudi s pomočjo podatkov, ki bi jih pridobila o delovanju družbe. Te bi morebiti lahko uporabila za nadzorovanje in manipulacijo večje skupine ljudi, vplivala na psihološko počutje. 

"Informacijski sistemi, ki jih poganja UI, lahko z napakami in zmanjšanjem zaupanja dodatno spodkopljejo demokracijo ter povečajo število konfliktov, tudi to bi vplivalo na javno zdravje," trdijo zdravniki. 

Široka uporaba UI bi lahko povečala brezposelnost, kar bi prav tako vplivalo na družbeno klimo. "Čeprav bi pametna programska oprema dobrodošlo zmanjšala količino ponavljajočega dela, ki je obenem še nevarno, neprijetno ali dolgočasno, že sedaj vemo, da bo s tem povezana velika stopnja brezposelnosti, ta pa z javnim zdravjem in vedenjem."

Kako bi sprejeli svet, kjer ne bi bilo dela?

Zdravniki in raziskovalci ob tem posebej poudarjajo, da niti ne vemo, kako bi človeštvo sprejelo svet, kjer ne bi bilo dela. "Ne vemo, kako bi se odzvali na svet, kjer ne bi bilo dela oz. delo ne bi bilo nujno. Niti ne razmišljamo dovolj o tem, kakšne spremembe politik nas čakajo," so tudi zapisali. Ocenjujejo, da je 'grožnja' umetne inteligence veliko širša, kot menimo.

Ne zavedamo se namreč dovolj, da ustvarjamo programsko opremo, ki bi bila lahko pametnejša in močnejša od nas, človeštvo bi si lahko celo podredila. "Okno, da se vnaprej izognemo morebitni eksistencialni grožnji, se zapira."

Podobne polemike v ločenem zapisu izpostavljajo britanske institucije. V njem trdijo, da lahko prihodnost zdravstva obvarujemo tako, da od tehnoloških podjetij zahtevamo jasne politike glede prepoznavanja škodljivih dezinformacij o zdravju, ki se pojavljajo na njihovih platformah, pa tudi dosledne pristope pri njihovi obravnavi. 

"To bo uporabnikom zagotovilo večjo zaščito pred morebitno škodo ter izboljšalo informacijsko okolje, pa tudi zaupanje v javne institucije."