'Kar smo zamudili pri podnebni krizi, si pri UI ne moremo privoščiti'

Svet mora tveganja, ki jih prinaša razvoj umetne inteligence, jemati enako resno kot tveganja, ki jih s seboj prinaša podnebna kriza, opozarja Demis Hassabis v pogovoru za britanski Guardian. Še več, prepričan je, da ni več časa za odlašanje z oblikovanjem posebnega medvladnega posvetovalnega telesa, ki bi se – po vzoru Medvladnega foruma za podnebne spremembe (IPCC) – ukvarjal tako z vprašanji razvoja umetne inteligence kot tudi z vprašanji nevarnosti, ki jo ta prinaša naši družbi.

Hassabis je eden največjih strokovnjakov s področja razvoja umetne inteligence. Čeprav priznava, da umetna inteligenca s svojim razvojem prinaša ogromno prednosti, pa hkrati opozarja, da mora svet čim prej nasloviti tudi nevarnosti, kot je izkoriščanje umetne inteligence za razvoj bioorožij, in pa nevarnosti, ki jih s seboj prinašajo superinteligentni sistemi. "Tveganje, ki ga prinaša umetna inteligenca, moramo jemati enako resno kot druge globalne izzive, med njimi tudi podnebne spremembe," je jasen Hassabis, ki opozarja, da je mednarodna skupnost preveč časa porabila za učinkovit odziv na podnebne spremembe, zaradi česar so njihove posledice sedaj toliko bolj katastrofalne. "Tega si pri umetni inteligenci ne moremo privoščiti," opozarja.

Hassabis oziroma njegova ekipa stojijo za razvojem revolucionarnega programa AlphaFold, ki prikazuje proteinske strukture. Je velik navdušenec nad umetno inteligenco, saj je prepričan, da je "ena najpomembnejših in najkoristnejših tehnologij, kar jih je bilo kdaj izumljenih". Vendar le, če bomo uspeli vzpostaviti sistem nadzora, dodaja. Hassabis je za Guardian dejal, da bi umetna inteligenca lahko prinesla "neverjetne priložnosti" na področjih, kot sta medicina in znanost, vendar je priznal, da ima pomisleke glede razvoja tehnologije, in sicer do stopnje razvoja splošne umetne inteligence (AGI), ko govorimo o sistemih s človeško ali nadčloveško stopnjo inteligence, ki bi se lahko izognili človeškemu nadzoru. 

Za začetek predlaga forum po vzoru IPCC, temu pa bi lahko sledil razvoj mednarodnega Centra za varnost umetne inteligence, nad katerim bi bdel organ, kot je Mednarodna agencija za jedrsko energijo (IAEA) za nadzor nad jedrsko tehnologijo in spodbujanje njene varne uporabe. 

Hassabis je eden od podpisnikov odprtega pisma, v katerem strokovnjaki opozarjajo, da je treba grožnjo izumrtja zaradi umetne inteligence obravnavati kot tveganje za celotno svetovno populacijo, enako kot tveganje, ki ga nosita pandemija ali jedrska vojna. "Podpisal sem pismo, saj se strinjam, da je potrebna takojšnja razprava. Nekateri poznavalci te visokotehnološke industrije so zaskrbljeni, da je obstoj splošne UI ali 'bogu podobne' umetne inteligence le še vprašanje časa. Seveda obstaja tudi mnenje, da so strahovi glede eksistencialne grožnje pretirani," priznava Hassabis, vendar je prepričan, da z razpravami o razvoju, prednostih in nevarnostih že zamujamo.

Hassabis v teh prizadevanjih in predlogih ni osamljen. K podobni ideji sta prejšnji teden pozvala tudi Eric Schmidt, nekdanji izvršni direktor Googla, in Mustafa Suleyman, soustanovitelj DeepMinda.