Umetna superinteligenca: grožnja za naš obstoj

Še pred nekaj leti je umetna inteligenca delovala povsem benigno; orodje, ki zna samo določiti, ali je na sliki mačka ali pes, zelo verjetno ne bo prišlo na idejo o uničenju človeštva, kaj šele, da bi jo znalo uresničiti. Danes je slika že povsem drugačna. Vsi smo že bili priča naraščajoči sposobnosti jezikovnih in kreativnih AI orodij, ki na številnih področjih že prekašajo povprečnega človeka. Glavna skrb skeptikov je razvoj umetne splošne inteligence (AGI), ki bi dosegla in presegla celo sposobnosti najpametnejših izmed nas. Takšne vrste model bi se razvijal sam od sebe in na neki točki lahko postal neobvladljiv.

Umetna inteligenca je zasnovana zato, da efektivno izpolni delovne naloge. Glavna skrb poznavalcev je, da bi si umetna splošna inteligenca na neki točki sama zadala cilj, pri doseganju katerega bi človeštvo zaznala kot grožnjo. Logična efektivna rešitev takšnega modela bi bila naša eliminacija. Ker se ljudje ves čas trudimo omejiti umetno inteligenco z varnostnimi mehanizmi in etičnimi standardi, si ni težko predstavljati, da bi nas napredna umetna splošna inteligenca kaj hitro prepoznala kot grožnjo za lastni razvoj. Čeprav se danes sliši še kot znanstvena fantastika, so številni ugledni znanstveniki, tudi Stephen Hawking, prepričani, da bi nekega dne tak scenarij lahko postal resnična grožnja.

Ogromen potencial

V medijih v glavnem poslušamo o nevarnostih razvoja umetne inteligence, zaradi česar pogosto spregledamo njen velikanski potencial za izboljšanje naše dobrobiti. Napreden AI ali AGI bi lahko pomagal rešiti nekatera pereča vprašanja človeštva, na katera sami ne znamo najti odgovora. Izboljšanje industrije, zdravstva, transporta in rešitev problematike onesnaževanja so le nekatere od perečih tematik, ki bi jih lahko veliko lažje rešili s pomočjo naprednih "digitalnih možganov". Optimisti se ne bojijo niti družbenih pretresov, povezanih z eliminacijo številnih delovnih mest zaradi razvoja UI; nasprotno, verjamejo, da se bomo s pomočjo tehnologije lahko rešili dolgočasnih, nevarnih in nezaželenih delovnih nalog. To bi razbremenilo ljudi do te mere, da bi se lahko osredotočili na bolj ustvarjalna in izpolnjujoča dela. Po napornem prehodu skozi novo tehnološko revolucijo nas kot človeštvo torej po mnenju optimistov čaka velika blaginja.

Nadzor in dostopnost

Že aktualna AI orodja so močno cenzurirana; implementirani so mnogi mehanizmi, ki preprečujejo produciranje vsebine, ki bi lahko bila dojeta kot škodljiva ali nestrpna.

Največji jezikovni modeli so šli z varnostjo tako daleč, da se mnogi sprašujejo o smiselnosti strogih pravil in omejitev odzivanja. Ljudje imamo pač radi kontroverzno, direktno in opredeljeno vsebino, generični odzivi, polni politične korektnosti, pa zaradi tega številnim gredo v nos. Ena glavnih skrbi torej postaja, da bodo omejitve, vgrajene v prosto dostopne umetnointeligenčne modele, s časom postajale vse bolj rigidne, odzivi pa vedno bolj generični.

To ni zaskrbljujoče zaradi same vsebine omejitev – večina se strinja, da je treba jezikovne modele omejiti in preprečiti generiranje škodljivih vsebin. Večjo skrb predstavlja dejstvo, da bodo prosto dostopni modeli vse bolj omejeni, redki izbranci pa bodo imeli dostop do necenzuriranih AI orodij, ki bodo sicer res znala producirati tudi škodljive vsebine, a bodo hkrati zaradi odsotnosti omejitev neprimerljivo boljša in bolj kreativna. To bi lahko bil začetek segregacije dostopnosti orodij umetne inteligence; peščica vplivnih posameznikov ali podjetij bo imela privilegiran dostop, ostali pa ne, kar bi lahko povečalo neenakosti v svetu. Še večjo skrb predstavlja ideja, da bodo naprednejši modeli umetne inteligence postali dostopni le eliti, mi kot širša družba pa bomo za vedno omejeni na GPT 4 in podobno zmogljiva orodja, ki so sicer uporabna, redko pa lahko popolnoma nadomestijo človeka.

Verjetnost popolne prepovedi

Popolna prepoved umetne inteligence je zelo malo verjetna; potencial te tehnologije je preprosto prevelik, da bi bili pripravljeni izgubiti to priložnost. To pa ne pomeni, da nas ne čakajo veliki izzivi; pristopi, kot so odgovorno upravljanje z razvojem, postavljanje smiselnih omejitev in skrb za to, da tehnologija ostane dostopna vsem, bi lahko zagotovili, da bo umetna inteligenca blagoslov, ne prekletstvo za prihodnost človeštva.