'Duh je ušel iz steklenice'

Marko Grobelnik je raziskovalec na Institutu Jožef Stefan, vodja Odseka za umetno inteligenco, in ima 40 let izkušenj na tem področju. Hkrati je član številnih strokovnih skupin, kjer skušajo razumeti vpliv pojava ChatGPT-ja, ki ga je konec novembra lani človeštvu predstavilo ameriško podjetje OpenAI. "Vsi raziskovalci smo presenečeni nad tem, kako dobro deluje ChatGPT," dodaja in pravi, da v resnici te tehnologije ne razumejo povsem dobro. Opozarja, da bodo trg dela, izobraževanje, gospodarstvo in številna druga področja  doživela velike spremembe, na katere (še) nismo pripravljeni. Kljub temu, da vsakodnevno predvsem po Evropi potuje in razpravlja o prihodnosti življenja z umetno inteligenco, je našel čas za pogovor. Kar najbolje je skušal pojasniti, kaj nam tehnologija prinaša. 

Tehnologija je povzročila neverjetno eksplozijo uporabnikov. Od začetka decembra do danes se ves svet zaveda, da nič več ne bo, kot je bilo. Kako jim je uspelo narediti tako razliko v primerjavi z ostalimi tehnološkimi giganti?

Predvsem so bili pogumni. Ne vem, koliko neuspehov so imeli pred tem. Nekaj ljudi tam poznam in vem, da so OpenAI ustanovili, da bi delali na prebojnih tehnologijah umetne inteligence. Po nekaj letih dela so prišli z rešitvijo GPT tehnologije in imeli so močan vir financiranja. Bili so majhni. Če pogledamo Google ali Meto, opazimo, da imajo v teh podjetjih bistveno večje ekipe, ampak so tam ljudje razporejeni po množici manjših projektov in nimajo prave osredotočenosti. Pri Googlovem projektu X jih umetna inteligenca ne zanima več, so šli že naprej. Moramo vedeti, da tehnologijo generativnih prednaučenih transformerjev (GPT) oziroma generativne umetne inteligence poznamo že 20 let. 

Toda zdi se, da je vendarle to velik zgodovinski trenutek, da je tehnologija umetne inteligence doživela nek kakovostni preskok.
Da, po eni strani res. Prej smo uporabljali tehnologijo umetne inteligence s kratico LSTM (vrsta umetnega nevronskega omrežja, ki se uporablja na področjih umetne inteligence in globokega učenja), zdaj pa se zdi, da je ta tehnologija pozabljena, pa čeprav je le dve leti od tega, odkar je v širši uporabi.

Razvoj ChatGPT-ja bo izbrisal številne startupe

V katere smeri bo šel razvoj? Bomo priča povsem novi vrsti aplikacij, novih znanj, novih tehnoloških rešitev?

Tukaj sta dva vidika. Prvi je poslovni. Zdaj že opažamo, da je v teh nekaj mesecih od izida prve različice ChatGPT, torej v teh štirih mesecih, vzniknila množica novih podjetij, katerih poslovanje temelji na ChatGPT-ju. To so zagonska podjetja, ki skušajo doseči hitre zmage z rešitvami, ki so očitno koristne, jih spraviti v produkt in ga čim prej prodati. Hkrati pa sta Microsoft in Google najavila, da bosta orodje ChatGPT vgradila v svoje Office izdelke, kar bo pomenilo, da bo večina teh podjetij, ki so zdaj nastala, izbrisanih. V glavnem ta podjetja zdaj skušajo reševati izzive, ki jih bomo zelo preprosto lahko kmalu rešili v Wordu, Powerpointu ali Excelu. Eden takih primerov je tudi sumarizacija ali povzetek besedil, ali pa zapiski s sestankov in e-pošte. To bo zdaj integrirano v Outlooku in ne bo nobenega razloga, zakaj bi morali dodatno plačevati neki drugi aplikaciji ali servisu.

Zanimivo pri Microsoftu, največjem delničarju OpenAI, niso izbrali pristopa, kjer bi prodajali ChatGPT ločeno, ampak so ga premeteno vključili v njihov najbolj poznan izdelek Office, s čimer so močno dvignili vrednost in dodaten način ustvarjanja zaslužka?

Tako je. Oni imajo v ozadju vse potrebne računalniške kapacitete, da bo zadeva delovala. Tudi investitorji, s katerimi sem govoril, se umikajo iz segmenta tako imenovanih pripomočkov za izboljšanje produktivnosti, ker bo celoten segment pokril Microsoft.

Zanimivo je tudi, da pri OpenAI, kjer njihovo ime namiguje na neko odprtokodno družbo, ki naj bi delila podatke z javnostjo, te skrivajo. Posebej po predstavitvi najzmogljivejšega modela GPT-4 so zelo skrivnostni. Tudi rezultatov testiranja niso objavili in hkrati priznali, da še ne razumejo povsem vseh zmogljivosti tega modela. Zakaj so tako srkivnostni?

Najprej je treba razumeti, da je to prvič v zgodovini, da smo raziskovalci uspeli ustvariti nekaj, pri čemer ne razumemo, zakaj tako dobro dela. S tem se strinjajo vsi znanstveniki, ki jih poznam, med drugim tudi direktor Googlovega oddelka za razvoj umetne inteligence. Rekel je, da je enostavno presenečen. Vsi smo presenečeni. Vemo, da dobro dela. Če mu daš še več podatkov, še bolje dela. V tem trenutku pa preprosto nimamo razvitih intuicij, zakaj tako dobro dela.

Ko je neka tehnologija 'pisana na kožo' avtokratskim režimom

V spremljevalni študiji modela GPT-4 so ugotovili, da model izjemno dobro služi avtokratskim režimom. V študiji je še nekaj takšnih opozoril, ki so močno vznemirila strokovno javnost. Ste tudi vi med zaskrbljenimi?

To velja za vsa orodja, kjer se zgodijo takšni tehnološki preboji. Ni nujno, da to velja samo za ChatGPT. Tehnološka inovacija ti ponudi dodatno sposobnost, neko moč. Umetna inteligenca pa je izrazito nagnjena k temu. Če torej nekaj ustvariš dovolj zgodaj in to obvladuješ, ustvariš nekaj, česar drugi ne morejo. Kot avtokrat lahko iz centra obvladuješ veliko več, kot si lahko prej. Tudi pred pojavom interneta je bilo podobno. Ni pa treba, da so to samo avtokrati. 

Lahko to pojasnite?

Pred dnevi sem s ChatGPT v eni minuti ustvaril povsem verodostojno zaroto, kjer sem vstavil določena imena, opisal profile teh ljudi in ukazal, da mi spiše neko smiselno zaroto, ki naj bi jo povzročili ti ljudje. To je tudi ustvaril. Potem sem mu pa ukazal, naj ustvari 10 medijskih objav iz te zgodbe, ki jih bom objavil na različnih kanalih. V nekaj minutah sem imel ustvarjeno kampanjo, ki je zelo verodostojno očrnila ugled vpletenih ljudi. Na drugi strani pa je za te ljudi bistveno težje, da se ubranijo teh namigovanj, vmes pa jaz lahko ustvarjam nove izmišljene zgodbe. Ta asimetrija mojega stroška nekoga očrniti in na drugi strani ogromnega stroška nekoga, da se očisti, je nenormalna. 

Ali bo ta tehnologija politično razklanost, ki je vse večja, še pospešila?

Ocenjujem, da se bo s temi orodji politična razklanost še povečala. Ni prave obrambe proti takim napadom, kot sem ga prej omenil. Zdaj si lahko izmislim eno umazano zgodbo o nekem politiku, jo podprem s Twitter boti in preplavim internet s to informacijo. Pred leti so neki Makedonci generirali te lažne novice, vse ročno. Danes imajo ti ljudje neprimerljivo lažji posel. Rusi ali Kitajci so zelo močni v tem, da s ciljnimi napadi ustvarjajo še večjo razklanost družbe. Vidimo stanje družbe in vemo, kje so šibke točke, s pritiskanjem na prave gumbe pa v družbo vnašaš dodatne razpoke. Ko je enkrat razpok dovolj, družba začne razpadati. 

Kako bo vplivalo na trg dela? Ne vemo (še).

Kaj se bo zgodilo s trgom dela?

Doba ChatGPT-ja traja šele štiri mesece. Sam sem čisto slučajno član delovnih skupin v OECD, Natu, Svetu Evrope, pomagam pri Evropski komisiji, UNESCU in trenutno je v vseh teh združenjih to debata številka ena. Torej, kakšne posledice bo imela ta tehnologija. Na kratko, izgubljeni so, z OECD-jem na čelu. Tehnologija, kot je ChatGPT, zareže v družbo na tak način, da je zelo težko predvideti posledice. Učitelji bodo imeli težave, umetniki, pravniki in tako naprej. To je prvi korak. Kaj bo to pomenilo za naslednje korake, pa ni jasno.

Kaj to pomeni?

Počasi bomo morali začeti razmišljati o novi družbeni pogodbi. Tako kot smo bili sedaj vajeni delati, ne bo šlo več. Términ, ki se uporablja na vseh teh panelih, je "reskilling". Da smo pripravljeni preizobraziti ljudi za nekaj drugega, kot so bili izobraženi prvotno. Zato, da ne postanejo socialni problem. In to postaja čedalje večja industrija z namenom reševanja tovrstnih udarcev. 

Pri OpenAI so v študiji potrdili, da je trenutno že več kot petina vseh delovnih mest vsaj polovično izpostavljena novi tehnologiji. Ali pravilno sklepamo, da bodo ta delovna mesta kmalu izginila?

Res da simulira inteligenco, čisto zares je nima. Ampak jo simulira dovolj dobro, da so ljudje rekli, to je pa zdaj dovolj dobro, to bomo uporabljali, bodisi za pisanje člankov, spisov, poslovnih načrtov in še marsičesa drugega.

Ko ste ravno omenili spremembo paradigme oziroma ekonomskega modela, kapitalizma. Midva se težko pogovarjava o takih stvareh, ker nihče od naju ni ekonomist.

Nisem prepričan, da ekonomisti v tem trenutku poznajo pravi odgovor. Na panelu v Bruslju smo z Evropsko komisijo razpravljali točno o tem. Komisija pripravlja pravilnik o umetni inteligenci, tako imenovan AI Act, kjer ima Slovenija kar pomemben vpliv pri snovanju tega dokumenta. Upam, da bo vseboval tudi te vidike, čeprav so ta trenutek vsi izgubljeni. Zadnja tri leta je v pripravi in je počasi napredoval, s pojavom ChatGPT-ja pa je naenkrat več vprašanj kot odgovorov. Do sedaj smo lahko regulirali aplikacije, a se je pojavila generativna umetna inteligenca, ki trenutni koncept v marsičem spreminja. 

Kako je mogoče, da se je to zgodilo tako hitro, od izida prvega modela ChatGPT niso minili še niti štirje meseci?

Že avgusta sem preizkušal Googlov model LaMDA, le da so tukaj izbrali nekoliko bolj konservativen pristop in pred uradno predstavitvijo še čakajo, da bo sistem brezhibno deloval. Medtem ko je bilo ljudem iz OpenAI vseeno, ali bo sistem dobro deloval ali ne. Hoteli so biti prvi, kar jim je uspelo. Ponudili so ga zastonj, deloval je dovolj dobro z zelo preprostim vmesnikom. Rezultati, ki jih tukaj dobivamo, so za razred boljši od tega, česar smo bili prej vajeni na spletnih iskalnikih, pri čemer prevladuje Google. Od tega iskanja marsikaj dobimo, a nas napotí na druge spletne strani, medtem ko nam ChatGPT ponudi informacije na enem mestu. Zna povzemati, sestavljati in je veliko bolj človeški. In je zadosti dober, da so ljudje rekli, da ga bodo uporabili za pisanje člankov, spisov, esejev, poslovnih načrtov in podobno. 

Je po vašem univerzalni temeljni dohodek dobra rešitev?

Zdaj je videti, da je to neka začasna rešitev, ki pa je le toliko dobra, da bo zagotovila preživetje. Da bi ostali kreativni in da bi delali presežke, pa UTD ne bo dovolj. Menim, da bo ljudi prej polenil. Rešil bo to, da ljudje ne bodo umirali od lakote.  

Izobraževalni sistem potrebuje temeljito prenovo

Če se navežem na vaš odgovor, tudi Harrari je v svoji zadnji knjigi opisal ta problem, kjer trdi, da se bomo novih veščin v svetu umetne inteligence morali naučiti v treh tednih, če bomo želeli ostati zanimivi na trgu dela. Ob tem se zdi, da bi morali popolnoma spremeniti naše dojemanje sveta ali da bi morali zamenjati celotno človeštvo?

Ne bi rekel celotno človeštvo, prej po segmentih. Na primer: Na neki točki se bo zgodilo, da bodo prišli avtonomni avtomobili. To se bo zgodilo v naslednjih petih do desetih letih. Še pred avtomobili bodo avtonomni tovornjaki. In naenkrat bomo imeli ogromno vojsko voznikov tovornjakov, ki bo čez noč ostali brez zaposlitve. Že danes moramo razmišljati, kako jih bomo preizobrazili, čeprav dvomim, da se bodo samoiniciativno pripravljeni naučiti novih veščin. Tukaj stavke ne bodo pomagale, enostavno bo imeti človeka za volanom dražje in bolj nevarno. Za zdaj se nihče ne pogovarja o tem, ker je zelo občutljiva tema, pa čeprav vemo, da se bo to zgodilo. 

Na zaključnih univerzitetnih testih, ki jih uporabljajo v ZDA, jih je večino opravil z odliko oziroma tako dobro kot najboljših 10 odstotkov študentov. Kaj bo z izobraževalnim sistemom?

Ne mine dan, da ne bi imel debate na to temo. Duh je ušel iz steklenice. Moj nasvet pa je sledeč. Nazaj v čas pred ChatGPT-jem se ne moremo več vrniti. Najprej bo treba prilagoditi preverjanja znanj na način, da si dijaki, študenti ne bodo mogli pomagati s takim orodjem. Prilagoditi pa bo treba tudi učni proces, učne načrte. Razviti bo treba kritično razmišljanje, ker bo GPT delal napake. Že naprej vemo, da mu včasih zmanjka in takrat začne halucinirati, čeprav besedilo deluje prepričljivo. Po drugi strani pa bo tudi dober pomočnik pri učenju. 

Kako bi morali v teh časih usmeriti otroke? Eden izmed nasvetov, ki ga te dni pogosto slišimo, je, naj za vsako ceno razvijajo kritično razmišljanje, predvsem pri matematiki. Torej, da razumejo globlji pomen računskih operacij, ozadje in smisel enačb. Je to po vašem mnenju ena od poti, ki bo zagotovila prihajajočim generacijam neko prožnost na trgu dela?

Bi se strinjal. Na matematiko moramo gledati kot na mehanizem, ki nauči človeka razmišljati na strukturiran način. To je glavni razlog. Če se učimo integrale, odvode, logiko in tako naprej, vemo, da večina ljudi tega po končanem šolanju ne uporablja več. Ampak matematični koncepti pa nas pripeljejo do tega, da znamo strukturirano razmišljati. A dodati moram, da se bodo tudi učitelji matematike morali prilagoditi, ker je poučevanje matematike postalo preveč učenje nekih receptov in premalo intuicije. Ne bom rekel, da je matematična pedagogika zavožena, a je bistveno slabša, kot bi zdaj morala biti. Tak spremenjen pristop moramo vključevati tudi v ostale veje, fiziko, kemijo, biologijo. Enako velja tudi za družboslovne vede.

Ampak zdaj se zdi, da bi morali učne načrte spremeniti ali prilagoditi že včeraj?

Tako je. Naj dodam, da tisti, ki ostanejo na univerzi, so izrazito slabo plačani, slabe plače pa preženejo sposobne kadre in to je pri nas, še posebej na tehničnih fakultetah, zelo izrazito. Ni še katastrofa, je pa stanje slabo. Ker enostavno tisti profesorji, za katere bi si želeli, da ostanejo, hitro gredo drugam. 

Tehnološka (r)evolucija

Max Tegmark, eden najbolj spoštovanih umov na področju raziskovanja umetne inteligence, je ob izidu GPT-4 dejal, da nas mora skrbeti dejstvo, da zaradi svoje programske sposobnosti lahko ta tehnologija ustvari superinteligentni računalnik. Zakaj to skrbi tako eminentnega znanstvenika?

Zaskrbljujoče je to, da takoj ko nek stroj zares dobro dela, mi naenkrat nehamo to stvar početi. Recimo, če dobimo dovolj dober avto, ki dobro avtonomno vozi, bo znanje vožnje pri človeku hitro usahnilo. ChatGPT že najavlja nekaj tega. Čez pol leta lahko pričakujemo polno dodatnih vtičnikov, ki bodo povzročili, da bo tehnologija na nekam področju popolna. Denimo vmesnik Wolphram Alfa pri matematiki. Tukaj je strah, da nas bo zadeva prisilila v neaktivnost, da se nam denimo ne bo dalo več računati. 

ChatGPT dobiva vzporednice z rojstvom prvega spletnega brskalnika Mosaic, ki je internet približal množicam in spremenil način, po katerem je do tistega trenutka delovalo človeštvo. Ste v svoji karieri že doživeli takšno prebojno tehnologijo, kot jo je svetu predstavilo podjetje OpenAI?

V vsej svoji karieri od osemdesetih let naprej menim, da je največji preboj pojav spleta. Takrat smo ljudje začeli drugače dostopati do informacij. Na Insitutu Jožef Stefan denimo smo morali nekje naročiti strokovni članek, takrat smo plačevali 200 mark in potem nekaj tednov čakali, pri čemer nismo vedeli, ali nam bo nekaj deset strani besedila sploh koristilo. Danes to zastonj naredimo v nekaj sekundah. Vmes je bilo še nekaj prebojnih tehnologij, tudi algoritem, ki so ga začeli uporabljati po 11. septembru 2001. Takrat je področje strojnega učenja in podatkovnega rudarjenja dobilo velik pospešek. Poleg programske opreme se je v teh letih hitro razvijala tudi strojna oprema. Danes je vsak telefon zmogljivejši kot najzmogljivejši računalnik v devetdesetih letih. 

Kako inteligentna je tehnologija ChatGPT?

Če izhajamo iz tega, kako Chat GPT deluje, moramo vedeti, da ne razume besedila, ne razume, kako so pomeni povezani, strukturirani, ampak samo plitko posnema to, kar so ljudje povedali in to zna zelo dobro kombinirati. In to daje vtis, da je zelo inteligenten, v resnici pa zadev ne razume. Tudi zaradi obsega podatkov. Ljudje, če smo intenzivni bralci, lahko morda preberemo nekaj tisoč knjig v življenju, chatGPT pa se je učil iz približno 100 milijard dokumentov in podatkov. Pri tem kopira in lepi besedila, do katerih ima neomejen dostop. Tako ustvari vsebino ali besedila, ki so nam neznana in zato tudi dobimo vtis, da je tehnologija zelo pametna. Microsoftovi inženirji so med testiranjem najzmogljivejšega modela GPT-4 ugotovili, da že kaže znake umetne splošne inteligence, torej značilnosti, ki je izključno v domeni ljudi. 

Smo res že tako daleč?

Za zdaj še ne moremo govoriti o umetni splošni  inteligenci (angl. "Artificial general intelligence"). Zato je potrebno razumevanje sveta, mehanike ali delovanja sveta. Tega ta sistem absolutno še ne zmore.