Ko bo umetna inteligenca rekla, 'žal mi je, nočem se izklopiti'

Jaroslav Hašek v eni izmed svojih kratkih zgodb opisuje, kaj se je zgodilo, ko je mladi nadarjeni novinar prijazno pomagal sosedu, vdovcu, ki se je hotel znova poročiti.

Med ženitnimi oglasi mu je bila najbolj všeč ponudba vdove po klobasičarju. Želel jo je očarati z lepim pismom, pa mu, priložnostnemu pleskarju, ni šlo najbolje od rok. Nadarjeni mladi sosed je z veseljem prevzel nalogo in sestavil prekrasno pismo. Vdova je odgovorila in tako je nadaljeval dopisovanje, ki se je na koncu z njegovo pomočjo končalo s poroko. Zakon pa ni dolgo trajal, ženin je kmalu ugotovil, da klobasičarjeva vdova ni rahlo prefinjeno in prekrasno bitje, kot jo je v pismih lahkomiselno opisoval nadarjeni novinar, ampak konkretna huda gospa, ki ga je namahala s ponvijo, če je preveč jezikal. Posebej je bila razočarana, ko je ugotovila, da avtor pisem, ki so jo zapeljala, sploh ni on, ampak sosed. Ta je moral potem bežati pred njo, pa ne zato, ker bi se nanj jezila ...

Novinar je bil torej pisatelj v senci, lahko bi bil Joaquin Phoenix iz filma Her, Ona, ki tudi po naročilu, za druge, sestavlja lepa pisma. Lahko pa že zametek tega, čemur danes rečemo umetna inteligenca.     

Vsaj morala zgodbe je v bistvu podobna. Polaganje upov v tuje roke, slepljenje resničnosti, velika pričakovanja – ki se lahko izjalovijo. Na koncu si ob vsej pomoči in vsem, kar lahko izveš in dobiš, ti sam tisti, ki bo to upravljal, to živel.

Fizik in filozof Sašo Dolenc piše, da je bistvena razlika, ki se pojavlja v primerjavi z vsem prejšnjim, v tem, da se nove tehnologije povsem smiselno pogovarjajo s tabo. Kar daje napačen vtis, da je za vsem nek vseveden stroj. Ali pa, če spet vzamemo primer Her, neka resnična oseba, v katero se glavni junak filma nesmrtno zaljubi, čeprav je le glas na telefonu.

Kot je novinar čudežno spremenil debelo zlobno žensko v krhko, prijazno lepotico in so zato vsi nastradali, tako je tudi zdaj odziv, ki ga bomo dobili, odvisen in ni vsemogočen in čudežen. In tudi lahko povzroča slabe stvari. 

Ob vseh vznemirljivih možnostih, da se, na primer, če želim, prelevim v Čudežno žensko ali pa v boga Tora, je treba pogledati, kakšen je svet, v katerem smo, in kakšna bo vrednost obvladovanja tudi najbolj zapletenih algoritmov. Sledi nekaj naključno izbranih primerov, zelo različne teže in pomena, ki so me zbodli v zadnjem času.

Kakšna bo pomoč umetne inteligenci pri naši, poimenujmo jo, provincionalnosti?

Ko se zgodi, da se tedne ukvarjamo s tem, da je ministrica za kulturo strašno razkošno prespala v hotelu Hilton, za 160 evrov na noč.

Kdor je vsaj malo potoval, ve, da imajo verige hotelov Hilton razpon, pogosto pa so to hoteli za niti ne višji srednji ampak največ srednji srednji razred. Seveda se ob tem izrablja prizvok bogastva, ki ga ima beseda Hilton še vedno pri nas. Verjetno ne bi bilo javnega zgražanja, če bi ministrica prespala, denimo, med obiskom v Londonu v hotelu Connaught (priljubljen med plemiško aristokracijo), ali pa v Parizu v hotelu Crillon (priljubljen pri predsedniku Drnovšku), kjer so sicer cene približno petkrat višje. Pri nas ne bi to pomenilo ničesar, ker za te hotele večina še slišala ni in ne odzvanjajo razkošja.

Ampak, kot rečeno, to so banalne majhnosti ...

Kako pa bomo regulirali vse pametnejšo tehnologijo v svetu, kjer je, denimo, glavni ideolog vlade tako močne in vplivne države, kot je Poljska, Ryszard Legutko, človek, ki v demokracijo sploh ne verjame? Njegova stališča, povzeta v pogovoru za Sobotno prilogo, mrzlo stresejo do kosti. In imel je predavanje v Ljubljani, udeležili so se ga tudi slovenski politiki.               

In svet, v katerem je politik, kot je guverner Floride Ron de Santis, eden izmed resnih kandidatov za prihodnjega predsednika ZDA, še vedno najmočnejše države na svetu. Florida pa postaja zvezna država, kjer so, recimo, kot neprimerno iz šole umaknili celo pesem, ki jo je na inavguraciji Bidna brala mlada pesnica Amanda Gorman. Kjer so izgnali spolno vzgojo iz šol. Zvezna država, za katero ameriška združenja temnopoltih izdajajo opozorila pred potovanji, ker da so lahko ogroženi zaradi barve kože. In tako naprej.

Bo umetna inteligenca rešila naše okolje?

Okolje, ki nikogar ne zanima zares, čeprav okrog nas vse gori. Nasprotno, zmagujejo tisti, ki so proti ukrepom, kmetje na Nizozemskem in drugje, tudi pri nas. Zmagujejo tudi zato, ker razgaljajo hipokrizijo nas vseh. 

Peščica okoljskih aktivistov, kot poročajo tisti, ki delajo v tujini, kot sta Ana Žbona in Bojana Bajželj, so tarče vedno hujših groženj in napadov.

Pred nami pa je spet najbolj vroče poletje. 

Razvoj umetne inteligence divja, že danes lahko rešuje teste na najboljših fakultetah bolje kot študenti, naredi dobro pesem, skladbo, esej, fotografijo, naredi strokovni izpit za zdravnika, že kmalu bodo lahko posamezni inteligentni agenti, programi, sodelovali kar neposredno med sabo, kot piše dr. Dejan Dinevski. Kaj bo zmogla čez eno leto, ne ve nihče.

Ob vsem nepredstavljivem, kar zna, pa dela tudi napake. Včasih si kar izmisli vire svojih informacij, nekaj sicer nepredstavljivega pri znanstvenem delu. Dela tudi vsebinske napake, halucinira, kot se reče v poznavalskem jeziku. In pobira s spleta vse, tudi napačne informacije, interpretacije. Tako tudi pri okolju, ko vemo, koliko je zanikovalcev in kako strahovito močni so interesi različnih globalnih korporacij.

In kakšne so šele možnosti namernih dezinformacij, političnih, ki jih že poznamo, najmanj od Trumpa naprej, seveda pa že prej iz zgodovine, recimo Stalin in izginjajoči člani politbiroja na uradnih fotografijah. Pridemo lahko tudi do povratne zanke, ko se bo umetna inteligenca začela učiti iz slabih tekstov in sama take potem tudi ustvarjala. Ob tem se moramo vseskozi zavedati, da podatki niso nevtralni.

Pomembna bo torej etičnost pri uporabi, pomembna bo natančna regulacija. Pred dnevi je odmeval poziv  znanstvenikov in samih ljudi iz stroke, kot je Elon Musk, poziv k začasni prekinitvi razvoja, da bi vmes lahko premislili o vseh nevarnostih. Seveda je za marsikoga smešno in sporno, da k temu pozivajo soustvarjalci in tisti, ki vlagajo v ta razvoj.

Dobro vedo, da tega ne moreš ustaviti, radi bi samo sami postavljali merila. Kar bi bilo zelo narobe.

K regulaciji poziva tudi Evropska unija, ki je postavila neka splošna načela uporabe, etične smernice. Vemo, da to lahko storimo, če bo pravi konsenz, tako kot se je zgodilo na primer pri splošni prepovedi kloniranja ljudi.

Evropski projekt Embeddia se ukvarja s tem, kako uporabljati umetno inteligenco tudi v medijih, kjer je možnost različnih manipulacij neizmerna.

Če je parni stroj, zaradi katerega so tudi mislili, da bo kar konec sveta, odvzel industrijska manualna delovna mesta, bo umetna inteligenca vzela ustvarjalna, umetniška, kreativna delovna mesta. Iskani pa bodo tako imenovani prompt inženirji, za kar v slovenščini še ni ustreznega prevoda. Gre za ljudi, ki bodo znali umetni inteligenci postavljati najboljša vprašanja.

In kako naprej?

Kapital si ne zastavlja težkih vprašanj, veselo melje in vlaga milijarde, ni čudno, da je področje umetne inteligence denar zalil po zatonu kriptovalut. Najbolj podjetne zanima že, kaj bo naslednja lukrativna naložbena možnost po umetni inteligenci.

Nekatere pa skrbi, da bi vse bolj poosebljena, vse bolj človeška in zmožna UI postala oseba z lastnim mišljenjem in odločanjem. Da bi nekoč na našo zahtevo ali vprašanje odgovorila kot znameniti računalnik Hal iz filma Odiseja v vesolju 2001.  

Ker začne moriti posadko in ne prizna napak, zahtevajo, naj se izklopi, Hal pa odgovori, da mu je žal, ampak da tega ne more storiti.

Gotovo bo UI zelo spremenila naše delovanje, tako kot to že leta počnejo družbena omrežja, splet. 

In nekateri so prepričani, da bi morali otroke, namesto da jih že v vrtcu panično, da ne bi kaj zamudili, vključujemo v digitalni sveta, da bi jih, nasprotno, morali spodbujati, da pišejo, rišejo, kvačkajo, berejo, se pogovarjajo, družijo. Staromodno? Morda, ampak verjetno to na dolgi rok bolj krepi to, kar bomo potrebovali, da uspešno uporabljamo tudi UI, to je znanje, kreativnost, avtonomnost in kritičnost mišljenja.

Nenazadnje, svet se hecno vrti, televizija, časopisi se še kar ne dajo, vračajo se stari pisalni stroji, vinilne plošče se znova prodajajo v milijonih in zapisana beseda človeka, ne bota, še vedno lahko naredi čarovnijo.