Ko algoritem odloča o življenju in smrti: se bomo podredili tehnologiji?

Obeta se nam namreč tehnološka prihodnost, za katero ni jasno, kakšna bo, pravijo strokovnjaki. Vsekakor pa si bomo morali sami sestaviti pravila, kako bomo z umetno inteligenco sobivali. In pri tem bomo morali aktivno sodelovati na vseh ravneh družbe, tudi z vzgojo in zaščito demokratičnih ustanov in demokracije, z zavedanjem, da družba potrebuje kritično mišljenje, in živahno razpravo, ne tišino, ki vodi v suženjstvo. Pravila igre bodo morala biti jasna, nadzor pa strog, da bodo nove tehnologije ostale sredstvo, ne gospodar, avtonomni sistemi pa ne bodo zameglili naše presoje, moralnih načel in celo odnosa do življenja. 

Pazi, kaj si želiš, pravijo. "Spomnim se svojih otroških sanj o tem, da bi se slike v Atlasu živali spreminjale. Danes je to realnost, ki jo imamo v žepu v obliki pametnega telefona. Včasih si moral čakati na naročeno videoigrico in še kaj, danes imamo 'igračo', na kateri je v vsakem trenutku vse, kar želimo – pa to ni rešilo naših težav. Igrače se sicer ne naveličamo, ampak zdaj nas zasvoji. Ko smo si uresničili eno željo, se je očitno pojavil nov problem," pravi sogovornik. 

Filozofija sicer postavlja zanimiv okvir debati o umetni inteligenci in tehnološki prihodnosti. "Filozofija nas namreč uči, da se sprašujemo o rešitvah, da gledamo z druge plati, ter ponuja koncepte za razmislek o življenju in situacijah. Filozofija nas uči, da želja ne gre zgolj zadovoljevati, ampak jih je treba postaviti v kontekst in se vprašati: so sploh upravičene? Jih torej premisliti, preobraziti …" 

A kakšen bo naš kontekst v prihodnosti? Kaj nas čaka ob napovedih vse večjega vključevanja umetne inteligence v naš vsakdan? "Kakšen bo ta svet, si še ne znamo predstavljati, saj bodo nove tehnologije posegle v vse pore življenja. Ne gre namreč za nevtralno orodje – umetna inteligenca spreminja način ravnanja, vedenja, tako rekoč postavlja novo družbeno infrastrukturo. Podobno kot izum avtomobila ni samo nadomestil voza, ampak je zahteval arhitekturne spremembe v obliki avtocest, bencinskih črpalk … Bo pa učinek informacijske tehnologije še veliko močnejši." 

Nevarnost ni v tem, da bi nas tehnologija nadvladala, ampak v tem, da se bi se ji sami podredili

Ob teh napovedih človeštvo krmari med skoraj otroškim navdušenjem in velikim strahom. Všeč nam je svet, kjer so informacije na dosegu roke, svet, ki je povezan. Kako samoumeven je postal, ugotovimo šele, če se spletna povezava prekine. Obstaja pa tudi veliko strahov. 

"Mnogi strahovi so neutemeljeni. Eden glavnih je, da nas bodo roboti nadvladali kot terminatorji, da bo umetna inteligenca dobila zavest in postala akter, kot smo danes ljudje, kar bi pomenilo, da bi imela voljo in bi lahko bila zlobna, ter si nas podjarmila, zasužnjila, kot so nekoč to počeli kolonizatorji," pravi Grušovnik. 

Ocenjuje, da je problem pravzaprav obraten: "Pravzaprav mi svoje mišljenje prostovoljno čedalje bolj prilagajamo umetni inteligenci. Osnovna težava torej ni v tem, da bi nas roboti nadvladali, ampak da bomo mi začeli razmišljati na način robotov." 

Torej si sami jemljemo svoje mesto? "Vsakič, ko iščemo po Googlu, pustimo, da Google išče po nas. Druge podobne storitve prav tako. In potem se to prepleta z našimi življenji. Danes večino časa porabimo za klikanje. Na nek način nas naprave učijo biti kot one same, kot stroji – in tukaj vidim težavo."

Ko ni osebne odgovornosti, lahko popustijo (moralne) zavore

Ogromna težava pa so etične dileme. "Največji moralni izziv, ki ga vidim, so avtonomni sistemi, recimo pametni avtomobili in droni. Zakaj? Ker so te naprave sposobne "sprejemati" odločitve. V skrajnih primerih so se zmožne odločiti, čigavo življenje bodo vzele, čigavo obvarovale. Pametno vozilo takšno odločitev sprejme v primeru dileme, koga obvarovati. Vzemimo za primer vprašanje, ali zbiti pešca in zavarovati voznika  ali obvarovati pešca ter zapeljati v zid in ogroziti voznika. Odločitev je prepuščena algoritmu, programu, in to so problematične odločitve. Še posebej če si predstavljamo prihodnost, v kateri imamo drone, ki nadzorujejo prebivalstvo, in jim je prepuščeno odločanje o tem, kdaj bodo koga likvidirali. V takšnem svetu začnemo izgubljati moralno odgovornost. Ni več jasno, kdo je odgovoren – programer, država, naročnik naprav? Kaj če te osebe sploh ni več, če se je morda zamenjala vlada, morda je upravljavec umrl, te naprave pa so še kar v zraku? Izgublja se moralna odgovornost."

In to je nevarno, pravi sogovornik. "Zgodovina vojskovanja nas uči, da v ospredje vedno stopijo orožja, s katerimi je mogoče občutek odgovornosti na strani posameznika zmanjšati. Verjetnost, da bo nekdo uporabil napravo, da nekoga likvidira, je namreč precej večja, če pri tem ne bo prisoten, kot če se bo moral neposredno soočiti z nasprotnikom. To potrjujejo vojaške psihološke raziskave. Vojaki, ki streljajo na bojišču, imajo nato pogosto travme in slabo vest, zato ne streljajo oziroma morajo opraviti trening, da sploh začnejo uporabljati orožje. Vojska pa seveda želi, da bi bilo teh zavor čim manj. In zavore izginejo predvsem, ko z obzorja izgine sovražnik. Lažje je uporabiti top kot nož. Tisti, ki so upravljali s topovi, niso imeli slabe vesti. Tudi ne tisti, ki so z letali metali bombe,  saj sovražnik ni več oseba pred teboj, ampak pika na zaslonu. Zato vojska stremi k uporabi tehnologij, pri katerih se zmanjšajo človeški faktorji, ki ugovarjajo uporabi orožja. Kaj je torej za vojsko bolj pripravnega kot avtonomen sistem, ki sam izvršuje dejanja, tako da nima nihče slabe vesti, da se z nekom bojuje? Tukaj vidim velik problem, saj smo v zadnjih 20 letih že videli skokovit porast uporabe brezpilotnih letal. V prihodnje bomo tako potrebovali krepitve demokratičnih ustanov, čim več neodvisnih komisij, neodvisnih teles, nadzor nad industrijo, vojsko, notranji nadzor … Če stvari prepustimo zgolj hierarhičnim strukturam v družbi, potem lahko zavore hitro popustijo."

Paradoks: Toliko informacij – tako malo širine

Potem je tukaj seveda vprašanje zasebnosti in svobode. "Danes smo dostopni na spletu in nekateri algoritmi ne prepoznajo le naših navad, ampak tudi naša prepričanja, preference, kaj nam je všeč, kaj nam ni … In tako se na nek način vcepljajo v naše že obstoječe miselne pristranskosti. Ena od pristranskosti je recimo ta, da so nam na nezavedni ravni bolj všeč informacije, s katerimi se strinjamo, kot tiste, s katerimi se ne. Primer: če sem ljubitelj psov, je verjetnost, da bom bral članke, ki pozitivno govorijo o njih, večja kot verjetnost, da bom bral članke o prednostih mačk. Skratka, pri sprejemanju informacij smo pristranski in težimo k temu, da še posebej sprejemamo tiste, ki se skladajo z našimi predhodnimi prepričanji – na delu je potrditvena pristranskost. Če pa zdaj v to vključimo še brskalnike in algoritme, se pristranskost še stopnjuje, saj si brskalnik zapomni mojo zgodovino, ve, kaj rad klikam, in mi že vnaprej ponudi rezultate, ki mi bodo všeč. Torej dobimo eksponentno pristranskost, ki rezultira v to, da živimo v informacijskih mehurčkih. In tukaj pride do velikega protislovja. Informacijska tehnologija naj bi nam olajšala dostop do znanja, a nam na nek način zapira miselni prostor."

In še dodatno polarizira že tako vse bolj polariziran svet? "Mislim, da k temu zelo prispeva in da se lahko zaradi tega zmanjšuje možnost kritičnega mišljenja, če v družbi ni protiuteži, ki skušajo ta pojav kompenzirati. Recimo vzgoja za kritično državljanstvo, za medije … Starejše generacije so vajene, da je vse, kar je objavljeno, suho zlato, saj je včasih veljalo, da so šle informacije pred objavo čez sito, tudi preko urednika, zdaj pa lahko na Twitterju vsak objavi kar koli, objavljena vsebina pa na marsikoga deluje podobno kot objava kakšnega znanstvenika. In zaradi pristranskosti, ki sem jih že omenil, temu hitro verjamemo, celo prej kot znanstveniku." 

"Bolje je ohraniti pravice posameznikov kot pa napredovati za vsako ceno"

Potrebujemo torej vzgojo za informacijsko družbo in kritično mišljenje. "Če tega ni, se nam lahko zgodi, da pristanemo pri čudnih idejah, kot je tista o sistemu družbenega kredita. To so problematične ideje, saj se ne skladajo z osnovno idejo družbene organiziranosti. Država pri nas temelji na svobodi posameznika, svoboda posameznika je povezana z avtonomijo posameznika, da se sam odloča, in da je, ko meni, da se drugi motijo, seveda sposoben povedati: 'Mislim, da se motite,' pri tem pa navesti argumente. Sistemi družbenega kredita, v katerih te drugi nagrajujejo za sebi všečna mnenja, pa peljejo v konformizem, v to, da začnemo dajati všečna mnenja – in to zmanjša stopnjo svobode." 

Konformizem, ki pa je tehnološkim gigantom in še komu marsikdaj zelo po godu, še posebej gre uporaba tehnologije v nenavadne smeri na Kitajskem … "Mislim, da je pot odvisna od vrednot, ki jih imamo. Zdi se mi, da se je za zdaj izkazalo, da sta osebna svoboda in zasebnost zelo visoko cenjeni vrednoti, če pa tega ni, lahko imamo stroj, ki deluje, ampak bo delovanje šlo v čudno smer. Bolje je, da izhajamo iz varovalk, da skušamo stvari raje kontrolirati kot jih prepustiti same sebi. Ni dobro žrtvovati etičnih temeljev v prid vednosti. Bolje je ohraniti pravice posameznikov kot pa napredovati za vsako ceno."

V središču je torej varovanje vrednot. "Ljudje včasih rečejo – demokracija ne deluje, ljudje se samo prepirajo. Ampak ravno ta del demokracije, pogovor, je varovalka, čeprav se kdaj zdi, da stopicamo na mestu. Raje stopicajmo na mestu, kot da delamo prevelike korake v napačno smer in druge pohodimo. Če vzamemo za primer par, je bolje, da se spre, kot da eden ves čas dela po nareku drugega, kar na koncu privede v popolno suženjstvo ali pa do eksplozije."

Kot v vseh ostalih odnosih je torej tudi v primeru tehnologije pomembno, da bo naš odnos do nje zdrav. "Unescova komisija pripravlja osnovno priporočilo o etiki na tem področju. Ampak ključno je, da delujejo demokratične ustanove v državi in da so državljani vzgajani za demokracijo. Za demokracijo moraš biti vzgajan. Če te vzgoje ni, če ni vzgoje za avtonomijo, kritično mišljenje, demokratičen značaj, če ni takšnega vzdušja, v katerem je državljanom sporočeno, da je zaželeno, da razmišljajo drugače, potem slej kot prej pristanemo v konformizmu, vsak konformizem pa vodi v totalitarizem."