Z umetno inteligenco ustvarjal posnetke golih otrok

Iz sveta prihaja vse več novic o izrabi sodobne tehnologije v spolne namene. Zadnja je iz Južne Koreje, kjer so oblasti naletele na moškega, ki je s pomočjo umetne inteligence ustvarjal fotografije in video posnetke golih otrok v neprimernih položajih. Samo aprila naj bi jih ustvaril več kot 360. Moški je z uporabo tehnologije virtualne otroke ustvaril v skoraj povsem realistični podobi. Ali jih je ustvaril za lastno uporabo ali morebitno prodajo, ni znano.

Ko mu je policija prišla na sled, je vse fotografije zaplenila, moškega, ki naj bi bil star okoli 40 let, pa ovadila. Sodišče v Busanu ga je v tem mesecu obsodilo na dve leti in pol zapora, poroča CNN. Gre za prvi tovrstni primer v državi, tožilci pa so zato vseskozi zagovarjali, da ne gre le za spolno izkoriščanje otroške podobe, ampak tudi t. i. virtualnih oseb. In da je treba področje nujno pravno urediti.

Storilci z izkoriščanjem tehnologije predvsem nad podobe mladoletnih in žensk

Podobnih primerov je, kot že omenjeno, vse več. Zagovorniki regulacije UI na tem področju poudarjajo, da tehnologije, ki lahko človeška telesa prikazujejo tako zelo eksplicitno, izkoriščajo predvsem podobe mladoletnih oseb in ženskega telesa. 

V začetku tega meseca so preiskavo v zvezi z zlorabo umetne inteligence za spolne namene zagnali v Španiji, kjer je neznani storilec s pomočjo tehnologije 'slekel' mladoletna dekleta, nato pa njihove gole fotografije razposlal po mestu. "Uporaba fotografij drugih ljudi za takšno grozodejstvo in njihovo širjenje naokrog je zelo resen zločin," je poudarila ena izmed zlorabljenih deklet.

'Popularen' tudi deepfake – tuji obrazi na pornografskem materialu

Zlorabe ženske podobe s pomočjo tehnologije so se sicer začele že pred leti, z deepfake posnetki (ponarejenimi posnetki). V teh primerih je storilec s tehnologijo na pornografske posnetke lahko vstavil obraze drugih žensk, brez njihovega soglasja. Ti videoposnetki so pogosto videti zelo resnični, žrtvam pa zato marsikdo ne verjame, da na posnetku niso one.

Februarja letos se je več takih posnetkov našlo na pretočni platformi Twitch, kjer je eden izmed vplivnejših moških na platformi ustvarjal deepfake pornografske posnetke svojih ženskih kolegic.  "Od samega začetka je oseba uporabljala deepfake za ustvarjanje pornografskega materiala teh žensk brez njihovega dovoljenja," je takrat komentirala na tem področju izobražena novinarka Samantha Cole.

Platforme se od takrat sicer počasi prebujajo in začenjajo z regulacijo ponaredkov. Med prvimi je bila že omenjena Twitch, marca ji je z omejitvijo deljenja takega materiala sledil TikTok.

Na državni oziroma mednarodni ravni je bila ena izmed prvih, ki je uvedla predpise o uporabi umetne inteligence v podjetjih, Evropska unija. Sledila ji je Kitajska. Zakonodaja o AI je v pripravi tudi v ameriškem senatu.