Znanost in tehnologija

V Ukrajini za identifikacijo ljudi uporabljajo tehnologijo prepoznavanja obrazov

London/Kijev, 13. 04. 2022 10.12 |

PREDVIDEN ČAS BRANJA: 5 min

Prejšnji mesec je kontroverzno podjetje za prepoznavanje obrazov Clearview AI sporočilo, da je svojo tehnologijo ponudilo ukrajinski vladi, ki je ponudbo sprejela. Sicer pa uporaba prepoznavanja obraza za identifikacijo mrtvih ni nova in Clearview ni edina platforma, ki jo za ta namen uporabljajo v Ukrajini.

Britanski mediji so dobili vpogled v to, kako tehnologijo uporabljajo – v več kot tisoč primerih – za identifikacijo tako živih kot mrtvih. V Harkovu na vzhodu Ukrajine so našli truplo moškega. Njegovo telo je bilo golo, na sebi je imel le spodnje perilo. Okoli oči je imel modrice. Novinarji BBC so videli fotografije trupla, posnete na kraju, niso pa poznali okoliščin njegove smrti. Dokazi jasno kažejo na poškodbe glave, jasno je vidna tudi tetovaža na njegovi levi rami. Ukrajinske oblasti niso vedele, kdo je moški, zato so se odločile uporabiti najsodobnejšo metodo: prepoznavanje obraza z umetno inteligenco.

V Harkovu so oblasti tako posnele pokojnikov obraz – dvignjeno glavo, oči usmerjene proti kameri. Posneli so fotografijo in jo zagnali skozi Clearviewovo bazo podatkov. Pri iskanju so našli več slik nekoga, ki je bil videti zelo podoben mrtvemu moškemu. Ena fotografija je bila posneta na vroč dan. Moški je bil brez majice. Na levi rami je imel tetovažo. Našli so ujemanje. Dobili so ime. 

Prepoznava obrazov
Prepoznava obrazov FOTO: Shutterstock

Clearview je morda najbolj znan in kontroverzen sistem za prepoznavanje obrazov na svetu. Podjetje je pobralo milijarde fotografij iz družbenih medijev, kot sta Facebook in Twitter, da bi ustvarilo ogromno bazo podatkov o tem, kar njegov izvršni direktor in ustanovitelj Hoan Ton-That imenuje iskalnik za obraze. "Nekako deluje kot Google. Toda namesto da bi vnesel niz besed ali besedila, uporabnik vstavi fotografijo obraza," je pojasnil Ton-That.

Podjetje se je soočilo z vrsto pravnih izzivov. Facebook, YouTube, Google in Twitter so Clearviewu poslali pisma, v katerem so ga prosili, naj preneha uporabljati slike s spletnih mest. Urad britanskega informacijskega pooblaščenca je podjetje celo kaznoval, ker ni obvestilo ljudi, da zbira njihove fotografije. 

Zdaj pa je njegova uporaba s strani ukrajinske vlade sprožila vprašanja o posledicah dodajanja te močne tehnologije v aktivno vojno. Clearview sicer uporabljajo tudi organi pregona v Ameriki. Ton-That pravi, da je 3.200 vladnih agencij kupilo ali preizkusilo tehnologijo. Po invaziji Vladimirja Putina na Ukrajino pa je ustanovitelj Clearviewa videl še eno uporabnost za tehnologijo. "Videli smo podobe ljudi, ki so bili vojni ujetniki in so bežali, in veste, dalo nam je misliti, da bi to lahko bila tehnologija, ki bi jo lahko uporabili za identifikacijo in tudi preverjanje teh ljudi," pravi. Zato je ukrajinski vladi takoj ponudil tehnologijo in ta jo je sprejela. 

Uporaba prepoznavanja obraza za identifikacijo mrtvih pa ni nova in Clearview tudi ni edina platforma, ki jo za ta namen uporabljajo v Ukrajini. "Te stvari uporabljamo že leta," pravi Aric Toler, direktor raziskav pri Bellingcatu, organizaciji, ki je specializirana za raziskovalno novinarstvo. Leta 2019 je Bellingcat uporabil tehnologijo za prepoznavanje obrazov, da bi pomagal prepoznati Rusa, ki je posnel mučenje in smrt zapornika v Siriji. To sicer ni prvo prepoznavanje obrazov v vojni, je pa uporaba prepoznavanja obrazov v Ukrajini postala bolj široko uporabljena kot v katerem koli prejšnjem konfliktu. Toler pravi, da v Rusiji uporablja platformo za prepoznavanje obrazov FindClone in da je bila še posebej v pomoč pri identifikaciji mrtvih ruskih vojakov. 

Prepoznava obrazov
Prepoznava obrazov FOTO: Shutterstock

Kot pri Clearviewu tudi FindClone išče po javno dostopnih internetnih slikah, vključno z ruskimi družbenimi mediji. Najdejo lahko celo ljudi, ki nimajo profilov na družbenih omrežjih. "Morda nimajo profila na družbenih omrežjih, toda imajo jih lahko njihove žene ali možje ... Včasih imajo profile in živijo v majhnem mestu z veliko vojaško bazo. Ali pa imajo lahko veliko prijateljev, ki so trenutno v njihovi enoti," Toler razlaga in opisuje uporabo FindClone kot preiskovalnega orodja. 

Ta zadnja točka je temeljna pri razumevanju moči tehnologije za prepoznavanje obrazov. To pomeni, da tudi če oseba še nikoli ni imela profila na družbenih omrežjih in misli, da je z interneta izbrisala svojo podobo, jo je še vedno mogoče najti. Če se pojavi na fotografiji, ki jo je naložil prijatelj ali preprosto v ozadju naključne slike na internetu, je v bazi podatkov. To tudi pomeni, da je še vedno mogoče izslediti celo vojaško ali varnostno osebje, ki je komajda prisotno na internetu. 

Kritiki sicer poudarjajo, da tehnologija prepoznavanja obrazov nikakor ni vedno pravilna – in da bi lahko v času vojne napake imele potencialno katastrofalne posledice. Clearview se v Ukrajini namreč ne uporablja samo za identifikacijo mrtvih. Podjetje je potrdilo, da ga ukrajinska vlada uporablja tudi na kontrolnih točkah za pomoč pri identifikaciji sovražnikov. 

Clearview je novinarjem pokazal celo elektronsko sporočilo ukrajinske agencije, ki potrjuje, da tehnologijo uporablja tudi za identifikacijo živih. "Sistem nam je dal možnost, da hitro potrdimo točnost podatkov pridržanih osumljencev," piše v elektronskem sporočilu ukrajinskega uradnika, ki ni želel biti imenovan. "Med uporabo Clearview AI je bilo izvedenih več kot 1000 iskalnih poizvedb, s katerimi smo izvedli ustrezno preverjanje in identifikacije," piše v elektronski pošti. In to skrbi nekatere analitike. 

Prepoznava obrazov
Prepoznava obrazov FOTO: Shutterstock

Conor Healy, strokovnjak za prepoznavanje obrazov pri IPVM, organizaciji, ki pregleduje varnostno tehnologijo, je pojasnil, da je pomembno, da ukrajinske sile vedo, da to ni 100-odstotno natančen način ugotavljanja, ali je nekdo prijatelj ali sovražnik. "To ne bi smela biti tehnologija življenja ali smrti, kjer bodisi greš skozi bodisi ne, kjer bi te lahko zaprli ali, bog ne daj, celo ubili. Tega se sploh ne bi smelo uporabljati."  Albert Fox Cahn iz nadzorne skupine Surveillance Technology Oversight Project je to označil za nastajajočo katastrofo človekovih pravic. "Ko se s prepoznavanjem obrazov v času miru zgodijo napake, aretirajo napačne ljudi. Ko se s prepoznavanjem obrazov zgodijo napake v času vojne, nedolžne ljudi ustrelijo," je povedal za Forbes

Ton-That zagovarja natančnost Clearviewove tehnologije, češ da so testi ugotovili, da je več kot 99-odstotna. Veliko pa je odvisno od kakovosti slike, položaja glave ali od tega, ali je obraz pokrit, na primer z masko. A potem je tu še vprašanje zasebnosti, ki je bilo problematično za Clearview v ZDA in Evropi. Podjetje namreč pridobi javno dostopne slike iz spleta, kot sta Facebook in Instagram, da ustvari svojo bazo podatkov. Vendar omenjenih ali kogar koli pravzaprav ni vprašala, ali lahko uporabi te slike. Ton-That se sicer strinja, da še vedno poteka razprava o zakonitosti tehnologije za prepoznavanje obrazov, vendar verjame, da Clearview deluje v okviru zakona – češ, da je bila tehnologija napačno razumljena.