'Potegniti je treba moralno in pravno črto proti ubijanju ljudi s stroji'

Za razliko od obstoječega polavtonomnega orožja, kot so droni, popolnoma avtonomno orožje nima stikala za uničenje, s katerim upravljajo ljudje. Namesto tega prepušča odločitve o življenju in smrti senzorjem, programski opremi in strojnim procesom.

Mnogi menijo, da je ureditev te industrije še posebej nujna potem, ko je marčevsko poročilo odbora ZN navedlo, da naj bi v Libiji izvedli prvi napad z avtonomnim dronom. In tako je generalni sekretar ZN Antonio Guterres spodbudil 125 podpisnic Konvencije o določenem konvencionalnem orožju (CCW), naj pripravijo ambiciozen načrt o novih pravilih, poroča Al Jazeera.

Toda v petek  konferenca CCW ni uspela začrtati nadaljnjih pogovorov o razvoju in uporabi smrtonosnih avtonomnih orožnih sistemov (LAWS).

Države proizvajalke tovrstnih sistemov, ki v njihov razvoj vlagajo ogromna sredstva, so  ​​preprečile večini udeleženk, da bi se dogovorili o korakih za vzpostavitev pravno zavezujočih pravil o uporabi tega orožja.

Viri so tiskovni agenciji Reuters po pogovorih povedali, da so Rusija, Indija in Združene države Amerike med državami, ki so nasprotovale regulaciji LAWS. ZDA so opozorile tudi na prednosti LAWS, vključno z natančnostjo.

"Pri sedanji stopnji napredka hitrost tehnološkega razvoja prehiteva naše razprave," je dejal švicarski veleposlanik za razorožitev Felix Baumann in izrazil nezadovoljstvo nad izidom pogovorov.

Med tistimi, ki so izrazili razočaranje nad izidom pogovorov, je bil tudi Mednarodni komite Rdečega križa (ICRC).

"To je res zamujena priložnost in vsekakor ni tisto, kar je potrebno za odziv na tveganja, ki jih predstavlja avtonomno orožje," je o izidu pogovorov dejal Neil Davison, svetovalec v pravnem oddelku pri ICRC.

Verity Coyle, višja svetovalka pri Amnesty International, je dejala, da je CCW vnovič dokazal svojo nezmožnost, da doseže pomemben napredek.

Richard Moyes, koordinator pri Stop Killer Robots, je prepričan, da morajo vlade potegniti moralno in pravno črto proti ubijanju ljudi s stroji. Dejal je, da je to nujno, da bi preprečili katastrofalne humanitarne posledice robotov morilcev.  

Od znanstvene fantastike do bojišča

Razvoj avtonomnega orožja sicer v vojskovanju predstavlja mejnik, kot sta ga nekoč predstavljala izum smodnika in jedrske bombe, pa piše New York Times. 

Nekoč domena znanstvenofantastičnih filmov, kot sta Terminator ali RoboCop, so zdaj avtonomni roboti, sposobni ubijanja, resničnost. 

Vojaški strategi v njih vidijo priložnost, da v boj ne bi pošiljali vojakov, prav tako naj bi roboti sprejemali hitrejše odločitve kot človek – in bili zato bolj učinkoviti, prav tako bi na bojišču prevzeli več odgovornosti za potek situacije, saj bi samostojno sprejemali odločitve. 

Kritiki pa so jasni, nadaljuje NYT – odvratno je odločanje o smrti prepustiti strojem, ne glede na njihovo tehnološko prefinjenost. Kako naj stroj razlikuje odraslega od otroka, borca ​​z orožjem od civilista z metlo ali sovražnega borca ​​od ranjenega vojaka, ki se želi predati, se sprašujejo. 

"V bistvu avtonomni orožni sistemi vzbujajo etično zaskrbljenost družbe glede zamenjave človeških odločitev o življenju in smrti s senzorskimi, programskimi in strojnimi procesi," je jasen Peter Maurer, predsednik Mednarodnega komiteja Rdečega križa in odkrit nasprotnik robotskih morilcev. 

Organizacija Human Rights Watch je bila med tistimi, ki so pred konferenco pozvali h korakom v smeri pravno zavezujočega sporazuma, ki zahteva stalni človeški nadzor orožja.

"Roboti nimajo sočutja, empatije, usmiljenja in presoje, ki so potrebni za človeško ravnanje z ljudmi, prav tako ne morejo razumeti vrednosti človeškega življenja," pravijo podporniki regulacije. 

Nekaj nasprotnikov tudi meni, da bi morda uporaba LAWS še zaostrila konflikte in povečala borbenost, saj bi antagonistom zagotovila načine za povzročanje škode, ki zmanjšujejo tveganje za njihove lastne vojake.

"Masovna proizvodnja robotov morilcev bi lahko znižala prag za vojno, saj bi iz verige izvzela vojake, nadomestila pa bi jih s stroji, ki bi človeške tarče napadli brez človeških zavor," je prepričan Phil Twyford, novozelandski minister za razorožitev.

Kaj pa pravijo zagovorniki tovrstnega orožja? Združene države Amerike trdijo, da obstoječe mednarodne zakonodaje zadostujejo in bi bila prepoved tehnologije avtonomnega orožja preuranjena. Glavni ameriški delegat na konferenci Joshua Dorosin je po poročanju NYT predlagal nezavezujoč kodeks ravnanja za uporabo robotov ubijalcev. Idejo so nasprotniki tega orožja označili za taktiko odlašanja.

Ameriška vojska ogromno vlaga v umetno inteligenco, pri čemer sodeluje z največjimi obrambnimi igralci, vključno z Lockheed Martinom, Boeingom, Raytheonom in Northrop Grummanom. Projekti naj bi vključevali razvoj raket dolgega dosega, ki zaznavajo premikajoče se cilje na podlagi radijske frekvence in brezpilotnih letal, ki lahko prepoznajo in napadejo cilj ter avtomatiziranih sistemov protiraketne obrambe.

"Zaradi kompleksnosti umetne inteligence je sicer tovrstno orožje težje nadzorovati kot jedrsko orožje," meni Maaike Verbruggen, strokovnjakinja za nastajajočo vojaško varnostno tehnologijo pri Centru za varnost, diplomacijo in strategijo v Bruslju. Dejala je, da je pomanjkanje preglednosti o tem, kaj gradijo različne države, med vojaškimi voditelji ustvarilo strah in zaskrbljenost, navaja NYT.

Franz-Stefan Gady, raziskovalec na Mednarodnem inštitutu za strateške študije, je dejal, da oboroževalna tekma za avtonomne oborožitvene sisteme že poteka in ne bo kmalu prekinjena.

Poudarja, da kljub vse bolj napredni tehnologiji, narašča nenaklonjenost uporabi avtonomnega orožja v boju zaradi strahu pred napakami. "Ali lahko vojaški poveljniki zaupajo presoji avtonomnih orožnih sistemov? Tukaj je odgovor trenutno očitno ne in bo tako ostalo tudi v bližnji prihodnosti," je dejal.

Razprava o avtonomnem orožju sicer pretresa tudi Silicijevo dolino. Leta 2018 je Google dejal, da ne bo podaljšal pogodbe s Pentagonom, potem ko je na tisoče njegovih zaposlenih podpisalo pismo, v katerem je protestiralo proti projektu podjetja, kjer program uporablja umetno inteligenco za interpretacijo slik, kar bi lahko uporabili za izbiro ciljev brezpilotnih letal. Podjetje je ustvarilo tudi nove etične smernice, ki prepovedujejo uporabo njihove tehnologije za orožje in nadzor.

Spet drugi pa menijo, da ZDA na tem področju ne gredo dovolj daleč, da bi konkurirale tekmecem. Oktobra je nekdanji vodja razvoja programske opreme za letalske sile Nicolas Chaillan za Financial Times povedal, da je odstopil zaradi po njegovem mnenju šibkega tehnološkega napredka v ameriški vojski, zlasti pri uporabi umetne inteligence. Dejal je, da etična vprašanja ustvarjajo zamude, medtem pa države, kot je Kitajska, drvijo naprej.