Razvoj umetne inteligence in skrb njene zlorabe: iz besedila nastane video

Novo orodje podjetja OpenAI za pretvorbo besedila v realistični videoposnetek je med več strokovnjaki za umetno inteligenco povzročilo hudo zaskrbljenost. Pričakujejo namreč, da bo novo orodje umetne inteligence Sora, ki sodi pod okrilje podjetja, ki je ustvarilo tudi ChatGPT in so ga predstavili v četrtek, še spodbudilo širjenje lažnih posnetkov in novic, posledice tega pa bi čutil praktično ves svet.

"Orodja umetne inteligence se razvijajo z izjemno hitrostjo, ob tem pa postajajo tudi Ahilova peta naše demokracije. In to ne bi moglo priti ob slabšem času," je za CBS povedal ustanovitelj neprofitne organizacije TruMedia.org Oren Etzioni. Njegova organizacija je namenjena predvsem boju proti dezinformacijam v političnih kampanjah, ki temeljijo na umetni inteligenci, osredotoča pa se tudi na razkrivanje umetno ustvarjenih medijskih vsebin, tudi t. i. "deepfake" posnetkov.

Sora pod drobnogledom 'testne ekipe' in varnostnih strokovnjakov

ZDA so sicer v letu predsedniških volitev, sodeč po preteklih pa bodo lažne informacije, ki se širijo tudi s pomočjo umetne inteligence, tudi tokrat močno vplivale na politične kampanje in narekovale javno mnenje.

Proizvajalec Sore je na družbenem omrežju delil kratek promocijski video, kako umetna inteligenca iz besedila kreira prefinjene kratke videoposnetke s "podrobnimi prizori, zapletenim gibanjem kamere in osebami".

Orodje sicer za zdaj še ni javno dostopno, uporabo je OpenAI omejil na manjšo ekipo nekaterih vizualnih umetnikov, oblikovalcev in filmskih ustvarjalcev, ki izdelek še preizkušajo. Podjetju bodo testni uporabniki pred širšim dostopom poslali povratne informacije o delovanju Sore.

Soro pa bodo ocenili tudi varnostni strokovnjaki, so sporočili iz podjetja. Ti bodo skušali razumeti, kako bi lahko uporabniki njihov produkt uporabili za ustvarjanje dezinformacij in sovražne vsebine.

'Letalo skušamo sestaviti, ko je to že v zraku'

Vendar pa Etzioni meni, da je tehnološki napredek presegel nadzor tovrstnih orodij. Sam sicer verjame, da je treba umetno inteligenco uporabljati v dobre namene in s potrebnimi zaščitnimi omejitvami.

"To letalo skušamo zgraditi, ko je že v zraku. Pristalo bo novembra, morda že prej, mi pa še nimamo Zvezne uprave za letalstvo, nimamo zgodovine letalske dejavnosti, prav tako nimamo pripravljenega potrebnega orodja za izgradnjo letal," je komentiral in s tem karikiral nepredvidljiv razvoj umetne inteligence. Napredek tehnologije nasploh, še posebej pa umetne inteligence, močno presega pravne podlage in etične norme. Slednje namreč takšnega razvoja niso predvidevale in zato usmeritve še niso pripravljene.

Podobno se je na primer zgodilo tudi v primeru razvoja družbenih omrežij, ki jim je šele veliko pozneje sledila pravna podlaga, kaj omrežja lahko in česa ne. Uveljavljen je bil GDPR, nedavno pa sta Facebook in Instagram svojim uporabnikom poslala prošnjo za dovoljenje za uporabo podatkov posameznika ter za deljenje oglasov. V primeru nestrinjanja morajo uporabniki Meti plačati naročnino.

Trenutno je sicer edina prepreka, da postane Sora splošno dostopna vsem, podjetje samo, ki izdelka še ni delilo s celotnim svetom. "Prepričan sem, da bo Sora ali pa neka podobna tehnologija v javnost prišla v naslednjih mesecih," pravi Etzioni.

'Tarča' lažnih stvaritev lahko postane vsak

V zadnjih mesecih se je sicer pojavilo več izrab umetne inteligence. Nedavno je tarča uporabnikov tovrstnih orodij postala pop ikona Taylor Swift. Nekdo je namreč s pomočjo umetne inteligence ustvaril njene lažne gole posnetke ter jih delil na spletu. Zvezdnica zaradi incidenta razmišlja celo o tožbi.

Še pred tem je kratko potegnil tudi papež Frančišek, ki se sicer ni znašel v tako kočljivi zagati. S pomočjo tehnologije so takrat prvega v Vatikanu odeli v puhasto belo bundo. Kljub temu je papež ob svetovnem dnevu miru (1. januarja letos) poslanico namenil prav razvoju umetne inteligence. V poslanici je svetovne voditelje pozval k sprejemu zavezujočega mednarodnega dogovora o razvoju in uporabi umetne inteligence, da bi zagotovili njeno etičnost, je takrat povedal ljubljanski nadškof Stanislav Zore.

A tarča tovrstnih stvaritev niso le velika svetovna imena. Prav vsakdo se lahko znajde znotraj podobne zgodbe ... ki se je že zgodila tudi v Španiji, ko so neznanci s pomočjo umetne inteligence "slekli" šolarke. Španska policija je po pritožbi skupine mater, katerih hčerke so prejele fotografije sebe, na katerih so bile videti gole, nemudoma sprožila preiskavo. Podatki pa sicer kažejo silovit porast uporabnikov na aplikacijah, ki s pomočjo orodij počnejo prav takšne stvari.

"Sora bo takšnim uporabnikom še olajšala ustvarjanje visokokakovostnih video ponaredkov, omogočila pa jim bo še večjo prilagodljivost pri ustvarjanju videoposnetkov, ki bi jih lahko uporabili v zlonamerne namene," opozarja glavni znanstveni direktor podjetja za preverjanje identitete iProov dr. Andrew Newell. Prav zaradi tega bi morale organizacije in ustanove začeti skrbeti za razvoj lastnih orodij umetne inteligence, ki bodo zaščitila potrošnika pred morebitnimi grožnjami. Najbolj izpostavljene so tu na primer banke, ki se zanašajo na varnostne ukrepe videoavtentikacije, je dodal.

Grožnja igralcem in filmskim ustvarjalcem

A ne le tovrstne etične grožnje, zmogljivosti Sore zdaj ogrožajo tudi poklice, ki so povezani z ustvarjanjem različnih video vsebin, vključno s filmskimi ustvarjalci, mediji in drugimi. "Glasovni igralci in tisti, ki snemajo kratke videoposnetke za video igre, izobraževalne namene ali oglase, bodo neposredno najbolj prizadeti," ocenjuje Newell.

Ogroženi pa so tudi poklici, ki so povezani z marketingom in kreativnostjo. "Tovrstna orodja bi lahko močno zmanjšala stroške za filmske in televizijske ustvarjalce ter tako prispevala k širjenju vsebine, ustvarjene z umetno inteligenco, namesto igralcev," dodaja višji analitik pri ABI Research, tehnološkem obveščevalnem podjetju, Reece Hayden.