deepfake

Zakaj bi razbijali digitalna vrata, če lahko nekoga prepričate, da vam podari ključ?

01. 03. 2025 19.04

Prejšnji teden se je zgodil največji digitalni rop v zgodovini kripto valut: 21. februarja je prišlo do vdora v Bybit, glavno borzo kripto valut. Hekerji so ukradli približno 401.000 žetonov Ethereum (ETH), ki so bili v času napada ocenjeni na skoraj 1,5 milijarde dolarjev. Za njim je stal severnokorejski državni akter Lazarus Group. Kdo so ti in drugi razvpiti "državniki" ter kako delujejo?

Po UI vse bolj posegajo tudi prevaranti: globoki ponaredki vaših najbližjih

11. 02. 2025 19.04

Si predstavljate, da vas kliče hči in vas prosi, da ji nakažete nekaj denarja? V dobri veri ji ga seveda nakažete, kasneje pa ugotovite, da osebe, ki vas je klicala in za katero ste bili prepričani, da je vaša hči, sploh ne poznate. To je seveda zaradi napredka umetne inteligence mogoče, saj lahko ponaredi tako vaš glas kot obraz. Kaj vse je možno narediti le z nekaj kliki, nam je pokazal oblikovalec in strokovnjak za to področje, ki se, kot pravi, najbolj boji posledic, ki jih bo imela umetna inteligenca na starejšo generacijo.

Macron delil lastne deepfake posnetke: 'Nasmejalo me je'

10. 02. 2025 17.12

Francoski predsednik Emmanuel Macron je na svojih družbenih omrežjih delil t. i. deepfake posnetke oziroma ponaredke, ki jih je ustvarila umetna inteligenca. Z njimi je napovedal začetek vrha AI Action Summit, ki poteka v Parizu. Ob tem pa so strokovnjaki izrazili nestrinjanje z njegovim manevrom, češ da prispeva k normalizaciji uporabe ponaredkov.

Razcvet 'deepfake' posnetkov slavnih zdravnikov, ki tržijo nevarne 'čudeže'

14. 09. 2024 13.18

Družbena omrežja so preplavili digitalno ustvarjeni "deepfake" posnetki (op. p. globoki ponaredek), ki uporabljajo identitete zaupanja vrednih slavnih zdravnikov za promocijo nevarnih čudežnih "zdravil". Kot opozarjajo strokovnjaki, pa lahko ti izdelki povzročijo resne zdravstvene težave.

Na posnetku zlorabili podobo in glas predsednika vlade ter naše oddaje

15. 05. 2024 16.04

Na spletnih portalih in družbenih omrežjih je zaokrožil lažen videoposnetek iz našega studia, v katerem so neznanci zlorabili podobo in glas predsednika vlade Roberta Goloba. Prav tako se na različnih spletnih straneh pojavlja lažna spletna stran gov.si, kjer je zlorabljena podoba posameznih ministrov. Gre za globoki ponaredek (t. i. deepfake) in zlorabo vladnega portala, opozarjajo na uradu vlade za komuniciranje.

EU preiskuje Aliexpress zaradi kršitev akta o digitalnih storitvah

14. 03. 2024 14.29

Evropska komisija je začela preiskavo kitajskega spletnega trgovca Aliexpress zaradi več domnevnih kršitev akta o digitalnih storitvah. Po prvih ocenah Bruslja Aliexpress ni sprejel ustreznih ukrepov, da bi preprečil prodajo lažnih zdravil in prehranskih dopolnil ter dostop mladoletnikom do pornografskih vsebin.

Lažni pornografski videi na pohodu: žrtve največkrat mladoletniki

09. 03. 2024 12.25

V Grčiji se soočajo s porastom lažnih (deepfake) posnetkov s spolno vsebino. Najpogostejše žrtve so mladoletniki. Napadalci uporabljajo brezplačna orodja umetne inteligence, da izdelajo lažne porno posnetke. Pri tem uporabijo fotografije in posnetke z družbenih omrežij.

Vse več lažnih oglasov: novi žrtvi Piers Morgan in Oprah Winfrey

24. 02. 2024 12.02

Umetna inteligenca je vedno bolj vpeta v naša življenja, pogosto pa tudi izrabljena na napačne načine. Tako se zadnje časa vedno več zvezdnikov srečuje s samimi sabo v obliki umetno ustvarjenih podob. Številni slavni obrazi tako nevede pristanejo v oglasih različnih blagovnih znamk, ki želijo na njihov račun doseči še več populacije in zaslužka. Novi žrtvi lažnih oglasov sta tokrat postala Piers Morgan in Oprah Winfrey.

Razvoj umetne inteligence in skrb njene zlorabe: iz besedila nastane video

17. 02. 2024 13.45

Napredek tehnologije je naša življenja na marsikaterem področju močno olajšal. Vendar pa zadnje novosti in rast umetne inteligence prinašajo tudi vedno večje nevarnosti. Strah pred prihodnostjo, ki jo napoveduje takšen razvoj tehnologije, so že izrazili številni strokovnjaki na tem področju. Marsikdo namreč dezinformacij ne zna ločiti od resnice, vse te umetno ustvarjene zgodbe pa bodo lahko zdaj dobile tudi lažne foto in video dokaze. Orodje Sora namreč omogoča prav to, da zapisane besede spremenimo v videoposnetek.

Taylor Swift naj bi zaradi golih fotografij razmišljala o tožbi

28. 01. 2024 09.12

Pred dnevi so splet preplavile fotografije Taylor Swift. Nič takšnega, če le na fotografijah ne bi bila gola. Pravzaprav gre za lažne posnetke, ki so ustvarjeni s pomočjo umetne inteligence, sprva pa so se pojavili na pornografskih straneh, nato pa še na družbenih omrežjih. Slavna pevka se uradno še ni odzvala, a po poročanju tujih medijev so viri zatrdili, da že razmišlja o tožbi, v bran pa so ji stopili tudi oboževalci.

Po spletu krožijo lažne gole fotografije Taylor Swift

27. 01. 2024 17.28

V minulih dneh so po spletu zakrožile pornografske fotografije ameriške zvezdnice Taylor Swift, ustvarjene s pomočjo umetne inteligence. Poleg pevke so ogorčenje nad fotografijami izrazili njeni oboževalci ter številni ameriški politiki, vključno z Belo hišo.

Boj proti dezinformacijam ali kako zadržati Evropsko Unijo enotno

26. 11. 2023 16.09

Prihajajoče obdobje bo eno najzahtevnejših poglavij v združeni evropski zgodovini. Vojna v Ukrajini, grožnja izbruha obsežnega konflikta na Bližnjem Vzhodu, inflacija, energetska kriza ter vsaj štirje zunanji akterji – države, ki z različnimi kibernetskimi taktikami, podprtimi z umetno inteligenco, skušajo zamajati ali celo zrušiti evropsko enotnost. Hitro se bližajo tudi evropske volitve.

Scarlett Johansson postala nova žrtev lažnih spletnih oglasov

03. 11. 2023 20.15

Umetna inteligenca na spletu povzroča vedno več sivih las, številni zvezdniki so močno zaskrbljeni zaradi tako imenovanih deepfake videov, ki simulirajo njihovo podobo in so vedno bolj realistični. Zadnja v vrsti žrtev takšnih prevar je Scarlett Johansson, njeno lažno podobo so namreč uporabili v spletnem oglasu na platformi X. Med Slovenkami je bila nedavno žrtev pevka in voditeljica Delovne akcije Ana Praznik.

Z umetno inteligenco ustvarjal posnetke golih otrok

28. 09. 2023 10.11

Še ena grozljiva novica o izrabi umetne inteligence v spolne namene, ki tokrat prihaja iz Južne Koreje. Tam so oblasti odkrile moškega, ki je v mesecu dni s pomočjo napredne tehnologije ustvaril približno 360 fotografij in videoposnetkov golih otrok v kočljivih položajih. Policija jih je zaplenila, moškega pa je sodišče obsodilo na dve leti in pol zapora.

Je Putin rekel vojna? Kremelj: 'To je ponaredek'

05. 06. 2023 20.51

"Danes ob četrti uri zjutraj so ukrajinske sile ob podpori Washingtona vstopile na ozemlje obmejnih regij Kursk, Belgorod in Bryansk," v pisarni pred rusko zastavo s Putinovim glasom napove pojava ruskega predsednika. Vse skupaj deluje precej uradno. Resnično. A ni.

'Nisem podpisal pisma o zaustavitvi razvoja umetne inteligence'

22. 04. 2023 07.00

Prvič se je človeštvo množično z umetno inteligenco srečalo na družbenih omrežjih. Svet jih je sprejel z odprtimi rokami, saj so njihovi ustvarjalci obljubljali večjo povezanost s podobno mislečimi, s prijatelji, da bodo ljudje dobili glas. Ko so upravljanje Facebooka, Twitterja in podobnih prevzeli algoritmi, so se obljube razblinile v prah. Danes je človeštvo zaradi vpliva omrežij bolj razdvojeno, bolj odvisno od naprav, bolj osamljeno, s slabšim duševnim zdravjem in prežeto s poplavo lažnih novic. Podoben "napredek" obljubljajo tudi orodja umetne inteligence, toda ali smo sposobni ne ponoviti napake iz preteklosti?

Mislili, da govorijo s pravim. Lažni Kličko pretental več evropskih županov

25. 06. 2022 22.01

Več županov evropskih prestolnic je bilo prevaranih s pomočjo deepfake tehnologije, ki ustvari tako imenovane globoke ponaredke. Preko videopovezave jih je namreč poklicala oseba, ki je bila videti kot dobro znani prvi mož Kijeva. Zadnja v nizu teh, ki so nasedli, je bila županja nemške prestolnice Franziska Giffey. Pravi Vitalij Kličko, nekdanji ukrajinski boksarski šampion, je že zahteval preiskavo: "Lažni Kličko je govoril absurdne stvari."

Deepfake posnetki Putina in Zelenskega: novo orožje in močna oblika dezinformacije

18. 03. 2022 09.55

Na družbenih omrežjih je spet zakrožil deepfake posnetek, na katerem ruski predsednik Vladimir Putin domnevno razglaša mir. Hkrati sta ta teden Meta in YouTube s svojih kanalov odstranila deepfake posnetek ukrajinskega predsednika Volodimirja Zelenskega, ki govori o predaji Rusiji. Čeprav sta bila oba posnetka tako neprepričljiva, da ju je javnost hitro označila za lažna, strokovnjaki opozarjajo na nevarnost deepfake posnetkov. "Gre za novo orožje in močno obliko vizualne dezinformacije," pravi Nina Schick, avtorica knjige Deepfakes.

Biometrija: naše geslo je naše telo

02. 10. 2021 14.44

Ko so zamaskirani roparji plenili bančni trezor in so njihova dejanja posnele varnostne kamere, je Policijo do enega od storilcev pripeljal njegov uhelj. Pošiljatelja Morsejeve kode izda že dinamika tipkanja. Računalniški sistem lahko po frekvenci mežikanja izmeri, kako utrujen je voznik, in zazna, ali zaščitna maska ni pravilno nameščena. Za vse to je zaslužen razvoj biometrije, področja, na katerem se naši raziskovalci uvrščajo v sam vrh.

Ali bo vzpon umetne inteligence ogrozil demokracijo?

14. 08. 2021 07.00

Ko je Alan Turing med drugo svetovno vojno razvil svoj znameniti stroj za dešifriranje nemških kod, imenovan "The bombe", še ni doumel, kakšen potencial ima to razvijajoče se področje za politične sisteme. Iz te rudimentarne oblike umetne inteligence se je razvila paleta tehnologij, strojev in sistemov, ki jih danes upravičeno imenujemo "inteligentne". Danes se umetna inteligenca uporablja v praktično vseh sferah družbe, med drugim tudi (kar je morda najpomembnejše) v politiki in za politične namene. Po mnenju mnogih opazovalcev lahko ogrozi same temelje našega demokratičnega političnega sistema.

Tehnologija in gospodarska rast

12. 06. 2021 07.14

Svetovna gospodarska kriza leta 2008 je osvetlila problem spolitiziranosti makroekonomskih napovedi, kar se je v desetletju po nastopu krize tudi potrdilo. Zdravstvena kriza pandemije covida-19, ki se je razvila v resnično globalno in kompleksno krizo, pa osvetljuje, kje tiči težava takšnega stanja. Napovedovalci ekonomskih gibanj namreč večino časa razmišljajo o odločitvah centralnih bank in vladnih politik, pa čeprav ta dva dejavnika dolgoročno nista najpomembnejša, po mnenju nekaterih ekonomistov pa nista niti med najpomembnejšimi dejavniki.

Greta Thunberg v 'deepfake' plesnem videu: To je Macarena za apokalipso

22. 04. 2021 14.20

V čast dneva zemlje je ameriška televizija izdala globalni videoposnetek, kjer Greta, ki to ni, oboževalce uči TikTok plesa Man like Greta. S pomočjo 'deepfake' tehnologije so izdali prepričljivi video, v katerem pa prava Greta ne nastopa.

Z novo tehnologijo ne moremo zaupati niti videoposnetkom

07. 04. 2021 08.00

Ne živimo le v dobi lažnih novic, temveč tudi v dobi, kjer ne moremo verjeti niti sliki, ki nam jo prikazuje videoposnetek. Primer je video, na katerem bi veliko ljudi prepoznalo slavnega igralca Toma Cruisa, a gre v resnici le za zelo dovršen prikaz "deepfake" tehnologije belgijsko-ameriškega dvojca, ki so jo strokovnjaki že označili za zelo zaskrbljujočo. Domnevne politične nasprotnike je s fotografij sicer brisal že Stalin, v 90. letih je zaživel "photoshop", ki ga pa zdaj prehiteva nova tehnologija. Nedolžna zabava ali potencialno ogrožanje državne varnosti?

Lažni Tom Cruise: 'Najbolj zaskrbljujoč primer tehnologije deepfake doslej'

08. 03. 2021 17.28

Strokovnjaki so serijo lažnih posnetkov hollywoodskega zvezdnika Toma Cruisa, ki jih je videlo že več deset milijonov ljudi, označili za najbolj zaskrbljujoč primer tehnologije "deep fake" doslej. Posnetki so se prejšnji teden pojavili na družbenem omrežju TikTok, začenši z uporabnikom, ki trdi, da je 58-letni igralec, medtem ko trenira zamah v golfu.

Trump sporočil, da se 20. januarja ne bo udeležil Bidnove inavguracije

08. 01. 2021 06.22

Dan po nasilnem vdoru Trumpovih podpornikov v Kapitol ameriški predsednik obljublja urejen in miren prenos oblasti, prvič je (vsaj delno) priznal izid novembrskih predsedniških volitev. Ob tem je poudaril, da se 20. januarja ne bo udeležil inavguracije novega predsednika Joeja Bidna. Dejal je tudi, da je bil "ogorčen nad nasiljem". Nekateri njegovi podporniki so besede razumeli kot izdajo, drugi menijo, da gre za ponarejen posnetek. Pelosijevo medtem skrbi Trumpov dostop do jedrskega orožja.

'Tisti, ki so šli na Luno v miru raziskovat, so ostali na Luni, da bi počivali v miru'

22. 07. 2020 10.12

20. julija 1969 sta Buzz Aldrin in Neil Armstrong pristala na Luni, a ta njuna pot, na kateri sta bila skupaj z Michaelom Collinsom, je bila polna nejasnosti, nevarnosti in obilice poguma. Na letošnjo obletnico so na Massachusettsovem inštitutu za tehnologijo (MIT) pripravili prav neverjeten "deepfake" – pripravili so video, ki kaže, kaj bi se zgodilo, če jima ne bi uspelo.

Elon Musk, ki poje sovjetsko pesem? Gre za deepfake tehnologijo

02. 06. 2020 09.50

Elon Musk, ki poje znano sovjetsko pesem o potovanju v vesolje? Izredno dobro ustvarjen in prepričljiv posnetek, ki je zaokrožil po spletu, je v resnici parodija, ustvarjena z deepfake tehnologijo. Ta je bila v tem primeru ustvarjena kot šala, že ob gledanju je jasno, da gre za lažni posnetek, a deepfake tehnologija predstavlja tudi številne nevarnosti. V zadnjih letih pa postaja predvsem vse bolj enostavna in dostopna.

Ali še lahko verjamemo svojim očem?

23. 01. 2020 06.00

Umetna inteligenca, ki velja za gonilno silo četrte industrijske revolucije, velja za enega ključnih dejavnikov, ki bodo zaznamovali naslednje desetletje, zaradi česar se je znašla v središču pogovorov tudi na Svetovnem gospodarskem forumu v Davosu. In če je AI v marsičem izboljšala naša življenja, strokovnjaki v zadnjih letih svarijo tudi pred posledicami in nevarnostmi, ki jih vse hitrejši razvoj na tem področju prinaša s seboj.

Izziv prihajajočega desetletja: 'deepfake' tehnologija

14. 12. 2019 10.13

Tehnološki napredek povzroča velike premike v družbi, ki se jih (pre)pogosto niti ne zavedamo. Ne odzivamo se preventivno, temveč reakcijsko, kar potrjuje tudi primer t. i. lažnih novic (ang. fake news) in nedaven pojav tehnologije "deepfake", za katero smiselnega slovenskega prevoda še ni.

Kaj si lahko obetamo od ameriških predsedniških volitev 2020?

06. 07. 2019 07.00

Predvolilne kampanje za mesto predsednika ZDA so že nekaj časa v polnem teku, 26. in 27. junija pa je potekal eden izmed najpomembnejših predvolilnih dogodkov. Zgodilo se je namreč prvo televizijsko soočenje kandidatk in kandidatov za nominacijo Demokratske stranke, ki nam je dalo začetne odgovore o tem, kdo so resni tekmeci za preboj na glavno tekmo ter kaj si od te maratonske kampanje lahko obetamo v naslednjih 17 mesecih.