YouTube Kids otrokom prikazuje posnetke, ki promovirajo droge in orožje

YouTube Kids, aplikacija in spletno mesto, ki je bila ustvarjena leta 2015, naj bi bila varnejša, urejena različica spletnega mesta za izmenjavo videoposnetkov, namenjena otrokom, mlajšim od 13 let. Vsebino prilagaja trem starostnim skupinam: starejši (devet do dvanajst let), mlajši (štiri do sedem let) in predšolski (manj kot štiri leta). 

Podjetje trdi, da so videoposnetki družinam prijazni, kar naj bi zagotovili z "mešanico avtomatiziranih filtrov, ki so jih ustvarile inženirske ekipe, človeških pregledov in povratnih informacij staršev". Hkrati opozarja, da "noben sistem ni popoln in da lahko pride do prikaza neprimernih videoposnetkov".

Raziskave neprofitne organizacije Tech Transparency Project s sedežem v ZDA, kažejo, da sistem res še zdaleč ni popoln. Z uporabo treh različnih računov, od katerih je vsak nastavljen na eno od starostnih skupin aplikacije, so analitiki odkrili številne videoposnetke, ki ne bi smeli priti mimo Googlovih filtrov, poroča The Guardian.

Otroci si lahko na primer ogledajo kuharsko oddajo na temo serije Kriva pota (Breaking Bad), v kateri voditelji nosijo respiratorje in se šalijo o nevarnosti vdihavanja hlapov, kar bi bilo bolj primerno za najstnike ali odrasle, YouTube pa je odločil, da je primerna za mlajše otroke. Prav tako si lahko ogledajo posnetke projekta Minecraft za poustvarjanje avtodoma, "v katerem kuhajo metamfetamine".

Tudi pesmi z zrelimi temami občasno zaidejo v otroško aplikacijo. Otroci, starejši od pet let, lahko v sklopu serije tečajev kitare poslušajo besedilo pesmi Kokain Erica Claptona. Med drugim je v besedilu zapisano: "Ko nič več ne čutiš, ampak želiš nadaljevati, kokain."

Na zaslone najmlajših se pogosto prikradejo tudi vsebine, namenjene uporabnikom orožja, pri čemer se mlajšim otrokom prikazujejo seznami uporabnosti povratnih blazinic, ki so namenjene zaščiti strelcev pred povratnim udarcem puške, starejšim otrokom pa se prikazujejo navodila, kako zgraditi polico s skrivnim predalom za pištolo.  

Problematične vsebine, ki lahko povzročijo težave s telesno podobo

Avtorji raziskave so kot najbolj zaskrbljujočo označili vsebino, ki bi lahko povzročila težave s telesno podobo. Starejšim otrokom so bili tako na voljo posnetki indijske influencerke, ki je gledalce učila, kako nanesti izdelke za beljenje kože. To lahko zaznamuje predvsem otroke, ki niso belci, saj jih, namesto, da bi bili zadovoljni in srečni, da so takšni, kakršni so, nagovarja k temu, da bi bilo bolje, če bi bila njihova polt svetlejša. 

Predšolskim otrokom medtem prikazujejo posnetke o pomembnosti kurjenja kalorij za hujšanje. Hujšanje gotovo ni nekaj, s čemer bi se morali obremenjevati majhni otroci. 

"Nismo pričakovali, da bomo našli toliko neprimerne vsebine"

"YouTube Kids je posebej namenjen majhnim otrokom, tudi malčkom," je povedala Katie Paul, direktorica TTP. "Gre za izdelek, ki, kot trdi YouTube, izvaja veliko strojnega učenja za filtriranje škodljive vsebine. Glede na to, da je zasnovan posebej za varnost otrok, nismo pričakovali, da bomo našli toliko neprimerne vsebine," je dejala.  

"Zame osebno je bilo najbolj šokantno videti toliko vsebine, povezane z drogami," je dodala in pojasnila, da otrok k jemanju drog videoposnetki sicer ne spodbujajo neposredno, a da droge prek referenc na oddajo Kriva pota, ki je vsekakor namenjena odraslim, predstavljajo kot nekaj, kar je "kul", prav tako uporabljajo veliko fraz, povezanih z drogami.  

"Omejevanje vsebine prek algoritma za otroke ni primerno"

"YouTube Kids smo zgradili, da bi ustvarili varnejše okolje za otroke, kjer bodo lahko raziskovali svoje interese, hkrati pa staršem dajemo orodje za prilagajanje izkušenj svojim otrokom," je dejal tiskovni predstavnik YouTuba. Dodal je, da imajo starši možnost, da nadzorujejo, katere vsebine lahko njihov otrok vidi in katerih ne. Dodal je, da so po pregledu dodatno odstranili ali starostno omejili nekatere sporne videoposnetke. 

Paulova medtem opozarja, da so rezultati pokazali, "da algoritemsko izbrane vsebine niso primerne za otroke. To je le še en primer dejstva, da tudi ko podjetje pravi, da si najbolj prizadeva za zaščito otrok, še vedno prihaja do škode enega najbolj ranljivega dela populacije".

Pri urejanju storitev, kot je YouTube Kids, sta vodilna Združeno kraljestvo in EU, je dodala Paulova in namignila, da mora tudi ameriški kongres opraviti svoj del. "Konec koncev govorimo o ameriških podjetjih. In ameriški kongres bi moral voditi pot pri razvoju bolj strogih predpisov za zagotovitev, da ta podjetja ne povzročajo škode otrokom," je sklenila.