Umělá inteligence jako nástroj šikany. Lze děti chránit?

Dnešní děti vyrůstají nejen obklopené technologiemi, nově se k nim přidala také umělé inteligence (AI). Otevírá neuvěřitelné obzory, je pohodlná a pomáhá efektivněji se učit či pracovat. Má ale i svou stinnou stránku: pokud chcete někomu ublížit, stačí vám jediná fotka a můžete. Zkrátka dává dětem do rukou nový nástroj, který mohou použít proti sobě navzájem.

Podle nedávného varování od FBI významně roste objem sexualizovaného vydírání, která vygenerovala AI. Zneužívají se k tomu nástroje na tvorbu deepfakes videí nebo klonování hlasu.

Kyberzločinci si uvědomili, že pomocí deepfake lze vytvořit videa, zneužít člověka a přimět ho k něčemu, co by jinak neudělal. Dnes jsou tyto technologie tak pokročilé, že je prakticky nerozeznáte od pravého videa. Případně jsou dost dobré na to, aby oběť uvedly do rozpaků a učinily ji tak zranitelnější. Typicky pak útočník požaduje platbu v kryptoměnách.

Dokáže AI svléknout spolužačky?

Jsou ale i případy, kdy jsou AI technologie zneužité dětmi – buď k šikaně anebo prostě jen jako „klukovina”. Zkrátka si chtějí zkusit, co všechno reálně tyto technologie dokáží.

Přijít na to, jak vytvořit deepfake, je poměrně snadné a pro technicky zdatné děti to není nic těžkého. A tak se zrodila nová vlna kyberšikany. Přišly na to (hlavně ty starší), že explicitní obsah lze použít proti jejich vrstevníkům.

Velká kauza se odehrála na podzim ve Španělsku. Žáci základní školy vytvořili pomocí AI fotky nahých spolužaček (zneužili přitom jejich běžné decentní fotky dívek). V Česku se s podobnými případy setkáváme také, byť v menším měřítku. Jde o individuální případy, o kterých se tolik nemluví.

I když technologie zneužije žák (třebas bez zlého úmyslu), aby si vytvořil explicitní video spolužačky, jde stále o výrobu a držení dětské pornografie. I kdyby materiály nebyly zneužity k vydírání nebo výsměchu,  jde o velice vážnou věc. Dospívající často nevědí, že i takto může dětská pornografie vypadat.

Jak poznat šikanu?

Poznat šikanu může být složité. Někdy začne jako nevinné pošťuchování, a ve chvíli kdy už přeroste v šikanu si děti nemusejí vědět rady. O tom, co už je to šikana, by měla rozhodnout oběť, protože každý máme jiné hranice.

Nejčastěji má kyberšikana formu urážlivých přezdívek, veřejného zostuzení, výhružek, stalkingu a obtěžování.

„Šikanu může být těžké poznat. Dospělí, nejčastěji rodiče nebo učitelé, by měli zavčas reagovat na možné varovné signály. Jako jsou třeba změny chování u dítěte, problémy s nespavostí, bolesti hlavy, břicha nebo výrazné změny nálad. Signálem je nezájem o dříve oblíbené aktivity nebo když dítě přestává využívat sociální sítě,“ vyjmenovává dětská psycholožka Kamila Ryšánková 

Pokud máte dojem, že něco není v pořádku, zkuste si s dětmi promluvit. Dejte najevo, že berete jejich situaci vážně. A dejte jim také čas na to se svěřit.

Jak se zachovat správně, pokud vaše dítě někdo online vydírá?

Vydírání (a někdy i šikana) je za hranou zákona, to si řekněme narovinu. Vaše dítě se v takovém případě stalo obětí, a proto není na místě nikoho obviňovat. Řešení může být složité, oběti se obvykle bojí, aby situace ještě neeskalovala. Mávnout nad šikanou rukou ale také není cesta.

#1. Nejdříve se zaměřte na své dítě. Ujistěte ho o vaší podpoře a domluvte se, jak můžete nejlépe pomoci.

#2. Nasbírejte si o vydírání důkazy. To znamená uložte si snímky obrazovky, obrázky, komentáře, videa.

#3. Obraťte se na vedení školy nebo preventistu, pokud jej škola má. A společně domluvte vhodný postup. Učitelé a pedagogičtí pracovníci by měli vědět, jak šikanu řešit. Bohužel někdy tento článek selhává.

#4. Šikanu můžete zablokovat a nahlásit provozovateli stránek. Můžete se s důkazy obrátit také na Policii ČR.

Pomohly by zákazy? Spíš ne

Někteří doufají, že by mohly pomoci přísnější pravidla a předpisy. Například se mluví o vyšší věkové hranici pro založení účtu na sociálních sítích, nebo přísnější pravidla pro moderování obsahu. Je na místě zmínit, že sociální sítě se snaží proti šikaně bojovat. Prozatím ale bez úspěchu.

Co mohou rodiče dělat?

#1Pochopte

Když jsme vyrůstali my, sociální sítě jsme neměli. Zatímco jsme se my porovnávali s dětmi ze stejného sídliště, ony se srovnávají s těmi nejlepšími z celého světa. Je důležité pochopit, v čem se jejich dospívání liší.

Povídejme si s dětmi
o technologiích...

... protože, kde panuje důvěra, tam je i online bezpečno. Stáhněte si ZDARMA konverzační karty, které vám pomohou otevřít složitá témata.

CHCI KARTIČKY

#2 Vysvětlujte

Dávno se ukázalo, že přísná pravidla ohledně technologií nefungují. Děti si vždycky najdou způsob. Lepší cestou je tedy s nimi mluvit a vysvětlovat si rizika a stinné stránky sociálních médií nebo nesprávné netikety a ubližování ostatním na internetu.

#3 Naslouchejte

Ať už je vaše dítě obětí šikany nebo se na ní podílelo, potřebuje si s někým promluvit. Pokud budeme pro naše někým, komu se mohou svěřit bez odsouzení, můžeme řadu škod vždy napravit.

#4 Ukažte jim jejich hodnotu

Zdravé sebevědomí začíná doma. Pokud ji budou mít, nebudou potřebovat hledat potvrzení jinde nebo si něco dokazovat.

#5 Rozvíjejte e-kompetence

Vaše děti nejsou nikdy příliš malé na to, aby se začaly učit o technologiích. Čím více budou vědět, tím lépe budou připraveny. Musíte být příkladem správného používání internetu a jejich průvodcem.

Nástroje umělé inteligence usnadňují šíření kyberšikany. Někdy začne jen jako hloupý žertík, který nabyde obludných rozměrů. Důležité je podporovat děti, aby mohly o takových problémech otevřeně mluvit. Ukazujme jim také druhou stranu mince, děti, které jsou empatičtější a mají dobře rozvinuté e-kompetence, jsou nejen odolnější, ale také se online chovají k druhým lépe.