Expert: Před AI podvody ochrání teenagery hlavně dialog

Jak vidí vliv technologií na mladou generaci odborník?  Zeptali jsme se našeho experta Ondru Kuboviče. Ten dlouhá léta analyzoval škodlivý kód, posledních pár let se věnuje hlavně osvětě a překládá složitá témata do řeči nás normálních smrtelníků.

V rozhovoru jsme mluvili hlavně o sextorzi, neboli vydírání lechtivým obsahem. Bohužel se s ním mohou setkávat i děti. Jaký vliv to ně má a jde vůbec něčemu takovému zabránit?

Jako rodič by se Ondra přimlouval třeba za vyšší věkovou hranici pro používání sociálních sítí a lepší informovanost dětí.

V poslední době jsme svědky boomu různých typů vydírání, kdy kyber útočník zneužije AI, aby přiměl svou oběť něco udělat nebo zaplatit určitou částku. Nejčastěji se mluví o sextortion nebo česky sextorzi. Co to je a jak funguje?

FBI vydala varování, že tohle je rostoucí trend. Kybernetičtí zločinci zjistili, že mohou použít technologie pro generování deepfake videí. Mohou je vytvořit z  velmi malého množství materiálů, takže stačí použít několik úplně normálních fotek nebo videí, které jste sami natočili a dali na sociální sítě.

AI technologie z toho dokáží vygenerovat pornografický materiál s vaší tváří. Na těch záběrech samozřejmě nejste skutečně vy, ale je tam váš obličej a záběry budou vypadat dost důvěryhodně. Útočník dokonce může model vytrénovat tak, aby postava měla podobné rysy jako vy.

Vygenerované video typicky zneužívají k vydírání. Takže vám pošlou e-mail, že pokud nezaplatíte třeba 1 000 €, zveřejní toto video online a zničí vám pověst. Často tvrdí, že video také pošlou všem vašim známým – vaší rodině, přátelům, partnerovi, zaměstnavateli.

Přemýšlím, jestli si nenabíhám, protože sdílím svoje fotky, sem tam nějaké reels. Mohou se s deepfake setkat i děti. Teenageři přeci také sdílí své fotky a jejich obličej může někdo takhle zneužít.

To se už bohužel děje. Děti si tohle dělají navzájem. Teenageři si s těmito technologiemi hrají, protože jsou často zdarma a online a vy se musíte jen zaregistrovat. Tyhle deepfake si můžete nechat vygenerovat, buď za malou částku nebo dokonce bez poplatku. Kvalita se sice liší, ale stejně.

Takže vyfotí své spolužáky a používají je k vygenerování pornografických obrázků a pak je mohou šířit v chatech své třídy nebo školy, kde je uvidí úplně všichni. Řekl bych, že to je eskalace kyberšikany.

Myslíš třináctileté, čtrnáctileté nebo i mladší?

Mohou být i mladší. Správně byste do 13 let neměli mít účty na sociálních sítích. Ale faktem je, že pokud chodíte do školy, je normální, že vlastní účty mají už devítiletí a používají je. Děti tyhle technologie budou používat, protože jsou jednoduše zvědavé.

Rodiče nemají čas neustále děti hlídat, musí chodit do práce. Vzpomínám si na sebe jako na mladého kluka a na to, jaké jsem dělal hlouposti. Ale my jsme neměli tyhle zdroje a možnosti. Myslím, že děti nechápou, jak daleko to může dojít a jak vyčerpávající to pro oběť může být.

Obzvláště pro dítě! Sotva si dokážu představit, co to musí udělat s tvojí sebejistotou, když se ti tohle děje během dospívání, které tě formuje.

Pravděpodobně se ještě zvýší počet duševních onemocnění a psychických problémů, zčásti i kvůli dostupnosti a vlivu AI technologií.

Jak mohou rodiče a pedagogové pomoci? Pomohla by nějaká pravidla? Nebo musí něco udělat sociální sítě? Co se s tím vlastně dá dělat?

Řada psychologů a odborníků na mentální zdraví by se přimlouvala za přísnější pravidla pro používání sociálních sítí.  Tak, aby děti do 16 let nemohly mít vlastní účty. Je to proto, že jejich mozek není dostatečně vyvinutý – a to nemyslím nijak zle – jen to fyziologicky trvá do nějakých 25.

Když je vám 16 let, máte již určité sebevědomí, takže je pro vás snazší nějaké věci zvenčí odfiltrovat a ustát to. Pro 13leté nebo mladší děti je to mnohem těžší. Může se stát, že si vezmou to, co se o nich říká a šíří a udělají z toho část své osobnosti.

Souhlasíš s takovou regulací nebo jsi proti tomu?

Jelikož mám malé dítě, tak bych takové pravidlo ocenil. Myslím si, že by to opravdu pomohlo.

Vidím totiž ty problémy, které to způsobuje hlavně mladým dívkám. Ty jsou ovlivněné navíc různými trendy ze sociálních sítí a pak mají problémy se sebepojetím.

Myslím, že by nám jako společnosti bylo lépe, kdybychom měli přísnější pravidla pro vstup na sociální sítě.

Pomohlo by také, kdyby rodiče a učitelé vysvětlovali rizika a mluvili s dětmi. To je nejlepší způsob, jak to řešit. Můžete samozřejmě mít nějaké nástroje, které vám pomáhají, třeba  rodičovskou kontrolu a podobně. Ale na druhou stranu je toho tolik, co tyhle nástroje udělat nemohou. Ale není to univerzální řešení. Děti jsou dost zdatné a dokáží najít i způsob, jak tato řešení obejít.

Takže bych řekl, že řešení je vždy v dialogu.  Musíte si s nimi promluvit, abyste pochopili, co jim ubližuje, co viděli, zda byli z něčeho zmatení, abyste jim to pomohli zpracovat. To je důležité zejména, když se stanou nějaké zlé věci, jako třeba, že je někdo vydírá deepfakem.

O rizicích internetu mluvte s dětmi už od školky. Vysvětlujte, co by se mohlo stát, jak technologie používat a také, že všechno, co vidí online, nemusí být skutečné.

Mám pak pocit, že spousta lidí jde cestou různých extrémů: buď je to rodičům nebo pedagogům jedno, nechají děti dělat všechno, včetně deepfaků, generování porna a kyberšikany, nebo naopak jim zakazují se na obrazovku byťjen podívat. Hádám, že oba tyhle extrémy jsou špatně?

Ten, který řekněme ignoruje problém, je často způsobený tím, kolik toho musíte jako dospělí zvládnout a o co všechno se musíte postarat. I ve výchově je tohle jen jeden z mnoha problémů. V důsledku se takový přístup může ošklivě nevyplatit, takže bych ho nedoporučil.

Na druhou stranu odepřít dětem přístup k těmto technologiím je na život nepřipraví. Protože svět už na těchto technologiích běží a bude na nich stále více závislý. Takže i když dětem elektronická zařízení nedovolíte a neřeknete jim o internetu (nevím, kde byste je museli vychovávat, možná v jeskyni nebo někde v lesích), tyhle technologie stejně z jejich životů nezmizí.

Děti potřebují být hlavně informované a potřebují pochopit rizika. Ideálně, aby chápaly i na emocionální úrovni, co s nimi mohou špatné zkušenosti z onlinu udělat ve fyzickém životě. Tohohle bychom se měli snažit dosáhnout, takže ideální je nějaké zlatá střední cesta. Jasně někdy se vám to nepovede, něco třeba občas podceníte.

Ale obecně se snažit udržet ten komunikativní přístup?

Přesně, pokusit se je udržovat informované. Mluvit s nimi o tom, čím si zrovna procházejí, a ne jim jednoduše zakázat telefon.

Zákazy nejsou vůbec dobrý způsob, jak dětem pomoct. Je možné jim omezit třeba přístup k určitému obsahu, ale stejně je jednou budete muset vypustit z hnízda.

Jasně a pak se online budou moci dostat k čemukoliv a kdykoliv…

Přesně. Je potřeba děti naučit, jak se pohybovat i v oblastech, které jsou nějak rizikové. Všichni jsme někdy dostali infikovaný e-mail, každý alespoň jednou kliknul na nějaký falešný odkaz, je možné si stáhnout nedopatřením nějaký malware a tak dále. I proto máme technologie, které nás chrání.

Pokud bychom o tom nemluvili, pokud bychom se to prostě pokusili ignorovat a pak najednou děti do takového světa vypustili, byly by úplně přehlcené a ztracené. Pak by děti nejdřív objevily všechny ty rizikové a škodlivé věci, protože ty jsou pochopitelně nadesignované tak, aby na ně vyskakovaly všude možně. A pokud nevíte, co s tím, tak vás to nutně semele.