Fialové pomeranče? Deepfake fikce už (skoro) nepoznáte

Můžou být pomeranče fialové? Ano, mohou. Díky umělé inteligenci. Generátory videí a obrázků dokáží vytvořit téměř cokoli, co jim zadáme pomocí jednoduchého textu. Dá se říct, že dnes nemůžeme na internetu věřit vlastním očím. Kdokoli může vytvořit cokoli, co vypadá jako realita. Mluvíme o tzv. deepfake.  Na internetu nejčastěji narazíte na deepfake videa.

Když AI halucinuje…

AI nástroje řada lidí využívá běžně k práci, ale také ke konzultování osobních problémů, zdraví a podobně. Deepfaky obvykle někdo tvoří záměrně s cílem pobavit nebo nás oklamat. Poměrně často ale AI halucinuje, tedy poskytuje odpovědi, které neodpovídají realitě. Pokud si necháme vygenerovat referát, může to být maximálně trapné, rizikem jsou halucinace ve chvíli, kdy se s AI radíme o zdraví.

„O AI s mými klienty nemluvíme často, ale nejčastěji nepřesnosti zmiňují v domácích úkolech. Typicky: rozsáhlý text, ve kterém si však neověří faktické informace, které AI může zkreslit. Takže to někdy nadělá neplechu ve škole. Je škoda, že se děti o AI a způsobech, jak ji používat nebo z ní ověřovat informace, ve škole zatím spíše neučí,“ říká k  AI výmyslům dětský psycholožka Kamila Ryšánková.

Pravděpodobně bude halucinací AI postupně ubývat. Očekává se to například s nástupem vyhledání v ChatuGPT (tato funkce je prozatím dostupná pro předplatitele).

Veškeré odpovědi a výstupy od AI je na místě si ověřit.

Nástroje pro vytvoření deepfake se zlepšují

Deepfake pracují se stále lepšími nástroji. Na první pohled už nepoznáte, že jde o počítačem vytvořené dílo. AI (umělá inteligence) se vycvičila na skutečných obrázcích z fotobank a nekonečném množství video záznamů a dokáže tak věrně napodobit téměř cokoli.

K nárůstu dezinformací a podvodných videí přispívá rozvoj počítačů a algoritmů umělé inteligence. Přidejte k tomu zvýšenou dostupnost online nástrojů pro vytváření deepfake videí a otvírá se nám obrovský prostor pro deepfake scénu. Dnes je možné si s těmito technologiemi hrát doslova za pár korun (respektive dolarů).

Lidský mozek si dokáže domyslet i neexistující, podle toho co už viděl. Toto využívají některé optické klamy. Tento mechanismus nás chrání před nebezpečím. Zvládneme rychle zpracovat obrovské množství informací a vizuálních podnětů a vyhodnotit situaci.

Jenže při prohlížení videí a obrázků na Instagramu nebo Tiktoku nám vlastně tento mechanismus pomáhá uvěřit i tomu, co je falešné. Nevšimneme si podivného pozadí, když se soustředíme na hlavní objekt videa. Přehlédneme, že postava má místo 5 prstů jen 4. Významnou roli hrají také emoce.

„Náš mozek využívá například zákon dobrého tvaru, kdy doplní smysluplný celek z vizuálních podnětů, i když jsou neúplné nebo nepřesné. Silná emoční reakce, kterou mají deepfake videa za cíl vyvolat, přebíjejí naši racionální analýzu. Jakmile cítíme smutek, vztek nebo i velké nadšení, tak s největší pravděpodobností reagujeme více emočně,“ vysvětluje proč na nás mají deepfake takový vliv Ryšánková.

Až příště budete brouzdat na Instagramu nebo Tiktoku, zkuste se zamyslet, zda by to úžasně vtipné video nemohlo být vygenerované umělou inteligencí.

Jak nenaletět na hory nepravdivých zpráv a videí?

I když se budou technologie pro vytváření nepravdivých videí zlepšovat, máme pro vás jednoduchou radu: Vždy si ověřujte informace z několika nezávislých a důvěryhodných zdrojů.

Existují specializované nástroje pro detekci deepfakes videí a obrázků. Tyto nástroje spoléhají na umělou inteligenci a využívají algoritmy k detekci nesrovnalostí v obrazových datech. Ani ony nejsou neomylné. V případě obrázků a zpráv je možné si odpovědi ověřit také na těchto stránkách:

• Fact Ninja – nástroj na ověření manipulací v obrázcích od projektu E-bezpečí Univerzity Palackého
• Verifee – rozšíření do prohlížeče, jde o nápad 3 studentů, nyní funguje s podporou Univerzity Karlovy a centra CEDMO
• Ověřovna! – projekt Českého rozhlasu, který uvádí na pravou míru mediální dezinformace

„Zjistit, že něco nesedí, je pro náš mozek složité a obzvlášť náročné, pokud jsme přepnuti do režimu rychlého sledování informací. V tuto chvíli velice snadno přehlédneme, že na informacích něco nesedí. Je nutné přepnout do pomalejšího tempa a zapojit kritické myšlení. Ptejme se sami sebe: „jde o důvěryhodný zdroj? Kdo informací vypustil? Jsou tyto informace podpořeny dalšími důkazy nebo důvěryhodnými zdroji?“ Zrovna ty zdroje, které tuto informaci podporují, jsou důležité, jelikož náš mozek má tendenci ke konfirmačnímu zkreslení, kdy vyhledáváme a dáváme přednost informacím, které potvrzují náš názor,“ radí Kamila Ryšánková.

Odhalování deepfake je složitější

Rozpoznat podvodná videa a obrázky může být náročné. Pokud se vám něco zdá příliš šokující, nepravděpodobné nebo jen trochu divné, můžete se zaměřit na tyto nejčastější chyby:

• Hledejte nesrovnalosti v obličeji. Deepfake technologie mají problémy zobrazit realisticky všechny detaily. Oči mrkají zvláštním způsobem nebo vůbec? Ústa se podezřelé kroutí? Výraz ve tváři je statický? Pokud jste hráli počítačové hry, ve kterých vystupovali realistické lidské postavy, je deepfake často podobný právě tomu.
• Zvuk a video neladí. Pohyb rtů a úst neodpovídá mluvenému slovu. Jako by osobu někdo daboval a jen se trefoval do času promluvy.
• Podivné nasvícení a stíny tváře a postavy. Osvětlení neodpovídá okolí. Možná znáte z filmového průmyslu zelené plátno. Zde to může být podobné. Osoba je vložena do jiného prostředí a umělá inteligence nezvládla správně sladit osvětlení.
• Nekvalitní obraz či zvuk. Čím nižší kvalita obrázku nebo zvuku, tím snadnější je ošálit diváka. Generování deepfake videí je náročné, proto často oželí některé detaily zvláště v okolí obličeje a pozadí. Můžete se setkat s mobilním formátem deepfake videa s neostrým obrazem, kde detaily zkrátka nevidíme.
• Nereálné artefakty. Všímejte si nesrovnalostí v pozadí scény nebo neobvyklých artefaktů v pozadí videa. Technologie neuronových sítích nejsou ještě dokonalé, a často vygenerují nesmyslné objekty. Např. podivné dveře na neobvyklém místě v místnosti. Nebo ruce skryté za tělem jiné postavy, ale nepatřící k žádné postavě. Generátor vytváří napodobeninu reality a má proto problémy s realistickým zobrazením složitějších scén.