Svět zachvátilo růžové šílenství, každý si chce udělat svého vlastního AI avatara ve stylu Barbie nebo Kena. Populární se staly aplikace bairbie.me a barbieselfie.ai. U první si všimněte podivného jména. Aplikace totiž, jak sami autoři uvádějí, nebyla vytvořena, ani schválena společností Mattel kvůli copyrightu na jméno panenky Barbie. Barbie Selfie Generator je naopak oficiální aplikací od studií Warner Bros. Problémy obou aplikací spočívají zejména v tom, jak nakládají s našimi daty.
Aplikace, které využívají umělou inteligenci k úpravě fotek jsou mezi lidmi velmi populární. Barbie-editor není jediný, před pár lety čelila stejným otázkám a problémům například aplikace FaceApp. Tato aplikace dokázala na základě vámi nahrané fotky přidat věk, změnit pohlaví nebo například rasu.
Před riziky obou aplikací varovalo polské Ministerstvo pro digitalizaci nebo české Velitelství informačních a kybernetických sil.
Abyste mohli tyto služby využívat, musíte souhlasit s podmínkami užití. Ty ale bývají poměrně složité a málokdo je čte. Tak je tomu i v případě barbieselfie.ai, kde se po přečtení dozvíte, že aplikaci dáváte mimo jiné přístup ke své historii nákupů, včetně informací o vaší platební kartě, GPS lokaci, přesným technickým informacím o vašem zařízení a k jeho fotoaparátu, který umožňuje sledovat pohyb vašich očí a dalších obličejových rysů a také vašeho okolí. Povolení navíc udělujete na jedno kliknutí a není možné odsouhlasit jen některé z oprávnění. Přístup k takovým údajům představuje riziko pro ochranu vašeho soukromí.
Druhá z aplikací – bairbie.me podle polského Ministerstva pro digitalizaci zase neodpovídá kritériím nařízení GDPR. My jako uživatelé tak nemáme informace o tom, jak přesně se naše data sbírají a jak přesně se budou používat. Stručné podmínky v angličtině, ale například zmiňují, že aplikace bez dohledu dospělého nemůže být používaná uživateli mladší 16 let a také do ní nesmějí být nahrávány snímky, ke kterým uživatel nemá potřebná práva nebo fotografie dalších osob bez jejich souhlasu.
Problémy AI editorů: rasismus i trénink rozpoznávání obličejů
Typickým problémem těchto AI editorů je to, že si nemůžeme ověřit, jaká firma data vlastní a k jakému účelu je zpracovává, kde přesně sídlí nebo jaké má standardy zabezpečení. Všichni občané Evropské unie mají nárok na to, aby jejich data byla chráněna a jako uživatelé měli přehled o tom, co se s jejich daty děje. Bez ohledu na to, odkud pochází služba, kterou chtějí využívat. Legitimní služby toto respektují a uživatelům transparentně sdělují, jaká data shromažďují a zpracovávají, případně jestli je sdílí s nějakou třetí stranou.
Jakmile do aplikace nahrajete data, například fotografie, dáváte aplikaci přístup k těmto datům. Může se zdát, že vaše selfie není tak důležité, ale opak je pravdou. Například v případě aplikace FaceApp se spekulovalo, že veškeré fotografie jsou používány pro trénink umělé inteligence a následně pro trénink softwaru na rozpoznávání obličejů (ten je například využíván k represi lidí v Číně).
Nekorektní aplikace běžně prodávají data třetím stranám, mimo jiné i pro marketingové účely. Pokud dáte vývojářům aplikace kompletní práva k vašim fotografiím, může se stát, že vaši fotku najdete jednou na reklamním letáčku.
Velitelství informačních a kybernetických sil varovalo i před tím, že rozsáhlé databáze e-mailů spojených s vaší fotografií mohou být prodány, a pravděpodobně i zneužity.
Odborníci se obávají toho, jak mohou být data (zejména pak fotografie a videa) zneužívána pro vytvoření deepfake nebo jiných nejmodernějších podvodů, které mohou mít zásadní vliv na lidské životy a osudy.
Některé zdánlivě populární aplikace na tvorbu avatarů a AI editování obsahují malware nebo spyware. To byl případ „BeautyPlus – Easy Photo Editor & Selfie Camera“, kterou si stáhlo přes 300 milionů uživatelů. Nebo aplikace od vývojářského studia iJoysoft, které obsahovaly adware (a tudíž uživatelům zobrazovaly nevyžádanou reklamu, dokonce i když původní infikované služby byly vypnuté).
Platí, že většina AI editorů se teprve vyvíjí, a tudíž nemusejí být kompletně spolehlivé ani dokonale bezpečné. S důvěryhodností se například potýkala aplikace Lensa, která vytvářela i pornografický materiál nebo výstupy s genderovými a rasovými předsudky.
Jaké parametry si ověřit?
Editory fotografií jsou zábavné a pokud dodržíte několik základních pravidel, můžete je používat i bezpečně.
V první řadě vždy věnujte pozornost tomu, kdo aplikaci provozuje a spravuje vaše osobní údaje. Pokud služba zpracovává osobní údaje a je provozovaná z EU nebo společnost sídlí mimo EU, ale cílí svoje služby a monitoruje chování osob v EU, vztahují se na ní požadavky ochrany osobních údajů GDPR.
Pozorně si přečtěte podmínky užívání služby, kde se zaměřte na to, jaká data společnosti prostřednictvím aplikace poskytujete a jak s nimi může dále nakládat (předávání údajům třetím stranám, využití pro marketingové účely apod.).
Pokud to aplikace umožňuje, udělte jí co nejnižší oprávnění – např. pouze přístup k fotoaparátu a neposkytujte jí ani svoje osobní údaje. Pokud vám aplikace výslednou fotografii nezasílá na e-mail, nepotřebuje od vás ani ten.
Do aplikace nenahrávejte fotky někoho jiného bez jeho svolení. U svých fotografií dbejte na to, aby ukazovaly co nejméně. Lepší variantou je nahrát statickou fotografii než jí pořizovat přímo za pomocí aplikace, která o vás může v ten moment sbírat i další informace.