Umělá inteligence – dobrý sluha, ale zlý pán?

Vzhledem k tomu, že se umělá inteligence (Artificial Intelligence, AI) a strojové učení (Machine Learning, ML) nachází v mnoha zařízeních kolem nás, ať už je řeč o autonomních vozidlech, televizích, mobilních telefonech nebo ochraně před kybernetickými hrozbami, zaujal mne přednáškový blok prezidenta Českého institutu manažerů informační bezpečnosti pana Aleše Špidly o umělé inteligenci.

V čem spočívá umělá inteligence a strojové učení?

Na začátku je důležité vymezit rozdíl mezi výše zmíněnými pojmy. Umělou inteligencí chápeme jakékoliv technologie, které jsou řízené samostatně, např. autonomní vozidla a jedná se o složitější technologii, která do našich životů výrazněji proniká až teď.

Technologii strojového učení s názvem Augur využíváme ve společnosti ESET již od roku 1997.

Strojové učení je součástí umělé inteligence a jedná se o systém fungující na základě učení. Systém dostane vstupní a výstupní data, a poté je schopen předvídat možné výstupy.

Nejedná se ale o nic nového. Technologii strojového učení s názvem ESET Augur využíváme ve společnosti ESET již od roku 1997 a skrze hloubkové učení a krátkodobé paměti umožňuje generovat konsolidované výstupy a pomáhá přesněji označit nalezené vzorky jako čisté, potenciálně nežádoucí anebo škodlivé. Více informací o technologii Augur si přečtete v tomto článku.

Ale zpátky na konferenci.

Aleš Špidla během originální a poněkud utopické přednášky uvedl příklad fungování strojového učení na bezpečnostních dohledových centrech národních i nadnárodních korporací. Dle jeho slov je nevýhoda v tom, že zaměstnanci plní vlastní svěřené úkoly systematicky, ale už nedokáží stovky a tisíce informací propojit do jednoho celku a vyvodit z toho výstup. To hraje ve prospěch technologií strojového učení a umělé inteligence, které si s tím umí poradit.

Na konferenci padly další zajímavé příklady využití umělé inteligence, která má již své místo ve zdravotnictví při vývoji a výrobě léků, vyhledávání vhodných kandidátů a vysokou úspěšnost má také v radiologii a radioterapii. Dle IBM Watson Genomics byla umělá inteligence přibližně o 12 % úspěšnější při diagnostice a identifikaci chorob než lidé. Osobní zkušenost, kdy jsem se setkal s prvky umělé inteligence, jsem zaznamenal především u počítačových her.

Závěrem

Umělá inteligence s sebou nese také negativa. Jedním z nich je obava, že bude schopna uvědomit si zranitelnosti hardwaru, na kterém je postavena, a využít je v náš neprospěch. Může se jednat například o zranitelnosti hardwaru typu Meltdown. To je označení zranitelnosti v procesorech nebo technologie Hyper-Threading, která skýtá ohrožení ve sdíleném prostředí.

Odvětví, kde může mít umělá inteligence a strojové učení fatální následky, uvedl Špidla překvapivě na příkladu autonomních zbraní, které si vybírají cíl bez naší kontroly. Vědci z tohoto důvodu varují před jejich vývojem a pochopitelně panuje strach, že se stanou nekontrolovatelnými.

V této souvislosti byla jmenována i společnost Accenture, kde vynalezli nástroj implementující samo rozhodování do nástrojů AI, kterou využívají při detekci pojistných podvodů dle analýzy hlasu nebo chování a podle toho rozhodne.

Otázkou však i po této konferenci zůstává, zda necháme umělou inteligenci za nás rozhodovat o důležitých otázkách, soudních sporech a v jaké míře dojde ke změně nabídek na pracovním trhu v důsledku nástupu těchto technologií.