Hrozba deepfake videí

Deepfake videa využívají techniku umělé inteligence a obrazové syntézy. Zjednodušeně tak program porovnává video známé osobnosti s desítkami jejích obrázků a podle toho se ji naučí imitovat.

Ačkoli to zní velmi složitě, pravdou je, že není žádný problém takové video vytvořit. Stačí vám k tomu desítky (lépe ale stovky) fotografií vybraného člověka a video, s nímž se budou porovnávat. Všechnu práci obstará už aplikace. Jednou z takových je například FakeApp ze začátku letošního roku. Jediným skutečným problém při tvorbě se stává potřeba silného hardwaru, což už dnes však není takový problém.

Může se zdát, že deepfake videa jsou vlastně užitečná. Dovedou „oživit“ dávno zesnulé slavné osobnosti. Například by se tak dala vyřešit role princezny Lei v devátém pokračování Star Wars. Tato videa také umí pobavit. To třeba, když na obličej Angely Merkelové naroubujete tvář Donalda Trumpa, případně vás Barack Obama vulgárním způsobem varuje právě před hrozbou deepfake videí.

Skutečný problém ale vězí v tom, že se dají snadno zneužít. Šíření virálních dezinformací už dnes nikoho nepřekvapuje. Ale často padají na uvěřitelnosti. Tato videa to povyšují na novou úroveň, protože jsou skutečně uvěřitelná a protože jejich výroba není drahá. Kvůli tomu tak můžete do úst slavného politika vložit kontroverzní výroky a zdiskreditovat ho ve volbách. Nebo hůř – rozdmýchávat v lidech nenávist vůči nějaké skupině obyvatel.

Další stinná stránka spočívá v deepfake pornografických videích. Tedy vkládání tváří slavných osobností pornohvězdám. Sice to přitahuje pozornost, ale pornografické weby tato videa blokují, neboť jim hrozí žaloby ze strany celebrit. Jistě to pro ně samotné není vůbec příjemné a nelze se divit jejich rozhořčení.

Někteří programátoři se už snaží s těmito podvodnými nahrávkami bojovat. Rozeznat chyby programu je pro samotného člověka často nemožné. Pomáhají tak samostatné algoritmy. Nicméně tvůrci podvrhů se mohou přizpůsobit kontrolním algoritmům tak, že se zaměří na konkrétní program a způsob jeho kontroly.

Časem dojde ke zlepšení technologie deep fake videí. Je už nyní jasné, že budou zneužity v politice, a musíme se proti nim naučit bojovat.