Hra s realitou. Nebezpečí zvané deepfake má i pozitiva
U nevinných žertů však deepfake bohužel nekončí. Místo videa zpívajícího politika na uživatele může vyskočit dílo, na kterém ten samý člověk radí s investováním. „V tuto chvíli je to pro mě nejlepší způsob jak získat pasivní příjem,” říká Andrej Babiš na podvodném videu kolujícím po sociálních sítích, ve kterém moderátorovi vysvětluje, jak si může člověk snadno vydělat peníze.
Přitom v realitě nikdy nic takového nepronesl. Původně jde o rozhovor, kde Babiš o investicích vůbec nemluví. Někdo mu skrz umělou inteligenci však do úst vložil slova, který nikdy nevyřkl. Pokud ale divák pravou verzi nikdy neviděl, může si myslet, že se mu skutečně Babiš snaží předat návod na rychlé zbohatnutí a v dobré víře se jeho radou řídit.
„Bez důvěryhodného zdroje nemůžeme věřit pravdivosti fotky ani videa. Že politik něco na videu říká, ještě neznamená, že to skutečně pronesl,” vysvětluje Jakub Sedláček ze Studií nových médií Filosofické fakulty Univerzity Karlovy a Národního institutu SYRI a doplňuje, že falešná videa na internetu nemusí být jedinou zbraní podvodníků, kterou jim umělá inteligence nabízí.
Útočník totiž nemusí chtít napodobit pouze celebrity nebo politiky. Jeho cíl může být kdokoli, kdo na internet nahrál svoje video, nebo zvukový záznam hlasu. „Podvodník vám může kdykoli zavolat hlasem vašeho sourozence, rodiče nebo potomka, že nutně musíte poslat někam peníze, abyste ho dostali z problémů,” říká Sedláček.
Zatímco dříve se dalo poměrně snadno rozpoznat, co je reálné a co upravené, v roce 2023 to již na první pohled často zřejmé není. Člověk může pomocí umělé inteligence vytvořit reálně vypadající fotku člověka, který nikdy neexistoval. Kromě toho je tvorba deepfaku mnohem jednodušší než dříve.
I ty nejlevnější programy s umělou inteligencí už dokážou deepfake vytvořit neskutečně snadno a rychle. „Stačilo mi najít několik minut zvukové stopy a pak pár hodin počkat, až si program zvukovou stopu přechroustal a vytvořil model, se kterým jsem si už jen mohl dělat, co jsem jenom chtěl. Je potřeba pouze cokoli namluvit nebo nazpívat, a to samé pak udělá i deepfake,“ říká Antoním Havlík ve videu Deepfake: falešné vzpomínky a lživá realita na svém YouTube kanálu Segment. Hovoří v něm o tom, jak za pomocí umělé inteligence vytvořil realistické modely známých politiků. „S obrazem je to ještě jednodušší. Koupil jsem si za dvě stovky ten úplně nejzákladnější nástroj, do kterého stačí hodit video a jednu jedinou fotku,“ dodává.
Světlá stránka umělé inteligence
Deepfake však není pouze o podvodech a nemusí jít vždy o čistě negativní záležitost. Dá se využít například při tvorbě filmů a her. „Technologie, kterými na videu změníme text projevu politika, jsou úplně stejně použitelné třeba pro tvorbu filmu. Třeba pro dabing, kde postava bude ve všech jazycích mluvit hlasem původního herce a její pusa se bude hýbat tak, jak v daném jazyce má,” říká Sedláček.
Sám je toho názoru, že tyto technologie mají především pozitivní využití, i když uznává, že někteří lidé kvůli ní přijdou o práci. ‚‚Jako každá technologie s sebou nese spoustu rizik, ale hlavně obrovskou příležitost posunout lidstvo dál,” dodává.
Deepfake však není novinkou posledních měsíců. V roce 2017 šlo o pornografická videa celebrit, o tři roky později se objevil na sociální síti TikTok účet s Tomem Cruisem, kde herec sdílel videa ze svého běžného života. Muž, který na videích vystupoval, byl jen částečně podobný slavnému herci a Cruisovu tvář mu propůjčovala právě umělá inteligence.
V roce 2023 je popisovaný fenomén již mnohem rozšířenější. K umělé inteligenci a tím i ke tvorbě deepfaků má na internetu přístup každý. Přestože má AI mnoho pozitivních využití, najdou se jedinci, kteří ji mohou využívat k podvodům nebo i jako prostředek šikany. Proto je důležité dění kolem umělé inteligence nadále pečlivě sledovat. Na lidstvo tam totiž čeká mnoho zajímavých a zajisté příjemných změn, ale zároveň i nová rizika.