Dalo by se říct, že žijeme v digitální džungli a nebezpečí číhá všude kolem nás. Deepfake je jen jednou z mnoha nástrah, na kterou můžeme narazit. Všechny ale mají stejný cíl – podvést nás s cílem ekonomického, politického či jiného zisku.
Jedná se o online komunikaci, během níž dojde ke zneužití fotografie nebo videa, a to nejčastěji veřejně známých osob, které pak například doporučují nějaký produkt, nebo ve volební kampani pronášejí něco, co v reálném životě nikdy neřekly. I když nejde o fenomén zcela nový, s umělou inteligencí se jeho používání stále rozšiřuje.
Takové obrázky, a hlavně videa vznikají systémem strojového učení označovaným jako deep learning (v překladu hluboké či skryté učení), které se věnuje i skrytým vrstvám informací. K tomu jsou potřeba speciální algoritmy označované jako neuronová síť. Jedná se o napodobení toho, jakým způsobem se učí informace i lidský mozek. Jednoduše řečeno se takový algoritmus učí z příkladů a na jejich základě vytváří nové výstupy, například videa, která se až nápadně podobají původním vzorům. Jde vlastně o systém pokus – omyl, jako když se dítě učí, co je k jídlu a co ne. Jen to digitálně jde mnohem rychleji než v lidském světě.
Konkrétně pro podvodná videa se používají dva různé algoritmy, přičemž jeden z nich se snaží vytvářet co nejkvalitnější falešná videa, která jsou často k nerozeznání od těch pravých. Druhý algoritmus je naopak určen k odhalování falešných videí. Oba algoritmy působí zároveň a neustále se snaží vylepšit plnění svého úkolu. Výsledné video je pak téměř dokonalé, takže zarytý vegetarián propaguje klidně konzumaci masa, což řadě lidí nepřijde divné.
Související článek
Vylepšování není nové, ale deepfake je horší. Už v dávné historii se fotografie vylepšovaly za pomoci retuší. Skoro každý se už setkal s různými aplikacemi na změny vizáže, pro stárnutí apod. Ale u nich je jasné a zřetelné, že se s videem (fotkou) nějak manipuluje. Problémem deepfake videí je, že vytváří umělý svět, v němž už nikdo neví, co je pravda a co lež. A ještě větší, protože většina populace má jako primární zdroj informací internet a zdaleka ne každý k němu přistupuje kriticky.
Deepfake v Česku
Podle výzkumu agentury IPSOS z května 2024 je 44 % populace schopno aspoň v základních obrysech určit, co je to deepfake. Asi pětině lidí (22 %) už bylo někdy takové video doručeno. Většina lidí (84 %) se obává, že deepfake pomůže k většímu množství dezinformací na internetu, nebo že kvůli podvodným videím přestanou lidé věřit těm skutečným (78 %). A 71 % si myslí, že dojde k většímu rozdělení společnosti. Obecně se deepfake více obávají vzdělanější lidé, i když jeho obětí jsou častěji lidé méně vzdělaní.
Nejde jen o podvodníky, kteří se snaží za pomoci podvodných videí vylákat z lidí peníze. Typicky je například zneužit veřejně známý člověk k propagaci nějakého finančního produktu. Takové video s Andrejem Babišem lákalo na finanční produkt a celých 13 % Čechů ho považovalo za pravdivé. Podle zmíněného průzkumu to byli hlavně lidé s nižším vzděláním a voliči ANO (22 %) a SPD (15 %).
Jiné obdobné zmanipulované video na stejné téma zkreslovalo výroky Petra Pavla. Takovému videu věřila desetina Čechů, zejména z nejmladší věkové skupiny 18 až 26 let (25 %) a voličů hnutí STAN (19 %). Naštěstí jen 8 % respondentů by taková videa sdílela dále mezi své známé.
„Asi desetina populace má sklony uvěřit deepfake videím. Ne vždy hrají roli politické preference. Z dat vidíme, že náchylná k uvěření deepfakes je i mladá generace. Žijeme ve světě, kde je pro nás uvěřitelné pouze to, co je v souladu s naším přesvědčením. A to se potvrzuje i v případě deepfakes,“ uvedl k průzkumu Michal Kormaňák, Account Director Ipsos Public Affairs.
Hodně lidí se také obává, že deepfake videa budou zneužívána v politickém boji. 63 % lidí je přesvědčeno, že taková videa začnou politické strany masivně zneužívat k očerňování politických oponentů. Už k tomu ostatně i došlo, když se na internetu objevila falešná videa Petra Pavla během prezidentské volební kampaně.
Obrana je jediná
Ne všechno, co se objeví na internetu, je pravda. Proto je důležité k informacím a videím přistupovat kriticky a ověřovat si je z více zdrojů. A hlavně nikdy nikomu nesdělovat citlivé informace a dávat přístup do vlastního počítače, i kdyby doporučující video bylo od kohokoli, komu důvěřujete. Žádné rychlé zisky ve financích a jednoduchá řešení v politice neexistují.