Technologie dokáže napodobit hlas a podobu celebrit, čehož kyberzločinci využívají ve svůj prospěch.
Nejnovějším trendem v oblasti kybernetických podvodů jsou falešné zprávy o celebritách. Zločinci falšují hlas a podobu celebrit, jako jsou Taylor Swift, Leo Mesi, Tom Hanks, Lamine Yamal nebo David Broncano, aby podvodně propagovali aplikace a produkty. Níže vám ukážeme nejpozoruhodnější případy, jak vznikají a jak se proti nim bránit pomocí čtyř klíčů k odhalení deepfakes.
Nejvýznamnější případy deepfake
Zločinci pomocí umělé inteligence klonují hlas celebrit a někdy i jejich hlas. Dělají to proto, aby dodali důvěru produktu, který se ve většině případů ukáže jako podvodný. Jak si ukážeme později, může to udělat kdokoli, a proto je jejich výroba velmi snadná.
Leo Messi spouští vlastní aplikaci
Hlas argentinské hvězdy byl vydáván za účelem propagace údajné podvodné aplikace s názvem „Wildcat Dive“. Zločinci vzali skutečný rozhovor s Messim a implementovali do něj fotbalistův naklonovaný hlas, aby to vypadalo, že propaguje jím vytvořenou hru, která umožňuje vyhrát až 800 000 pesos denně.
Taylor Swift losuje kuchyňské náčiní.
Jennifer Anistonová prodává MacBook Pro za 10 dolarů
Kultovní herečka ze seriálu Přátelé oznámila, že 10 000 lidí získá MacBook Pro za 10 dolarů v rámci největšího rozdávání tohoto zařízení v historii. Jedná se zřejmě o podvod, který se vydává za její identitu za účelem podvodu.
S velkou radostí oznamuji, že jsem právě vyhrál největší giveaway o macbook pro na světě od Jennifer Anistonové 😍 pic.twitter.com/Se78tv231h
– I’m 6’7 (@taylorprobably) 23. ledna 2024
Lamine Yamal tě obohatí
Ve Španělsku jsou fotbalisté velmi známí, a proto jsou také oběťmi deepfakes. Po Leovi Messim tu máme případ Lamineho Yamala. V podvodné reklamě se vydává za jeho hlas, aby naznačil, že spustil vlastní aplikaci, která „udělá všechny Španěly bohatými“. Video s rozhovorem existuje, ale stejně jako v případě Messiho je původní hlas nahrazen falešným. Existuje také další deepfake, který používá falešné video.
David Broncano se loučí s kariérou
V březnu X zaplavily propagované příspěvky, v nichž byl komik zatčen v montážích vytvořených AI spolu s popisky, jako například „Je tohle konec jeho kariéry?“ nebo „Nevěděl jsem, že ho natáčejí!“. Pokud jsme na ně klikli, byli jsme přesměrováni na webové stránky falešných médií, například RTVE nebo El Mundo, kde byly zveřejněny falešné rozhovory, v nichž Broncano svému partnerovi sdělil, že klíčem k zbohatnutí je využití platformy s názvem Trade 500 Lidex.
⚠️ Broncano popírá zprávy ⚠️ Jistě jste viděli, že celý den byl TT, dnes musel vydat prohlášení. pic.twitter.com/Pgd9AZcorG
– La Resistencia por M+ (@LaResistencia) 7. března 2024
Tom Hanks oznámil plán zubní péče
Herec musel na Instagramu upřesnit, že prostřednictvím AI nepropagoval zubní plán. „Buďte opatrní! Venku je video, na kterém propaguju zubní plán s verzí mé osoby vytvořenou umělou inteligencí. Nemám s tím nic společného!“ sdělil na sociální síti.
Další deepfakes celebrit
Výše uvedených šest je těch nejvýznamnějších, které jsme shromáždili, ale existují i další relevantní. Jsou mezi nimi i surrealistické příklady, jako když Felipe VI. po svém projevu požádal Španěly, aby si stáhli aplikaci. Je zde také prostor pro důslednost, jako například tvrzení pana Zvířete, že vám dá iPhone 15 Pro, nebo falšování autoritativních hlasů ve zprávách, jako například moderátorka Sandra Golpe prezentující zázračný krém na obličej.
Spousta lidí dostává tuto podvodnou deepfake reklamu na mě… Jsou platformy sociálních médií připraveny zvládnout nárůst deepfake s umělou inteligencí? Je to vážný problém pic.twitter.com/llkhxswQSw
– MrBeast (@MrBeast) 3. října 2023
Umělá inteligence usnadňuje jejich vytváření
Umělá inteligence má pozitivní účely, jako je boj proti osamělosti nebo vytváření léků, ale i negativní. Mezi ty druhé patří klonování bez povolení a pro podvodné účely podoby a hlasu celebrit, známé jako deepfake. Deepfake nemusí být nutně negativní, může být i zábavný, pokud je dobře regulován, ale v tomto případě se používá k podvodným účelům.
Zločincům stačí ke klonování patnáctisekundový úryvek hlasu. Proto existují podvody, které používají hlas vaší rodiny nebo přátel, ale také celebrit, jejichž hlasy lze snadno získat.
Existují desítky programů a aplikací schopných klonovat hlasy a videa. Navíc jsou k tomu potřeba minimální počítačové dovednosti, takže to zvládne každý. Některé deepfakes nejsou příliš důvěryhodné, ale jiné již byly úspěšně použity v mnohamilionových firemních podvodech.
Jak rozpoznat deepfake
Důležitější než rozpoznat deepfakes je dávat si pozor na online akce, které znějí extrémně dobře. Nikdo nebude rozdávat 10 000 MacBooků Pro za 10 dolarů, když mohou stát až 4 300 dolarů.
Existuje také několik vodítek, jak deepfake rozpoznat:
- Chladný hlas: Hlas deepfakerů stále není dostatečně realistický. Pokud mu věnujeme pozornost, všimneme si, že něco není v pořádku, k čemuž můžeme dodat, že mohou mít zvláštní přízvuk nebo mají potíže s vokalizací.
- Podivné pohyby: Pokud je deepfake natočen na videu, jako v případě Taylor Swift, její tělo bude dělat podivné pohyby. Sotva mrkne nebo se určité části jejího těla budou podivně pohybovat. Jednou z věcí, na které je třeba dávat pozor, je vnitřek úst, protože zuby, jazyk a další prvky často nejsou správně ztvárněny.
- Desynchronizace mezi zvukem a obrazem: Dalším z klíčů k odhalení je, pokud je zvuk nebo hlasový doprovod nesynchronizovaný.
- Ostrost videa: u většiny deepfake videí je ostrost nižší než u normální nahrávky. Vypadají rozmazaně.
Taylor Swift je jednou z největších obětí umělé inteligence. V lednu 2024 byly na serveru X šířeny sexuální deepfakes zpěvačky a její obraz a hlas byly následně naklonovány pro falešný dárek v podobě kuchyňského nádobí. Umělkyně tvrdila, že výrobce pánví a hrnců losuje její výrobky zdarma. Kromě toho, že zpěvačka reklamu nikdy nenatočila, výrobky nikdy nedorazily, ale náklady na jejich dopravu byly podvodným výdajem.