Návrh nařízení by postihoval tvůrce obsahu a online platformy za to, že jasně neoznačí obsah vytvořený umělou inteligencí.
Čína navrhla nové předpisy, které by zavedly povinnost jasně označovat jakýkoli obsah vytvořený AI. Snaží se tak potlačit prudký nárůst podvodů souvisejících s umělou inteligencí.
Čína se snaží získat kontrolu nad AI obsahem
Návrh pokynů, který byl zveřejněn 14. září a který měla veřejnost připomínkovat po dobu jednoho měsíce, bude nově vyžadovat, aby všechny obrázky, videa a zvuky vytvořené umělou inteligencí byly jasně označeny vodoznakem a vloženými metadaty. Je to vůbec poprvé, co čínská správa kyberprostoru navrhuje konkrétní pravidla týkající se označování AI generovaného obsahu.
Podle nového nařízení musí videa generovaná umělou inteligencí obsahovat „explicitní“ označení, které se zobrazí na začátku klipu a je neustále viditelné v rohu obrazovky. Doporučují také, aby se štítek v průběhu videa ve vhodných okamžicích rozblikal. Metadata zaznamenávající informace o zdroji souboru a autorských právech – v pokynech označovaná jako „implicitní“ štítek – musí být rovněž zaznamenána již v okamžiku vytvoření materiálu.
Jak by měl být správně označen produkt generovaný umělou inteligencí?
Pravidla by se vztahovala nejen na společnosti zabývající se AI technologiemi, ale také na jednotlivé tvůrce obsahu, online platformy, obchody s aplikacemi a všechny ostatní distributory obsahu, uvádí se v pokynech. Platformy pro distribuci obsahu jsou podle pokynů povinny označit soubory podezřelé z toho, že byly vytvořeny umělou inteligencí, pokud u nich metadata chybí. Obchody s aplikacemi jsou povinny zajistit, aby poskytovatelé obsahu správně označovali obsah generovaný umělou inteligencí. Pokud pak uživatel požádá poskytovatele služeb o dodání obsahu generovaného umělou inteligencí bez správného označení, musí poskytovatel služeb uchovávat záznam o této žádosti po dobu nejméně šesti měsíců.
Rozhodnutí podporují i vývojářští giganti
Nové návrhy jsou nejnovější snahou čínských orgánů bojovat proti prudkému nárůstu případů podvodů souvisejících s umělou inteligencí. Podle čínského startupu RealAI, který se zabývá umělou inteligencí, bylo v Číně během prvních pěti měsíců roku 2024 zpronevěřeno pomocí umělé inteligence v přepočtu více než 600 milionů korun, což je oproti celému minulému roku více než desetinásobek. Technologie jako deepfake, syntéza řeči či AI chatboti jsou tak aktuálně Pekingem označovány za vysoce rizikové nástroje pro kriminální činnost.
Požadavek, aby tvůrci a online platformy správně přidávali metadata k souborům generovaným umělou inteligencí, bude pro některé společnosti představovat technickou výzvu. Pokyny rovněž neupřesňují sankce pro tvůrce a distributory obsahu, kteří pravidla poruší. Je však na místě poznamenat, že Čína není první (a nejspíš ani poslední) zemí, která povinnost označování AI obsahu zavádí. Tuto iniciativu navíc podporují i samy společnosti věnující se vývoji technologií umělé inteligence, v čele s Adobe, OpenAI či Microsoftem.