Čína vyvíjí systém umělé inteligence, který posiluje její digitální cenzuru a automaticky identifikuje obsah, který vláda považuje za „citlivý“.
Čína vytvořila sofistikovaný systém umělé inteligence, který má rozšířit její cenzurní aparát, celosvětově považovaný za jeden z nejhrozivějších na světě. Konkrétně se jedná o databázi více než 133 000 příkladů obsahu považovaného za „citlivý“, kterou objevil bezpečnostní výzkumník známý jako NetAskari.
Podle serveru TechCrunch se tato sbírka používá k trénování rozsáhlých jazykových modelů (známých také jako LLM, což jsou produkty jako ChatGPT nebo Claude), které automaticky identifikují jakýkoli obsah považovaný čínskou vládou za problematický.
Takto funguje umělá inteligence pro cenzuru
Tento model vyhledává jemnou kritiku, satirické komentáře a potenciální zdroje společenské nespokojenosti. Xiao Quain, výzkumník z Kalifornské univerzity v Berkeley, který se specializuje na čínskou cenzuru, sdělil médiím, že trénink tohoto média „je jasným důkazem toho, že čínská vláda nebo její spojenci chtějí vylepšit LLM, aby byla represe lepší a účinnější“.
Systém je nastaven tak, aby okamžitě identifikoval obsah klasifikovaný jako „nejvyšší priorita“. Patří mezi ně zprávy o chudobě na venkově, korupčních kauzách, skandálech se znečištěním, pracovních sporech a jakékoli zmínky o tchajwanské politice. Pro ty, kteří nevědí, Tchaj-wan jako země a území je to, co zbylo z bývalé císařské Číny. Mimochodem, slovo „Tchaj-wan“ se v databázi objevuje více než 15 000krát.
amazing watching the censorship happen in real time on China’s DeepSeek chatbot pic.twitter.com/7OfqwWqdwX
— pourteaux (@pourteaux) January 24, 2025
Vrátíme-li se k úniku, který objevil NetAskari, bezpečnostní výzkumník našel data uložená v prostém textu na serveru asijské technologické společnosti Baidu, která je často označována za „čínský Google“. Nejnovější záznamy v databázi pocházejí z prosince 2024, což naznačuje, že se jedná o aktivní a rozvíjející se projekt.
Podle Michaela Castera, vedoucího asijského programu mezinárodní lidskoprávní organizace Article 19, která chrání svobodu projevu a přístup k informacím, je jazykový model „zaměřen na práci s veřejným míněním“, což je termín, který v Číně často označuje cenzurní a propagandistické snahy, na něž dohlíží čínská správa kyberprostoru.
Podle tohoto média odborníci upozorňují, že zatímco tradiční metody digitální cenzury se opírají o základní algoritmy, které blokují konkrétní výrazy, nové technologie umělé inteligence mohou cenzuru zefektivnit a v mnohem větším měřítku a také se neustále zdokonalovat, protože zpracovávají více dat.
Dopad a výzvy cenzury založené na umělé inteligenci
Zavádění těchto pokročilých cenzurních technologií vyvolává vážné obavy ohledně svobody projevu a přístupu k informacím. S tím, jak se modely umělé inteligence stávají sofistikovanějšími, rostou i jejich schopnosti odhalovat a potlačovat nežádoucí obsah. To se netýká pouze čínských občanů, ale má to i globální dopady, protože čínské technologické společnosti rozšiřují svůj mezinárodní vliv.
Zpráva Rady pro zahraniční vztahy upozorňuje na to, jak Čína digitální cenzuru využívá nejen ke kontrole domácího narativu, ale také k promítání své moci do zahraničí. Toho je dosahováno nátlakem na mezinárodní platformy, aby se podřídily čínským cenzurním pravidlům, což ovlivňuje uživatele po celém světě.
Rostoucí schopnost umělé inteligence provádět prediktivní cenzuru, tedy předvídat, jaký obsah by mohl být problematický ještě před jeho zveřejněním, navíc představuje novou výzvu pro zastánce svobody projevu. Schopnost předvídat a zabránit nesouhlasu dříve, než k němu dojde, by mohla potlačit veřejnou diskusi a inovace, tedy základní prvky svobodné a prosperující společnosti.
Stručně řečeno, technologie umělé inteligence sice nabízí příležitosti ke zvýšení efektivity v mnoha oblastech, ale její využití v oblasti cenzury vyvolává vážné etické obavy a obavy v oblasti lidských práv. Mezinárodní společenství musí tomuto vývoji věnovat pozornost a usilovat o to, aby tato technologie byla využívána způsobem, který respektuje základní práva všech lidí.