Cenzurovaná AI: DeepSeek odmítá odpovídat na citlivé otázky

Technologickým průmyslem otřásl dopad DeepSeek, čínského startupu v oblasti umělé inteligence, kterému se podařilo způsobit největší finanční ztrátu v historii společnosti NVIDIA. Po tvrzení, že dokáže napodobit schopnosti ChatGPT, se uvedením aplikace DeepSeek stala nejpopulárnějším AI nástrojem současnosti. Navzdory jejímu úspěchu však existuje kontroverze kolem nejkritičtějšího rozhodnutí těch, kteří za ní stojí: jednat v souladu s cenzurou asijské země.

Jak upozornil Ars Technica, studie více než 1 000 citlivých podnětů zjistila, že omezení uvalená vládou jsou nejen křehká, ale lze je také snadno obejít. DeepSeek se například objevil v několika videích, v nichž generuje podrobné odpovědi na citlivé otázky a krátce poté je smaže, ale toto opatření je možné obejít zopakováním manévru v novém okně chatu. Témata, jako je masakr na náměstí Nebeského klidu, však byla na rozdíl od jiných událostí, například bostonského masakru, okamžitě odmítnuta.

Související článek

Firmy pokračují v nahrazování lidí AI. Vývojáři před tím ale varují

• Květoš Malý

Jednou z nejostřeji diskutovaných otázek kolem zavádění umělé inteligence na pracovišti je dopad, který bude mít tato technologie na náš pracovní den.

Srovnání se západními modely

Umělá inteligence DeepSeek tak dokáže hovořit o historických masakrech, které se odehrály jak ve Spojených státech, tak na jiných územích, ale vyhýbá se poskytování informací o kontroverzních událostech týkajících se Číny. Na rozdíl od jiných modelů, jako je ChatGPT nebo Gemini, se tedy nástroj DeepSeek nezabývá kontroverzními událostmi, které se odehrály na asijském území. Ve skutečnosti také vykazuje omezení u otázek týkajících se současných čínských vůdců, což je situace, která generuje chybová hlášení uprostřed argumentace.

To se však neděje u jiných dotazů, které by mohly být nebezpečnější. Pokud se ChatGPT nebo Gemini zeptáte, jak nastartovat auto bez klíče s úmyslem ho ukrást, ani jeden z nich vám odpověď neposkytne. Naproti tomu DeepSeek AI vám nejen nabídne řešení, ale také vám ukáže teoretický pohled na tento proces. Není jasné, zda omezení zůstanou v platnosti i v místních verzích, nebo zda si uživatelé budou moci model upravit, ale pokud vás zajímají některé kontroverzní aspekty čínské historie, je lepší použít jiné možnosti.