V celé Evropě vstoupily letos v platnost nové právní předpisy, které zavádějí systém masivních pokut pro všechny, kdo používají umělou inteligenci se specifickými schopnostmi a vlastnostmi.
2. února 2025 vstoupil v platnost zákon o umělé inteligenci zakazující používání systémů umělé inteligence, které jsou v Evropské unii považovány za rizikové. Konkrétně se jedná o riziko pro základní práva a bezpečnost osob. Systémy umělé inteligence, které s sebou nesou „nepřijatelné riziko“, jsou nezákonné již nyní, včetně některých nástrojů prediktivního dohledu, systémů sociálního skórování a biometrických identifikačních systémů, které kategorizují osoby podle rasy, sexuální orientace a náboženství. Nedodržení těchto zákazů zákona o umělé inteligenci vede k závažným důsledkům.
Pokuty až do výše stovek milionů korun
Těm, kteří používají zakázané systémy, hrozí pokuty až do výše 35 milionů eur (875 milionů korun)nnebo až 7 % jejich celkového ročního celosvětového obratu. O ChatGPT ani o podobných systémech (navzdory minulým kontroverzím), jako je nejnovější systém na trhu z Číny DeepSeek, nejsou k dispozici žádné konkrétní informace, ačkoli o těchto systémech a jejich potenciálních rizicích bylo řečeno mnoho.
Co se týče chatbotů, zákon vysvětluje, že systémy umělé inteligence mohou být použity k poskytování online vyhledávačů, zejména v rozsahu, v němž systém umělé inteligence, jako je online chatbot, provádí vyhledávání v zásadě na všech webových stránkách, poté začlení výsledky do svých stávajících znalostí a použije aktualizované znalosti k vytvoření jediné výstupní informace kombinující různé zdroje informací.
V tomto ohledu však již existují předpisy, které stanovují omezení. Zákon o umělé inteligenci (Artificial Intelligence Act, AIA) je nařízení, na němž se dohodly orgány Evropské unie a jehož cílem je vytvořit společný právní rámec pro umělou inteligenci v EU. Tento zákon, který byl původně navržen v dubnu 2021, bude implementován až v roce 2026.
V Evropě se nástroje umělé inteligence OpenAI již setkaly s určitými omezeními v místech, jako je Itálie, na které se ve skutečnosti vztahuje legislativa obecného nařízení o ochraně osobních údajů. V Evropě se díky zákonu GDRP právně rozlišuje mezi veřejně dostupnými údaji a údaji k volnému použití. Máme tu také červen 2023, kdy Evropský parlament dal zelenou nařízení o umělé inteligenci. V březnu 2024 přijala EU průlomový zákon o umělé inteligenci, který předpokládá „nepřijatelná rizika“ pro naši bezpečnost.
Nové nařízení zakazuje podprahové použití, jako je sociální bodování v Číně, rozpoznávání emocí v práci nebo ve vzdělávacích prostorách nebo biometrickou klasifikaci ve veřejném prostoru, jako jsou sledovací kamery.
Přehled zakázaných systémů
Nová legislativa zakazuje uvádění na trh, uvádění do provozu a používání systémů umělé inteligence s funkcemi, jako jsou ty, které si zde představíme. Jednak uvedení na trh, uvedení do provozu nebo používání systému AI, který využívá podprahové techniky přesahující vědomí osoby nebo záměrně manipulativní či klamavé techniky s cílem nebo účinkem podstatně změnit chování osoby nebo skupiny osob, čímž se citelně zhorší jejich schopnost činit informovaná rozhodnutí. Tedy AI, které používají zcela zavádějící informace.
Na druhé straně AI, které využívají některou ze slabých stránek fyzické osoby nebo určité skupiny osob, jež vyplývají z jejich věku nebo zdravotního postižení nebo ze specifické sociální či ekonomické situace, s cílem nebo účinkem podstatně změnit chování této osoby. Jak je uvedeno na příkladu společnosti Maldita, pokud umělá inteligence využívá analýzu dat k vytváření vysoce personalizovaných reklam, které využívají citlivé informace určité skupiny.
Za třetí, pokud AI hodnotí nebo klasifikuje jednotlivce nebo skupiny jednotlivců po určitou dobu na základě jejich sociálního chování a pokud tyto informace následně vedou k poškozování nebo nepříznivému zacházení s určitými jednotlivci nebo skupinami jednotlivců.
Systémy AI, které provádějí hodnocení rizik fyzických osob za účelem posouzení nebo předpovědi rizika, že osoba spáchá trestný čin, a to pouze na základě profilování jedné fyzické osoby.
https://twitter.com/exactpro/status/1904525556248367211
Rovněž umělé inteligence, které vytvářejí databáze rozpoznávání obličejů neselektivním získáváním snímků obličejů z internetu nebo kamerových systémů.
Dalším zákazem je používání umělé inteligence k odvozování emocí fyzické osoby na pracovištích a ve vzdělávacích zařízeních, i když existuje jedna výjimka: pokud je systém umělé inteligence určen k instalaci na trhu ze zdravotních nebo bezpečnostních důvodů.
Další důležitou otázkou je biometrie: je zakázáno uvádět na trh nebo používat biometrické kategorizační systémy, které individuálně klasifikují fyzické osoby na základě jejich biometrických údajů s cílem odvodit nebo odvodit jejich rasu, politické názory, členství v odborech, náboženské nebo filozofické přesvědčení, sexuální život nebo sexuální orientaci.nJe třeba poznamenat, že tento zákaz nezahrnuje označování nebo filtrování zákonně získaných souborů biometrických údajů.