Dobrý sluha, ale zlý pán. Rozvoj umělé inteligence je v plném proudu, což se neobešlo bez reakce Evropské unie. Členské státy společně po dobu tří let zasedaly v orgánech EU i jí přidružených s cílem nastavit jasná pravidla pro používání AI. Podívejte se na nejdůležitější přínosy Aktu o AI.
Rychlý rozvoj umělé inteligence je téma, které v posledních letech stále více hýbe společnostmi po celém světě. Také Evropská unie byla touto skutečností nucena k zaujetí postoje k rozvoji umělé inteligence a rozhodla se i v tomto směru nastavit jasná pravidla. V polovině letošního roku bylo proto po tříletém vyjednávání mezi členskými státy v rámci řádného legislativního procesu přijato Nařízení Evropského parlamentu a Rady (EU) č. 2024/1689, které nastolilo harmonizovaná pravidla pro umělou inteligenci ve shodě s vývojem vnitřního trhu a ochrany veřejných zájmů – od zdraví a bezpečnosti, přes ochranu demokracie a právního státu až k ochraně životního prostředí. Umělá inteligence by tak podle EU měla fungovat v souladu s unijními hodnotami. Jaké změny nový „AI Act“ přináší?
Zvýšení ochrany základních lidských práv
Umělá inteligence, jakožto velmi pokročilý nástroj s mnohými znalostmi, je často předmětem úvah s ohledem na otázku bezpečnosti informací a ochrany osobních údajů a etičnosti jejího používání. Nové Nařízení zakazuje využívat AI k účelům, které ohrožují základní lidská práva jako například svobodu myšlení, svědomí a náboženského vyznání. Mimo jiné tím zakazuje i používání umělé inteligence k rozpoznávání tváří ve veřejném prostoru.
Stop podvodům s AI a šíření dezinformací
Deepfake videa a umělou inteligencí vytvořený obsah jsou stále silnější součástí internetu a rozpoznat jejich nepravost je čím dál těžší. Díky Aktu o AI by měl být takový obsah jasně odlišen od obsahu bez využití AI a společnosti by nově měly podávat hlášení o využívání umělé inteligence.
Občané EU nově mají možnost podat stížnost, pokud mají pocit, že vlivem umělé inteligence (a porušením AI Actu) přišly k újmě. Díky Nařízení vznikne tzv. European AI Office, která bude pracovat na průběhu implementace a případného vynucování právního aktu.
Větší transparentnost
Změn, které nové Nařízení přináší, je celá řada, avšak zvýšení transparentnosti používání umělé inteligence je jedním ze zásadních novinek mezi pravidly užívání AI. Společnosti, které se zaměřují na technologický vývoj využívají AI jako dobrého služebníka, nově budou muset pravidelně evaluovat své počiny a sdílet podrobnosti o fungování nově vytvářených technologií, využívajících umělou inteligenci.
1. srpna 2024 vstoupilo Nařízení v platnost, ale jednotlivé požadavky budou implementovány postupně v průběhu následujících let. Do konce roku jsou členské státy povinny uveřejnit seznam autorit zodpovědných za ochranu základních lidských práv ve vztahu k Aktu o AI. Kapitola I a II Nařízení vstoupí v platnost od 2. února 2025.