Podniky budou muset při interakci se systémy umělé inteligence informovat uživatele a zavést interní kontrolní opatření, aby zajistily transparentnost a správné využívání této technologie.
Dnes vstupuje v platnost Evropský zákon o umělé inteligenci, jehož cílem je zajistit, aby systémy umělé inteligence v EU byly bezpečné a respektovaly práva občanů (navzdory krokům směřujícím k využití umělé inteligence v boji proti organizovanému zločinu je nesporné, že je zapotřebí více právních předpisů). Jeho cílem je rovněž stimulovat investice do umělé inteligence a inovace v Evropě. Od nynějška budou muset společnosti nabízející služby zákazníkům zohledňovat limity stanovené tímto nařízením.
Ačkoli většina systémů AI používaných v zákaznických službách není považována za vysoce rizikové, a nevyžaduje proto přísnou regulaci, doporučuje se, aby společnosti vytvořily samoregulační prvky. To znamená, že i když neexistuje žádná zákonná povinnost, je pro společnosti přínosné zavést interní kontrolní opatření k zajištění transparentnosti a správného využívání UI ve svých službách. Tato opatření nejen ochrání uživatele, ale také pomohou společnostem vyhnout se případným sankcím a udržet si důvěru zákazníků. Bylo by ještě zajímavé zjistit, jak snížit uhlíkovou stopu služeb AI.
Podávání zpráv o využívání UI a konkrétní předpisy
Nový zákon klade značný důraz na transparentnost. Společnosti musí uživatele informovat, když komunikují se systémem AI, ať už v telefonních hovorech nebo v chatech, do kterých zasahují chatboti. To je zásadní, aby si uživatelé uvědomili, že jednají se strojem, a nikoli s člověkem, což může ovlivnit jejich chování a očekávání. Transparentnost nejenže zlepšuje uživatelskou zkušenost, ale je také důležitým krokem k odpovědnosti a etice při využívání pokročilých technologií.
Automatizace úkolů agentů kontaktních center nebude podle zákona o umělé inteligenci podléhat zvláštní regulaci, s výjimkou případů, kdy automatizovaná rozhodnutí přímo ovlivňují životy lidí. Pokud například společnost využívá umělou inteligenci k rozhodování, které ovlivňuje úvěr, zaměstnání nebo zdraví jednotlivce, budou tyto aplikace podléhat přísnější regulaci. Podniky si musí uvědomit, kde leží hranice, a zajistit, aby jejich systémy AI byly v souladu se všemi platnými předpisy.
Lze shrnout, že vstup Evropského aktu o umělé inteligenci v platnost představuje pro podniky působící v Evropské unii významnou změnu. Zákon se snaží najít rovnováhu mezi inovacemi a bezpečností a zajistit, aby se systémy umělé inteligence používaly odpovědně a transparentně. Společnosti se musí těmto novým předpisům přizpůsobit, aby zajistily nejen dodržování právních předpisů, ale také aby si udržely důvěru svých uživatelů a podpořily prostředí etických inovací.