Šílenství kolem umělé inteligence je tu i nadále, její dosah se rozšiřuje napříč různými odvětvími a přijímá ji široké spektrum publika a institucí. Organizace neustále hledají inovativní způsoby, jak integrovat technologie do svého provozu a zefektivnit tak rutinní úkoly.
Tento trend se neomezuje pouze na technologické giganty, vládní agentury a policejní oddělení rovněž využívají nástroje AI k tajným operacím v digitálním prostoru. Ve Spojených státech policejní oddělení údajně nasazují agenty AI podobné lidem, kteří komunikují s jednotlivci online a zadržují pachatele trestných činů.
Když už se zdálo, že umělá inteligence dosáhla svého zenitu, objevují se nové a jedinečné iniciativy řízené umělou inteligencí. Podle zprávy 404Media nyní americké donucovací orgány využívají Overwatch, nástroj AI vyvinutý společností Massive Blue. Tento nástroj je určen k vytváření realistických virtuálních agentů schopných komunikovat s jednotlivci v digitálním prostředí. Tyto persony AI jsou nasazovány k přímé interakci s lidmi na platformách sociálních médií a prostřednictvím textových zpráv.
Massive Blue calls its product Overwatch, which it markets as an “AI-powered force multiplier for public safety” that “deploys lifelike virtual agents, which infiltrate and engage criminal networks across various channels.”
https://t.co/7MHtMBeqUC pic.twitter.com/AZupcvWXYF
— WIRED (@WIRED) April 17, 2025Související článek
Agenti AI navazují vztah s podezřelými osobami tím, že se zapojují do konverzace a získávají informace, které by potenciálně mohly sloužit jako důkazy při vyšetřování trestné činnosti. V průběhu těchto interakcí není zveřejněno, že konverzace je umělá nebo organizovaná orgány činnými v trestním řízení. Ačkoli primárním cílem těchto osob s umělou inteligencí je shromažďovat důkazy proti závažným pachatelům, jako jsou obchodníci s lidmi, existují obavy, že by systém mohl být využíván také ke sledování radikálních aktivistů nebo dokonce vysokoškolských demonstrantů.
Společnost Massive Blue tuto technologii nabízí orgánům činným v trestním řízení s několika možnými aplikacemi, včetně zvýšení bezpečnosti škol, prevence obchodování s lidmi a zajištění bezpečnosti ve školách. Navzdory tomu, že společnost prezentuje Overwatch jako řešení pro boj se zločinem, nejsou známa žádná zatčení na základě důkazů shromážděných těmito agenty umělé inteligence. Důvodem může být důvěrná povaha informací nebo možnost, že technologie je stále ve fázi testování.
Rostoucí trend využívání umělé inteligence donucovacími orgány pro účely dohledu a veřejné bezpečnosti vyvolává značné etické obavy. Zejména nasazení AI proti protestujícím a aktivistům poukazuje na možnost zneužití a potřebu přísného dohledu. S dalším vývojem AI je zásadní vyvažovat technologický pokrok s etickými hledisky, aby se zajistilo, že nebudou ohroženy občanské svobody.
Důsledky umělé inteligence v oblasti prosazování práva navíc přesahují obavy o soukromí. Stále probíhá debata o přesnosti a spolehlivosti systémů AI při přijímání kritických rozhodnutí. Podle zprávy Národního institutu pro standardy a technologie (NIST) mohou systémy AI vykazovat předsudky, které vedou k nespravedlivému zacházení s určitými skupinami. To podtrhuje význam vývoje systémů AI, které jsou transparentní, odpovědné a bez předpojatosti.
Vzhledem k tomu, že technologie umělé inteligence se stále vyvíjí, je nezbytné, aby se tvůrci politik, technologové a veřejnost zapojili do diskusí o etickém využívání umělé inteligence v oblasti prosazování práva. Stanovení jasných pokynů a předpisů bude mít zásadní význam pro zajištění odpovědného využívání AI a realizaci jejích přínosů bez porušování práv jednotlivců.
Závěrem lze říci, že ačkoli AI nabízí slibná řešení pro zvýšení veřejné bezpečnosti a boj proti trestné činnosti, její nasazení v oblasti prosazování práva musí být pečlivě řízeno, aby se zabránilo jejímu možnému zneužití. Vzhledem k tomu, že se společnost pohybuje ve složitých otázkách integrace AI, bude udržení rovnováhy mezi inovacemi a etickou odpovědností klíčem k využití plného potenciálu této transformační technologie.