Vytvoření AI robota podle zavražděné teenagerky vyvolalo pobouření pozůstalých

Uživatel platformy Character.AI vytvořil bota na základě podoby dospívající dívky, kterou v roce 2006 zavraždil její přítel. Rodina v reakci na to vyjádřila rozhořčení a poukázala na nízké zábrany ochrany soukromí, které společnosti zabývající se umělou inteligencí zavádějí. Bot byl nyní na žádost pozůstalých odstraněn.

Případ Jennifer Crecente

Populární platforma umělé inteligence umožňuje uživatelům vytvářet boty na základě libovolného zdroje. Je možné od navrhování anonymních botů až po jiné založené na celebritách, jako je Taylor Swift nebo Donald Trump, tedy něco podobného jako deepfakes. V tomto případě uživatel vytvořil bota s využitím podoby Jenifer Crecente. Její rodina o tom nevěděla a samozřejmě k tomu nedala žádný souhlas. Zjistili to, až když její otec Drew Crecente dostal ve středu 2. října v časných ranních hodinách upozornění od Googlu.

Škody byly napáchány

Následně strýc oběti Brian Crecente zveřejnil na X příspěvek, kde odsoudil vytvoření bota s osobností své neteře. Brian je renomovaný novinář a publicista, který má vztah ke světu videoher.

Tohle je kurevsky nechutné: @character_ai používá mou zavražděnou neteř jako tvář umělé inteligence ve videohře bez svolení jejího otce. Ten je teď velmi rozrušený. Nedokážu si představit, čím prochází. Prosím, pomozte nám zastavit takové hrozné praktiky.

Jeho příspěvek obsahuje odkaz na příspěvek na blogu Pad and Pixels s názvem AI and the death of dignity. V tomto příspěvku vysvětluje traumatizující pocit, když vidí, že jméno a obrázek její neteře byly použity k pojmenování bota.

Proč se multimiliardové společnosti neobtěžují vytvořit etické zásady a funkční bariéry, které by tomu zabránily, proč je na stěžovateli, aby to společnosti nahlásil, a očekává, že udělá správnou věc? Škoda už vznikla, smazání ukradené identity Jenny ji nijak nezmírní a v tuto chvíli mě nic nenutí myslet si, že se to nestane někomu jinému nebo znovu.

Bota odstranila společnost Character.AI. Platforma také odpověděla na příspěvek Briana Crecente a uvedla, že oceňuje, že byla informována, a že samotné vytvoření takového bota porušuje jejich zásady.

The tragic case of Jennifer Ann Crecente, a high school girl murdered in 2006, raises serious ethical concerns after her likeness was used for a chatbot without consent. This highlights the need for clear guidelines in AI development. #AIethics #PrivacyRights pic.twitter.com/qnoD7O8bEt

— Solicy (@solicydotnet) October 6, 2024

K využívání AI je třeba přistupovat s rozvahou

Bot je nyní nepřístupný, i když po určitou dobu jej bylo možné prohlížet prostřednictvím internetového archivu. Do jeho odstranění se s ním zapojilo do konverzace 69 lidí. Jeho popis popisoval bota jako „odbornou a přátelskou postavu s umělou inteligencí, která může poskytovat informace o široké škále témat, včetně videoher, technologií a popkultury. Je také odborníkem na žurnalistiku a může nabídnout rady ohledně psaní a editace“. Umělá inteligence má pozitivní i negativní využití. Do druhé skupiny bezpochyby patří i její využití k narušení úcty k zemřelým, jako je právě případ Jennifer Crecente.