Character.AI se opět dostává do tragických zpráv v souvislosti s politováníhodnou událostí.
V souvislosti s rozvojem umělé inteligence se společnost Google rozhodla uzavřít partnerství s platformou Character.AI. Americká firma bohužel nečekala, že tento krok bude poznamenán kontroverzí i tragickou zprávou, protože chatbot založený na umělé inteligenci způsobil sebevraždu teenagera. A téměř dva měsíce poté, co se o této události dozvěděla, byla platforma zasažena novou žalobou kvůli svému chování vůči teenagerovi.
Texaský teenager a jeho rodina zažalovali Character.AI a tvrdí, že ho platforma dohnala k sebepoškozování. Žaloba tvrdí, že služba umožňuje, aby byli nezletilí uživatelé vystaveni sexuálně explicitnímu, násilnému a škodlivému obsahu, a také aby měli sklon k sebepoškozování. Podle žaloby začal teenager trpět úzkostmi, depresemi a dokonce záchvaty paniky, jakmile začal službu používat, což je řada problémů, které vedly k sebepoškozování.
Společnost Google se distancuje od Character.AI
Zdá se, že boti, s nimiž teenager komunikoval, se zmiňovali o sebepoškozování, obviňovali z jeho problémů rodiče a radili mu, aby nevyhledával pomoc, a tvrdili, že jeho okolí se o něj nezajímá. Jedná se o druhou stížnost, kterou platforma obdržela během několika týdnů, a ve stížnosti se uvádí, že Character.AI podporuje nutkavé používání. Chybí jí také nástroje pro identifikaci rizikových uživatelů a naopak umožňuje sexualizovaný i násilný obsah.
Ačkoli má minimální věkovou hranici 13 let, nevyžaduje souhlas rodičů, a proto ji může používat kdokoli, kdo zfalšuje své údaje. Žalobci tedy tvrdí, že platforma porušuje zákony kvůli své chybné konstrukci, zatímco společnost tvrdí, že bere bezpečnost velmi vážně. Proto tvrdí, že zavedla opatření, jako jsou vyskakovací zprávy, které přesměrovávají na linky pro prevenci sebevražd. A společnost Google ze své strany zdůraznila, že s návrhem ani se zpracováním modelů Character.AI nemají nic společného.