Umělá inteligence změnila nespočet aspektů našeho života. Chatboti, jako je ChatGPT, se začlenili do každodenního pracovního, studijního i osobního života – od virtuálních asistentů až po nástroje pro zvýšení produktivity. Tyto systémy, které využívají pokročilé jazykové modely, jsou schopny generovat souvislý text a odpovídat na složité otázky, což je činí mimořádně užitečnými v různých kontextech. Nové studie OpenAI a MIT Media Lab však vydávají znepokojivé varování:
„Mohlo by mít intenzivní používání těchto nástrojů negativní dopady na naše duševní zdraví?.“
Historie se (víceméně) opakuje
Již několik let se „intenzivně diskutuje o vlivu sociálních sítí,“ jako je Instagram nebo TikTok, na emoční pohodu, zejména mladých lidí. Přestože závěry byly nejednotné (některé studie poukazují na souvislosti mezi těmito platformami a zhoršením psychické pohody, zatímco jiné tvrdí, že jejich celkový dopad je neutrální), mnoho zemí „dokonce předložilo na stůl zákonné omezení“ jejich používání, zejména u nezletilých.
Nyní se „pozornost odborníků a veřejného mínění postupně přesouvá na chatboty“: miliony lidí – mladých i starších – navazují s těmito UI citové a dokonce romantické (a dokonce i sexuální) vazby.
Platformy jako Replika, Character.ai a Nomi jsou výslovně navrženy tak, aby takové vztahy podporovaly, a nabízejí stále realističtější zážitky prostřednictvím generativní umělé inteligence, lidských hlasů a trvalých vzpomínek. Tyto platformy využívají pokročilé algoritmy k simulaci lidských rozhovorů a přizpůsobují se preferencím uživatelů, čímž vytvářejí iluzi skutečné interakce.
Tyto aplikace nejsou zdarma: vyžadují předplatné a platby za další funkce, což vyvolalo poplach ohledně „potenciálních obchodních modelů založených na emocionální závislosti“ na uživateli. Podle článku v deníku The Guardian by tato závislost mohla vést uživatele k utrácení velkých částek peněz při hledání emocionálního spojení, které by mohlo být krátkodobé.
Na druhou stranu jsme vás v roce 2024 informovali o případu matky z Floridy, která zažalovala chatbotovou platformu Character.ai a tvrdila, že její 14letý syn si po konverzaci s chatbotem na této platformě vzal život. Tento případ byl varovným signálem o potenciálních rizicích těchto technologií, pokud se s nimi nezachází správně.
Vědecké důkazy: Co nám říkají studie?
Výzkumníci z MIT Media Lab a OpenAI nedávno provedli dvě průlomové studie, které zkoumaly emocionální dopad ChatGPT:
- Analýza více než 4 milionů konverzací od více než 4 000 uživatelů, kteří byli následně dotazováni na svůj emocionální stav po použití chatbota.
- Kontrolovanou studii s 981 účastníky po dobu čtyř týdnů, která měřila faktory, jako je osamělost, socializace a vnímání používání chatbota.
Výsledky byly jednoznačné: většina uživatelů udržuje s ChatGPT funkční a neutrální vztah. U 10 % případů – takzvaných „těžkých uživatelů“ – však byly zjištěny „znepokojivé korelace s osamělostí, emocionální závislostí a méně reálnými sociálními interakcemi.“
„Obecně platí, že uživatelé, kteří se zapojují do osobních konverzací s chatboty, mají tendenci pociťovat větší osamělost. Ti, kteří s nimi tráví více času, jsou ještě osamělejší.“
Důležité je, že tyto studie „netvrdí, že používání chatbotů způsobuje osamělost,“ ale spíše to, že osamělí lidé mají tendenci hledat u těchto nástrojů emocionální podporu. Toto pozorování připomíná podobná zjištění týkající se sociálních sítí: ti, kteří jsou již osamělí, se často obracejí k technologiím jako k útočišti.
Emocionální past chatbotů
Na rozdíl od sociálních sítí určených k zábavě jsou mnozí chatboti naprogramováni tak, aby uživatele vyslechli, utvrdili a emočně doprovázeli: notevřeně podporují vytváření hlubokých vztahů se svými boty“ a nabízejí předplatné, které odemyká funkce, jako jsou rozšířené vzpomínky, selfie generované umělou inteligencí a intimnější konverzace.
Podle výzkumníků, pokud tito roboti nahradí skutečné lidské vztahy, „mohou vést k závislosti a osamělost spíše prohloubit než zmírnit.“ Článek v časopise Wired naznačuje, že tato závislost může mít trvalé následky na duševní zdraví uživatelů, zejména těch, kteří se již cítí izolovaní.
Tento obchodní model – který zpeněžuje emocionální spojení – vyvolává etické dilema: zneužívají tyto společnosti osamělost svých uživatelů?
Co by měly platformy dělat, říkají výzkumníci
Odpovědí by neměl být plošný zákaz chatbotů, ale závazek k „etickému a odpovědnému designu“. Některá klíčová doporučení zahrnují:
- Zjistit vzorce problematického používání pomocí nástrojů pro automatickou analýzu chování.
- Začlenit ‚šťouchance“ nebo upomínky, jako to dělají sociální sítě, které upozorní, když uživatel stráví v aplikaci příliš mnoho času.
- Vyhnout se zneužívajícím obchodním modelům, zejména těm, které se zaměřují na zranitelné osoby.
- Podporovat „sociálně-afektivní sladění,“ což je koncept, který navrhuje navrhovat chatboty, kteří jsou emocionálně podpůrní, aniž by vytvářeli závislost nebo manipulaci.
Příležitost, nebo jen hrozba?
Navzdory rizikům „výzkumníci tvrdí, že chatboti mohou být i pozitivní silou:“ mnoho uživatelů, kteří nemají přístup k emocionální nebo psychologické podpoře, našlo v těchto nástrojích „společníka,“ který jim naslouchá. Bylo dokonce zjištěno, že používání ChatGPT v hlasovém režimu může snížit emoční závislost, ačkoli jeho přínosy se s nadměrným používáním snižují.
Výzvou je vyvážit tento terapeutický potenciál s odpovědným designem. Jak upozorňuje expertka na politiku umělé inteligence OpenAI Sandhini Agarwalová:
„Zásadní součástí vývoje těchto nástrojů musí být uznání jejich dopadu na pohodu.“
Vyvážený přístup by mohl zahrnovat spolupráci s psychology a odborníky na duševní zdraví, aby se zajistilo, že chatboti budou podpůrným nástrojem, a nikoli zdrojem závislosti.