Přestože nám umělá inteligence může usnadnit život, má i určité nevýhody. Jednou z nich je, že jí dáváme příliš velký prostor pro rozhodování.
Umělá inteligence udělala za poslední dva roky neuvěřitelný pokrok. A to natolik, že se Evropská unie rychle pokusila vytvořit legislativu, která by respektovala uživatele a jejich přístup k technologickému životu. Tím to ale nekončí a umělé inteligence jako GPT-4o nebo Claude se staly tak neuvěřitelnými postavami, že nás někdy jejich vliv opravdu překvapuje. To se dostává na úroveň, kdy se rozhodování stává nebezpečným, protože se na umělou inteligenci spoléháme při řešení úkolů na život a na smrt, přestože se může mýlit. Podívejme se podrobně na studii, která to potvrzuje.
Spoléhat se na umělou inteligenci může být chybou na život a na smrt.
V prvním experimentu vědci zjišťovali, zda fyzická přítomnost robota s lidskými vlastnostmi ovlivňuje důvěru účastníků v jeho doporučení. Rozdělili účastníky do dvou skupin: jedna skupina komunikovala s fyzicky přítomným robotem, zatímco druhá s jeho promítanou verzí na obrazovce. Výsledky ukázaly, že mezi skupinami nebyly žádné výrazné rozdíly. Fyzická přítomnost robota neměla znatelný vliv na ochotu účastníků řídit se jeho návrhy.
Druhý experiment dále zkoumal, jak může míra humanizace a sociální interakce robota ovlivnit důvěru účastníků. Byly prezentovány tři verze robotů: jedna vysoce antropomorfní s lidskými pohyby a mimikou, druhá interaktivní, ale bez lidských fyzických charakteristik, a třetí minimalistická, která poskytovala pouze písemné odpovědi bez verbální nebo gestikulační interakce.
V obou experimentech bylo pozorováno, že když robot nabídl doporučení v rozporu s původním rozhodnutím účastníků, ti ve většině případů změnili svou volbu. Tato změna výrazně snížila přesnost jejich původních rozhodnutí. Konkrétně v prvním experimentu účastníci změnili svá rozhodnutí v 58,3 % případů a ve druhém experimentu v 67,3 % případů. Je tedy zřejmé, že umělá inteligence může neuvěřitelně široce změnit náš pohled na věc.
Klíčovým zjištěným aspektem byla vnímaná inteligence robota. Účastníci, kteří hodnotili robota jako inteligentnějšího, měli tendenci častěji měnit svá rozhodnutí, když s nimi UI nesouhlasila, a vykazovali výraznější výkyvy ve své důvěře v závislosti na souhlasu s robotem. Toto zjištění zdůrazňuje význam toho, jak kognitivní hodnocení schopností UI ovlivňuje ochotu lidí důvěřovat jejím doporučením.
To připravuje poněkud znepokojivou půdu. Zdá se, že lidé až příliš často důvěřují UI, zejména pokud se nacházíme v rizikové situaci. Něco nás vede k přesvědčení, že stroj bude mít mnohem větší pravdu než my, což by mohlo způsobit, že se budeme vysoce podřizovat rozhodnutím AI v situacích, kdy je riziko pozoruhodné.
Subjektivní důvěra účastníků ve vlastní rozhodnutí se navíc zvyšovala, když s nimi robot souhlasil, a snižovala, když s nimi nesouhlasil. Ti, kteří si stáli za svými původními rozhodnutími i přes nesouhlas robota, později vysvětlovali, že si byli svými rozhodnutími méně jistí, což ukazuje, že to má vliv i na jistotu, kterou máme o svých vlastních úsudcích, a nejen na rozhodování jako takové.
Tato zjištění naznačila, že účastníci měli tendenci více důvěřovat robotům, kteří simulovali lidské chování, i když postrádali antropomorfní fyzický vzhled. Ukázalo se, že schopnost robota sociálně komunikovat je vlivnějším faktorem než jeho fyzická podoba. Ve fyzické podobě totiž můžeme poměrně snadno upadnout do údolí znepokojivosti. Tedy do situace, kdy se můžeme cítit otráveně nebo nepříjemně, když vidíme humanoidního robota, který nás ne zcela přesvědčuje o své lidskosti.
Nedávný výzkum publikovaný v prestižním časopise Nature Scientific Reports zkoumal, jak mají lidé tendenci důvěřovat doporučením umělé inteligence v extrémních rozhodovacích situacích, zejména pokud jde o rozhodování o životě a smrti, kdy je v sázce nejistota uživatelů. Studie se zaměřila na identifikaci faktorů, které tuto důvěru ovlivňují, a to pomocí experimentu založeného na identifikaci hrozeb pomocí poněkud nejednoznačných vizuálních obrazů. Obrázky zobrazovaly civilisty nebo ozbrojené nepřátelské bojovníky, což v divákovi vyvolávalo nejasnosti ohledně toho, co se má stát.