Bývalý generální ředitel společnosti Google varuje: Přijde čas, kdy budeme muset AI vypnout

Jednou z hlavních obav z rychlého rozvoje umělé inteligence (AI) je, že přijde doba, kdy tato technologie bude mít vlastní vědomí ve stylu Skynetu z filmové ságy Terminátor, a v tomto smyslu bývalý generální ředitel společnosti Google prohlásil, že až k tomu dojde, budeme muset uvažovat o „odpojení“ systémů AI.

Eric Schmidt varuje před scénářem z Terminátora

Bývalý generální ředitel a předseda představenstva společnosti Google Eric Schmidt poskytl rozhovor americké televizní stanici ABC, v němž v souvislosti s umělou inteligencí uvedl, že až počítačový systém dosáhne bodu, kdy se bude moci sám zlepšovat, „budeme muset skutečně uvažovat o vytažení zástrčky“.

Stejně tak, když se moderátor pořadu This Week televize ABC George Stephanopoulos zeptal Schmidta, zda by se tak výkonný systém, jako je umělá inteligence, mohl vyhnout samovolnému vypnutí, odpověděl:

Související článek

Šéf Anthropicu netuší, jak funguje jeho vlastní AI

• Karel Smělý

Zakladatel jedné z předních společností zabývajících se umělou inteligencí přiznává, že ani on, ani jeho inženýři pořádně nechápou, jak vlastně fungují systémy, které vytvořili a uvedli na trh.

„Teoreticky bychom měli mít někoho, kdo by držel ruku na vypínači.“

Kromě toho Schmidt také vysvětlil, že síla umělé inteligence „znamená, že každý člověk bude mít v kapse ekvivalent polymatika“ a že „nevíme, co to znamená dát takovou moc každému jednotlivci“.

Schmidt v rozhovoru pro ABC hovořil také o rizicích uspěchaného vývoje generativní umělé inteligence, neboť bývalý předseda představenstva společnosti Google již před rokem postoupil, že odborníci předpovídají, že počítače, které budou schopny činit vlastní rozhodnutí, budou realitou maximálně za dva až čtyři roky, a nyní potvrdil, že za rok či dva budou systémy založené na umělé inteligenci schopny provádět vlastní výzkum.

Nakonec na otázku, co by udělal, kdyby dostal úplnou kontrolu nad UI v celosvětovém měřítku, Schmidt odpověděl, že by se nejprve ujistil, že Západ má finanční prostředky, hardware a pracovní síly na její kontrolu, a za druhé by identifikoval „nejhorší scénáře“ použití a vybudoval druhý systém, který by monitoroval ten první.

„Lidé nebudou schopni AI monitorovat. Ale systémy umělé inteligence by měly být schopny monitorovat umělou inteligenci.“