V průběhu let se o bezpečnosti umělé inteligence vyjadřoval divoce protichůdně.
Umělá inteligence (AI) vyvolává strach, ale také poměrně velké naděje. Na straně naděje je, že učiní naši práci snesitelnější. Na straně strachu je prakticky apokalyptická. Nejzřetelnější je možnost, že zaniknou pracovní místa, ale také možnost, že se AI radikálním způsobem obrátí proti lidstvu. Podle něj samotného by na to mohla mít UI až 20% šanci, ale na základě čeho? Podívejme se na to, protože je to složité.
Hypotéza bez větší opory
Podle svého vystoupení ve videu Future Investment Initiative v listopadu loňského roku se Elon Musk o destruktivním potenciálu umělé inteligence vyjádřil skutečně otevřeně. Musk v něm vysvětloval, že AI má 20% šanci vyhladit lidstvo nebo se obrátit proti němu. Přesto se podle něj vyplatí riskovat kvůli tomu, čeho s ní lze dosáhnout, zejména až bude dosaženo umělé obecné inteligence neboli AGI. Podle jeho vlastních slov:
„Souhlasím s Geffem Hintonem, že šance, že se obrátí proti lidem, je asi 10 až 20 %.“
Těmito slovy odkazuje na Geoffreyho Hintona, eminenci známou jako „kmotr umělé inteligence“, protože vyvinul mechanismy, které umožnily dnešní úspěšný rozvoj umělé inteligence. Hinton je však k tomuto vývoji velmi kritický a zůstává skeptický k potenciálu, který AI má, s odůvodněním, že je zneužívána k vytváření nových rozdílů mezi velmi bohatými a nepříliš bohatými.
Muskův přístup je však zcela odlišný a věří, že pokud chceme jako lidstvo dosáhnout nového postavení, které nám umožní dělat velké věci, je to riziko, které stojí za to podstoupit. Nevysvětlil, na základě čeho tato čísla říká. Když ještě neskočil na špek umělé inteligenci, byl jeho pohled na ni ještě negativnější.
Vzhledem k tomu, že je obtížné zjistit, z čeho tato procenta vychází, je také nesmírně obtížné rozeznat, jakým směrem by se mohl ubírat. V Silicon Valley se však proměnná (p)osudovost, která je vnímána jako potenciální odsouzení lidí k technologickému rozvoji, stala módní. Tato proměnná je však mezi pracovníky spíše jakýmsi vtipem či zdrojem než něčím reálným, protože se konkrétně neopírá o žádný problém.
Lze tedy souhlasit s tím, že jde skutečně o jakýsi nevědecký přístup Muska, který se snaží dokázat, že existuje velké riziko, ale také velká odměna.