Křehká rovnováha mezi technologickou tyranií a posthumánní utopií nastavuje limity superinteligence.
Nick Bostrom, švédský filozof a ředitel Oxfordského institutu pro budoucnost lidstva, je ústřední postavou diskuse o umělé inteligenci a jejím dopadu na budoucnost lidstva. Ačkoli byl původně znám svými varováními před existenčními riziky spojenými se superinteligencí, jeho pohled se vyvinul ve vyváženější pohled, který uznává jak hrozby, tak příležitosti, které umělá inteligence představuje.
Je umělá inteligence konečným lidským vynálezem, nebo klíčem k utopii?
Bostrom tvrdí, že „všechny cesty ke skutečně světlým zítřkům vedou přes vývoj umělé superinteligence“, což je názor, který se v zásadě opírá o tři pilíře. Zaprvé, že pouze systémy umělé inteligence, které jsou lepší než lidské poznání, by mohly zvládnout globální výzvy, jako je změna klimatu, pandemie nebo kosmické nebezpečí. Následovalo by technologické odstínění a optimalizace zdrojů, protože vyspělá umělá inteligence by mohla neutralizovat hrozby ze strany jiných vznikajících technologií a efektivně spravovat nekonečné zdroje.
I když uznává, že v současné době neexistují žádné bezprostřední hmatatelné přínosy, trvá na tom, že AI bude „operačním systémem“, který umožní přístup k dosud nepředstavitelným revolučním technologiím. Tento potenciál přirovnává k průmyslové revoluci: stejně jako stroje rozšířily naše fyzické schopnosti, umělá inteligence by mohla znásobit naši schopnost řešit složité problémy.
Nakonec švédský myslitel svou optimistickou vizi vyvažuje několika jasnými varováními: „Samotný přechod bude spojen s velkými riziky. Musíme být mimořádně obezřetní.“ Za tímto účelem navrhuje „zlaté starosti“: ani příliš málo, aby to vedlo k sebeuspokojení, ani příliš mnoho, aby to ochromilo pokrok. Jeho závěrečná vize naznačuje, že při rozumném řízení by umělá inteligence mohla být posledním vynálezem, který lidstvo potřebuje vytvořit.
Filozof však také varuje, že největší nebezpečí skrývá rané období vývoje. Komentuje, že vlády by mohly využít AI k masovému sledování, sociální manipulaci nebo automatizovanému vedení války a že je technicky obtížné zajistit, aby superinteligentní systémy zachovávaly cíle slučitelné s lidským blahobytem. V neposlední řadě by chyby v centralizovaných systémech AI mohly způsobit kolaps základních energetických, komunikačních nebo logistických infrastruktur.
Loni v listopadu 2023 Bostrom v rozhovoru pro UnHeard prohlásil, že vývoj pokročilé umělé inteligence je nejen nevyhnutelný, ale je i klíčem k nejlepší možné budoucnosti lidstva. Švédský filosof o tomto paradoxu dlouze hovořil a domníval se, že umělá inteligence sice představuje bezprecedentní existenční rizika, ale zároveň představuje jedinou cestu k trvalým technologickým utopiím.