Bývalý generální ředitel společnosti Google v roce 2023 neochvějně vyložil temný scénář o vlivu umělé inteligence.
Umělá inteligence (AI) je schopna vyvolávat iluze, kontroverze a obavy zároveň. Její pozitivní účinky mohou být skutečně neuvěřitelné, ale její negativní účinky mohou být děsivé. Eric Schmidt, bývalý generální ředitel společnosti Google, známý svými poněkud kontroverzními názory na tuto technologii, přednesl v roce 2023 zprávu, kterou někteří označili za alarmující. Během konference pořádané deníkem The Wall Street Journal v Londýně Schmidt ostře varoval před existenčním rizikem, které by umělá inteligence mohla v blízké budoucnosti představovat, a uvedl, že její dopad by se mohl přímo promítnout do „zranění nebo zabití mnoha lidí,“ čímž zpochybnil současná opatření kontroly a regulace těchto technologií.
Jsme blízko Schmidtova apokalyptického scénáře?
Zrychlující se rozvoj umělé inteligence vyvolává zásadní otázky o bezpečnosti a etice jejího vývoje. Jednou z nejrozšířenějších obav, kterou nedávno důrazně vyslovil Eric Schmidt, bývalý generální ředitel společnosti Google se vším, co k tomu patří, je, že by se umělá inteligence mohla vymknout lidské kontrole. Hovořil o tom v Radě ředitelů deníku The Wall Street Journal.
Podle Schmidtových vlastních slov na konferenci:
„Existují scénáře, ne dnes, ale přiměřeně brzy, kdy tyto systémy budou schopny najít zero-day exploity v kybernetických problémech nebo objevit nové druhy biologie“. Schmidt také zdůraznil, že je třeba se na tento scénář připravit, a varoval, že ačkoli se v současné době jedná o fikci, „jejich úvahy budou pravděpodobně pravdivé. A až k tomu dojde, chceme být připraveni a vědět, jak zajistit, aby tyto věci nebyly zneužity zlými lidmi.“
Přestože tato prohlášení byla učiněna v roce 2023, obavy, které Schmidt vyjádřil, zůstávají aktuální a jsou stále aktuálnější, vezmeme-li v úvahu pokroky, které se v oblasti umělé inteligence neustále objevují, jako například nedávný příchod modelu ChatGPT-4.5, který se zatím nejvíce „podobá člověku.“
Toto znepokojení vznesené známou osobností technologického průmyslu položilo jasný základ pro široce rozšířenou obavu, která dodnes dominuje debatám o regulaci a prevenci těchto inovací.
Varování Erica Schmidta odráží složitou dualitu: umělá inteligence má potenciál transformovat a revolučně změnit k lepšímu oblasti, jako je vzdělávání, medicína a samotná politika, ale v nesprávných rukou se může stát i nebezpečným nástrojem. V této souvislosti je naléhavá myšlenka vytvořit účinné a globálně koordinované mechanismy, které zajistí, aby umělá inteligence zůstala spojencem rozvoje, a nikoli nekontrolovatelným rizikem pro lidstvo. I když je pravda, že ne vždy měl ve svých výrocích pravdu, když Schmidt prohlásil, že dohoda mezi OpenAI a Microsoftem byla „nejhloupějším nápadem.“
Například v Evropě již byly podniknuty první kroky k silnější a konkrétnější regulaci umělé inteligence. Evropská unie připravuje zákon o umělé inteligenci, první komplexní právní předpis, jehož cílem je konkrétně co nejvíce zamezit rizikům této technologie. V zemích, jako jsou USA, jsou však vyhlídky nejistější a osobnosti jako Schmidt jsou k brzkému vzniku takové legislativy skeptické, zejména nyní, kdy se v zemi změnila vláda.
Hlavní problém spočívá ve schopnosti těchto systémů, které mají nebo brzy budou mít, odhalit kritické slabiny v počítačové bezpečnosti a dokonce otevřít nové dveře v oborech, jako je biologie, což by mohlo být využito k dobrému, ale i ke zlému.