Technologický vizionář si myslí, že k dosažení singularity umělé inteligence už mnoho nezbývá. Mělo by se jednat o 5-10 let, což může znít fantasticky, ale není třeba se obávat?
Yuval Noah Harari, renomovaný historik, filozof a autor bestsellerů „Sapiens a Homo Deus“, se již léta kriticky vyjadřuje k technologickému pokroku a jeho důsledkům pro lidstvo. Zaměřuje se na to, jak tyto technologie mohou změnit strukturu společnosti a samotnou lidskou přirozenost. Ve svém nejnovějším díle „Nexus Harari“ pokračuje ve zkoumání těchto otázek s novým zaměřením.
Renomovaný izraelský vědec, známý svými analýzami lidské evoluce a budoucnosti našeho druhu, opakovaně vyjádřil obavy ze zrychlujícího se rozvoje umělé inteligence a rizik, která by mohla představovat pro kontrolu člověka nad vlastním osudem. Zašel dokonce tak daleko, že varoval, že umělá inteligence by mohla potenciálně ukončit nadvládu člověka na Zemi.
Tichá revoluce, která změní svět
V nedávném rozhovoru pro televizní stanici CNBC-TV18 u příležitosti uvedení své nové knihy Nexus se Harari podělil o znepokojivou vizi blízké budoucnosti umělé inteligence. Jeho výroky, které pronesl 6. prosince, vyvolaly v technologické komunitě rozruch pro přímočarost jeho předpovědí a obavy, které vyjadřují z urychlujícího se rozvoje schopností umělé inteligence. Harari není se svou vizí věcí příliš optimistický, naopak:
„Mohli bychom být jen pět nebo deset let od superinteligentních umělých inteligencí, které budou mnohem chytřejší než my. V současné době existují některé omezené oblasti, například hraní šachů, kde je umělá inteligence již nyní chytřejší než my. Za pár let se tak stane ve stále více oblastech a nebezpečí spočívá v tom, že v té chvíli nad ní můžeme ztratit kontrolu.“
Toto tvrzení je obzvláště důležité, protože na rozdíl od jiných převratných technologií v historii lidstva se Harari domnívá, že AI není jen další nástroj. Zatímco dřívější vynálezy, od kamenných nožů po atomové bomby, rozšiřovaly lidské schopnosti, ale zůstávaly pod naší kontrolou při rozhodování, umělá inteligence představuje změnu paradigmatu v tom, že je schopna rozhodovat a generovat myšlenky sama. Stává se tak autonomním činitelem, což pro lidstvo představuje bezprecedentní výzvu.
Pokrok umělé inteligence je tak rychlý, že to překvapuje i odborníky. Podle zprávy společnosti McKinsey by umělá inteligence mohla do roku 2030 přinést do světové ekonomiky až 13 bilionů dolarů (asi 286,5 bilionů korun), ale zároveň představuje významnou výzvu z hlediska zaměstnanosti a ekonomické nerovnosti.
Celkově je Harariho názor poměrně pesimistický a dokonale se shoduje s názory dalších odborníků, například Geoffreyho Hintona, známého jako kmotr umělé inteligence, který se domnívá, že poprvé nebudeme nejchytřejším druhem.
V této souvislosti historik naléhavě vyzývá k zavedení odpovídajících regulací a bezpečnostních opatření na globální úrovni. Ohledně možnosti dosažení potřebné mezinárodní spolupráce je však pesimistický, zejména s ohledem na současnou geopolitickou situaci a nezkrotnou konkurenci v závodě o nadvládu AI.
„Pokud bude existovat naprostá nekontrola, žádná ochranná zábradlí, žádná pravidla, víme, kdo vyhraje a kdo prohraje. AI vyhraje a lidstvo prohraje,“ uzavírá s obavami.
Harari vykresluje obzvláště znepokojivý scénář pro odvětví, jako je finančnictví, kde se rozhodování o úvěrech již dostává do rukou algoritmů. Varuje před vytvořením tak složitých systémů, že by jim mohly přestat rozumět i vlády, což by vytvořilo nebezpečnou závislost právě na těchto technologiích. Pro názornější ilustraci rizik uvádí příklad, kdy se GPT-4 společnosti OpenAI údajně pokusil oklamat člověka a vyřešit captchu, čímž demonstroval autonomní rozhodování a schopnost klamání.
Harari nás zkrátka vyzývá, abychom se zamysleli nad rolí umělé inteligence v našich životech a pečlivě zvážili, jak můžeme řídit její vývoj, aby byl přínosný pro lidstvo jako celek.