Umělá inteligence se v poslední době vyvíjí závratnou rychlostí, a proto je vítané, že se vlivné hlasy v oboru snaží upozornit na výhody i nebezpečí této technologie.
Během nedávného rozhovoru pro ABC News Eric Schmidt (bývalý generální ředitel společnosti Google) varoval, že se lidstvo musí připravit na budoucnost, kdy se systémy umělé inteligence budou schopny samy zdokonalovat, což může mít katastrofální následky.
Související článek
AI je jako džin v láhvi, tvrdí Schmidt
Schmidt vysvětlil, že pokrok v oblasti umělé inteligence, který se v současnosti zaměřuje na konkrétní nástroje, jako jsou virtuální asistenti nebo generátory textů, by mohl ustoupit mnohem složitějším a autonomnějším systémům. Podle Schmidta:
„Nakonec se počítači řekne: „Nauč se všechno a udělej všechno“ a my se dostaneme do nebezpečného bodu.“
Tento milník, známý jako obecná umělá inteligence (AGI), by znamenal, že stroje budou schopny vykonávat jakýkoli intelektuální úkol dostupný lidské mysli.
Skutečný problém spočívá v tom, že v tomto bodě by tyto stroje mohly být schopny sebezdokonalování, což by vedlo k tomu, že by ve všech oblastech překonaly i lidské schopnosti (tzv. umělá superinteligence).
Pro Schmidta by tak bylo nezbytné mít k dispozici kontrolní mechanismus -„kill switch“ – který by tyto systémy v případě nouze vypnul. Vyvstává však znepokojivá otázka: Bude pro člověka možné udržet si kontrolu nad takto pokročilými stroji?
Schmidt není sám, kdo vyjadřuje podobné obavy: Geoffrey Hinton, známý jako „kmotr umělé inteligence“, kdysi prohlásil, že nevidí žádnou jasnou cestu k zajištění bezpečnosti v éře AGI; dokonce i Elon Musk poznamenal, že existuje 10-20% šance, že umělá inteligence bude mít „ničivé“ následky.
Ačkoli tato varování znějí alarmujícím způsobem, tato čísla zároveň uznávají nesmírné přínosy AI. Schmidt to vyjádřil optimisticky:
„Síla této inteligence znamená, že každý člověk bude mít v kapse ekvivalent vědce.“
Jinými slovy, AI by se mohla stát spojencem, který zvýší kreativitu a produktivitu na dosud nevídanou úroveň. To se však bude týkat každého člověka a mnoho lidí se zabývá věcmi, při nichž se jakákoli pomoc, kterou obdrží, stává nebezpečím pro ostatní.
Budoucnost je nejistá
Vývoj umělé inteligence vyvolává naléhavé dilema: kdo tyto technologie reguluje? Schmidt zdůraznil, že vývoj AI by neměl být ponechán pouze na technologiích. Spolu se zesnulým Henrym Kissingerem, spoluautorem knihy Genesis: Artificial Intelligence, Hope, and the Human Spirit, Schmidt obhajoval aktivní roli vlád při dohledu nad těmito technologiemi.