Hlavní vědecký pracovník společnosti Meta na konferenci GTC společnosti Nvidia napadl koncept AGI. Tvrdí, že systémy umělé inteligence budou asistenty pod lidskou kontrolou, nikoli autonomními entitami s vlastní vůlí.
Yann LeCun, hlavní vědecký pracovník společnosti Meta a průkopník v oblasti konvolučních neuronových sítí, se po svém vystoupení na konferenci NVIDIA GTC netají tím, že je podrážděn pojmem umělá obecná inteligence (AGI). Držitel Turingovy ceny se domnívá, že tento pojem vytváří mylná očekávání ohledně technologické budoucnosti a podněcuje předpovědi soudného dne bez solidního vědeckého základu, které jsou na hony vzdálené jak současné technické realitě, tak i těm nejpodloženějším prognózám.
Během svého projevu LeCun tvrdě kritizoval myšlenku AGI: „Jsem unavený z termínu umělá obecná inteligence. Je to koncepční omyl založený na nesprávných předpokladech o povaze inteligence.“ Vědec tvrdí, že systémy AI budou fungovat spíše jako vysoce vyškolení asistenti než jako autonomní entity, které mohou nahradit roli člověka ve společnosti.
Superinteligence vědeckou optikou
Technologický sektor je v otázce umělé superinteligence rozdělen. LeCun se připojuje k těm, kteří věří, že katastrofické scénáře jsou nepravděpodobné jak z technických, tak společenských důvodů.
Související článek
„Pochybuji, že společnost dovolí umělé inteligenci, aby zcela nahradila lidské role,“ řekl vědec během své přednášky na akci společnosti Nvidia.
https://twitter.com/TheAiGrid/status/1905306824842043652?v=2
Jeho názory se čelně střetávají s názory osobností, jako jsou Sam Altman a Elon Musk, kteří vyjádřili obavy z existenčních rizik spojených s pokročilými systémy AI. LeCun tvrdí, že současným systémům chybí zdravý rozum a schopnost sebeověřování, což jsou zásadní omezení, která vylučují scénáře vymknutí se kontrole, které někteří předpovídají.
Francouzský vědec prosazuje postupný přístup, kdy se superinteligence neobjeví jako jednorázová událost nebo exploze inteligence, ale prostřednictvím postupného pokroku v dosud nevyvinutých neuronových architekturách. Tato perspektiva zapadá do jeho současné práce ve společnosti Meta, kde LeCun vede výzkum v oblasti samoučení s cílem vytvořit umělou inteligenci s uvažováním podobným lidskému.
V rozhovoru s Billem Dallym, vedoucím vědeckým pracovníkem společnosti NVIDIA, se objevily odhalující kontrasty. Dally vidí technologie AI jako mocné nástroje, zatímco LeCun o nich raději uvažuje jako o asistentech pod lidskou kontrolou. „Rád spolupracuji s lidmi, kteří jsou chytřejší než já – je to obohacující zkušenost,“ uvedl LeCun příklad a naznačil, že vztah se superinteligentními systémy bude mít podobný průběh.
Akce, která je přehlídkou nejnovějších pokroků v oblasti akcelerované výpočetní techniky, poukázala na různorodost názorů na budoucnost umělé inteligence. Oznámení nových kvantových infrastruktur od společnosti NVIDIA zasadilo debatu do kontextu rychlého technologického vývoje, který podle LeCuna vyžaduje informovanější a méně spekulativní myšlení.
Umělá a lidská inteligence budou vždy spolupracovat
Podle LeCuna skutečnou bezprostřední výzvou není nekontrolovaná autonomie, ale zlomyslné využívání těchto systémů a z toho plynoucí společenské proměny. Jeho návrh se zaměřuje na vývoj hybridních týmů, v nichž spolupracují lidé a systémy umělé inteligence, na podporu nových vzdělávacích modelů pro přeměnu práce a na návrh mechanismů řízení integrovaných do samotných systémů.
LeCun se věnuje výzkumu umělé inteligence již několik desetiletí, od svých počátků v oblasti rozpoznávání obrazu. Toto zázemí mu dává perspektivu, která kontrastuje se současným šílenstvím. Meta vědec se nenechává strhnout závodem o takzvanou obecnou inteligenci, který posedává jeho konkurenty. Jeho poselství je jasné a přímé: AI nebude naším nepřítelem, ale nástrojem, který zůstane pod lidskou kontrolou. Potřebná připomínka v době, kdy všechny titulky často zaujmou ty nejpřehnanější předpovědi.
V širším kontextu AI mění řadu odvětví, od medicíny po automobilový průmysl. Například v medicíně se umělá inteligence využívá ke zlepšení diagnostiky a léčby nemocí, což by v příštích letech mohlo způsobit revoluci ve zdravotnictví. V automobilovém průmyslu je umělá inteligence základem vývoje autonomních vozidel, která slibují, že změní způsob, jakým se pohybujeme. Tyto aplikace však představují také etické a bezpečnostní výzvy, které je třeba pečlivě řešit.