Společnost OpenAI má další oběť, tentokrát ředitele, který usiloval o dosažení obecné umělé inteligence (AGI).
Dosažení umělé obecné inteligence se na dnešním trhu stalo cílem, ke kterému směřují všechny společnosti. Ať už je to možné, nebo v současné době nemožné, takový výzkum a vývoj je klíčem ke změně současné technologie a povýšení AI na novou úroveň dominance. S příchodem GPT-4o došlo k podstatnému zlepšení modelu, ale ke splnění těchto cílů máme ještě daleko. Nyní se zdá, že společnost přišla o viditelného šéfa této divize.
I just sent this message to my colleagues, and elaborate on my decision and next steps in a blog post (see next tweet): pic.twitter.com/NwVHQJf8hM
— Miles Brundage (@Miles_Brundage) October 23, 2024
Miles Brundage, hlavní výzkumník připravující příchod AGI, oznámil, že společnost opouští. Jeho rezignace je součástí desítek dalších odchodů, které společnost od svého založení již zažila a které ukazují na obrovské rozdělení uvnitř společnosti. Sám však ujistil, že tomu tak není.
Zpráva na rozloučenou
Brundage v souvislosti se svým odchodem zveřejnil velmi obsáhlý dopis na rozloučenou, ve kterém vysvětluje všechny důvody svého rozhodnutí. Mezi nimi i to, že chce pracovat zvenčí, aby mohl zveřejňovat zprávy, které ovlivňují celé odvětví AI, a mohl tak dosáhnout spravedlivější AI díky tomu, že bude mít větší nezávislost.
Nepřekvapivě se také snažil vysvětlit důvody současného nedosažení AGI:
Stručně řečeno, ani OpenAI, ani žádná jiná špičková laboratoř není připravena a svět také není připraven. Aby bylo jasno, nemyslím si, že toto tvrzení je mezi vedoucími představiteli OpenAI kontroverzní, a zejména je to jiná otázka než to, zda jsou společnost a svět na cestě k tomu, aby byly v příslušné době připraveny (i když si myslím, že zbývající mezery jsou dostatečně významné na to, abych se po zbytek své kariéry zabýval politikou AI).
Po výroku, že svět není připraven, se sám bývalý ředitel podělil o článek vysvětlující, proč není připraven. Říká také, že na stupnici od 1 do 5 pro dosažení AGI ji současný bod vývoje řadí na druhou úroveň, blízko schopnosti lidského uvažování.
Brundage věří, že až umělá inteligence dosáhne úrovně AGI, bude schopna bez problémů zlepšit život všech lidí na planetě. K tomu však bude třeba ji jasně a kontrolovaně regulovat a zaměřovat.
Kromě toho se tým, který vedl, rozpustí a připojí se k jiným skupinám. Něco podobného, co se stalo s rozpuštěním bezpečnostního týmu před několika měsíci.
Ve skutečnosti zvažuje, že založí novou neziskovou společnost nebo se spojí s jinou společností, která bude prosazovat takovou politiku umělé inteligence, aby byla pro lidstvo přínosná a bezpečná a nemohla pro nás představovat nebezpečí.