Sam Altman přiznává, že nový model AI musí ještě projít jejím systémem posouzení a hodnocení.
OpenAI navzdory svému názvu není známá tím, že by své modely otevírala vývojářům. Nyní Sam Altman oznámil změnu směru ve společnosti: připravují model s otevřeným zdrojovým kódem, který umožní každému vývojáři provádět úpravy.
Posledním open source modelem společnosti OpenAI byl GPT-2 a pravdou je, že zkušenosti s ním nebyly zcela pozitivní. Společnost OpenAI se rozhodla omezit jeho používání, protože byl „příliš nebezpečný“, protože bylo možné provést úpravy, které by odstranily omezení, jež měla zabránit zneužití.
OpenAI se vrací k otevřeným modelům umělé inteligence
Prostřednictvím svého účtu X Sam Altman říká, že o tom „přemýšleli už dlouho, ale jiné priority dostaly přednost“. Nyní, po uvedení nového generátoru obrázků – který vzal sítě útokem – se zdá, že je OpenAI připravena klást větší důraz na svůj otevřený model.
„Bezpečnost je základním aspektem vývoje našeho modelu s otevřeným zdrojovým kódem, a to od předběžného tréninku až po vydání. Otevřené modely představují jedinečné výzvy. Zaměřujeme se zejména na studium nepříznivého přizpůsobení a dalších rizik, která jsou s otevřenými modely spojena.“
Právě to vedlo společnost OpenAI k tomu, že v té době omezila používání modelu GPT-2. Společnost klasifikovala svou umělou inteligenci jako „nebezpečnou nebo potenciálně nebezpečnou“ kvůli její schopnosti generovat falešné texty, které se jevily jako pravdivé, a dokonce i za vymýšlení zdrojů informací.
Od té doby byla společnost OpenAI méně „otevřená“ a zaujala opatrnější postoj. Nyní se změnila úplně, přičemž Sam Altman na svém účtu na X uvedl následující:
„Neuděláme takovou hloupost, jako že řekneme, že nemůžete používat náš otevřený model, pokud vaše služba nemá více než 700 milionů aktivních uživatelů měsíčně. Chceme, aby ho používali všichni“!
Opatrný přístup se však v tomto novém projektu projevuje i nadále: během několika příštích týdnů budou shromažďovat vývojáře, aby shromáždili zpětnou vazbu a prozkoumali předložené prototypy.
Cílem je zjistit, jak snadno lze model upravit, aby se obešla omezení daná návrhem. Podle Altmana se „těší, až uvidí, co vývojáři vytvoří“. Za tímto účelem zřídila organizace OpenAI webové stránky, kde se zájemci mohou registrovat na konferenci, která se bude konat ve Spojených státech a v Evropě.
DeepSeek je jedním z open source modelů, který měl v posledních měsících největší dopad na společnost. Jeho úspěch otevřel dveře dalším velkým společnostem zabývajícím se umělou inteligencí, aby tento přístup převzaly s cílem umožnit komukoli přístup ke kódu a přizpůsobit jej konkrétním úkolům.
OpenAI navíc není jedinou společností, která projevila zájem o open source modely umělé inteligence. Tuto oblast zkoumají také společnosti jako Google a Meta, jejichž cílem je podpořit inovace a umožnit většímu počtu vývojářů přispět k rozvoji umělé inteligence. Například společnost Google uvedla na trh knihovnu TensorFlow, která je otevřeným zdrojem a stala se základním nástrojem pro mnoho vývojářů umělé inteligence.