Šéf Googlu Sundar Pichai se před časem ohradil vůči historickým nepřesnostem, které vytváří Gemini AI v rámci svého generátoru obrázků.
Generování obrázků z textu do umělé inteligence bylo pro mnohé obrovským skokem, který jim umožnil obnovit scénáře, postavy nebo historické okamžiky, které měli ve své fantazii. S celou záležitostí se však pojí řada problémů, které vyvolaly velkou kontroverzi, především ve Spojených státech.
Důvodem jsou problémy s reprezentací, které aplikace Gemini vykazovala při reakci na některé žádosti, u nichž se očekávala určitá míra věrohodnosti. Podívejme se, co se stalo.
CEO Google Sunndar Pichati: Nepřijatelné!
Aplikace Google Gemini funguje opravdu dobře, je výkonná, poskytuje odpovědi velmi rychle a obecně poskytuje poměrně vysokou úroveň přesnosti.
Některé odpovědi urazily naše uživatele a ukázaly zaujatost – Sundar Pichai, generální ředitel společnosti Google.
Problém s výstupem historických obrázků však rozzlobil americkou komunitu. Ten vznikl poté, co petice za znovuvytvoření amerických otců zakladatelů vedla k tomu, že se objevily pouze rasistické a indiánské postavy. To je nepřesné, protože původ zakladatelů amerického státu byl vesměs bílý, anglosaský a protestantský.
Google says it’s fixed Gemini’s people-generating feature https://t.co/kpmClh2TMr
— Kyle Wiggers (@Kyle_L_Wiggers) August 28, 2024
Již několik dní se opakují obvinění z toho, že chce změnit historii, a neustálé útoky na Google. Společnost z Mountain View však ujistila, že jde o chybu, kterou se snaží napravit.
V interním prohlášení, které vydal generální ředitel společnosti Google Sundar Pichai a které shromáždil server The Verge, je vidět znepokojení ředitele Googlu kvůli této záležitosti, kterou považuje za nepřijatelnou, protože cílem společnosti je nabízet spolehlivý obsah:
Naším posláním je organizovat světové informace a učinit je všeobecně dostupnými a užitečnými . Vždy jsme se snažili, abychom v našich produktech poskytovali uživatelům užitečné, přesné a trendů prosté informace. Proto jim lidé důvěřují. Takový musí být náš přístup ke všem našim produktům, včetně umělé inteligence.
Proto Sundar Pichai považuje tuto chybu za zcela nepřijatelnou a chtěl zaručit, že bude co nejrychleji opravena.
Problém, který není nový, ale který ještě nikdy nebyl tak nápadný
Toto vyobrazení římského vojáka je zcela fiktivní a ani zdaleka se nepodobá skutečnosti. Bylo vytvořeno pomocí DALL-E a ukazuje historické zkreslení a nepřesnosti této umělé inteligence.
I když generování obrázků pomocí UI, jako je Midjourney nebo DALL-E 3, obvykle přináší docela dobré výsledky pro nápadité věci, je pravda, že při zobrazování minulosti nejsou nijak zvlášť dobré.
Nevíme (a ani se to nikdy nedozvíme) jaké informační toky jsou UI nabízeny k provádění jejich kreseb, ale je jasné, že míchají různé typy informací, aniž by dosáhly přijatelných výsledků na obecné úrovni.
Ve skutečnosti je generování těchto obrazů přinejmenším problematické, protože může sloužit ke generování dezinformací nebo k vytváření představ a pospolitostí otázek, které ve skutečnosti neexistovaly.
Kontroverze vyvolala změna pohlaví a místa původu konkrétních historických postav, ale pravdou je, že problém je mnohem hlubší a je třeba jej v budoucnu naléhavě zlepšit. Ačkoliv pak Google dnes již tvrdí, že se problém podařilo vyřešit, reputace Gemini utržela tvrdou ránu, ze které se bude muset ještě chvíli vzpamatovávat.