ChatGPT dokáže klonovat váš hlas, aniž byste o tom věděli.
Společnost OpenAI nepřestává uživatele udivovat schopnostmi svých modelů umělé inteligence. V posledních několika měsících byla oznámena řada významných pokroků, ChatGPT se s vydáním GPT-4o výrazně zlepšil a zdá se, že skutečné schopnosti modelů a nástrojů, které má OpenAI ve svém produktovém portfoliu, se teprve ukáží.
Nejnovější informace, která vyšla najevo, se týká schopnosti ChatGPT napodobovat lidský hlas až znepokojivě dokonale. To však není vše, hlavním problémem této situace je, že ChatGPT je toho schopen, aniž by uživatel poskytl chatbotu s umělou inteligencí výslovné oprávnění. Ano, ChatGPT dokáže napodobit váš hlas, aniž byste mu k tomu dali pokyn.
Na tuto schopnost ChatGPT se přišlo díky zprávě zveřejněné organizací OpenAI. Společnost uvádí, že v určitých situacích dokáže její AI napodobit lidský hlas bez jakéhokoli pověření. To logicky představuje bezpečnostní problém pro všechny uživatele služby OpenAI.
ChatGPT dokáže napodobit váš hlas bez vašeho svolení: znepokojivý pokrok umělé inteligence
Situace, kterou společnost odhalila, poukazuje na přetrvávající obavy o soukromí uživatelů a navíc o schopnosti umělé inteligence. Společnost OpenAI nevytrénovala ChatGPT pomocí obrovské hlasové databáze – ve skutečnosti je tomu právě naopak. Omezení jejích informací znamená, že může používat hlas osoby, která k ní mluví.
Tuto možnost generuje tréninkový systém ChatGPT, který dokáže pomocí série krátkých videí syntetizovat hlas, díky čemuž zvuk generovaný lidským hlasatelem slouží jako model pro jeho vznik. Není ideální, aby ChatGPT tuto možnost měl, i když je to pokrok v oblasti umělé inteligence.
Společnost OpenAI samozřejmě přijala opatření, aby k této situaci nedocházelo. Provedené změny mají zabránit tomu, aby ChatGPT mohl převzít hlas člověka a použít ho k vygenerování odpovědi, ačkoli to není zcela nemožná situace, protože chatbota lze k tomuto úkonu přimět.