OpenAI má nástroj, pomocí kterého lze do textů napsaných ChatGPT integrovat vodoznaky.
OpenAI vyvinula nástroj, který by detekoval texty napsané ChatGPT. Alarmující zvony se rozezněly a všichni uživatelé, kteří chatbota s umělou inteligencí používají při každodenní práci pro odborné i vzdělávací úkoly. Až dosud byla identifikace textu napsaného ChatGPT složitým a téměř nemožným úkolem.
Ve skutečnosti je možné vytušit, že něco vytvořila umělá inteligence, ale ověřit, že jde o něco, co napsal výhradně chatbot, bylo až dosud prakticky nemožné. Oznámení nástroje vytvořeného společností OpenAI staví do latě všechny uživatele, kteří nadměrně využívají AI, aby se vyvlékli z úkolů, které musí plnit.
OpenAI má nástroj, který umožňuje zkontrolovat, zda text napsal ChatGPT
Informace o nástroji společnosti OpenAI pocházejí z komentářů interních zdrojů pro deník The Wall Street Journal, které vysvětlují existenci nástroje, stejně jako interní dilema, kterému společnost čelí ohledně jeho zveřejnění.
Ano, nástroj existuje a OpenAI neví, co s ním má dělat. Důvody tohoto rozkolu uvnitř společnosti se generují kolem debaty vyjadřující povinnost jako společnosti a dopad, který bude mít spuštění tohoto nástroje na obchodní model společnosti.
Někteří členové vrcholového vedení společnosti OpenAI naznačují, že zveřejnění nástroje by mělo být pro společnost prioritou, čímž by kdokoli získal možnost rozlišit, že něco bylo vytvořeno umělou inteligencí. Důvody jsou jasné, i když by nehrály ve prospěch společnosti, protože by to ovlivnilo její podnikání.
Dopad na obchodní model společnosti OpenAI je hlavním důvodem, proč nástroj nebyl zveřejněn. Bylo naznačeno, že zavedení této funkce by způsobilo útlum jejího podnikání, což je riziko, které si společnost nemůže dovolit. Navíc by provoz tohoto nástroje byl kuriózní.
Bylo odhaleno, že texty vytvořené nástrojem ChatGPT by byly opatřeny vodoznakem, který by sloužil jako označení, že se jedná o text vytvořený umělou inteligencí. Není známo, jak by byl tento vodoznak integrován, ale proslýchá se, že by byl součástí metadat generovaného textu.