OpenAI má technologii pro odhalení textu generovaného ChatGPT, asi ho ale neuvolní
14.8.2024, Milan Šurkala, aktualita
Texty generované pomocí chatbota ChatGPT mají několik vzorů, podle kterých se dá občas poznat, že je nepsal člověk, ale chatbot. OpenAI má dokonce technologii pro "textový vodoznak", ale nejspíš ho neuvolní do praxe.
ChatGPT je velmi populárním chatbotem, který se používá už i mezi ne-IT populací. Využívá ho spousta kreativních profesí, lidí v běžném životě, hodně typický je ve školství, a to jak pro správné účely (vysvětlení látky v dané úrovni obtížnosti), tak i ty nesprávné (psaní celých esejí místo studenta). Texty vytvořené tímto chatbotem nicméně mají své charakteristické znaky a společnost OpenAI, která je tvůrcem tohoto systému, dokonce vyvinula technologii pro "textový vodoznak", díky čemuž by bylo možné s téměř 100% úspěšností odhalit text vytvořený tímto chatbotem. Firma zákulisně uvádí 99,9% úspěšnost, což je opravdu hodně.
Systém je velmi efektivní i vůči lokálním úpravám textu, méně pak už proti globálním, např. přepsáním textu jiným chatbotem. Nicméně tento systém má pozitiva i negativa, kvůli nimž firma zvažuje, zda ho uvolní nebo ne. A spíše se přiklání k tomu, že nikoli. Důvodem, proč se OpenAI k uvolnění systému staví spíše negativně, je to, že by mohl ovlivnit ochotu některých skupin lidí používat ChatGPT. Příkladem mohou být např. nerodilí mluvčí, kterým pomáhá s psaním lépe znějících textů v jiném jazyce (např. angličtině). Snadno odhalitelný vliv AI na text a případné konsekvence z toho plynoucí by tak mohly snížit jejich chuť používat chatbota. V průzkumu tuto obavu vyjádřilo skoro 30 % dotázaných lidí, což je docela velké číslo. Jak se nakonec OpenAI rozhodne, to ale ukáže až čas. Jak to vidíte vy?
