Vodoznak v textu AI pomůže s původem. Autorství neprokáže

Jak může být značka v běžném textu neviditelná

U některých slov má model několik podobně vhodných pokračování. Vodoznak podle popisu Anthropicu mění způsob výběru mezi nimi tak, aby delší text nesl statisticky rozpoznatelný vzorec. Nejde o skryté znaky ani o metadata přilepená za odstavec. Čtenář by neměl poznat rozdíl, detektor se znalostí klíče může vyhodnotit, nakolik posloupnost slov odpovídá značenému generování. Metoda vychází z práce SynthID-Text; její vlastnosti se posuzují statisticky a závisí na délce i typu textu.

Krátké úryvky, přesné faktické věty, programový kód nebo pouhá gramatická korektura dávají modelu méně volby. Vodoznak je tam slabší nebo chybí. Naopak nalezený vzorec neřekne, zda model napsal celý dokument, nebo výrazně přepsal lidský návrh. U přeloženého textu je třeba rozlišit, zda překlad vytvořil Claude, nebo jiný nástroj. Další úpravy a spojení zdrojů výklad detekce komplikují. Detektor jednoho poskytovatele také sám nerozpozná text jiného modelu.

Textový vodoznak a podpis souboru nejsou totéž

U obrázku nebo dokumentu lze uložit kryptograficky podepsané informace o původu do metadat. Standard C2PA se snaží umožnit kontrolu řetězce takových tvrzení. Metadata lze ovšem při převodu formátu nebo nahrání na některé platformy odstranit. Textový statistický vodoznak je přímo ve volbách slov, takže přežije prosté kopírování textu, ale může zeslábnout výraznými úpravami. Oba mechanismy odpovídají na jiné otázky a oba mají okraje, které musí provozovatel znát.

V podniku by proto neměl vzniknout jeden přepínač „ověřeno“. U každého signálu si uložte jeho zdroj, metodu, čas, rozsah textu a míru nejistoty. Podepsaný původ souboru neznamená správnost obsahu. Pravděpodobný textový vodoznak neznamená, že dokument porušil pravidlo použití AI. Bez tohoto rozlišení se i kvalitní technologie stane zdrojem chybných rozhodnutí.

Tři druhy důkazu mají jiný význam

Modelový redakční spor

Redakce dostane odborný komentář od externího autora. Detektor označí část textu jako pravděpodobně vytvořenou Claudem. Jednoduché pravidlo „pozitivní nález znamená odmítnout“ by mohlo poškodit autora, který použil model pouze k úpravě jazyka, nebo přehlédnout text napsaný jiným nástrojem. Rozumný postup nejprve stanoví, co redakční pravidla dovolují, a potom ověřuje původ tvrzení, zdrojové podklady a odpovědnost za konečnou verzi. Technická značka může vyvolat dotaz, nikoli sama rozhodnout o autorství.

U podnikového obsahu je důležitá i opačná otázka: kdo za výstup ručí, když je označený jako AI? Podpis v souboru nebo textový vodoznak neprokazuje, že někdo ověřil čísla, schválil právní tvrzení nebo měl právo zveřejnit citlivý údaj. Proto bych evidenci původu spojil s redakčním workflow: zadání, verze, použité zdroje, věcné ověření a finální schválení. Vodoznak je další vrstva, ne náhrada tohoto řetězce.

REDAKČNÍ PRAVIDLO

Pozitivní nález detektoru otevírá ověření původu a zdrojů. Sám nesmí automaticky rozhodnout o autorství nebo o porušení pravidel, zvlášť u krátkého či přeloženého textu.

Jak postupovat u sporného výsledku

Když detekce označí odborný text, nejdříve zjistěte, zda organizace vůbec zakazuje pomoc modelu, nebo požaduje pouze přiznání jejího rozsahu. Potom požádejte o podklady k tvrzením, verze návrhu a popis redakční práce. U výstupu, který má finanční nebo reputační dopad, umožněte lidské přezkoumání. Skóre detektoru musí být doprovázeno informací, na jakém typu textu funguje špatně. U krátkého odstavce má být odpověď často „nelze rozhodnout“.

Stejně důležité je zacházení s textem posílaným do detekční služby. Návrh může obsahovat obchodní tajemství, osobní údaje nebo zatím neveřejné výsledky. Než se z kontroly stane rutinní krok, prověřte, co služba ukládá a kdo k datům získá přístup. Ověřování původu nesmí samo vytvořit nový únik obsahu.

Podniková politika musí mluvit o činnosti, ne o nástroji

Věta „AI je zakázaná“ nebo „AI je povolená“ má pro redakci i analytický tým malou hodnotu. Podstatné je, co člověk smí modelu předat, pro jakou fázi práce jej smí použít a kdo ověřuje výsledek. Jazyková korektura interního návrhu, generování celého odborného stanoviska a publikace nepřezkoumaného textu jsou odlišné činnosti. Vodoznak může podpořit dohled nad jednou z nich, ale nerozliší všechny. Pravidlo má tedy vymezit povolený postup a důkazy, které po něm zůstanou.

Pro externí autory je férové pravidlo vysvětlit předem. Pokud je pomoc AI dovolená při rešerši nebo korektuře, nemá pozdější detekce vyvolat dojem prohřešku. Pokud je u určitého typu textu zakázaná, musí být známé, jak se podezření přezkoumá a kdo nese odpovědnost za rozhodnutí. Transparentnost se nedá vynutit jen technickým indikátorem.

HRANICE DŮKAZU

Pozitivní výsledek detektoru nezjišťuje identitu pisatele, odpovědnost za tvrzení ani podíl lidských úprav. Negativní výsledek nevylučuje použití jiného modelu či přepracování textu. Ani podepsaná historie souboru sama nepotvrzuje pravdivost obsahu.

Co má organizace zkusit, než zavede pravidlo

Otestujte vlastní vzorky: krátké a dlouhé texty, odbornou terminologii, překlad, jazykovou korekturu a úpravu člověkem. Vyhodnoťte falešné závěry a jasně určete, co se stane při nejistém výsledku. Dejte lidem možnost doložit vznik textu jiným způsobem. V obchodní, personální nebo školní situaci může špatně interpretovaná detekce způsobit větší škodu než neoznačený odstavec.

Můj názor: zavedení vodoznaku je užitečný krok, protože přináší ověřitelnější signál než stylistické hádání. Hodnotu ale získá jen v systému, který umí mluvit o pravděpodobnosti, omezeních a odpovědnosti. Poctivější je říct „máme indicii o účasti konkrétního modelu“ než „víme, kdo to napsal“.