Co se v článku dozvím?
- Jak lze vložit vodoznak do obyčejného textu
- Proč si ho člověk při čtení vůbec nevšimne
- Jak specializovaný detektor pozná text vytvořený AI
- Proč vodoznak nefunguje spolehlivě u každého textu
- Co označení skutečně vypovídá o autorství obsahu
Claude začne své texty neviditelně označovat
Společnost Anthropic oznámila, že texty generované modely Claude začne doplňovat o strojově rozpoznatelný vodoznak.
Na rozdíl od viditelného upozornění typu „vytvořeno pomocí AI“ si běžný čtenář ničeho nevšimne. Text bude na pohled naprosto normální a značka s ním může zůstat i poté, co jej někdo zkopíruje do jiného dokumentu nebo na web.
U obrázků je situace jednodušší. Do souboru lze přidat metadata nebo digitální podpis. Prostý text ale žádný podobný obal nemá.
Je to pouze posloupnost znaků.
Právě proto musí být značka ukrytá přímo ve způsobu, jakým AI text vytváří.
Jak může být vodoznak schovaný přímo ve slovech?
Princip je překvapivě chytrý.
Jazykový model při generování každého dalšího slova vybírá z mnoha možností. Některá pokračování věty jsou pravděpodobnější, jiná méně.
Představme si, že model svůj slovník v každém okamžiku pseudonáhodně rozdělí do dvou skupin. Jedné můžeme říkat například zelená, druhé červená.
AI následně dostane nepatrný pokyn, aby při výběru dalšího slova o něco častěji sahala do zelené skupiny.
Výsledná věta přitom pořád působí přirozeně.
Člověk při čtení nemá šanci poznat, zda bylo konkrétní slovo zvoleno kvůli vodoznaku. Pokud se ale podobná preference opakuje ve stovkách slov, začne vznikat statistický vzorec.
A právě ten dokáže specializovaný detektor zachytit.
Text je jednoduše „příliš zelený“
Detekce nefunguje tak, že by nástroj našel jeden konkrétní znak nebo skrytý kód.
Místo toho analyzuje celý text a zjišťuje, kolik použitých slov patří při známém způsobu rozdělení do zvýhodněné skupiny.
U běžného lidského textu by měl být poměr přibližně náhodný.
U označeného AI textu se však může ukázat, že model vybíral ze zvýhodněné skupiny podezřele často.
Výsledkem proto není absolutní odpověď ano nebo ne, ale statistická pravděpodobnost.
Čím delší text je, tím více dat má detektor k dispozici a tím spolehlivější může být výsledek.
Bez tajného klíče značka nedává smysl
Důležitou součástí systému je tajný klíč.
Právě ten určuje, jakým způsobem se při vytváření jednotlivých slov rozdělují možné výrazy do různých skupin.
Bez znalosti klíče není možné jednoduše rekonstruovat pravidlo, podle kterého byl text označen.
Samotný pohled na článek nebo odpověď tedy nestačí.
Detektor musí znát mechanismus použitý při generování textu a následně statisticky vyhodnotit, zda se v něm očekávaná stopa skutečně nachází.
Krátké odpovědi budou problém
Vodoznak ale není dokonalý.
Nejlépe funguje u delších textů, kde má model dostatek prostoru vybírat mezi více možnými slovy.
U krátké odpovědi dlouhé jednu nebo dvě věty může být statistických údajů příliš málo.
Podobná komplikace nastává také u textu, kde existuje jen velmi omezený počet správných pokračování.
Pokud AI generuje například přesný výsledek matematické úlohy, vlastní jméno nebo pevně danou formulaci, nemůže si libovolně vybírat ze synonym jen proto, aby vytvořila vodoznak.
Ještě složitější je označování programovacího kódu
U počítačového programu je prostor pro podobné úpravy ještě menší.
Změna jediného výrazu může způsobit, že kód přestane fungovat.
Určitý prostor může existovat například v názvech proměnných nebo komentářích, ale ve většině programovacího zápisu má model výrazně menší volnost než při psaní běžného článku.
Podobná situace může nastat u tabulek, matematických vzorců nebo přesných překladů.
Vodoznak tedy nelze chápat jako univerzální podpis, který bude stejně spolehlivý u každého typu výstupu.
Stačí text upravit a značka může zeslábnout
Další slabinou je následná editace.
Pokud někdo vygenerovaný text výrazně přepíše, vymění velké množství slov nebo jej nechá přeformulovat jiným systémem, statistický vzorec může zeslábnout nebo úplně zmizet.
To znamená, že absence vodoznaku automaticky nedokazuje, že text nevznikl s pomocí AI.
Stejně důležitá je i opačná situace.
Přítomnost značky nemusí znamenat, že umělá inteligence text kompletně vymyslela.
Člověk může například napsat celý článek sám a následně požádat Claude pouze o jeho stylistické přepracování. V takovém případě mohou být fakta, argumenty i původní myšlenky lidské, přesto finální formulace projde přes jazykový model a vodoznak se v textu objeví.
„Prošlo přes AI“ není totéž jako „napsala AI“
Právě tento rozdíl může být při interpretaci výsledků zásadní.
Detekovaný vodoznak může znamenat pouze to, že daný obsah prošel zpracováním modelem Claude.
Nemusí dokazovat, kdo je skutečným autorem myšlenek nebo původního textu.
To může být důležité například ve školách, redakcích nebo firmách, kde by příliš jednoduchá interpretace detektoru mohla vést k nesprávným závěrům.
Stejně problematické by bylo považovat každý text bez vodoznaku automaticky za lidský.
Ke značkování tlačí firmy i evropská pravidla
Jedním z důvodů, proč se podobné technologie dostávají do popředí, je evropská regulace umělé inteligence.
Pravidla mají u některých výstupů generativní AI požadovat, aby byly strojově rozpoznatelné.
Anthropic proto plánuje značkování používat nejen v Evropské unii, ale celosvětově.
Podobnými technologiemi se zabývají i další technologické společnosti. Google například využívá systém SynthID pro označování některých výstupů generativní AI.
Vodoznak není kouzelný detektor AI
Největší chybou by bylo chápat nový systém jako definitivní způsob, jak odhalit všechny texty vytvořené umělou inteligencí.
Ve skutečnosti půjde spíše o další nástroj, který může pomoci při rozpoznávání velkého množství automaticky generovaného obsahu.
Praktický význam může mít například při odhalování spamových webů nebo obsahových farem, které ve velkém publikují texty přímo z AI bez výraznější lidské úpravy.
U jednotlivého článku, školní práce nebo několikrát editovaného textu však bude situace složitější.
Neviditelný podpis tak představuje zajímavý technologický posun, nikoli nezpochybnitelný důkaz autorství.
Zdroje: AkcniCeny.cz, zive.cz, anthropic.com
