Claude dostaje ukryte znaki wodne. Niewidoczne w prozie, w kodzie źródłowym model odpuszcza

Pewność autorstwa bez wizualnego szumu

Anthropic podejmuje próbę rozwiązania problemu audytowalności wyników LLM. Jest to odpowiedź na wymogi europejskiego AI Actu, a konkretnie na kodeks postępowania (Transparency Code). Model zacznie wykorzystywać system SynthID Text, opracowany przez Google DeepMind. Działa to w ten sposób, że przy wyborze słów w sytuacjach o niskim ryzyku (na przykład wybór między słowami określającymi pogodę) model delikatnie koryguje prawdopodobieństwo. Tworzy to statystyczny ślad, niewidoczny dla człowieka, ale możliwy do wykrycia przez algorytm.

Kod wymaga twardej składni, nie kreatywności

Prawdziwy problem pojawia się w momencie, gdy Claude generuje oprogramowanie. W przeciwieństwie do prozy, gdzie synonimy można zamieniać bez utraty sensu, kod źródłowy wymaga precyzyjnej składni. Próba wciśnięcia statystycznego szumu w jego strukturę niesie ryzyko, że kod się nie skompiluje. Aby zachować programistyczne możliwości modelu, Anthropic musi niemal całkowicie wyłączyć znak wodny z kodu. Ma on działać tylko w miejscach z dowolnym wyborem, zazwyczaj w komentarzach. Z definicji wygenerowany kod funkcjonalny pozostanie bez ochrony.

Kruchość wobec ludzkiej redakcji i przepisywania

System ma wyraźne granice funkcjonalności, gdy wygenerowany tekst trafia do redaktorów. Anthropic przyznaje, że chociaż lekkie poprawki prawdopodobnie nie usuną znaku wodnego w całości, to całkowite przepisanie tekstu, w którym każde słowo zostanie zastąpione, zniszczy go. Co więcej, jeśli użytkownik zdecyduje się użyć Claude'a wyłącznie do korekty tekstu napisanego przez człowieka, system nie będzie miał do czego się przyczepić, ponieważ większość słów nie będzie pochodzić od modelu.

Produkcyjne wdrożenia zweryfikują odporność

Sukces całego przedsięwzięcia nie zależy od laboratoryjnych testów, ale od tego, czy system przetrwa presję codziennego użytkowania w pełnym zakłóceń środowisku. Zadecyduje to, czy firmy będą w stanie niezawodnie identyfikować swoje treści, nawet jeśli zostaną one przepuszczone przez inne systemy. Równie ważne będzie zweryfikowanie obaw o spadek wydajności w złożonych zadaniach programistycznych, które są głównym powodem, dla którego użytkownicy decydują się na płatną subskrypcję.

Werdykt Lilith

Regulator dostał to, co chciał na papierze, ale rynkowa rzeczywistość wygrywa. Dopóki priorytetem jest utrzymanie perfekcyjnej kompilacji i czystej logiki kodu, transparentna pieczątka musi zejść z drogi.