Anthropic oznaczy wszystkie treści przetworzone przez Claude

Anthropic będzie oznaczać treści przetworzone przez dowolny ze swoich modeli, nie tylko teksty generowane od podstaw, aby spełnić wymogi unijnego aktu o sztucznej inteligencji.

Firma poinformowała w artykule pomocy, że wszystkie nowe modele oferowane globalnie – nie tylko w UE – będą od momentu premiery zawierać czytelne maszynowo znaki wodne. Wyjścia tekstowe będą zawierać osadzone, niewidoczne oznaczenia; inne generowane pliki będą zawierać podpisane cyfrowo metadane pochodzenia tam, gdzie jest to obsługiwane, z wykorzystaniem podejścia C2PA dla treści nietekstowych.

Unijny akt o AI wymaga od dostawców systemów AI oznaczania wygenerowanych lub zmanipulowanych treści audio, wideo, tekstowych i graficznych. Dotyczy to modeli wydanych po 2 sierpnia 2026 r., z okresem przejściowym do grudnia 2026 r. dla modeli wydanych wcześniej.

Znaki wodne będą dotyczyć każdego, kto używa Claude do korekty, tłumaczenia, streszczania lub konwersji plików, nawet jeśli podstawowe pomysły lub tekst pochodzą z innego źródła. To wykracza poza zwolnienie z obowiązku dla funkcji pomocniczych, takich jak standardowa edycja czy korekta gramatyczna, które nie zmieniają w istotny sposób tekstu ani znaczenia.

Wykryty znak nie jest w pełni rozstrzygający – poinformowała firma. Sygnalizuje, że treść została przetworzona przez Claude, ale brak wykrytego znaku nie oznacza, że treść nie została wygenerowana lub przetworzona przez AI.

Znaki mogą również pojawiać się na treściach, których Claude nie wygenerował. Będą podróżować ze skopiowanym i wklejonym tekstem, przetrwają niektóre edycje, ale mogą zostać zniszczone, jeśli tekst zostanie wklejony do innego czatu, który go edytuje.

Anthropic poinformował, że znaki wodne nie będą działać na niektórych platformach lub funkcjach, które ich nie obsługują. Firma planuje w końcu udostępnić szczegóły wykrywania, aby zapewnić wsparcie techniczne wymagane przez prawo UE.

Firma nie odpowiedziała natychmiast na pytania Ars Technica dotyczące harmonogramu udostępnienia szczegółów wykrywania, wyników testów na fałszywe negatywy lub pozytywy, ani tego, jak znaki wodne mogą kolidować ze standardowymi zwolnieniami edycyjnymi.

Naruszenia aktu o AI mogą grozić karami do 15 milionów euro lub 3 procent światowych rocznych przychodów firmy. Anthropic poinformował, że będzie nadal pracować nad znakami wodnymi i metodami wykrywania, które spełniają wymagania UE.

Redaktor naczelny Ars, Ken Fisher, przyczynił się do powstania tego raportu.