OpenAI ogłosiło, że w najbliższych tygodniach zacznie oznaczać teksty tworzone przez ChatGPT i Codex, swojego agenta do programowania. Zmiana obejmie użytkowników w UE. Czy to może oznaczać początek końca pisania tekstów przy pomocy AI? Trudno powiedzieć.
Dziś w ten sposób powstaje wiele tekstów w szkołach, na uczelniach, w materiałach promocyjnych, marketingowych i mailach, ale też w internetowych serwisach informacyjnych. Czy oznaczenia, zlikwidują ten proceder?
Szansa jest niewielka, zwłaszcza, że magiczny kod do detekcji tekstów AI, czyli do weryfikacji czy dany tekst powstał przy pomocy modelu LLM (ang. Large Language Model) czy nie, mają tylko firmy będące twórcami LLM-ów.
I – choć firmy zdradzają na czym ich technologie polegają – to nie wskazują jak można owe „znaki wodne” w tekstach odnaleźć.
Brzmi jak magia, znak ukryty w słowach
Technologia OpenAI nazywa się textGrain. Nie dodaje do tekstu widocznych znaków ani ukrytych symboli. Model nieznacznie zmienia sposób dobierania słów, przez co w tekście powstaje charakterystyczny wzorzec statystyczny. – Znak żyje w samych słowach i przenosi się razem z tekstem, gdy jest kopiowany i wklejany – tłumaczy OpenAI.
Do jego wykrycia potrzebny jest program znany firmie OpenAI i tajny klucz.
Claude był pierwszy, ale znakować będą pewnie wszyscy
Anthropic oznacza teksty Claude’a od 2 sierpnia 2026 r. i robi to na całym świecie. Mechanizm działa podobnie. Kiedy model wybiera między równie dobrymi słowami, kieruje się wzorcem wyznaczonym przez tajny klucz.
Nie oznacza to, że Claude, aby oznaczyć tekst, zaczyna wybierać dziwne słowa albo celowo obniża jakość tekstu, aby wprowadzić oznaczenie. Mechanizm działa na poziomie decyzji, w których istnieje kilka równie dobrych możliwości. Model wybiera jedną z nich, która jest tym tajnym kluczem.
Wewnętrzne testy Anthropica podobno nie wykazały praktycznego wpływu ich systemu na jakość, kreatywność ani czytelność tekstu.
Decyzje firmy wyglądają dla zwykłego czytelnika – na poziomie pojedynczego materiału – zupełnie normalnie i przypadkowo. Dopiero analiza odpowiednio długiego tekstu pozwala sprawdzić, czy układ tych decyzji statystycznie odpowiada wzorcowi charakterystycznemu dla tajnego klucza.
Według części źródeł Anthropic korzysta z technologii SynthID-Text opracowanej przez Google DeepMind. Znak wodny mają na razie nowe modele, a starsze dostaną go do 2 grudnia.
Obie firmy robią wprowadziły zmianę z tego samego powodu. Od 2 sierpnia 2026 r. unijny AI Act wymaga, by treści tworzone przez AI były oznaczone w sposób czytelny dla komputerów.
Znak można osłabić lub usunąć przez redakcję tekstu
Firmy przyznają, że znak wodny nie jest niezawodny. W testach OpenAI zamiana 10 proc. słów na synonimy obniżyła skuteczność wykrywania z 92 do 66 proc. Trudniej wykryć też krótkie teksty, obliczenia matematyczne i tłumaczenia. Anthropic również przyznaje, że przeredagowanie tekstu może osłabić znak albo go usunąć.
Obie technologie nie odpowiadają na pytanie, jak duży był udział człowieka w powstaniu danego materiału, nie wskazują też autorów tekstu, czy właścicieli praw. Obecność znaku oznacza tylko tylko i wyłącznie, że tekst przeszedł przez dany model AI.
Źródła: TechCrunch, Telepolis, ITHardware, Business Insider