3.1415926535——이 숫자가 이제 새로운 쓰임새를 갖게 됐다. Anthropic의 설명에 따르면, Claude가 텍스트를 생성할 때 모델은 매번 '그럴듯한 후보 단어' 목록에서 하나를 골라야 하는데, 예전에는 난수로 이를 결정했다. 지금은 워터마크 기능을 켜면 Claude가 대신 '키' 하나를 이용해 후보 목록 중 몇 번째 단어를 선택할지 정한다. 공식이 든 예시가 바로 원주율이다. 키는 2부터 읽기 시작하고, 이어지는 글자들은 차례로 후보 목록의 6번째, 5번째, 3번째, 그리고 다시 5번째 항목을 취한다. 이 과정에서는 숨겨진 문자가 추가로 남지 않으며, 육안으로도 차이를 읽어낼 수 없다. 오직 그 키를 쥔 사람만이 이를 해독할 수 있다.
이 방식은 Anthropic이 Google DeepMind가 《Nature》에 발표한 SynthID-Text 기법을 개량한 버전이다. Anthropic은 워터마크가 생성 속도를 늦추지 않으며 추가 토큰도 필요하지 않다고 강조한다. 즉 사용 비용이 올라가지 않는다는 뜻이다——이는 AI 생성 콘텐츠에 식별 가능한 표식을 의무화한 EU의 새로운 AI 투명성 규제에 대응하기 위한 조치다. Anthropic은 앞으로 API를 공개해, 키를 가진 사람이 특정 텍스트에 "Claude가 개입한 적이 있는지" 확인할 수 있도록 할 예정이다.
잡아낼 수 있는 건 '손을 댔는지'일 뿐, '얼마나 썼는지'는 아니다
워터마크의 한계도 분명히 밝혔다. 이 텍스트가 Claude가 처음부터 끝까지 쓴 것인지, 아니면 사용자가 살짝 다듬어달라고 요청한 것인지는 구분하지 못한다는 점이다. 번역된 텍스트에도 마찬가지로 표식이 남는다. 가벼운 편집이나 텍스트가 너무 짧을 경우 워터마크가 약해져 탐지되지 않을 수도 있다. 하지만 반대로, 가벼운 편집으로는 워터마크를 지울 수 없다는 뜻이기도 하다. Anthropic은 정말로 없애고 싶다면 전체를 다시 써야 한다고 직접 권고했다.
코드는 예외다. Anthropic에 따르면 코드의 워터마크는 일반 텍스트보다 대체로 약한데, 이유는 단순하다. 프로그래밍 언어는 출력이 정확해야 하는 경우가 많아 '후보 단어'가 많지 않고, 선택의 여지가 없으면 워터마크도 자연히 심어지지 않는다. 이는 현실적인 문제 하나와도 맞닿아 있다——그동안 업계에서는 만약 프로그램 코드 전체가 AI로 생성됐다는 것을 증명할 수 있게 되면, 저작권 우려로 인해 그대로 복제해 수정하는 사례가 늘어날 수 있다고 우려해왔다.
이미지는 또 다른 방식을 따른다. Anthropic은 메타데이터에 암호화 서명이 담긴 표시를 추가해, 이것이 Claude가 만든 이미지임을 명시한다. 왜 EU에서 먼저 적용하지 않고 전 세계 사용자에게 한꺼번에 공개하느냐는 질문에 대해, Anthropic은 "지역별로 나누어 구현할 자신이 없었다"고 답했다. 그래서 아예 8월 2일 이후 출시되는 모델에는 전면적으로 워터마크를 적용하고, 기존 모델들은 앞으로 몇 달에 걸쳐 순차적으로 이를 보완할 예정이다.
