앤트로픽, 클로드 모델에 보이지 않는 텍스트 워터마크 도입

앤트로픽이 자사의 클로드(Claude) 생성 텍스트에 보이지 않는 방식으로 워터마크를 삽입하는 방법을 공개했다. 이 시스템은 독자가 쉽게 인지할 수 있는 표식이 아니라, 단어 선택 과정에서 통계적인 패턴을 남기는 방식으로 설계되었다. 앤트로픽은 클로드 모델이 생성하는 텍스트에 워터마크가 포함될 것이라고 15일에 발표했으며, 이는 유럽연합(EU)의 AI 법률에 따른 투명성 의무를 준수하기 위한 조치였다.

워터마크의 핵심은 의미가 유사한 선택지에서 비롯된다. 대형 언어 모델은 문장을 생성할 때 다음에 올 단어 후보를 선택하는 과정에서, 클로드는 특정 키와 앞선 단어 흐름을 고려하여 선택 패턴을 형성한다. 사람은 이 차이를 인식할 수 없지만, 제대로 된 키를 가진 탐지 시스템은 클로드가 텍스트 생성에 관여했음을 식별할 수 있다.

앤트로픽은 이 워터마크가 별도의 문자를 추가하거나 숨겨진 문자를 삽입하지 않기 때문에, 이용자의 비용 증가를 초래하지 않으며, 개인이나 조직의 신원 정보를 포함하지 않는다고 강조했다. "워터마크는 클로드와 그 출력물에 대해서만 적용되며, 개별 사용자를 식별하지 않는다"는 것이 회사의 설명이다.

이러한 방식은 구글 딥마인드(Google DeepMind)의 SynthID-Text 접근법과 유사하다. 구글 딥마인드는 향후 SynthID를 통해 텍스트 생성 과정에서 토큰의 확률을 조절하여 사람이 볼 수 없는 워터마크를 삽입할 계획을 세우고 있다. 앤트로픽은 이 기술이 텍스트의 품질, 창의성, 가독성에 실질적으로 영향을 주지 않는다고 덧붙였다.

이와 함께, 클로드의 텍스트 워터마크는 기존 AI 탐지기와 다른 방식으로 작동한다. 기존의 탐지기는 문체나 자주 사용되는 표현의 흔적을 분석하여 AI 작성 가능성을 추정하는 반면, 클로드는 생성 단계에서 신호를 삽입하고, 이후 해당 신호가 얼마나 남아 있는지 확인하는 구조를 취하고 있다.

그럼에도 불구하고, 워터마크의 효과가 모든 상황에서 동일하게 적용되지 않을 수도 있다. 예를 들어, 사실관계가 확정된 문장이나 짧은 문단은 선택할 수 있는 범위가 한정되어 탐지 신뢰도가 저하될 수 있으며, 사용자가 쓴 글을 클로드가 맞춤법이나 문장부호만 수정할 경우에도 워터마크의 빈 공간이 제한이 될 수 있다.

코드에 대한 영향도 미미하다. 코드 작성 시 워터마크가 적용되는 가능성은 주석 같은 유연한 표현에 국한되며, 실제 코드 결과물에 대한 영향을 미치지는 않는다. 개발자의 관점에서는 품질 저하보다 코드 산출물의 식별 문제가 더욱 발언될 가능성이 크다. 클로드는 변수명이나 주석과 같은 선택 가능한 표현에서 신호를 남길 수 있지만, 실행 결과에 영향을 미칠 수 있는 코드 구조 자체에선 선택의 폭이 제한적이기 때문이다.

또한, 편집 작업을 통해 워터마크를 제거할 수 있는지에 대한 질문도 제기된다. 앤트로픽은 가벼운 수정을 통해 워터마크가 완전히 제거되기 어려울 수 있음을 시사하면서, 모든 단어를 교체하는 전면적인 재작성은 워터마크를 삭제할 수 있다고 밝혔다. 그러나 이 경우에도 해당 글을 여전히 AI 생성물로 인식할 수 있을지에 대해서는 별도의 평가가 필요하다고 강조했다.

파일 생성 과정에서도 다른 방식이 사용된다. 클로드가 PNG, JPG, SVG와 같은 지원 파일을 생성하면, C2PA 표준에 따라 콘텐츠의 자격 증명 메타데이터가 첨부된다. 이는 텍스트 워터마크처럼 내용을 숨기는 방식이 아닌, 파일이 클로드에 의해 생성되거나 처리되었음을 명시하는 서명된 기록을 추가하는 방식이다.

EU AI법 제50조는 AI가 생성하거나 변형한 콘텐츠를 기계가 읽을 수 있는 형태로 표시하도록 요구하고 있으며, 앤트로픽은 향후 이와 관련된 워터마크 탐지 API를 제공할 예정이다. 기존의 클로드 모델에도 EU 법률의 전환 기간에 맞춰 앞으로 몇 개월에 걸쳐 워터마크 적용 작업이 진행될 예정이다.