오픈AI는 자사의 인공지능 모델인 챗GPT가 중국 사법당국에 의해 일본 총리를 음해하는 데 사용된 사건을 공개했다. 26일(현지 시각) 발표된 'AI 악성 이용 차단' 보고서에 따르면, 지난해 10월 중순 중국 사법기관 관계자는 다카이치 사나에 일본 총리를 겨냥한 조직적 음해 공작을 계획하고 이를 챗GPT를 통해 기록했다.

보고서에 명시된 바와 같이, 이 관계자는 '사이버 특수작전'이라는 명칭 하에 다카이치 총리와 관련된 부정적인 여론을 조성하는 장치를 운영했다. 구체적으로, 그는 다카이치 총리에 대한 부정적인 댓글을 작성하거나 외국인을 사칭하여 일본 정치인들에게 총리의 외교 정책을 비판하는 이메일을 보내는 방식으로 작용했다. 또한 다카이치 총리를 극우 세력으로 몰고, 미국의 대일(對日) 관세에 대한 반발감을 부추기는 등의 방법을 사용했다. 이러한 계획은 다카이치 총리가 중국 네이멍구 자치구의 인권 상황에 대해 공개적으로 비판한 이후 챗GPT에게 요청했다고 밝혀졌다.

오픈AI는 챗GPT가 이러한 음해 공작에 대한 요청을 거부했다고 강조하며, 해당 관계자가 10월 말에 유사한 내용의 보고서를 챗GPT에게 편집해달라고 요청했지만, 협조하지 않았다고 전했다. 그러나 이후의 조사에서는 챗GPT의 도움 없이도 음해 공작이 실제로 실행된 것으로 나타났다.

사회관계망서비스(SNS), 특히 엑스(X·구 트위터)와 유튜브 등에서는 '우익공생자'라는 해시태그가 달린 다카이치 총리 비판 글과 영상이 다수 올라왔지만, 이들 공작이 실제로 큰 영향을 미치지는 못한 것으로 평가된다. 대부분의 게시물은 예상보다 낮은 호응률을 보였다.

이외에도 오픈AI는 중국 사법당국이 반체제 인사를 탄압하기 위해 가짜 부고와 묘비 사진을 제작하고 배포하는 등 100가지 이상의 전술을 구사해 온 사실을 지적했다. 이 과정에서 중국 내 SNS 플랫폼에서는 수백만 건, 해외 플랫폼에서는 수만 건의 관련 게시물이 생성되었다. 중국 당국은 챗GPT뿐만 아니라 자국의 AI 모델인 딥시크 등을 활용해 이러한 음해 활동을 감행하는 것으로 파악되고 있다.

한편, 마오닝 중국 외교부 대변인은 정례 기자회견에서 오픈AI의 주장을 모르겠다고 입장을 밝혔으며, 이는 해당 주장을 뒷받침할 구체적인 근거가 없다고 덧붙인 바 있다.