일본의 온라인 플랫폼에서 자국을 찬양하고 중국인을 비하하는 생성형 인공지능(AI)으로 제작된 영상들이 급증하고 있으며, 이러한 콘텐츠는 주로 고령층을 대상으로 한 조회수 장사로 비판받고 있다. 아사히신문에 따르면, 일본의 여러 인터넷 동영상 플랫폼에는 일본의 긍정적인 면을 부각하고 외국인을 비난하는 영상들이 넘쳐 나고 있으며, 이러한 영상들이 실제 사실인지 아니면 창작된 것인지조차 명확히 구분되지 않는 경우가 많다.

제작된 영상들은 대개 AI로 생성된 이미지와 기계 음성을 결합한 이야기 형식으로 구성된다. 예를 들어, "세계가 일본의 신칸센에 감탄했다"거나 "벚꽃을 훼손한 중국인에게 이상 증세가 발생했다"는 식의 자극적인 제목으로 일본을 미화하거나 중국인을 부정적으로 묘사하는 콘텐츠가 주를 이루고 있다. 일부 영상은 수십만 번의 조회수를 기록하며, 이는 영상 게시자에게 광고 수익을 안겨주는 구조다.

특히 한 20대 남성은 이런 영상 편집 작업을 하청 형태로 맡았다고 밝혔으며, 그가 이 일을 시작한 것은 2년 전이다. 그는 구인 사이트에서 접한 '중국 비판 계열 해외 반응 유튜브 영상 작업'이라는 직업 모집 공고를 통해 이 분야에 발을 들여놓게 되었다. 그가 작업한 내용은 제공된 대본을 토대로 AI를 활용해 관련 인물과 장면 이미지를 생성하는 형태였다. 그는 영상 편집이 집에서도 간편하게 할 수 있는 일이라고 생각했다.

이 작업 과정에는 별도의 매뉴얼이 존재했다. 해당 매뉴얼은 창작물이지만 시설명과 지명을 실제로 설정하고, 주요 시청자인 고령층을 고려해 음성을 더욱 쉽게 알아들을 수 있도록 만들라는 지침이 포함되어 있었다. 예를 들어 "큰 소리로 항의하는 중국인"이라는 문구를 입력하면, AI는 몇 분 만에 적절한 이미지를 생성할 수 있었다. 그는 처음에는 이러한 작업에 당혹감을 느꼈지만, 많은 사람들이 당연히 창작물이라는 점을 인식하고 있다고 생각했다.

그러나 그가 일을 시작한 지 반년이 지나면서 이 '혐중 영상'들이 누구에게 어떻게 소비되는지에 대해 의문을 가지게 되었다. 그는 직접 자신이 만든 영상 제목을 검색해봤고, 그 결과 그의 영상들이 계속해서 게시되고 있는 것을 확인했다. 아사히는 이러한 인터넷 영상의 이면에 얼굴도 모르는 사람들이 AI를 이용해 영상을 대량 생산하며 형성된 효율적인 돈벌이 구조가 존재한다고 지적했다.

혐오 콘텐츠가 사람들의 증오를 자극하고 사고에 왜곡을 초래할 수 있다는 위험성 속에서, 일본 사회는 AI 기술을 활용한 디지털 콘텐츠의 윤리적 기준에 대한 심도 있는 논의가 필요한 시점에 들어섰다. 이러한 행태가 지속된다면, 이는 단순한 조회수 추구를 넘어 사회 전반에 걸쳐 부정적인 영향을 미칠 수 있기 때문이다. 이러한 문제를 해결하기 위한 근본적인 접근이 시급히 필요하다.