최근 미국과 이스라엘, 이란 간의 무력 충돌이 심화됨에 따라 생성형 인공지능(AI)으로 제작된 가짜 전투 영상과 이미지가 소셜 미디어에서 폭증하고 있다. 이러한 허위 콘텐츠는 수백만 조회수를 기록하며 갈수록 전쟁 상황에 대한 정보 왜곡을 초래하고 있어 그 우려가 커지고 있다.

특히, 소셜 미디어 플랫폼에 유포되고 있는 가짜 전투 영상 중 일부는 텔아비브가 미사일 공격을 받거나 중동의 주요 시설이 폭격당하는 장면 등을 담고 있다. 이러한 영상들은 사실과 다른 전투 상황을 연출하며, 일부는 수천만 회의 조회수를 기록하여 허위 정보를 급속히 확산시키고 있다. 이러한 문제는 AI 분석 도구조차도 가짜 영상을 실제 전투 영상으로 판단하는 경우가 발생하여 더욱 복잡한 상황을 낳고 있다.

예를 들어, 한 X(구 트위터) 계정은 "중국이 요르단의 미군 기지 상황을 유출했다"는 설명과 함께 폭격 장면이 담긴 영상을 게시하였다. 이 영상은 하루 만에 600만 회 이상의 조회수를 기록했지만, 불투명한 그래픽과 군인이 방호벽을 쉽게 밀어내는 등의 어색한 상황이 포착되어 조작 흔적이 분명하게 드러났다. 이러한 영상의 진위 여부를 판별하는 AI 도구마저도 혼란을 겪고 있는 상황이다. X 플랫폼의 AI 분석 도구 '그록(Grok)'은 일부 영상을 실제 전투 장면과 유사하다고 판단하며 AI 생성 영상이 아니라고 결론 내리기도 했다. 반면 다른 탐지 프로그램에선 해당 영상을 75%가량 AI로 생성된 것으로 분석하기도 했다.

뿐만 아니라, 전쟁과 관련된 허위 이미지는 각종 SNS에 광범위하게 퍼지고 있다. 일부 위성 사진은 두바이의 부르즈 할리파가 화염에 휩싸인 것처럼 보여지거나, 바레인 미 해군 제5함대 기지가 파괴된 것처럼 조작되기도 했다. 구글의 분석 결과, 이들 중 상당수는 AI 도구에 의해 생성되거나 편집된 것으로 확인됐다. 이러한 허위 콘텐츠가 퍼지는 주된 이유는 사용자들이 조회수를 통해 수익을 얻을 수 있기 때문이다. 플랫폼들은 조회수와 반응이 높은 게시물에 광고 수익을 부여하기 때문에 일부 사용자들은 자극적인 가짜 영상을 제작하여 무분별하게 확산시키고 있다.

더불어, 전쟁 상황에서 특정 세력이 우세한 것처럼 보이게 하는 선전 목적의 콘텐츠가 다수 존재하는 것으로 보인다. 이러한 허위 정보는 제한된 정보 접근성과 사실 여부 확인의 어려움으로 인해 더욱 확산되고 있는 실정이다. 현재 이란 내부 상황은 외부 취재가 제한되어 정보 검증이 어려워지고 있으며, 이로 인해 SNS를 통해 유입되는 영상들이 정확성을 필터링하기가 쉽지 않다.

다양한 소셜 미디어 플랫폼은 이 문제에 대한 대응으로 전쟁 관련 콘텐츠에 대한 팩트체크를 강화하고 있다. 특히 가장 많은 가짜 영상이 공유되는 X 플랫폼은 AI로 생성된 전쟁 영상을 표시 없이 게시할 경우 수익화 프로그램에서 제외하겠다는 방침을 세우고 있다.

이제 사용자들은 소셜 미디어에서 전파되는 콘텐츠의 진위를 신중하게 판단할 필요가 있으며, 이를 위해 더 많은 정보 검증과 팩트체크가 요구되는 시점이다.