메타가 자사의 플랫폼에서 인공지능을 악용하는 현상에 대응하기 위해 Crush AI라는 잘 알려진 AI '누디파이' 앱의 운영사에 대해 소송을 제기했다. 이번 법적 조치는 해당 앱이 메타의 광고 정책을 위반하며 페이스북과 인스타그램에서 대규모 광고 캠페인을 진행했다는 주장을 담고 있다. AI 기술이 빠르게 발전하고 있는 디지털 환경에서 이 사건은 콘텐츠 관리 및 AI 기술의 책임 있는 배포와 관련된 중대한 문제를 부각시키고 있다.

메타의 소송은 홍콩에 있는 Joy Timeline HK라는 회사를 상대로 제기되었다. 메타는 이 회사가 성적 이미지 생성을 위한 서비스를 제공하면서 사용자 동의 없이 조작된 이미지를 생산하는 서비스를 홍보하기 위해 메타의 광고 리뷰 과정을 고의로 우회했다고 주장했다. 이러한 AI 사용의 남용은 사용자 안전과 신뢰에 심각한 위협이 된다.

메타는 Joy Timeline HK와 관련된 광고를 여러 차례 삭제했지만, 해당 회사는 끊임없이 새로운 광고를 게재하였으며, 탐지를 피하기 위해 다양한 전술을 사용한 것으로 나타났다. 이러한 행동은 단순한 정책 위반을 넘어 법적 개입이 필요한 상황으로 발전했다.

Crush AI의 광고 캠페인은 규모가 상당했으며, 2025년 첫 두 주에만 8,000건 이상의 광고가 메타의 플랫폼에서 진행된 것으로 보고됐다. Crush AI 웹사이트의 트래픽 중 약 90%가 페이스북이나 인스타그램으로부터 직접 유입된 것으로 분석되었다. 이는 해당 서비스의 네트워크가 효율적임을 강조하고 있으며, 악의적 행위자가 방어 체계를 우회할 수 있는 어려움을 반영한다.

소송 자료에 따르면 Crush AI는 메타의 광고 검토 시스템과 콘텐츠 관리 노력을 피하기 위해 여러 가지 전략을 사용했다고 전해진다. 여러 광고 계정을 생성하고, 도메인을 자주 변경하며, 모호한 계정 이름을 사용하는 등의 방법이 그것이다. 이는 메타가 이러한 광고 캠페인을 파악하고 차단하는 데 어려움을 야기하게 된다.

이러한 문제는 메타만의 문제가 아니다. 다른 소셜 미디어 플랫폼인 X(구 트위터), 레딧, 유튜브 등에서도 비슷한 문제가 발생하고 있으며, 사용자들은 수백만이 비엔엘 콘텐츠 광고에 노출되고 있다. 현재 연구 결과에 따르면 이러한 유형의 애플리케이션 링크가 다양한 플랫폼에서 급증하고 있는 실정이다.

메타는 소송 뿐만 아니라 다음과 같은 여러 조치를 통해 이를 해결하고자 한다. 새로운 검출 기술을 개발하고, 광고 텍스트와 문맥을 정확히 식별하여 AI '누디파이' 서비스 광고를 차단하는 방식이다. 또한, 불법 광고를 차단하기 위해 키워드 리스트를 확대하고, 외부 협력을 통해 비슷한 서비스를 감시하고 정보를 공유하는 등의 노력을 기울이고 있다.

메타는 또 법률적 차원에서도 소프트웨어를 사용하는 부모에게 더 큰 권한을 제공하는 법안을 지지하며, 비동의로 제작된 성적 이미지 제거를 위한 미국 'Take It Down Act'를 지원하고 있다. 이는 메타의 콘텐츠 관리 노력과 법적 압력을 함께 강화하는 방안이다.

하지만 메타의 노력에도 불구하고 AI '누디파이'와 같은 서비스를 온라인에서 완전히 제거하는 것은 여전히 큰 도전이 될 것으로 예상된다. 계정 생성이 용이하고 도메인 변경이 간편한 만큼, 기술 발전에 발맞춰 새로운 유형의 남용이 생길 수 있다는 점은 지속적인 경계와 혁신이 필요함을 시사한다.

이 상황은 디지털 시대의 더 넓은 문제를 드러낸다. 혁신을 촉진하는 동시에 기술이 악용되는 것을 방지하는 방법에 대한 고민이 필요하다. 이는 사용자 생성 콘텐츠와 첨단 AI 도구가 존재하는 모든 플랫폼에 연관된 주제로서, 디지털 생태계의 신뢰와 보안에 대한 폭넓은 논의와 관련이 있다.