유럽연합(EU)은 인공지능(AI) 생성 콘텐츠에 'AI 생성 표기'를 의무화하는 새로운 AI 규정을 2일(현지 시간)부터 시행에 들어갔다. 이는 2024년 시행될 AI 규제를 포함한 'AI법'(AI Act) 관련 법률의 일환으로, 사용자들이 AI와의 상호작용 시 더욱 투명한 정보를 제공하고, 기만이나 조작을 줄이기 위해 도입됐다.

이번 규정에 따라 출시되는 신규 AI 콘텐츠는 AI가 생성했다는 명확한 표시가 필요하며, 사용자가 챗봇과 상호작용할 경우 AI와 대화 중이라는 사실을 사전에 인지할 수 있도록 해야 한다. EU는 이러한 규정을 실행하기 위해 집행위원회 산하에 수십 명의 기술 전문가, 변호사, 경제학자로 구성된 AI 사무국을 설치하고, 이들이 AI 시스템의 법규 준수 여부를 확인할 계획이다.

규정을 위반한 기업은 시정 명령을 받을 수 있으며, 이를 이행하지 않으면 과징금이 부과된다. 가장 큰 과징금은 전 세계 연간 매출의 최대 7%나 3400만 유로(약 562억 원) 중 더 큰 금액이 적용될 수 있다. 기존 AI 시스템에는 올해 12월 2일까지의 유예 기간이 주어져, 기업들이 새 규정에 적응할 수 있도록 배려하고 있다.

이와 같은 조치는 AI가 시민과 기업에 미치는 잠재적 혜택을 극대화하면서도, 잘못 사용되었을 경우 발생할 수 있는 피해를 최소화하기 위한 것이다. 헤나 비르쿠넨 EU 집행위원회 부위원장은 이번 규제 시행의 목적에 대해 "정보에 기반한 올바른 선택을 할 수 있도록 돕고, 기만과 조작을 줄이기 위해서"라고 언급하며, AI 기술이 제공하는 혁신과 함께 그 사용의 위험성도 강조했다.

추가적으로, 올해 말부터는 선정적 딥페이크를 생성하는 AI 시스템이 금지되며, 내년 12월부터는 안전과 보건, 시민 기본권 등을 위협할 수 있는 고위험 AI 모델에 대한 규제가 시행될 예정이다. 이는 일론 머스크가 개발한 AI 챗봇 '그록'이 논란을 일으킨 사건을 계기로 도입된 조치다.

EU의 이러한 규제는 AI 기술 분야에서 세계에서 가장 영향력 있는 규제 기관으로 확고히 자리 잡게 할 것이며, 미국 빅테크 기업과의 갈등 양상도 전망되고 있다. 도널드 트럼프 미국 행정부는 과거 EU의 디지털 규제가 자국 기업에 대한 압박으로 작용하고 있다고 비판해왔다.

이와 같은 EU의 AI 규제는 기술 발전의 빠른 속도에 맞춰 안전성과 윤리를 보장하는 방향으로 나아가고자 하는 의지가 반영된 결과로, 앞으로의 글로벌 AI 규제 정책에도 큰 영향을 미칠 것으로 기대된다.