새로운 AI 기반 딥페이크 툴인 ProKYC는 사이버 범죄자들이 암호화폐 거래소의 고도화된 KYC(고객 신원 확인) 절차를 우회할 수 있도록 도와주며, 사이버 보안 회사인 Cato Networks는 이 툴이 암호화폐 사기에서 "새로운 수준의 정교함"을 보여준다고 전했다. Cato Networks의 수석 보안 전략가인 에타이 마오르(Etay Maor)는 10월 9일 보고서에서 이 AI 툴이 사이버 범죄자들이 다단계 인증 및 KYC를 피하기 위해 사용했던 구식 방법보다 훨씬 진화했다고 설명했다.

기술이 발달함에 따라, 범죄자들은 이제 어두운 웹에서 위조된 신분증을 구매하는 대신 AI 기반 툴을 사용해 전혀 새로운 신원을 창출할 수 있게 되었다. Cato Networks는 이 AI 툴이 특히 암호화폐 거래소와 KYC 프로토콜이 웹캠 사진과 정부에서 발급한 신분증(여권 또는 운전면허증) 사이의 일치를 요구하는 금융 기업을 목표로 맞춤화되었다고 밝혔다.

ProKYC가 제공하는 비디오에서는 이 툴이 어떻게 가짜 신분증과 함께 딥페이크 비디오를 생성하여 세계에서 가장 큰 암호화폐 거래소 중 하나의 얼굴 인식 시스템을 통과하는지를 보여준다. 비디오에서는 사용자가 AI 생성 얼굴을 만들고 그것을 호주 여권의 템플릿에 통합하는 과정을 보여준다. 그 후 ProKYC 툴은 생성된 인물의 딥페이크 비디오와 이미지를 만들어 두바이에 기반을 둔 암호화폐 거래소인 바이비트(Bybit)의 KYC 절차를 성공적으로 우회한다.

Cato Networks는 ProKYC와 같은 AI 기반 툴 덕분에 범죄자들이 암호화폐 거래소에서 새로운 계정을 생성하는 '뉴 계정 사기(NAF)'를 더욱 용이하게 수행할 수 있게 되었다고 강조했다. ProKYC 웹사이트에서는 카메라, 가상 에뮬레이터, 얼굴 애니메이션, 지문 및 인증 사진 생성이 포함된 패키지를 연간 구독 가격으로 629달러에 제공하고 있으며, Stripe와 Revolut과 같은 결제 플랫폼의 KYC 절차를 우회할 수 있다고 주장하고 있다.

이러한 새로운 AI 사기를 효과적으로 탐지하고 방어하는 것은 상당히 어려운 과제로 남아 있다. 과도하게 엄격한 시스템은 높은 비율의 오탐을 유발할 수 있으며, 반대로 느슨한 통제는 사기 행위를 허용할 위험이 존재한다. 마오르는 "생체 인증 시스템을 지나치게 제한적으로 만들면 많은 오탐 경고가 발생할 수 있다. 반면에 느슨한 통제는 사기를 초래할 수 있다"라고 전했다.

AI 툴에 대한 여러 잠재적인 탐지 방법은 존재하지만, 일부는 사용자가 비정상적으로 높은 품질의 이미지와 비디오, 그리고 얼굴 움직임과 이미지 품질에서의 불일치를 수작업으로 확인해야 한다. 미국에서는 신원 사기에 대한 처벌이 엄격하여 범죄의 성격과 정도에 따라 최대 15년의 징역형과 높은 벌금이 부과될 수 있다.

최근 10개월 동안, 사이버 범죄자들은 딥페이크 AI 비디오를 사용하여 피해자를 유인하는 사기 활동이 꾸준히 증가하고 있음을 보고하고 있다. 소프트웨어 회사인 Gen Digital은 이와 관련하여 암호화폐 사기꾼들이 딥페이크 AI 영상을 통해 불법적인 토큰 스킴에 피해자를 유혹하는 사례가 더욱 활발해졌다고 밝혔다.