딥페이크 사기 1000% 이상 급증…내부자들 “이제 시작”

사실과 허구의 구분이 점점 더 어려워지고 있다. 온라인 범죄자들은 컴퓨터로 단 2시간이면 사실적인 딥페이크를 제작해 낸다. 누군가의 인생을 망칠 수 있는 제작물들이다.

인공지능(AI) 기술을 활용해 진짜처럼 만든 가짜 편집물(이미지·음성·동영상)인 딥페이크가 전 세계적으로 온라인상에서 기승을 부리고 있다.

그리고 사이버 범죄자들은 이러한 딥페이크를 악용해 더 심각한 범죄를 저지르고 있다.

지난해부터 올해 1분기까지 딥페이크를 이용한 사기 범죄 사건은 미국에서만 1200% 급증했다.

이는 비단 미국만의 문제가 아니다.

캐나다, 독일, 영국에서도 딥페이크를 이용한 사기 범죄는 폭발적으로 증가했다. 통계 분석에 따르면, 미국에서 발생한 딥페이크 사기 사건은 전 세계 딥페이크 사기 사건의 단 4.3%만 차지하는 것으로 나타났다.

AI 전문가와 사이버 범죄 수사관들은 이제 시작이라고 말한다. 딥페이크 범죄의 잠재력은 계속 커지는 중이라는 것.

전문 수사관 출신으로 사이버 공격 피해자를 돕는 기업 렉스필드(Rexxfield) 설립자 마이클 로버츠는 에포크타임스와의 인터뷰에서 사이버 범죄자들이 사이버 범죄를 저지르는 가장 큰 동기에 대해 “법 집행기관이 이를 따라잡지 못하기 때문”이라고 분석했다.

미군과 북대서양조약기구(NATO·나토)를 대상으로 한 해킹 대응 교육 경력 보유자인 로버츠는 서방 세계의 법률 시스템이 온라인 사기 범죄에 맞서 제대로 작동하지 못하고 있다고 봤다. 로버츠에 따르면, 이 같은 온라인 사기 범죄 중 많은 사건이 딥페이크 공격을 포함한다.

전체 사건 중에서도 수사는 선별적으로 착수되는데, 로버츠는 “그마저도 사건은 해결되지 않는다”고 지적했다.

손재주

사랑하는 사람이 “지금 납치됐다”며 오열하는 전화를 받는다고 상상해 보라. 납치범이 원하는 건? 당연히 돈이다. 당신이 사랑하는 사람은 납치범의 지시에 따라 몸값을 달라고 요구한다.

그 목소리가 진짜 사랑하는 사람의 목소리인가? 그렇지 않을 가능성도 따져봐야 한다.

‘음성 복제(Voice cloning)’라고도 불리는 딥페이크 음성은 원하는 인물의 목소리로 텍스트를 자연스럽게 읽어준다. 음성 복제를 이용한 사기 사건은 올해 미국 전역에서 들불처럼 번져 많은 사람이 피해를 입었다.

여기서 끝이 아니다. 딥페이크 공격은 다양한 형태로 나타날 수 있다. 이를테면 화상채팅이다.

오랫동안 알고 지내던 동료가 “코인 투자로 새 집을 매매했다”면서 집을 배경으로 찍은 셀카를 SNS에 올릴 수도 있다.

로버츠는 “(이 같은) 암호화폐 사기가 많이 발생하고 있다”고 전했다.

딥페이크는 협박에도 사용된다. 일반적으로 피해자가 성적인 행위를 하는 것처럼 보이는 영상이나 사진을 제작하는 방식을 통해서다.

딥페이크 음란물을 제작한 가해자는 동료, 상사, 가족, 친구에게 제작물을 유포하겠다면서 피해자를 협박해 돈을 요구한다.

위 사례들은 모두 이미 실제 일어나고 있는 일들이다.

온라인 범죄자들이 딥페이크를 제작하기 위해서는 먼저 실제 사진, 음성, 동영상 같은 자료에 접근할 수 있어야 한다. 안타깝게도 실제 자료들을 구하는 것은 그다지 어려운 일이 아니다.

딥페이크를 제작하려는 범죄자들에게 소셜 미디어 프로필은 보물창고와도 같다. 또 로버츠는 “사용자의 아이클라우드에 접속, 개인 사진첩에 접근함으로써 딥페이크를 만들 수 있는 모든 샘플링을 제공받는다”고 설명했다.

이렇듯 범죄자가 딥페이크 범죄를 저지르는 것은 쉽지만, 피해자가 딥페이크로 잃어버린 재산과 평판을 회복하는 것은 매우 어려울 확률이 높다. 로버츠는 “(사이버 범죄에 대한) 소송은 길고, 힘들고, 지루하고, 감정적으로도 재정적으로도 큰 부담이 된다”며 힘든 싸움임을 시사했다.

다른 AI 업계 관계자들은 진짜 같은 딥페이크의 높은 품질도 문제지만, 쏟아지는 딥페이크의 양도 문제라고 말한다.

유명인 및 인플루언서가 등장하는 공인 AI 제작 콘텐츠 전문가 알랜 이코예프는 에포크타임스에 “조만간 사람들은 어떤 유형의 콘텐츠든 어떤 조합의 픽셀도 생성할 수 있을 것”이라면서 “그것을 필터링하는 것은 여러분에게 달렸다”고 말했다.

점점 더 정교해지는 딥페이크에 대응하려면 온라인에서 접하는 모든 것을 의심해야 한다. 이코예프는 “의심하지 않으면 쉽게 믿고 만다”고 강조했다.

하지만 온라인에서 무엇이 진짜이고 가짜인지 구분하는 일은 이미 어려운 것으로 드러났다. 세계 25개국 2만5000명 이상을 대상으로 한 입소스의 설문조사에서 인터넷 사용자의 86%가 가짜 뉴스에 속은 적이 있다고 인정했다.

최근 사이버 보안 연구에 따르면 전체 인터넷 트래픽의 절반이 봇에 의해 생성된다는 사실이 밝혀졌다. 딥페이크가 문제를 유발하는 현상이 더욱 심각해지고 있다는 의미기도 하다.

다행히 나쁜 소식만 있는 것은 아니다. 로버츠는 현재 범죄자들이 기술의 발전 속도를 따라잡지 못하는 상황이라고 진단했다.

움직임과 대응 움직임

그럼에도 우리는 딥페이크 공격에 대응하기 위해 경각심을 가지고 계획을 세워야 한다.

AI와 딥페이크는 사이버 범죄자들에게 범죄에 이용할 도구를 제공했다. 또 반대로 우리에게도 범죄에 대응할 수 있는 도구를 제공한다.

에포크타임스의 인터뷰에 응한 AI스크린 CEO 니키타 셰르비나는 “위협에 대응하기 위해서는 AI 기반 알고리즘을 사용하는 고급 딥페이크 탐지 툴을 개발하는 것이 중요하다”며 “AI 개발자, 연구원 및 기술 기업 간의 협력은 강력한 보안 조치를 생성하는 데 필수적”이라고 언급했다.

이이제이(以夷制夷·오랑캐로 오랑캐를 물리침)다. 디지털 범죄는 디지털로 제어해야 한다.

셰르비나는 “(기업 측면에서) 다중 인증을 통한 음성 및 안면 인식을 포함, 첨단 AI 기반 인증 시스템을 구현하고 AI 알고리즘을 사용해 통신 패턴을 지속적으로 모니터링하고 분석하면 딥페이크 사기 행위를 탐지, 예방하는 데 도움이 될 수 있다”고 했다.

개개인이 딥페이크 사기를 차단하거나 예방하는 방법은 사실 더 간단하다.

로버츠는 “음성 복제가 의심되는 경우 가장 먼저 해야 할 일은 ‘내가 바로 다시 전화할게’라고 말하는 것”이라고 말했다. 이렇게 대답하면 사기범들은 전화를 끊지 못하도록, 바꿔 말해 다시 전화하지 못하도록 핑계를 만들어낼 것이라는 설명이다.

다른 대응 방법으로는 범죄자들에게 공개되지 않은 질문을 하는 것이다.

로버츠는 “실제로 범죄가 발생하기 전에 가족들과 이런 대화를 미리 나눠두는 게 좋다”고 권했다.

또한 생년월일, 이름, 전화번호가 포함된 이메일 주소를 사용하지 않는 것도 중요하다. 똑같은 비밀번호를 여러 웹사이트에 써도 안 된다. 여기에는 은행 계좌, 아이클라우드 같은 데이터 저장소, 소셜 미디어 등이 포함된다.

로버츠는 해커가 비밀번호를 알아낼 때 가장 먼저 하는 일은 다른 모든 사이트에 로그인을 시도, 다른 사이트에서도 비밀번호가 작동하는지 확인하는 것이라고 덧붙였다.

딥페이크가 온라인 범죄자들의 수준을 높였지만, 범죄자들을 추적하는 방법은 변하지 않았다.

이코예프는 “프로세스는 변하지 않는다. AI는 단지 콘텐츠일 뿐이다. 범죄자들이 남긴 흔적은 항상 동일하다”고 전했다.

그렇기에 범죄자들을 추적하는 것은 잘 확립돼 있다. 그러나 안타깝게도 피해자가 잃어버린 돈을 되찾을 수 있는 명확한 방법은 현재까지 확립되지 못했다.

한 분석에 따르면, 딥페이크에 의한 금융사기 피해액은 24만 달러(약 3억 원)에서 3500만 달러(약 455억 원)까지 다양하다.

일례로 최근 미국에서는 일론 머스크를 위조한 딥페이크 암호화폐 사기가 횡행해 현지 소비자들이 6개월 만에 약 200만 달러의 피해를 입은 것으로 전해졌다.

더 큰 문제는 누구나 딥페이크를 생성할 수 있다는 사실이다. 이코예프에 따르면, 스마트폰에 그래픽 카드와 몇 가지 웹 튜토리얼만 있으면 딥페이크 제작이 가능하다.

“제작하면? 그다음에는 바로 사용할 수 있다.”

가능성의 세계

2024년 미국 대선은 딥페이크의 급증으로 인해 불안정한 상태다.

로버츠는 미국 유권자들을 향해 딥페이크의 무기를 휘두르는 사기꾼들로 가득 찬 선거 경쟁을 예상해야 한다고 경고했다.

미 국토안보부도 딥페이크에 대해 우려를 표명했다. 국토안보부는 “딥페이크와 합성 미디어의 위협은 그것을 만드는 데 사용된 기술이 아니다. 위협은 사람들이 보는 것을 믿으려는 본능적인 성향에서 비롯된다”라고 밝혔다.

판도라의 상자는 이미 열렸다.

앞서 올 초 온라인상에서는 미국 정치인들이 상식 밖의 발언을 하는 동영상들이 유포됐다.

힐러리 클린턴이 공화당 대선 후보인 론 드산티스를 지지하는 영상, 조 바이든 대통령이 트랜스젠더에게 분노에 찬 발언을 하는 영상 등이었다.

로버츠에 따르면, 이것은 시작에 불과하다.

“딥페이크는 많은 정치적 간섭에 사용될 것이다. 진보 좌파가 말하는 가짜 뉴스를 뜻하는 게 아니다. 이는 전 세계를 사회 공학적으로 조작하기 위한 의도적인 거짓말을 뜻한다.”

*황효정 기자가 이 기사의 번역 및 정리에 기여했습니다.