“SNS에 올린 자녀 사진, 성범죄에 쓰일 수 있어” 보안 전문가 경고

마수마 하크(Masooma Haq)
2023년 09월 12일 오후 5:16 업데이트: 2023년 09월 12일 오후 7:12

디지털 안전 및 보안 전문가가 부모들에게 “SNS에 게시한 자녀의 사진이 사이버 성범죄에 쓰일 수 있다”며 주의를 당부했다.

디지털 보안업체 ‘넷스파크(Netspark)’의 보안 전문가이자 최고 마케팅 책임자인 야론 리트윈은 최근 에포크타임스와의 인터뷰에서 사이버 성범죄의 위험성을 경고했다. 넷스파크는 자체 개발한 보안 프로그램 케이스스캔(CaseScan)을 통해 온라인에서 AI로 생성된 아동 성착취물을 식별함으로써 당국의 수사를 지원하고 있다.

리트윈은 “온라인에 사진을 올리거나 개인정보를 공개할 경우 범죄 집단의 표적이 될 수 있다”며 “어린 자녀를 둔 부모들은 이 문제의 심각성을 자녀에게 교육하는 것이 바람직하다”고 권장했다.

또 “친분이 있는 사람들이나 신뢰할 수 있는 커뮤니티에서만 개인적인 사진을 공개하는 것이 좋다. 불특정 다수에게 노출하는 것은 위험하다”고 경고했다.

미국 소아청소년정신의학회(AACAP)에 따르면 2020년 기준 8~12세 어린이의 하루 평균 전자기기 사용 시간은 4~6시간인 것으로 드러났다. 13세 이상 청소년의 경우 하루 최대 9시간에 달했다.

가족 관련 정보를 제공하는 비정부 기구인 ‘부모와 함께(Parents Together)’는 보고서를 통해 “사이버 성범죄의 위험성이 커지는데도 전체 어린이 중 97%가 매일 소셜 미디어와 인터넷을 사용하고 있어 문제가 심각하다”고 알렸다.

성착취 콘텐츠의 증가

리트윈은 최근 들어 온라인에서 생산, 유포되는 아동 성착취물(CSAM)이 기하급수적으로 늘고 있다는 점을 언급했다.

그러면서 “이런 현상은 OpenAI, DALL-E 등의 생성형 AI와 깊은 관련이 있다”고 지적했다.

미국 연방수사국(FBI)도 생성형 AI로 제작된 CSAM의 증가에 대해 공개적으로 경고했다. FBI는 “범죄자들은 불특정 다수의 소셜 미디어 계정에서 아동 사진을 캡처해 성적인 콘텐츠로 제작한 뒤 특정 웹사이트에 유포하고 있다”고 밝혔다.

리트윈은 “이런 문제와 관련해 자녀들과 진지한 대화를 나누고 범죄의 위험성에 대해 교육해야 한다”며 “온라인에 사진이나 개인정보를 공개하는 것을 주의해야 하며, 낯선 사람과 대화하는 것도 경계해야 한다고 가르쳐야 한다”고 조언했다.

생성형 AI의 잠재적 위험

온라인 성범죄로부터 안전을 지키는 비영리 단체인 ‘SOSA’의 설립자 루 파월은 에포크타임스에 “범죄 집단은 생성형 AI 기술을 악용해 어떤 콘텐츠라도 만들어 낼 수 있다”고 말했다.

이어 “온라인 성범죄로부터 자녀를 안전하게 지키기 위해서는 가능한 한 모든 사진을 온라인에 게시하지 않는 것이 좋다”고 전했다.

생성형 AI 기술이 발전함에 따라 온라인 성범죄의 심각성도 더욱 커지고 있다. 디지털 보안 전문가들은 온라인 성범죄의 피해 사례가 점점 더 많아질 것으로 예상하고 있다.

전문가들에 따르면, 생성형 AI는 기존 이미지를 매우 빠른 속도로 합성하거나 재구성해 사용자가 원하는 이미지로 바꿔준다. 심지어 사진 속 인물을 더 어려 보이게 만들 수 있으며, 실제 범죄 사건과 구분하기 힘들 정도로 교묘하게 합성할 수도 있다.

2023년 미국 스탠퍼드인터넷관측소(SIO)는 ‘생성형 머신러닝과 CSAM: 시사점 및 완화 방안’이라는 제목의 보고서를 발표했다.

이 보고서는 “일부 (온라인 성범죄) 이미지는 사진, 조명에 대한 이해와 생성형 AI와 관련한 배경 지식이 있는 사람만 진위를 판별할 수 있을 정도로 교묘하게 제작됐다”고 알렸다.

이어 “생성형 AI를 악용한 범죄 수법 및 기술은 계속 고도화, 지능화하고 있다”고 경고했다.

아동 성범죄의 증가

다수의 연구에 따르면 실제 아동 성범죄와 CSAM 사이에 연관성이 있는 것으로 확인됐다.

2010년 캐나다의 법의학 심리학자 마이클 세토는 동료 전문가들과 함께 아동 성범죄 관련 연구 결과들을 종합적으로 검토했다. 그 결과 CSAM을 소비한 경험이 있는 사람의 약 60%가 아동 성범죄 전력이 있는 것으로 드러났다.

리트윈은 “한 10대 청소년이 상의를 벗은 사진을 온라인에 올렸는데, 범죄자가 이 사진을 캡처해 AI로 전신 누드 사진을 제작한 뒤 청소년을 협박한 사건도 있었다. 범죄자는 청소년으로부터 금품 등을 갈취했다”고 말했다.

이어 “피해자들은 협박에 못 이겨 결국 범죄자의 요구에 응하거나, 수치심에 극단적인 선택을 하는 경우도 있다”고 덧붙였다.

2022년 12월, FBI는 미성년자 성착취 피해자를 약 3000명으로 추산했다.

크리스토퍼 레이 FBI 국장은 “미성년자 성착취 피해 신고가 급증하고 있는 것으로 파악됐으며, 보복이 두려워 신고하지 않은 경우까지 더하면 실제 피해자는 훨씬 더 많을 것”이라고 밝혔다.

인공지능 소프트웨어로 생성된 것으로 보이는 프로필 사진과 가짜 SNS 계정이 합성된 모습 | Olivier Morin/AFP via Getty Images

좋은 AI로 나쁜 AI 퇴치하기

리트윈은 “넷스파크는 자체 개발한 보안 프로그램 케이스스캔을 통해 ‘CSAM과의 전쟁’을 벌이고 있다”며 “우리는 좋은 AI로 나쁜 AI를 퇴치할 수 있다고 확신한다”고 밝혔다.

또 “수사당국은 매일 방대한 양의 이미지와 피해 사례 등을 파악해야 하기 때문에, 현실적으로 모든 CSAM 보고서를 적시에 검토할 수 없다”며 “이에 넷스파크는 AI로 생성된 아동 성착취물을 식별해 수사관들을 지원하고 있다”고 알렸다.

그러면서 “이런 과정은 수사관들이 CSAM을 식별하는 시간을 크게 줄여준다. 직접 CSAM을 확인해야 하는 수사관들의 정신적인 부담도 덜어줄 수 있다”고 강조했다.

이어 그는 “생성형 AI가 발전함에 따라 범죄 수법도 고도화하고 있다는 점을 경계해야 한다. 넷스파크는 이런 범죄 수법을 파악하고 추적하는 데 모든 노력을 다하고 있다”고 전했다.

소셜 미디어의 역할

파월은 “소셜 미디어 기업들이 CSAM과의 전쟁에 더 적극적으로 나서야 한다”고 촉구했다.

이어 “의회는 CSAM 콘텐츠에 대한 제재 시스템을 의무적으로 갖추도록 관련 기업에 요구해야 한다”며 “기업은 부모가 자녀를 범죄로부터 지킬 수 있는 ‘자녀 보호 기능’ 등을 만들어야 한다”고 목소리를 높였다.

아울러 “법은 끊임없이 발전하는 기술을 따라잡기 위해 노력해야 한다”고 강조했다.

지난 4월 딕 더빈 일리노이주 상원의원은 미국 연방통신품위법 230조를 개정해 CSAM 피해자가 불법 콘텐츠를 호스팅 또는 제공하는 소셜 미디어 플랫폼을 고소할 수 있도록 하는 ‘2023 STOP CSAM 법안’을 발의했다.

더빈 의원은 “소셜 미디어 기업이 충분한 안전 조치를 취하지 않는다면 법적인 책임을 져야 한다”고 말했다.

관련 기관 및 제도의 개선

앤 와그너 미주리주 하원의원, 실비아 가르시아 텍사스주 하원의원은 최근 ‘아동 온라인 안전 현대화 법안’을 발의해 CSAM 신고 및 대처의 공백을 메우도록 했다.

기존에는 소셜 미디어 플랫폼이 국립 실종학대아동방지센터(NCMEC)에 범죄 사실을 알릴 경우 구체적으로 어떤 내용을 포함해야 하는지 정해진 바가 없었다.

이에 수사당국이 피해자를 추적하거나 구조하는 데 어려움을 겪어 왔다. 실제로 2022년에는 전체 신고 접수 사례 가운데 약 50%가 정보 부족으로 인해 피해자 구조에 실패했다.

게다가 소셜 미디어 플랫폼이 아동 성범죄 사건을 의무적으로 신고하도록 하는 법 조항이 없었다. 이런 문제점들을 개선하기 위해 ‘아동 온라인 안전 현대화 법안’이 마련됐다.

이 법안은 ▲온라인 플랫폼은 CSAM 범죄를 발견하는 즉시 관련 기관에 신고할 것 ▲신고 시 피해자, 유포자를 식별할 수 있는 정보를 포함할 것 ▲NCMEC가 비영리 단체에 범죄 관련자에 대한 정보를 공유하도록 허용함으로써 NCMEC의 사이버팁라인을 강화할 것 등의 내용을 담고 있다.

여기에 더해, 수사당국이 범죄를 조사하는 데 필요한 시간을 충분히 확보할 수 있도록 신고서를 1년 동안 보존할 수 있게 했다.

파월은 “이런 개선은 아동 성범죄를 예방하고 차단하는 데 큰 도움이 될 수 있다”며 “아동을 해치려는 성향이 있는 사람이라면 누구나 쉽게 인터넷에 접속해 범죄를 저지를 수 있다는 사실을 잊지 말아야 한다”고 말했다.

*김연진 기자가 이 기사의 번역 및 정리에 기여했습니다.