인스타그램 알고리즘이 거대한 소아성애자 네트워크를 연결하고 있는 것으로 밝혀졌다. 월스트리트 저널, 미국 스탠퍼드 대학교, 매사추세츠 애머스트 대학교 연구진의 조사 결과다.
전문가들은 이 소아성애자 네트워크가 아동 성범죄를 조장하며, 더 나아가 그릇된 성 관념을 강화할 수 있다고 강하게 우려했다.
스탠퍼드 인터넷 관측소(Stanford Internet Observatory)의 보고서에 따르면 대규모 소아성애자 네트워크가 소셜 미디어의 알고리즘을 통해 아동 성범죄 콘텐츠를 판매, 구매, 유포, 공유하는 것으로 나타났다.
보고서는 소셜 미디어에서 활동하는 소아성애자들이 소아성애와 관련된 해시태그를 검색해 비교적 쉽게 아동 성범죄 콘텐츠에 접근할 수 있다고 강조했다.
또한 이들은 특정 이모티콘이나 단어 등 소아성애를 암시하는 은어를 사용함으로써 소셜 미디어 플랫폼의 제재 및 차단 조치를 회피하는 것으로 확인됐다.
이 과정에서 소셜 미디어의 알고리즘이 소아성애자의 성범죄 행위를 조장하고 부적절한 콘텐츠가 유포되는 데 일조한다고 보고서는 지적했다.
이런 부작용은 트위터, 텔레그램, 디스코드, 스냅챗 등 수많은 소셜 미디어 플랫폼에서 공통적으로 나타나지만, 그중에서도 인스타그램이 가장 심각한 상태인 것으로 파악됐다.
작동 방식
소셜 미디어에서 부적절한 콘텐츠를 생산하고 제공하는 이른바 ‘판매자’들은 대부분 만 13세~17세이며, 종종 이보다 더 어린 판매자도 활동하고 있었다.
보고서에 따르면 판매자들은 소셜 미디어의 정책을 우회하기 위해 교묘한 수법을 사용한다. 이를테면 나이의 숫자를 거꾸로 뒤집거나(16을 61로 표기), 특정 콘텐츠를 뜻하는 암호 코드 혹은 은어를 사용한다.
소셜 미디어에서 활동하는 판매자 계정은 약 500~1000개이며 각 계정은 수천 명의 팔로워를 보유한 것으로 추정된다.
여기서 팔로워는 부적절한 콘텐츠의 ‘구매자’라고 볼 수 있다.
구매자들은 기프트 카드 교환, 익명 결제가 가능한 웹사이트 등을 통해 비용을 지불한다고 보고서는 결론지었다.
알고리즘 악용
보고서는 소셜 미디어 알고리즘이 아동 성범죄 콘텐츠의 판매자와 구매자를 손쉽게 연결해 주고 있다고 지적했다.
인스타그램은 아동 성범죄와 연관된 일부 용어에 대해서 “이 검색 결과에는 아동의 성적 학대 이미지가 포함돼 있을 수 있다”는 경고 메시지를 표시한다.
그러나 해당 메시지의 하단에 ‘검색 결과 보기’라는 옵션을 추가로 제공함으로써, 인스타그램이 부적절한 콘텐츠를 차단하는 데 소극적으로 대처하고 있다고 보고서는 지적했다.
보고서는 “해시태그 검색의 광범위한 사용, 판매자 계정 활성화, 부적절한 추천 알고리즘으로 인해 인스타그램은 소아성애자 네트워크의 주요 검색 메커니즘으로 작동한다”고 설명했다.
기업의 대응
인스타그램을 운영하는 기업인 메타(Meta)의 한 관계자는 에포크타임스와의 인터뷰에서 아동 성범죄 콘텐츠를 퇴치하기 위해 적극적으로 대응하고 있다고 밝혔다.
이 관계자는 “성범죄자들은 끊임없이 범죄 수법을 바꾸고 있으며, 이에 메타 측은 엄격한 정책과 기술을 적용해 악의적인 네트워크와 관련 콘텐츠들을 제거하는 데 주력하고 있다”고 설명했다.
그러면서 2020~2022년까지 총 27개의 네트워크를 제거했고, 지난 1월에는 아동 보호 정책을 위반한 49만 개의 계정을 비활성화했다고 덧붙였다.
관계자는 “특정 신고가 콘텐츠 검토자에게 전달되지 않는 기술적인 문제를 해결했으며, 콘텐츠 검토자에게 업데이트된 지침을 제공해 정책 위반 계정을 더 쉽고 빠르게 식별하고 삭제할 수 있도록 조치했다”고 강조했다.
또 “인스타그램에서는 수천 개의 검색어와 해시태그를 제한했다”며 “메타 측은 아동과 청소년을 보호하고 범죄자를 퇴치하기 위해 지속적으로 노력할 것”이라고 전했다.
보고서에 따르면 아동 성착취물의 제작자, 유포자가 또 다른 소셜 미디어 플랫폼인 트위터에서도 발견됐다.
트위터 측이 정책 위반 게시물을 차단, 삭제하고 있지만 일부 판매자 계정에 한번 노출되면 알고리즘이 유사한 계정을 무작위로 추천하거나 노출시키는 것으로 확인됐다.
보고서는 “트위터 측은 이를 인지하고 발 빠르게 대처해 관련 문제를 대부분 해결했다”고 설명했다.
대표적인 커뮤니케이션 앱인 텔레그램과 디스코드의 경우, 소아성애자 네트워크와 판매자 계정이 수천 명의 회원을 보유하고 있었다.
심각한 문제는 텔레그램의 공식 정책에서 아동 성범죄, 아동 성착취, 아동 학대 등을 엄격하게 다루고 있지 않다는 점이다.
텔레그램의 대변인은 에포크타임스와의 인터뷰에서 “아동 학대 콘텐츠를 관리, 제재하기 위해 노력해 왔다”고 밝혔다.
이어 “아동 학대 관련 콘텐츠에 대해 매일 보고서를 작성하고 있으며 이번 달에만 약 1만 개의 악성 그룹, 채널 등이 삭제됐다”고 설명했다.
에포크타임스는 디스코드 측에 연락을 취했지만 아무런 답변을 받지 못했다.
보고서는 “틱톡이 아동 관련 콘텐츠를 비교적 잘 제한하고 있다”며 “틱톡은 해시태그 기반 검색이나 친구 추천 대신 콘텐츠 추천에 더 중점을 두고 있다”고 설명했다.
그러면서 “이런 알고리즘은 부적절한 콘텐츠에 무작위로 노출되거나 의도적으로 검색하는 데 어려움을 준다”고 덧붙였다.
또한 보고서에 따르면 페이스북은 ‘실명제’ 정책을 시행하기 때문에 악의적인 네트워크가 형성되는 것을 억제하고 있다고 분석했다.
플랫폼의 책임
무려 4천 명이 넘는 성범죄자를 상담한 심리학자 존 울러(Jon Uhler)는 이 사례를 분석하며 “성범죄자들이 점점 더 교활한 방식으로 아동을 노리고 있다”고 말했다.
이어 “소셜 미디어를 통해 노출, 유포되는 성적인 콘텐츠는 아동 및 청소년의 방어력을 약화해 성범죄로 이어질 수 있다”며 “아이들은 불순한 의도를 직관적으로 감지하지 못하기 때문”이라고 지적했다.
또한 존 울러는 성학대, 성착취 콘텐츠가 그릇된 성 관념을 고착화할 수 있다고 꼬집었다.
그는 “일탈은 욕망에서 시작해 대상화로 이어진다”며 “이어 권력과 통제, 타락으로 번지며 결국에는 부적절한 욕망과 가학적인 성향으로 이어진다”고 경고했다.
존 울러는 소셜 미디어 업체들이 성범죄자를 퇴치하고 악의적인 네트워크를 해체하는 것을 최우선 과제로 삼아야 한다고 당부했다.
마지막으로 그는 “아동 보호에 관심이 없다면, 당장 서비스를 중단하고 플랫폼을 폐쇄하라”고 목소리를 높였다.
