英비영리단체 “틱톡, 미성년자에 유해 콘텐츠 추천”…‘심리적 독살’ 경고

김태영 인턴기자
2022년 12월 16일 오후 8:33 업데이트: 2022년 12월 19일 오후 2:13

중국의 동영상 공유 앱 ‘틱톡’이 미성년자에게 섭식 장애, 자살 등과 관련된 유해 콘텐츠를 추천하고 있다는 연구 결과가 나왔다.

미국과 영국에서 활동하는 비영리단체 ‘디지털 혐오 대응 센터’(CCDH)는 지난 14일(현지시간) 틱톡의 콘텐츠 자동 추천 알고리즘을 연구한 결과 이 같은 결론을 내렸다고 밝혔다(보고서 보기).

틱톡, 심리 불안정한 미성년자에게 39초마다 유해 콘텐츠 추천

CCDH 연구진은 틱톡의 콘텐츠 자동 추천 시스템이 미성년자 심리에 미치는 영향을 조사하기로 했다.

먼저 미국, 영국, 호주, 캐나다에 거주하는 13세 소녀 정보를 입력해 각 나라별 틱톡 계정을 2개씩 생성했다. 하나의 계정은 일반적인 이름을 넣고 다른 하나는 이름 옆에 ‘체중감량’이라는 단어를 포함했다.

연구진이 이름을 두 가지 형식으로 가입한 것은 ‘신체이형장애’ 같은 심리적 문제를 가진 미성년자가 틱톡을 사용할 때는 현재 상황을 이름에 표현한다는 점에 착안, 실험에 적용한 것이다.

신체이형장애란 실제로는 외모에 전혀 문제가 없음에도 자신에게 심각한 결점이 있다고 믿는 정신 질환이다.

연구진은 30분간 실제 10대 소녀처럼 앱을 사용하며 틱톡이 얼마나 많은 유해 콘텐츠들을 추천해주는지 확인했다.

틱톡은 가입 직후부터 10대 소녀의 홈탭(영어 버전의 ‘For You’)에 체중감량, 자해 등 유해 콘텐츠를 추천했다. 이 중에는 이상적인 신체조건을 가진 모델 사진, 면도날 이미지, 자살 관련 동영상 등도 있었다.

연구진은 알고리즘 반응을 시험하기 위해 추천 콘텐츠 중 일부에 ‘좋아요’를 눌렀다. 그러자 틱톡은 평균 39초마다 신체 이미지와 정신 건강에 유해한 콘텐츠를 홈탭에 추천했다. 어떤 계정에는 가입한 지 2분 30초 만에 자살을 언급한 콘텐츠를 추천했고, 섭식장애 관련 콘텐츠는 8분 이내에 추천했다고 CCDH는 밝혔다.

또한 CCDH에 따르면 사용자 이름 뒤에 ‘체중감량’이라는 단어를 붙인 계정은 이름만 적은 계정보다 약 3배 많은 유해 콘텐츠를 추천받았다. 자해 및 자살 관련 동영상은 12배 이상 많았다.

“미성년자가 자기 신체를 증오하게 만든다”…틱톡 “왜곡된 결과” 강변

CCDH 최고경영자(CEO) 임란 아흐메드는 “틱톡의 콘텐츠 추천 알고리즘은 미성년자들을 ‘심리적 독살’로 몰아붙이듯이 설계돼 있다”고 주장했다.

그는 “틱톡은 미성년자들이 자기 신체를 증오하게 만들거나 자해 또는 섭식장애 등 극단적인 행위를 조장하는 콘텐츠를 추천한다”며 “이는 왜곡된 거울에 갇힌 미성년자에게 끊임없이 못생겼다, 부족하다, 자살해야 할지 모른다고 속삭이는 것과 같다”고 설명했다.

CCDH에 따르면 틱톡 앱에서 인기 있는 ‘섭식 장애’ 관련 콘텐츠는 132억 뷰 이상의 조회수를 기록했다. 틱톡의 자체 규제에 허점이 있다는 지적이 나온다.

아흐메드는 “이번 연구 결과 틱톡이 유해 콘텐츠에 대한 자체 규제에 실패했다는 것이 증명됐다”며 “정부는 미성년자를 보호하기 위해 관련 규제를 강화해야 한다”고 촉구했다.

한편 관련 내용이 보도되자 틱톡 측은 즉각 반박했다.

마조 컬리난 틱톡 대변인은 성명을 내고 “(CCDH 연구는) 틱톡을 실제 사용자처럼 사용하지 않았기 때문에 왜곡된 결과를 얻은 것”이라며 “우리는 정기적으로 보건 전문가와 상의하고 정책 위반 콘텐츠를 제거하고 있다”고 해명했다.

美 상·하원, 틱톡 전면 금지법 발의…무관심한 韓 정치권

현재 미국 상하원에는 틱톡을 전면 금지하는 법안이 발의된 상태다. 이 법안은 민주·공화당 의원들의 초당적 지지를 얻었다.

지난 13일(현지시간) 미국 상원에서는 마르크 루비오 의원(공화당), 하원에서는 마이크 갤러거 의원(공화당)과 라자 크리슈나무르티(민주당) 의원이 각각 틱톡의 미국 내 사업을 금지하는 법안을 발의했다.

루비오 의원은 이날 성명에서 “틱톡은 콘텐츠 노출을 조작하고 있으며 선거 개입에 이용될 수 있을 뿐만 아니라 중국 공산당(CCP)의 요청에 응하고 있다”며 “CCP의 꼭두각시 업체와의 무의미한 협상에 더 이상 시간을 허비할 때가 아니다”라고 강조했다.

틱톡은 국내에서도 10대 사이에 선풍적인 인기를 끌고 있다. 지난해 6월 시장조사 업체 모바일인덱스 발표에 따르면 국내 틱톡 월간 활성이용자수는 420만 명에 이른다. 하지만 서방 사회에서 틱톡에 대한 위험성을 다룬 각종 보고서와 관련 규제가 발표되는 것과 달리 국내에서는 틱톡의 문제점을 지적하는 보고서나 언론 보도를 찾아보기 어렵다.