“유튜브 알고리즘, 추천 영상 70%가 사용자에 불쾌감” 연구결과

모질라 재단, 10개월간 유튜브 사용자 3만7천명 추적

사용자들이 ‘불쾌감’을 보고한 콘텐츠 70% 이상이 유튜브 알고리즘에 의해 추천된 것이라는 연구 결과가 나왔다.

소프트웨어 비영리단체인 모질라 재단은 지난 10개월간 91개국에서 지원자 3만7380명의 유튜브 사용 경험을 추적한 연구 결과를 7일(현지시각) 발표했다(발표문 링크).

모질라 연구진은 지원자들에게 크라우드 프로그램에 참여하도록 한 뒤, 유튜브에서 성적인 내용, 코로나19에 대한 공포감 조장, 잘못된 정치 뉴스, 부적절한 어린이용 만화 등 시청 후 불쾌감이 느껴지는 콘텐츠를 보고하도록 했다.

이런 콘텐츠가 보고되면 크라우드 프로그램은 해당 콘텐츠에 대해 유튜브가 추천한 것인지, 지원자가 직접 찾은 것인지 추적했다.

그 결과 지원자들은 작년 7월부터 올해 5월까지 10개월 동안 총 3362개의 콘텐츠를 신고했는데 이 중 71%가 유튜브 알고리즘이 추천한 콘텐츠였다.

지원자들이 관람 후 불쾌함을 느낀 사유로는 ‘잘못된 정보’가 가장 많았고 이어 ‘폭력적 또는 사진 콘텐츠’ ‘증오 발언’ ‘스팸 또는 사기’ 순이었다.

모질라는 이날 성명을 통해 유튜브가 지원자들에 추천했다가 신고당한 영상 200여 건을 삭제했지만, 이미 해당 영상 조회수가 1억6천만 회를 넘어선 뒤였으며 해당 영상 중 일부는 유튜브 자체 규정마저 위반한 것들이라고 전했다.

모질라 측은 “유튜브는 알고리즘이 사람들에게 유해하고 잘못된 정보를 주는 식으로 설계됐음을 인정해야 한다”며 “이번 연구는 유튜브가 자체 정책을 위반하는 동영상을 허용하고 있으며, 사용자들에게 적극적으로 추천하고 있음을 확인시켜줬다”고 말했다.

또한 사용자들이 거부하는 영상을 추천한다면 알고리즘은 누구를 위한 것인지 의문을 제기하면서 “이번 발견은 빙산의 일각”이라며 유튜브의 인공지능에 대한 투명성이 왜 필요한 것인지 정치권과 국민들의 관심을 환기할 수 있기를 희망했다.

유튜브 대변인은 이에 대해 유해하다고 규정된 영상을 추천하는 경우를 전체 조회된 영상의 1% 미만으로 줄이려 조처했다고 에포크타임스에 전했다.

대변인은 유튜브가 이 분야에 대한 연구를 확대하고 있으며 외부 연구자들을 초빙하는 방안도 검토 중이라고 밝혔다.

유튜브는 지난 2019년 공식 블로그에서 알고리즘 개선의 필요성을 인정했으며 잘못된 정보, 유해한지 판단하기 애매한 콘텐츠에 대한 추천을 줄이기 위해 30여 가지 조치를 취해 이러한 영상의 평균 시청시간을 70% 단축했다고 주장한 바 있다.

“그렇긴 하지만, 유튜브에는 우리의 정책에 반하는 내용들이 항상 있을 것이다. 하지만 선을 넘지는 않는다”라고 유튜브는 덧붙였다.

모질라는 또한 이번 보고서에서 브라질, 독일, 프랑스 등 비영권 국가에서 보고난 뒤 후회하게 되는 콘텐츠의 비율이 60% 이상이었다고 밝혔다.