中 알리바바, ‘가짜뉴스 색출 앱’ 개발…평론가 “인터넷 경찰 기능일 뿐” 혹평

중국의 대표 IT 기업인 알리바바가 지난 4월 1일 가짜 온라인 뉴스 확산 방지를 위한 인공지능(AI) 도구를 개발했다고 발표했다.

알리바바는 ‘루머 슈레더(Rumor Shredder)’라는 툴로 인터넷 정보의 진위를 확인할 수 있으며 정확도는 81%라고 주장했다.

중국 언론 ‘진강만보(錢江晚報)’의 지난 3월 1일 자 보도에 따르면, 이 인공지능 도구의 알고리즘은 최첨단 기술을 연구하는 알리바바의 연구 개발팀 ‘DAMO 아카데미’가 개발했다고 한다. ‘DAMO’는 ‘발견(Discovery)‧모험(Adventure)‧모멘텀(Momentum)‧전망(Outlook)’의 이니셜을 합성한 명칭이다.

이 프로젝트를 수행한 DAMO 아카데미의 수석 연구원 리콴지는 진강만보와의 인터뷰에서, 루머 슈레더가 우선 원본 게시물이나 정보 소스를 추적해 원본 게시자의 진위에 대해 첫 판단을 내린다고 했다. 즉, 언론매체인지 개인인지, 게시자가 이전에 유포한 게시물은 어떤 것인지, 또 게시자가 가짜 뉴스를 확산한 전력이 있는지 등을 확인한다.

루머 슈레더는 뉴스가 처음 게시되는 플랫폼의 신뢰성도 눈여겨본다. 예를 들면, 이들은 ‘신화(新華)’를 비롯한 여러 정부 플랫폼은 ‘신뢰할 수 있는’ 소스로 간주한다.

이렇게 게시자가 진성인지를 확인한 후, 알고리즘이 뉴스 기사의 주요 항목을 확인하고 이를 이전에 수집한 뉴스 기사 데이터베이스와 비교해 뉴스가 논리적이고 근거가 충분한지를 확인한다. 해당 뉴스가 권위 있는 정보에 근거하지 않은 것으로 판명되면, 진성 점수가 떨어진다.

다모아카데미의 다른 수석 연구원 시루오에 따르면, 인공지능 ‘루머 슈레더’는 ‘SNS 감시관’의 업무량을 줄이는 데 도움을 줄 것으로 기대된다. SNS 감시관은 중국 정부가 부적절하다고 간주하는 콘텐츠를 감시하고 차단하기 위해 중국 SNS 플랫폼 및 중국 정부의 인터넷 검열관이 고용한 이들이다.

현재 시드니에 거주하고 있는 리윤화 전 중국 수도사범대학 역사학과 조교수는 4월 5일 본보와의 인터뷰를 통해 이 AI 툴이 정권의 억압 도구로 이용될 것 같다면서 “어떠한 순수과학 연구도 중국 정부의 손에 들어가면 반대 목소리를 억압하는 수단으로 변형되고, 결국 악의적인 목적에 이용된다”고 했다.

그는 알리바바 연구원들이 사실상 중국 정부의 선전기구인 ‘신화’를 신뢰할 수 있는 웹사이트로 정의한 사실을 지적하면서 “거짓의 원천을 신뢰할 수 있는 소스로 정의한다면, 더 이상의 분석은 무의미하다”고 했다.

독립적으로 활동하는 중국 평론가 구허 역시 ‘표절을 가려낸다’는 것은 AI 도구의 ‘인터넷 경찰’ 기능을 감추기 위한 구실에 불과하다고 보았다.

구허는 4월 5일 본보와의 인터뷰를 통해 “이는 중국 정부가 소위 ‘루머 확산자’를 억압하는 데 일조할 것”이라고 말했다.  ‘루머 확산자’는 중국 관계 당국이 정부를 비판하는 반체제 인사를 기소하기 위해 자주 사용하는 용어다.

“중국 정부는 루머 슈레더로  인터넷 경찰 노동력을  절감할뿐만 아니라 반체제 인사를 더 강력하게 탄압할 수 있다”고 했다.

이 알리바바의 인공지능 툴이 중국 누리꾼의 이목을  강하게 끈 것은 당연하다.

한 누리꾼은 이 도구와 관련한 뉴스 기사에 “이 도구를 이용해 중앙전시대(중국 관영 TV 방송사), 인민일보, 환구시보를 평가할 수 있길 고대한다”는 댓글을 달았다.

다른 누리꾼은 “중국 공산당 정권은 늘 중국 국민들을 위한다고 주장한다. 이 인공지능 도구가 그 말이 사실인지 테스트할 수 있길 바란다”고 했다.

또 다른 누리꾼은 “이 인공지능 도구가 1989년 천안문 사태 당시 탱크가 시위대를 짓뭉갰는지 알려줄 수 있을까?”라며 ‘천안문 사태’라는 금기 주제를 언급하기도 했다.