미 국방·안보 대표 싱크탱크 랜드연구소 보고서
“특정 견해가 대중 지지받는 것처럼 보이게 조작”
중국 공산당이 챗GPT 등 생성형(대화형) 인공지능(AI)을 이용해 전 세계 여론을 조작하는 방법을 연구하고 있다고 미국 싱크탱크가 경고했다.
생성형 AI는 사용자의 요구에 따라 결과를 생성해낸다. 원본 데이터를 이용해 글과 이미지, 영상 등 다양한 콘텐츠를 스스로 생산한다.
미국의 국방·안보 분야 대표적 연구기관인 랜드연구소의 아시아 안보 전문가인 네이선 무스타파가 연구원은 “중국 공산당의 의도와 이전 행동들을 고려하면 다음 목표는 대만의 내년 총통 선거”라며 이같이 밝혔다.
네이선 연구원은 미 국방전문매체 ‘디펜스원’과의 인터뷰에서 인민해방군 연구진이 원본 데이터를 합성해 만든 인공(허위) 정보를 악의적 목적으로 온라인에 유포하는 연구를 2005년부터 해왔다고 전했다.
공산당 인민군의 AI를 이용한 ‘진짜 같은 가짜 정보’에 관한 분석은 랜드연구소가 최근 발간한 보고서 ‘생성형 AI의 부각과 다가오는 소셜미디어 조작 3.0의 시대’에 상세히 담겼다(보고서 링크[영문]).
이 보고서에 따르면, 중국 공산당은 인터넷 검열 및 외국 언론 차단에 힘을 쏟아왔기에 중국 내부 연구자들은 러시아 등에 비해 허위정보를 이용한 공격 연구에 다소 불리한 환경이다.
인민군 연구팀은 생성형 AI를 이용하면 외국 소셜미디어 이용자들에게 문화적 이질감을 주지 않고 접근할 수 있으나, 당국의 정보 검열 등으로 인해 이에 필수적인 방대한 양의 데이터를 제공받지 못하는 점에 불만을 갖고 있다는 것이다.
보고서에서는 인민군 전략지원군의 여론전·심리전 담당 부대인 61716부대가 AI를 이용한 소셜미디어 여론 공작 연구를 진행하고 있다고 지적했다.
전략지원군(부대)은 육군, 해군, 공군, 로켓군, 무장경찰부대와 함께 인민군 6대 군종 중 하나로 전자전, 사이버전, 우주전을 담당한다. 산하 61716부대는 ‘311기지’로도 불리며, 중국 본토에서 대만과 가장 가까운 푸젠성에 주둔 중이다.
61716부대는 대만에 반공 성향의 차이잉원 정권이 출범한 2016년 이후 소셜미디어를 통해 대만 정치 및 선거에 개입한 것으로 알려졌다.
‘미국의소리(VOA)’ 중문판은 2019년 12월, ‘공산당의 세뇌를 폭로하는 라이브 방송을 하자 3천 명이 몰려와 온갖 비난을 퍼부었다’는 대만 인플루언서 발언을 전한 바 있다. 이러한 사이버 공격, 대만 내 여러 집단 간 분쟁 배후에 61716부대가 있다는 것이다.
랜드연구소 보고서에 따르면, 생성형AI는 설득력 있게 글을 전개하는 힘이 떨어지고, 몇 가지 추적에 쉽게 식별된다. 특히 자신의 신상과 관련한 질문에 취약하다.
인민군은 이를 보완하는 작업에 주력하고 있으며, AI가 감정을 연출해 더 많은 설득력을 발휘하도록 하는 데 힘을 쏟고 있다.
궁극적으로 인민군 AI로 대량의 허위 계정을 만들어 특정한 견해가 실제로는 마치 대중의 큰 지지를 얻고 있는 것처럼 보이게 만들려 한다. 또한 가짜 뉴스, 가짜 논문을 빠르게 대량으로 생산해 무엇이 진실인지 착각하게 만들 수도 있다.
랜드연구소의 국가안보 및 방위 정책 담당자인 헤더 윌리엄스는 “생성형 AI를 사용하면 서로 다른 사람이 쓴 것 같은 기사와 연구 논문을 매우 쉽게 만들 수 있을 것”이라며 중국의 대규모 조작 가능성에 소셜미디어 기업들의 대비가 충분치 않은 것으로 보인다고 지적했다.
