인공지능과 독재정권이 만나면 어떻게 될까?

2014년 5월 스티븐 호킹 박사를 비롯한 몇몇 과학자들이 다음과 같은 경고를 했다. “AI로 인한 리스크를 피할 방법을 제대로 찾지 못하면 인공지능 기술개발의 성공은 인류 역사상 최대 사건인 동시에, 불행히도 최후의 성과가 될 수도 있다.”

“전 세계 군대가 가까운 시일 내에 타깃을 선별해 제거하는 자동화 무기시스템을 도입하고자 한다. 유엔과 국제인권단체인 휴먼라이트워치는 이러한 자동화된 살상무기 사용 금지조약을 지지한다.”

최첨단 기술 개발하려는 목적

세계 최초 인공지능 뉴스 앵커가 중국 신화사의 사이버 진행자로 등장해 세계 언론이 주목을 끄는 가운데 중국 최고의 무기 연구기관 중 하나인 중국 베이징이공대학(BIT)의 무시무시한 인공지능 무기 개발 프로그램에 대해서는 제대로 알고 있는 사람이 드물 것이다.

사우스차이나 모닝포스트 보도에 따르면, 베이징이공대학에서 향후 4년간 진행되는 ‘지능형 무기 시스템 실험 프로그램’에 지원자가 5000명을 넘어섰고, 이 중 18세 이하 31명의 소수정예가 선발됐다고 한다.

이 유능한 중국의 젊은 인재들은 최첨단 분야에서 일하기 위한 선발 과정에서 국가에 대한 확고한 애국심과 충성심까지도 평가받은 것으로 알려졌다. 현재 중국공산당은 경제적, 군사적 세계 지배라는 의도를 노골적으로 드러내고 있으며, 대부분 서구 선진국에서 절취한 기술이 이러한 목적 성취를 위한 필수 수단이 됐다.

2014년부터 중국은 이른바 ‘세계 인터넷 대회’라는 국제회의를 매년 개최하고 있으나, 올해 상황으로선 이 대회의 국제적 영향력이 여느 때와 다르게 축소된 듯하다. 작년까지만 해도 팀 쿡 애플 CEO와 순다르 피차이 구글 CEO 등 세계 여러 유수기업의 CEO들이 연사 명단에 올랐으나 올해는 영향력 있는 인물이 미국 반도체 제조업체 퀄컴의 CEO 단 한 명에 그쳤기 때문이다.

현재 진행 중인 미중 무역전쟁의 여파로 중국에서 활동하고 있는 서구 IT 기업들은 안전하게 중국을 빠져나와 생산지를 중국 밖 다른 지역으로 이전하려 하고 있어 올해 세계 인터넷 대회에도 먹구름이 드리워졌다.

지난 30년 간 서구기업들은 수익성 좋은 중국 내 시장점유율 확보에 목말라했으나 중국 지방정부의 압박 속에서 기술 이전이라는 큰 대가를 치러야만 했다.

이러한 강압적 기술 이전 조치는 사실상 시간이 거듭될수록 서구 기업의 경쟁력 우위 상실로 이어졌다. 2017년 미국무역대표부 보고서에 따르면 중국의 미국 지적재산권 탈취의 가치는 연간 6000억 달러(약 676조 원)에 이른다고 한다.

중국은 10개 첨단 분야에서의 자급률 증진을 목표로 하는 ‘중국제조 2025’란 전략적 계획의 달성을 위해 매년 우전의 세계인터넷대회, 상하이의 중국국제수입박람회 등(두 행사 모두 2018년 11월에 개최됐다) 일련의 무역박람회를 개최해 세계 주요기업의 중국 투자 유치를 도모하고 있다. 하지만 올해는 서구기업들이 중국에서의 모험에 유독 몸을 사리고 있다.

중국 인터넷은 지역 네트워크

지난 3년간 ‘세계인터넷대회’는 중국 누리꾼들의 거센 비난을 받아왔다. 누리꾼들은 수백 개의 ‘민감한 단어’를 차단하거나 검열하는 악명 높은 중국 방화벽 시스템으로 인해 중국의 인터넷은 사실상 국내에서만 사용되는 인트라넷, 즉 지역 네트워크에 불과하다고 불평해왔다.

일부 중국 누리꾼들은 자신들의 실제 사이버 공간은 중국 영토 면적 960만 제곱km에 국한돼 있다는 점을 들어 세계인터넷대회를 개탄하기도 했다. 또 안면 인식기술을 동원해 시민들의 행동에 대해 등급을 매기고 처벌하며 결국엔 중국 공산정권에 대한 충성심을 강요하는 종합적 감시 프로그램인 소위 ‘사회신용시스템’으로 인해 중국 시민들은 ‘빅브라더’의 밀착 감시 속에 살아가고 있다.

사실 특정 기술을 이용하거나 유료 VPN(가상 사설망)에 의존해 기존 방화벽을 우회할 수 있는 일부 사용자를 제외한 중국의 8억 명 이상의 인터넷 사용자는 중국 당국이 모든 정보를 통제하는 또 다른 사이버 세계에 살고 있다.

미국산 무료 방화벽 우회 툴인 ‘프리 게이트’와 ‘울트라 서프’는 중국 정부의 엄중 검열 대상이지만 이 두 프로그램을 이용해 해외 웹사이트에 접속하는 중국 인터넷 사용자는 하루 수십만 명에 달한다.

독재에 유리한 기술 통치 

중국 정부는 왜 이렇게 인터넷 검열에 열성을 다하고 있는 것일까? 민주 인사이자 예술가인 아이 웨이웨이의 말이 가장 명쾌한 해답이 아닐까 한다. “검열 당국은 이렇게 말한다. ‘마지막 문장은 내가 이야기한다. 당신이 무슨 말을 하든지 결론은 내가 내린다.’ 하지만 인터넷은 자라나는 나무와도 같다. 사람들이 아무리 나약하고 목소리가 적더라도 늘 마지막엔 자신의 생각이 있다. 권력은 이들의 작은 속삭임으로 결국 무너지게 될 것이다.”

기술 발전이 닫힌 사회를 자유화할 것이라는 말들을 하지만 중국의 경우에는 이같은 예측이 적용되지 않는 말이다. 옥스포드 대학 역사학자 유발 하라리는 ‘기술은 왜 독재의 편을 드는가’라는 저서에서 기술이 반드시 자유사회를 돕는 것은 아니며 오히려 최첨단 기술이 일반 대중으로부터 점점 거리를 두는 쪽으로 발전하게 되면, 독재의 편을 들게 된다는 점에 대해 상세하게 설명하고 있다.

하라리의 근본 주장이 논란의 여지가 있기도 하지만, 그는 기계에 권한을 주는 일의 위험성 뿐만 아니라 기술과 인공지능이 어떻게 독재를 강화할 수 있는지에 대해 주요한 문제점을 제기했다

하라리의 관점에서는 모든 정보와 권력을 한 곳에 집중시키려고 했던 20세기 독재정권의 약한 고리가 인공지능이라는 새로운 기술 덕분에 21세기에는 결정적으로 유리한 이점으로 바뀔 수 있다.

그는 오늘날에 이르러 기술이 닫힌 사회에서의 권위주의적 통제를 강화해왔다고 본다. ‘만리장성 방화벽 세대’라고도 알려진 중국의 수천만 ‘Z 세대’는 중국 이외의 국가에 거주하는 사람들과는 매우 다른 사이버 공간에 길들여져 왔다.

망명 소설가 마젠은 최근 조지 오웰의 작품 <1984>가 중국에서 “완전히, 그리고 전체적으로 실현됐다”고 말하기도 했다.

호주의 공영방송 ABC의 ‘나는 페이스북이나 트위터를 모른다. 중국의 만리장성 방화벽 세대는 서구와 단절돼 있다’는 보도는 등골 서늘한 현실을 반영한다. 중국의 젊은 인터넷 사용자는 중국 이외 국가의 인터넷 사용자들과는 판이한 세계관을 지닌 채 성인이 된다.  만리장성 방화벽이 지구상에 서로 다른 두 개의 ‘평행 세계’를 만든 것이 분명하다.

서구 기업들의 중국정부 협력

게다가 일부 서구 IT 기업들은 내부의 반대에도 불구하고 중국공산당의 억압 수단을 강화하는 데 기꺼이 협조해왔다.

피차이 구글 CEO가 “기술은 인류의 문제를 해결해 주지 않는다”고 언론에 고백했다. 논란의 여지가 많은 중국공산당의 인터넷 검열에 최적화된 구글의 ‘드래곤플라이 프로젝트’를 들여다보면 그의 말 속에는 구글이 실제로는 오히려 인류의 문제를 ‘만들 수도’ 있다는 함의가 담겨 있지는 않을까?

2000년부터 구글의 모토는 ‘사악해지지 말자’였으나 이 모토는 구글의 모회사 알파벳이 ‘옳은 일을 하자’라는 새로운 모토를 채택한 2015년 이후 조용히 사라졌다. 분명히 ‘사악’이라는 말을 사용하지 않으려는 노력의 일환이었으리라. 누군가는 “구글은 중국시장에 진출하기 위해 영혼을 팔 정도로 열심히 노력하고 있는 것인가?”라고 물을 수도 있다.

시드니 모닝 헤럴드의 보도 ‘유학생부터 드론까지: 중국공산당이 호주에서 간부단을 훈련시키는 법’에 따르면, 노르웨이, 영국, 독일 대학교에서처럼 일부 호주 대학교들도 중국 인민해방군 소속 연구자들의 군사 및 전투 목적을 위한 인공지능 기술 마스터를 가능케 하는 혁신 허브의 역할을 해왔다.

서구 대학의 오픈소스(무상으로 공개된 정보 공유 소프트웨어)는 중국 인민해방군의 군사 장비 업그레이드 및 전쟁 준비 확대를 위한 노력에 제대로 조력하고 있는 듯 보인다. 지난 2월 미 상원 청문회에서 크리스토퍼 레이 FBI 국장은 “중국의 교수, 과학자, 학생들이 모두 정보 수집 행위에 가담하고 있다”고 경고하기도 했다.

2015년 오바마 행정부는 중국 정부와 미중 사이버안보 협약을 체결했으나 그로부터 3년 뒤 중국은 협약의 거의 모든 조항을 위반했을 뿐만 아니라 미국의 여러 기관 및 기업을 상대로 무차별적인 사이버 스파이 행위까지 일삼은 것으로 밝혀졌다.

미 정보기관이 제공한 광범위한 증거에도 불구하고 미국 정부는 중국의 광범위한 해킹 행위에 대해 아직까지 그 어떤 반격이나 보복 조치를 취하지 않았다. 비평가들은 미중 사이버안보 협약이 포괄적인 성격이긴 해도 사실상 해당 협약의 이행을 강제할 수 없다고 지적한다. 협약 이행 여부에 대한 조사나 확인을 할 수 있는 명확한 방법이 없기 때문이다. 비록 이 협약이 명확한 내용을 담고 있었다 하더라도 과거 중국 정부가 보여준 실망스러운 행보를 고려할 때, 중국 정부가 이를 성실히 이행하리라 보는 이는 거의 없다고 봐도 무방하다.

‘시진핑, 이 장벽을 허무시오!‘

시인 헨리 데이비드 소로는 오래전 우리에게 다음과 같이 경고했다. “인간은 도구를 위한 도구가 돼 버렸다.” 오늘날 기술이라는 도구가 권위주의적 정권의 손아귀에 들어가면, 이 새로운 기술은 인류를 전반적으로 노예화하고 결국 전체주의적 사회를 만드는 가공할만한 역할을 할 것이라는 데 특별한 경각심이 필요하다.

수많은 중국 전문가들은 중국의 방화벽을 냉전 시대 베를린 장벽과 비교하곤 한다. 결국 이 두 벽은 자국민을 외부 세계와 단절시킨 채 자신들의 엄혹한 통제 속에 두려는 데 목적을 같이하고 있다.

베를린 장벽이 무너진 1989년 11월 9일, 호르스트 쾰러 전 독일 총리는 “베를린 장벽은 공포의 건축물이었다. 1989년 11월 9일, 마침내 기쁨의 장소가 됐다”고 말했다.

현재 인류는 레이건 전 대통령 같이 결단과 선견지명을 지닌 또 다른 세계 지도자가 중국의 만리장성 방화벽에 대해 당당하고 명확하게 이야기하길 간절히 고대하고 있다. “시진핑 국가주석, 이 장벽을 허무시오!”

※ 편집자 주: 피터 장은 중국과 동아시아의 정치경제학을 주로 연구하고 있다. 그는 베이징 제2 외국어대학, 국제법과 외교학 전문대학원인 미국의 플레처스쿨과 하버드의 공공정책 대학원을 졸업했다.

본 기사는 필자의 개인적 의견일 뿐 에포크타임스의 견해와는 무관하다는 점을 밝힙니다.

*이 기사는 저자의 견해를 나타내며 에포크타임스의 편집 방향성과 일치하지 않을 수도 있습니다.