미국의 빅테크 기업 20곳이 “인공지능(AI) 기술을 악용한 가짜 뉴스를 차단하고 그 배후 세력을 끝까지 추적하겠다”고 밝혔다. 올해 미국을 포함한 세계 각국이 주요 선거를 앞두고 있는 가운데, 선거 공정성을 지키기 위해 빅테크 기업들이 힘을 모은 것이다.
이들 기업은 지난 16일(현지 시간) 열린 독일 뮌헨안보회의(MSC)에서 이 같은 내용을 골자로 하는 합의문을 발표했다. 여기에는 구글, 마이크로소프트, 아마존, 어도비, 엑스(X·옛 트위터), 오픈AI, 틱톡, IBM 등이 서명했다.
합의문에 따르면 빅테크 기업들은 유권자를 기만하고 여론을 조작할 우려가 있는 AI 생성 콘텐츠를 근절하기 위해 해당 콘텐츠를 식별하는 기술 및 노하우의 공유, 딥페이크(AI 기술로 조작한 이미지 또는 영상)를 감지할 수 있는 도구 개발 등에 협력하기로 했다.
또한 세계 각국의 유권자들에게 투표 시간과 장소, 절차 및 방법과 관련한 허위 정보를 전달하는 콘텐츠를 차단하는 데도 주력한다.
크리스토프 호이스겐 MSC 의장은 성명에서 “선거는 민주주의의 심장”이라며 “이번 기술 협약을 통해 선거의 공정성을 높이는 동시에 신뢰할 수 있는 기술 관행을 만들 것”이라고 천명했다.
이어 “MSC는 세계적인 빅테크 기업들이 AI로 인한 위협을 억제하고, 민주적 이익을 지키기 위해 협력하기로 한 것을 자랑스럽게 생각한다”고 전했다.
데이비드 자폴스키 아마존 총괄법률자문은 “아마존은 민주주의를 수호하기 위해 최선을 다하고 있다”며 “이번 합의문은 신뢰할 수 있고 안전한 AI 산업 환경을 구축하기 위한 기존 노력의 일환”이라고 말했다.
포토샵으로 유명한 어도비의 최고신뢰책임자 다나 라오 역시 “정보 투명성은 신뢰 구축에 있어 가장 중요한 요소”라고 강조하며 “이런 이유에서 가짜뉴스를 근절하기 위한 공동 대응에 힘을 보탤 수 있는 것을 기쁘게 생각한다”고 말했다.
MSC는 보도자료를 통해 “이번 기술 협약은 악성 AI 콘텐츠로부터 온라인 환경을 보호하기 위한 여러 단계 중 하나일 뿐”이라며 “각국 정부, 산업계, 시민사회의 적극적인 협조가 필요하다”고 당부했다.
닉 클레그 메타 글로벌사업 담당(사장)은 “올해 미국을 비롯한 세계 각국에서 대선, 총선 등 주요 선거가 치러지는 만큼 유권자들이 악의적인 AI 콘텐츠에 휘둘리지 않도록 빅테크 기업들이 나서야 한다”고 밝혔다.
아울러 “기업들의 기술 협약만으로는 한계가 있다. 정부, 시민 단체 등도 이 광범위한 노력에 힘을 보태야 한다”며 “이번 협약이 AI 가짜뉴스를 근절하는 데 의미 있는 발걸음이 되기를 바란다”고 말했다.
한편 지난달 미 뉴햄프셔주 민주당 대선 경선을 앞두고 조 바이든 미국 대통령을 흉내 낸 로보콜이 유권자들에게 “투표에 참여하지 말라”는 메시지를 전달한 것으로 알려지며 논란이 불거졌다.
로보콜은 무작위로 전화를 걸어 AI로 미리 녹음한 음성 내용을 들려주는 것으로, 주로 스팸 전화에 쓰인다.
미 연방통신위원회(FCC)는 지난 10일 “가짜뉴스 유포, 여론 조작 등으로 선거에 악영향을 미칠 수 있다”며 로보콜 금지 조치를 발표했다.
*김연진 기자가 이 기사의 번역 및 정리에 기여했습니다.
