빌 게이츠 “AI 개발 중단에는 반대…다른 계획 있다”

최근 일론 머스크 등이 “인류에 심각한 위험”이 될 수 있다며 인공지능(AI) 개발을 중단해야 한다고 촉구한 데 대해 빌 게이츠가 처음으로 공개적인 입장을 밝혔다.

지난 3일(현지 시간) 로이터 인터뷰에 응한 마이크로소프트(MS) 공동창업자 빌 게이츠는 AI 개발 중단을 촉구하는 것은 당면한 문제를 해결하지 못할 것이고 전 세계적으로 AI 개발을 멈추게 하기도 어려울 것이며 개발을 중단해야 하는 근거도 명확하지 않다고 비판했다.

앞서 지난달 28일 미국 비영리 단체 ‘삶의 미래 연구소(Future of Life Institute)’는 현재 AI 연구가 완전히 이해할 수도 없고 안정적으로 통제할 수도 없는 통제 불능의 경쟁에 갇혀 있다고 경고하는 공개서한을 발표했다.

해당 서한에는 일론 머스크 테슬라 최고경영자(CEO)와 스티브 워즈니악 애플 공동창업자, 메타와 구글의 엔지니어를 포함한 1만 명 이상이 서명했다. 이들은 모든 AI 연구소를 향해 챗GPT의 GPT-4를 능가하는 AI 시스템의 개발을 최소 6개월간 ‘즉시 중단’할 것을 촉구했다.

다만 서한은 AI 개발 전면 중단이 아닌 “예측할 수 없는 모델을 향한 위험한 경쟁에서 한발 물러서는 것”이라고 명시했다.

사회에 미치는 ‘파국적 영향’

전문가들은 인간과 경쟁할 수 있는 지능을 갖춘 AI 시스템이 사회, 나아가 인류에 심각한 위험을 초래할 가능성을 경고한다. 세계와 인류에게 잠재적으로 ‘재앙’이 되지 않도록 신중하게 계획하고 관리해야 한다는 비판이다.

이들은 “강력한 AI 시스템을 만드는 데 성공했으니 이제는 그걸 누리며 모두에게 분명한 이득이 되도록 시스템을 설계하는 한편 사회에 적응할 기회를 주는 ‘AI의 여름’을 즐길 수 있다”고 주장한다. 준비되지 않은 가을로 넘어가길 서두르지 말고 긴 여름을 즐기자는 뜻이다.

전문가들은 AI 연구소 및 관계자들에게 앞으로 6개월이라는 유예 기간을 활용해 첨단 AI 설계를 위한 안전 프로토콜을 개발 및 구현하여 AI 시스템의 안전을 보장할 것을 촉구하고 있다.

게이츠는 이에 대해 분명한 반대의 뜻을 밝히고 대신 다른 대안을 제시했다.

게이츠는 로이터에 “특정 그룹에 개발 중단을 요청한다고 해서 문제가 해결될 것이라고 생각하지 않는다”며 “이런 일에는 엄청난 이점이 있다는 것이 확실한 만큼 우리가 해야 할 일은 문제가 있는 부분을 파악하는 것”이라고 설명했다.

가장 큰 문제를 파악하고 이를 완화할 방법을 연구함으로써 AI의 위험에 대처하기 위한 외과적인 접근 방식을 권장한 게이츠는 그 외에도 서한의 모호한 집행 기준을 지적했다.

게이츠는 “이 분야에는 다양한 의견이 있다”면서도 “누가 (AI 개발을) 멈출 수 있다고 말하는지, 전 세계 모든 국가가 멈추는 데 동의할지, 왜 멈춰야 하는지 잘 모르겠다”고 했다.

이번 인터뷰에 앞서 지난달 게이츠는 자신의 블로그에 “AI가 통제 불능 상태가 돼 인간을 위협으로 판단할 가능성이 있다”고 인정했다. 이와 함께 초지능적이거나 강력한 AI가 미래에 인류의 이익에 반하는 목표를 설정할 가능성도 있다고 봤다.

이런 위험을 파악하기 위해서는 더 많은 연구가 필요하다는 게 게이츠의 시각이다. 다만 게이츠는 면밀한 위험 조사를 위한 ‘까다로운 영역’을 구체적으로 언급하지는 않았다.

반면 AI 분야의 선구자 격인 엘리저 유드코프스키 연구원은 초지능 시스템이 문명을 멸망시킬 것으로 믿는다는 입장을 밝혔다.

유드코프스키는 타임지 기고문을 통해 “나를 포함, 이 문제에 정통한 많은 연구자는 현재와 같은 상황에서 초인적으로 똑똑한 AI를 구축할 경우 가장 가능성이 높은 결과는 말 그대로 지구상의 모든 사람이 죽는 것이라고 예상하고 있다”고 관측했다.

게이츠가 세운 마이크로소프트는 현재 챗GPT 개발사인 오픈AI사에 수십억 달러를 투자하며 AI 개발에 앞장서고 있다.

셧다운

머스크가 AI 개발 중단을 촉구하는 공개서한을 발표하기 전부터 게이츠는 지역적인 문제에서 글로벌 문제에까지 AI가 해결에 도움을 줄 잠재력을 높이 평가, AI 기술에 있어 낙관적인 태도를 보여왔다.

게이츠는 “AI의 개발은 컴퓨터, 인터넷, 휴대전화를 개발한 것만큼이나 근본적인 일”이라고 보았다. “사람들이 일하고, 배우고, 여행하고, 의료 서비스를 받고, 서로 소통하는 방식이 바뀔 것이다. 모든 산업이 AI를 중심으로 재편될 것”이라는 게 게이츠의 시각이다.

그러면서 AI가 설사나 말라리아처럼 예방 가능한 질병으로 사망하는 제3세계 어린이들 같은 ‘세계 최악의 불평등’을 잠재적으로 해결할 수 있다고 분석했다.

특히 게이츠는 기후 변화에 대해 “AI가 세상을 더 공평하게 만들 수 있다고 확신하는 또 다른 부분”이라고 강조했다. 일례로 진짜 육류를 실험실에서 제작한 100% 합성 육류로 대체해 섭취하면 기후 변화를 완화할 수 있다는 의미다.

세계식량정의연합(GFJA)은 이에 대해 반론을 제기했다.

해당 단체는 “초가공 육류 대용품을 포함, 많은 친환경 식품 솔루션은 지구에 더 나은 것처럼 보일 수 있으나 자세히 살펴보면 실제로는 토양과 수질을 더욱 악화시키는 추출 화학 농업의 결과”라고 지적했다.

단체는 또한 미국 식품 시스템에서 모든 가축을 제거해도 온실가스 배출량을 기존치보다 2.6%만 줄일 수 있다는 연구 결과를 인용했다.

게이츠는 AI가 진보적 의제를 발전시킬 수 있다는 전망을 지지하고 있지만, 유드코프스키는 AI 기술로 인한 위험이 어떤 이점보다 크다고 경고한다.

“우리는 준비가 되지 않았다. 이대로 가면 AI를 선택한 적 없는, 잘못한 게 없는 아이들을 포함해 모두가 죽을 것이다. 멈춰야 한다(Shut it down).”