“인공지능(AI) 기술은 ‘극도의 중독성’을 가지고 있으며 이로 인해 인류가 ‘노예화’될 수 있다.”
대화형 AI 서비스 ‘챗GPT’ 소프트웨어를 개발한 미국 AI 기업 ‘오픈AI’의 고위 임원이 AI가 초래할 수 있는 잠재적, 실존적 위협에 대해 경종을 울리고 나섰다.
지난달 28일(현지 시간) 미국 워싱턴 DC에서 진행된 인터뷰에서 미라 무라티 오픈AI 최고기술책임자(CTO)는 “사용자의 취향과 관심사를 정확히 파악하는 AI 기술의 능력은 소셜미디어, 컴퓨터 게임과 같은 기존 기술보다 훨씬 더 중독될 위험이 크다”고 말했다.
이날 무라티는 “향상된 기술의 이면에는 우리가 AI를 잘못된 방식으로 설계할 가능성과 그에 따른 중독성 심화의 가능성, 결과적으로 인간인 우리가 AI의 노예로 전락할 가능성이 존재한다”고 설명했다.
무라티는 연구자들을 향해 “이 같은 잠재적 위험을 방지하기 위해 사람들이 중독성 기술에 어떻게 반응하는지 파악해야 한다”고 강조했다.
그러면서 “우리는 아직 아무것도 모른다. 우리는 발견하고 배우고 탐구해야 한다”고 했다. 인류의 삶을 향상하는 게 아니라 오히려 더 많은 위험을 초래하는 방향으로 개발되는 것을 사전에 막아야 한다는 설명이다.
이어 “나는 트레이드오프(어떤 것을 얻으려면 반드시 다른 것을 희생해야 하는 경제 관계) 측면에서 생각한다”면서 “AI 기술이 현실 세계에서 얼마나 많은 가치를 제공하는지와 인간이 (그에 따른) 위험 요소들을 얼마나 완화할 수 있는지를 고려하고 있다”고 전했다.
올해 초 골드만삭스가 발표한 연구에 따르면, AI 자동화로 인해 앞으로 최대 3억 명의 근로자가 일자리를 잃을 가능성이 있는 것으로 나타났다. 무라티는 이날 인터뷰에서 AI가 노동시장에 미치는 불가피한 영향에 대해서도 논의했다.
무라티는 “모든 주요 혁명과 마찬가지로 이번에도 많은 일자리가 사라질 것이고, 심지어 다른 어떤 혁명보다 일자리에 더 큰 영향을 끼칠 것”이라며 “우리는 이 새로운 삶의 방식에 대비해야 한다”고 거듭 강조했다.
지금 미래를 설계하기
앞서 올해 초 타임지와의 인터뷰에서 무라티는 “전 세계는 AI의 위험에 대응하는 데 있어 ‘특별한 순간’에 직면해 있다”고 발언한 바 있다.
당시 무라티는 “오늘날은 사회를 형성하는 방식에 있어 인류가 대리자를 가지고 있는 특별한 순간”이라면서 “이러한 독특한 시기는 기술이 우리를 형성하고, 우리가 기술을 형성하는 두 가지 갈래로 진행된다”고 언급했다.
무라티에 따르면, 오늘날 인류는 해결해야 할 어려운 문제들에 직면해 있다. 그렇다면 어떻게 해야 AI가 인간의 의도에 부합하는 일을 하도록, 궁극적으로 인류를 위해 봉사하도록 할 수 있을까.
무라티는 “윤리적, 사회적, 철학적 문제도 고려해야 한다”며 “철학자, 사회과학자, 예술가, 인문학자 등 다양한 측면에서 의견을 수렴하는 것이 중요하다”고 제언했다.
*황효정 기자가 이 기사의 번역 및 정리에 기여했습니다.
