유엔 사무총장 "핵 재앙 막았듯 AI 안전장치 필요"

안토니우 구테흐스 유엔 사무총장은 인공지능, AI가 초래할 위험을 냉전 시대 핵무기 위험에 빗대며 AI 기술 선도국 간 안전장치 마련을 촉구했습니다.

구테흐스 총장은 미국 뉴욕 유엔 총회장에서 유엔 총회 일반 토의 개막 보고 연설에서 국제사회가 직면한 '네 가지 권력의 시험' 가운데 하나로 기술, 특히 AI를 꼽았습니다.

또, "냉전 때 전략적 경쟁국들은 공동의 실존적 위험인 핵무기를 관리할 필요성을 인식했다"며 "오해를 줄이고, 긴장 고조를 관리하며, 재앙을 막기 위한 메커니즘을 구축했다"고 말했습니다.

그러면서 "오늘날에는 인공지능이 이와 같은 분명한 목적의식과 긴박감을 요구하고 있다"며 AI 분야를 선도하는 미국과 중국 등 강대국들의 책임을 강조했습니다.

이어 "기술 혁명을 이끄는 국가들은 새롭게 나타나는 안전 위험 정보를 공유하고 시험과 평가에서 협력하며, 모두를 보호할 공동의 안전장치 마련을 위해 노력할 것"을 촉구했습니다.

구테흐스 총장은 "수 세기 동안 권력은 영토에서, 그다음에는 산업에서, 이후에는 금융에서 나왔다"며 "오늘날 권력은 점점 더 데이터와 컴퓨팅 역량, 알고리즘에서 나온다"고 진단했습니다.

아울러 "이 새로운 권력은 고도로 집중돼 있으며 엄청난 속도로 발전하면서 그 모든 결과를 이해할 수 있는 우리의 능력을 앞질러 질주하고 있다"고 경고했습니다.

그러면서 "위험한 것은 기술 그 자체가 아니라 책임 없는 기술, 감독 없는 역량, 투명성 없는 의사결정"이라고 강조했습니다.

특히 "가장 강력한 AI 역량을 가진 정부들은 인류에 대해 가장 큰 책임을 지고 있다"며 대화와 투명성, 신뢰, 협력을 위한 채널을 구축해야 한다고 말했습니다.

또 "지정학적 경쟁에도 불구하고 그렇게 해야 하는 것이 아니라 바로 지정학적 경쟁 때문에 그렇게 해야 한다"고 덧붙였습니다.

이와 함께 AI가 전 세계에 영향을 미치는 만큼 국제 공조가 필수적이라면서 모든 국가가 공동의 미래를 만드는 데 목소리를 낼 수 있는 유엔이 AI 체계의 중심 역할을 해야 한다고 강조했습니다.

구테흐스 사무총장은 이 같은 AI 협력론을 세계 질서의 다극화라는 더 큰 틀에서 제시했습니다.

이어 "세계가 되돌릴 수 없이 다극 체제로 이동하고 있다"며 분열과 거래주의, 제로섬 경쟁 대신 상호의존을 토대로 한 네트워크형 다극 체제"를 구축해야 한다고 목소리를 높였습니다.

그러면서 "경쟁은 국제관계의 영구적인 특징으로 남겠지만, 경쟁이 반드시 대결일 필요는 없다"고 덧붙였습니다.

YTN 이승윤 (risungyoon@ytn.co.kr)