도널드 트럼프 대통령이 이번 주 베이징을 방문합니다.| 그렉 베이커/AFP via 게티 이미지
도널드 트럼프 대통령의 이번 주 시진핑 중국 국가주석과의 회담은 인공지능 경쟁에서 비롯되는 위험을 억제하기 위한 안전장치를 마련할 새로운 기회를 제공합니다.
월스트리트저널은 트럼프 행정부가 이번 방문을 계기로 인공지능이 제기하는 위험을 완화하기 위한 공식적인 대화를 시작하는 방안을 검토하고 있다고 처음 보도했습니다 . 보도에 따르면 논의될 수 있는 잠재적인 주제에는 폭주하는 모델과 자율 무기가 포함될 수 있습니다.
이후 백악관 관계자는 DFD에 트럼프 대통령이 이번 방문에서 인공지능 문제를 논의할 계획이라고 밝혔습니다.
만약 AI 안전에 대한 논의가 실제로 의제에 오른다면, 미국은 앤트로픽사의 미토스(Mythos) 모델이라는 큰 이점을 가지고 있습니다.
앤트로픽사에 따르면, 미토스는 다양한 운영체제와 웹 브라우저에서 이전에 알려지지 않았던 취약점을 악용할 수 있습니다.
뉴욕 타임스는 중국의 한 연구기관이 이미 미토스 접근을 요청했지만 거부당했다고 보도했습니다 .
그렇다면 미국이 강대국의 입장에서 이러한 대화에 어떻게 접근해야 하며, 현실적으로 무엇을 달성할 수 있을까요? 일부 외교 정책 분석가들은 DFD와의 인터뷰에서 미토스가 장기적으로 중국이 AI 안전 기준을 수용하도록 설득하는 데 도움이 될 수 있지만, 단기적인 기대는 낮춰야 한다고 말했습니다.
허드슨 연구소의 선임 연구원이자 중국과의 AI 경쟁을 연구하는 빌 드렉셀은 "중국은 이를 국가 안보를 위한 힘과 협상 카드로만 볼 것"이라며, "그들은 AI 대화를 선의의 표시로 여긴다고 주장할지 모르지만, 우리는 그 주장을 매우 회의적으로 봐야 한다"고 말했다.
핵무기나 코로나19 같은 문제에 대해 중국과 협상하는 것은 과거에 그다지 성공적이지 못했습니다.
드렉셀 대학교에 따르면, 베이징은 이전에 합의했던 국제 협약을 어긴 전례가 있습니다.
미토스의 위협은 결국 중국이 의미 있는 양보를 하도록 압박할 수 있지만, 과거의 습관은 쉽게 바뀌지 않고 인공지능 발전은 중국의 최우선 과제입니다.
드렉셀은 "중국이 현재 직면하고 있는 미소스 비대칭성을 고려할 때, 사이버 및 생물 보안 모델 발표 시 더 엄격한 안전 기준을 마련하도록 압력을 가하는 것이 우리의 이익에 부합한다"며, "이번 정상회담에서 정치적으로 가장 실현 가능한 방안은 실질적인 구속력이 없는, 상호 이해를 표명하는 일반적인 우호 성명을 발표하는 것"이라고 말했다.
드렉셀 대학교 교수이자 외교협회(Council on Foreign Relations) 선임 연구원인 크리스 맥과이어는 DFD와의 인터뷰에서 미국이 미토스(Mythos)와 같은 강력한 모델을 통해 경쟁 우위를 더욱 확대하는 데 집중해야 한다고 말했습니다.
맥과이어는 바이든 행정부 시절 국가안보회의(NSC)에서 중국 기술 경쟁 담당 부국장으로 근무한 바 있습니다.
그는 미국이 중국보다 앞서 나갈수록 양국 간의 대화가 더욱 생산적으로 이루어질
것이라고 강조했습니다.
그러나 두 사람은 이것이 급속한 혁신을 허용하기 위해 인공지능 규제를 완화해야 한다는 주장은 아니라고 덧붙였습니다.
맥과이어는 "중국은 8개월 안에 미토스(Mythos) 수준의 모델을 갖게 될 것"이라며 "우리는 그 격차를 더욱 벌려야 한다"고 말했다.
그는 미국이 충분히 앞서나가게 되면 대화를 통해 중국이 미국과 유사한 AI 안전 정책을 도입하도록 더욱 효과적으로 압박할 수 있을 것이라고 덧붙였다.
맥과이어는 DFD와의 인터뷰에서 "중국에 비해 강력한 통제력과 큰 우위를 확보함으로써 국내 규제 측면에서 더 큰 유연성과 자율성을 갖고, 실제로 최선이라고 생각하는 정책을 개발할 수 있다"며, "그런 다음 중국 측에 이러한 정책을 추진할 수 있다"고 말했다.
이러한 규제에는 윤리적인 AI 사용에 대한 레드라인 설정과 핵무기 또는 생물학 무기 개발이 가능한 모델에 대한 접근 제한 등이 포함될 수 있다.
하지만 이번 정상회담은 미국이 중국과 인공지능 일반화 가능성(AGI)과 같이 미토스보다 훨씬 더 중요한 무언가를 개발하기 위한 경쟁에 갇혀 있다는 생각을 재고할 기회를 제공할 수도 있다 .
중국 기술 전문 기자이자 평론가 인 이링 류는 "중국이 인공 일반 지능(AGI) 개발 경쟁에 뛰어들고 있다는 증거는 거의 없다"며, "중국이 인공지능을 미국처럼 돌이킬 수 없는 승리를 보장하는 전지전능한 기술로 보고 있다는 증거조차 거의 없다"고 말했다.
류에 따르면, 중국 정부의 공식 발표는 인공지능을 개발 경쟁을 벌여야 할 핵무기가 아니라 경제를 증진시켜야 할 전기와 같은 기술에 더 가깝다고
보는 듯하다.
류 교수는 "만약 대화가 그러한 이해로 이어진다면, 인종이라는 틀은 인공 일반 지능(AGI)을 비롯한 여러 기술 분야에서 협력하는 데 더 이상 큰 장애물이 되지 않을 것"이라고 덧붙였다.
그녀는 DFD와의 인터뷰에서 "우리는 잠시 한발 물러서서 '경쟁이란 정확히 무엇이며, 경쟁이란 도대체 무엇을 의미하는가?'라고 생각해 봐야 합니다.
"라고 말했습니다.
"경쟁력을 유지하면서도 규제와 제도적 감독을 완전히 포기하지 않고 사회 각 분야에 기술을 도입하는 것이 가능합니다."
류펑위 주미 중국 대사관 대변인은 "시진핑 주석과 도널드 트럼프 대통령은 미중 관계와 세계 평화 및 발전에 관한 주요 현안에 대해 심도 있는 의견을 교환할 것"이라고 밝혔지만, 인공지능(AI)에 대한 구체적인 언급은 거부했다.
앤트로픽 측은 문의에 답변하지 않았다.
경쟁력 있는 기술 협회에서 보내는 메시지:
ACT(Association for Competitive Technology)는 30년 가까이 스타트업과 정책 입안자 간의 격차를 해소해 왔습니다.
ACT는 기술 스타트업의 혁신, 자본 접근성, 일자리 창출을 지원하는 스마트하고 성장 지향적인
정책 환경을 위해 노력합니다.
프로메테우스적 경쟁
요약 보고서
20세기 지정학에 핵무기가 혁명을 일으켰듯이, 인공지능(AI)은 21세기 권력 역학을 뒤흔들 준비가 되어 있으며, 세계 지도자들은 그 영향이 훨씬 더 심오할 수 있다고 점점 더 시사하고 있습니다.
AI의 전례 없는 잠재력을 활용하기 위한 중국과 미국의
경쟁은 한 세대를 규정하는 기술적 경쟁으로 자리 잡았으며, 그 긴급성, 범위 및 인류에 미치는 영향 면에서 핵무기 경쟁과 우주 경쟁을 떠올리게 합니다.
전문가들은 인공지능이 두 초강대국 간의 군사 및 경제 경쟁에서 결정적인 역할을 한다는 점에 주목해 왔지만, 인공지능 패권 경쟁이 내포하는 심오한 도덕적, 문명적 문제에 대한 중국과 미국의 각기 다른 접근 방식을 간과하는 경우가 많습니다.
냉전 시대에 핵무기와 우주 경쟁은 기술적 경제적, 군사적 역량에 대한 직접적인 기여를 넘어 윤리적, 이념적, 국가적 위신이라는 차원을 내포했으며, 소련과 미국의 경쟁 구도 전반에 지대한 영향을 미쳤습니다.
마찬가지로 오늘날 미중 인공지능 경쟁은 갈등 규범, 국가 권력, 새롭게 부상하는 생명윤리, 그리고 파국적 위험이라는 네 가지 영역을 재정의할 가능성이 있으며, 이 네 가지 영역은 세계를 뒤흔들 만큼 중대한 의미를 지니고 있어 신중한 검토가 필요합니다.
중국과 미국이 인공지능의 전례 없는 잠재력을 활용하기 위한 경쟁은 한 세대를 규정짓는 기술적 경쟁 구도가 되었습니다.
냉전 시대와 마찬가지로, 이러한 상징적으로 중요한 영역들은 각 초강대국의 광범위한 지정학적 목표 추구를 복잡하게 만들거나, 정치적 리더십이 잘 발휘될 경우 소프트 파워를 강화하거나, 혹은 초강대국 간 협력의 드문 영역을 이끌어낼 수도 있습니다.
이는 각 강대국이 자국의 기술 추구를 둘러싼 세계적 담론을 어떻게 형성하느냐에 따라 달라집니다.
냉전 시대와는 달리, 겉보기에는 서로 다른 것처럼 보이는 이 영역들은 공통된 기반 기술로 연결되어 있어 독립적으로 다룰 수 없습니다.
즉, 어느 한 영역을 겨냥한 정책은 다른 영역에도 영향을 미칩니다.
본 보고서는 인공지능(AI)이 이러한 상호 연관된 시대적 발전을 어떻게 주도하고 있는지 설명하고, 이러한 영역에서 미국과 중국의 상대적 영향력을 명확히 하며, 미국이 AI가 가져올 세계적 변화의 흐름을 자국에 유리하게 이끌기
위한 권고안을 제시합니다.
지금까지 이 보고서에서 다룬 영역 중, 미국의 인공지능(AI)이 분쟁 규범 에 미치는 영향에 대한 접근 방식 이 가장 일관성 있고 명확하게 제시되어 있습니다.
AI가 군사 작전 전반에 통합됨에 따라 핵무기보다 훨씬 더 근본적으로 전쟁 방식을 혁신할 가능성이 있습니다.
핵무기가 여전히 억지력 용도로만 사용되는 반면, AI는 병참에서부터 자율 무기 시스템에 이르기까지 모든 분야에서 향상된 역량을 가능하게 합니다.
미국과 중국 모두 AI를 미래 군사적 우위를 확보하는 데 결정적인 요소로 보고 있습니다.
그러나 AI 기반 전쟁은 심각한 윤리적
문제를 제기합니다.
국제법상 자율 무기의 행위에 대한 책임 소재를 규명하기 어렵다는 점, 전장에서의 의사 결정 과정에서 인간의 도덕적 판단력이 상실될 수 있다는 점, 자동화된 폭력으로 인해 전투원들이 심리적으로 소외될 수 있다는 점, 그리고 기술적으로 발전된 국가와 개발도상국 간의 군사력 불균형이 심화될 위험이 있다는 점 등이 그것입니다.
미국과 중국은 기술력과 외교적 영향력을 바탕으로 이러한 문제들에 대해 다른 국가들보다 더 큰 영향력을 행사하고 있지만, 지금까지는 기술적으로 덜 발달된 국가들도 새롭게 등장하는 AI
도구를 전장에 쉽게 적용할 수 있다는 점 때문에 그 영향력이 제한적이었습니다.
예측하기는 어렵지만, 이러한 영향력 약화는 지속될 가능성이 높으며, 초강대국 간 실질적인 협력 전망은 제한적일 것입니다.
미국은 국내외적 도전에 직면하여 인공지능 기반 전쟁 수행에 있어 인간의 판단력을 적절한 수준으로 강조하는 입장을 유지하기 위해, 비전을 전달하고 고수하는 데 있어 단호하고, 적극적이며, 원칙에 입각한 태도를 보여야 할 것입니다.
인공지능(AI)의 막대한 잠재력을 활용하여 국가 권력을 강화하는 것은 미국이 중국에 맞서 내세우는 AI 전략의 주요 약점이었다.
미국과 중국 간의 경쟁이 민주주의와 권위주의 사이의 이념적 투쟁으로 해석될 때, 중국의 우위는 특히 안타까운 일이다.
중국이 AI 기반 권위주의 체제를 공격적으로 개척해 온 반면, 미국을 비롯한 민주 사회들은 기술 민주주의에 대한 명확한 비전 없이 상대적으로
소극적이고 느리게 대응해 왔다.
중국은 기술 권위주의 도구에 막대한 투자를 통해 국내외에 강력한 시장을 확보한 생태계를 구축했으며, 디지털 실크로드를 통해 그 영향력을 점차 확대하고 있다.
한편, 미국을 비롯한 개방 사회들이 민주주의의 디지털화를 위해 일부 조치를 취해왔지만, 해외에 진출한 미국 기술 기업들은 기술 권위주의를 적극적으로 지원하지는
않더라도 묵인하는 경우가 많다.
놀랄 것도 없이, 기술 기반 국가의 미래에 대한 미·중의 실질적인 협력을 위한 유인은 부족하며, 이 문제에 대한 미국의 비전 부재는 베이징에 상당한 이점을 안겨주었고, 이는 전 세계 개인의 자유와 인권의 미래에 중대한 영향을 미치고 있습니다.
경쟁력을 유지하기 위해 미국은 명확한 기술 민주주의 비전의 부재, 베이징의 기술 권위주의 생태계에서 누리는 비대칭적 이점, 그리고 권위주의적 기술에 대한 미국 기업의 지원 문제를 해결하기 위한 노력을 배가해야 할 것입니다.
새롭게 부상하는 생명윤리는 미·중 인공지능 경쟁에서 가장 초기 단계에 있는 사상
및 행동 영역으로, 과학자들이 국가보다 규범을 형성하는 것이 일반적인 이 분야에서 미개척 외교 영역을 대표합니다.
인공지능은 유전체를 이해하고 조작하는 능력을 혁신적으로 변화시키고 있으며, 이는 인류의 근본적인 삶의 방식을 바꿀 잠재력을 지니고 있습니다.
미국과 중국 모두 이러한 변화를 주도하고자 하지만, 이는 인간 유전자 공학, 우생학적 생식 선택, 군사 생명공학 등과 관련하여 전례 없는 윤리적 과제를 제기합니다.
중국의 기괴한 유전자 연구 및 생식 통제 시도 이력은 도덕적 비전의 근본적인 차이를 보여주며, 미래
세대에 대한 섬뜩한 함의를 내포하고 있습니다.
1 냉전 시대의 우주 탐사처럼 미·중 협력을 통해 유전체 혁명을 인류 전체의 이익으로 활용할 수 있는 엄청난 잠재력에도 불구하고, 실질적인 협력 가능성은 적어도
양국 정부 간에는 제한적입니다.
미국과 중국이 이러한 논란이 많은 기술 관련 규범을 형성하는 데 있어 선도적인 위치를 차지하고 있다는 점을 고려할 때, 이러한 가치관의 불일치는 특히 개탄스럽습니다.
양국이 협력하지 않고 이러한 기술들을 둘러싼 규범을 정립해 나간다면, 윤리적 기준의 저급화를 초래할 가능성이 매우 높습니다.
양국 간 협력이 부재한 상황에서, 미국은 미국의 가치관에 부합하는 실현 가능한 접근 방식을 마련해야 합니다.
최근 몇 년간 미·중 인공지능 외교에서 가장 두드러진 분야는 인공지능과 관련된 재앙적 위험의 진화 였습니다.
그러나 미국이 이 문제에 집중하는 것은 오히려 역효과를 낳고 있는데, 이는 중국이 다른 국가들을 설득하여 인공지능에 대한 더욱 긍정적인 비전을 심어줄 여지를 제공하고, 그 과정에서 중국의 더욱 위험한 인공지능 안전 문화에 힘을 실어주는 결과를 초래할 수 있기 때문입니다.
인공지능이
생물보안, 사이버보안, 핵 시스템과 같은 고위험 영역에 통합될 경우, 심각한 세계적 위기로 이어질 수 있는 새로운 취약점이 발생할 가능성이 있습니다.
자율적으로 작동할 수 있는 새로운 "에이전트형" 인공지능 시스템은 통제력 상실과 관련된 심각한 문제도 야기할 수 있는데, 이는 2017년 통제 불능 상태로 확산되어 결국 러시아에까지 영향을 미친 낫페티아(NotPetya) 사이버 공격과 유사한 사례입니다.
<sup> 2</sup> 고위험 기술 발전에서 흔히 볼 수 있듯이, 기술적으로 발전된 국가와 심각한 실패 발생 시 대처할 준비가 덜 된 국가 간에 발전의 위험은 불균등하게 발생합니다.
그럼에도 불구하고, 개발도상국들은 지금까지 미국 지도자들이 강조하는 인공지능(AI)의 실존적 위험, 즉 미래에 인류를 능가하는 지능을 가진 AI 시스템이
문명의 생존을 위협할 수 있다는 우려에 대해 회의적인 시각을 보여왔습니다.
냉전 시대 핵무기 보유국과 미보유국 간의 갈등을 연상시키듯, 일부 개발도상국들은 과도한 안전 규제가 자국이 AI 기술을 충분히 활용하는 것을 저해할 수 있다고 우려하고 있으며, 이는 미국을 희생시키면서 중국이 지지해 온 입장입니다.
미국과 중국은 전 세계적으로 AI로 인한 재앙적 위험을 좌우할 상당한 영향력을 가지고 있지만, 그 영향력은 외교적 합의, 산업 차원의 국제 포럼, 그리고 국내 AI 안전 문화 등 다양한 경로를 통한 행동에 달려 있습니다.
이 세 가지 요소 중에서도, 정부의 규제에도 불구하고 미흡한 중국의 안전 문화는 가장 큰 위험 요소로 작용할 가능성이 높습니다.
따라서 미국 인공지능의 확산 경쟁에서 중국을 압도하는 것이 인공지능 안전에 대한 제한적인 외교적 합의를 추구하는 것보다 더 효과적일 수 있습니다.
특히 인공지능을 개발에 활용하고자 하는 많은 국가들이 위험성에 대한 지나친 강조를 거부감으로 여길 가능성이 크기 때문입니다.
미국은 이러한 점을 고려하여 전략을 재조정해야 합니다.
냉전 시대와 마찬가지로, 이러한 상징적으로 민감한 영역들은 각 초강대국의 광범위한 지정학적 목표 추구를 복잡하게 만들거나, 정치적 리더십이 잘 발휘되는 곳에서는 소프트 파워를 강화하거나, 초강대국 간 협력이 드물게 나타나는 영역을 이끌어낼 수 있습니다.
갈등 규범, 국가 권력, 새롭게 부상하는 생명윤리, 그리고 재앙적 위험이라는 네 가지 영역에 대한 분석은 냉혹한 현실을 드러냅니다.
이러한 문제들이 제기하는 함의는 초강대국 간의 협력을 필수적으로 요구하지만, 미중 간의 의미 있는 협력 가능성은
극히 제한적입니다.
자동화된 살인 시스템과 감시 체제를 갖춘 기술국가부터 돌이킬 수 없는 인간 유전자 조작과 인공지능으로 인한 연쇄적 재앙에 이르기까지, 시대적 결과를 좌우할 수 있는 문제들을 고려할 때, 이러한 필요성과 실현 가능성 사이의 괴리는 특히 우려스럽습니다.
중국의 외교적 비타협적인 태도는 군사적, 경제적 이점을 넘어 인공지능 경쟁의 위험성을 더욱 높이고 있습니다.
이러한 외교적 제약 속에서 초강대국 간의 거의 동등한 역량조차 위험해질 수 있는데, 비협조적인 중국과의 균형은 인류가 직면한 가장
중요한 기술적 문제들에 대한 기준이 무너지는 최악의 경쟁을 촉발할 가능성이 높습니다.
미국이 이러한 전례 없는 발전을 주도할 수 있는 능력은 중국에 대한 인공지능 우위를 최대한 확대하는 데 달려 있습니다.
인공지능 안전 옹호자들은 이러한 패권 경쟁이 인공지능의 책임 있는 발전을 저해할 수 있다고 우려하지만, 현실적으로 더 나은 대안이 없는 상황에서 인공지능 패권 경쟁은 이미 불가피하게 진행 중입니다.
미국은 실현 가능성이 낮은 협력 시도에 집중하기보다는 민주적 가치와 세계 발전 열망을 증진하는 인공지능 비전을 바탕으로
중국에 대한 결정적인 기술적 우위를 확보하는 데 주력해야 합니다.
성공한다면 미국의 소프트 파워를 강화하고 인공지능이 인류 번영을 향해 나아가는 방향을 제시하는 데 도움이 될 수 있습니다.
실패한다면 중국의 권위주의 모델에 주도권을 내주고, 미국의 인공지능 야망에 대한 국제적인 반발을 불러일으키며,
인류의 기술적 미래를 잔혹한 권위주의 정권에 넘겨줄 위험이 있습니다.
그 위험은 그 어느 때보다 높습니다.
이를 위해 미국은 다음과 같은 조치를 취해야 합니다.
소개
20세기에 핵무기만큼 국제 관계를 뒤바꾼 것은 없었습니다.
핵무기는 아원자 물리학의 급속한 발전과 제2차 세계 대전 및 냉전의 막대한 전략적 압력에 의해 촉발된 지각변동과 같은 사건이었습니다.
핵폭탄의 최초 공개 사용은 역사상 가장 큰
전쟁을 거의 즉각 종식시켰을 뿐만 아니라, 핵무기 사용에 대한 공포는 냉전부터 오늘날까지 강대국 경쟁의 역학과 한계를 규정하는 데 큰 영향을 미쳤습니다.
실제로 핵무기의 지정학적 영향은 아무리 강조해도 지나치지 않습니다.
그 즉각성과 파급력은 전쟁 역사상 그 어떤 이전의 발전과도 쉽게 비교할 수 없을 정도로 독보적이었으며, 인류에게 스스로를 파괴할 수 있는 새로운 능력을 부여함으로써 인류의 상황을 근본적으로 바꾸어 놓았습니다.
핵무기의 전례 없는 군사력이 한 시대를 규정했다면, 냉전 시대 동안 초강대국들이 그 힘을
어떻게 관리했는지 또한 한 시대를 규정했습니다.
21세기에 인공지능(AI)의 급속한 발전은 세계 여러 지도자들이 보기에 과거와 비슷하거나 어쩌면 그보다 더 큰 규모의 역사적 변혁을 예고하고 있습니다.
역대 미국 대통령, 여러 유럽 국가 정상, 나렌드라 모디 인도 총리, 시진핑 중국 공산당 총서기,
블라디미르 푸틴 러시아 대통령 모두 AI가 가져올 영향의 심각성을 강조해 왔으며, 특히 푸틴 대통령은 AI 개발을 주도하는 자가 "세계를 지배하게 될 것"이라고 언급했습니다.
3
인공지능(AI) 발전에 대한 이러한 관심은 당연히 AI 기술의 잠재력이 군사적, 경제적으로 얼마나 큰 이점을 가져다줄지에 대한 전망에 집중되어 왔습니다.
세계는 AI 기술의 선두 주자인 미국과 중국이 AI 경쟁에서 승리하고, 나아가 오늘날 양국이
처한 초강대국 경쟁 구도에서 우위를 점하기 위해 경쟁하는 모습을 지켜보고 있습니다.
양국의 정책 결정자들 또한 AI 경쟁이 양국 관계에 지대한 영향을 미칠 것이라고 인식하고 있습니다.
4
미국과 중국 간 인공지능 경쟁의 핵심은 분명 경제적, 군사적 경쟁이지만, 인공지능 분야에서 우위를 점하기 위해서는 단순히 상대방보다 기술적 역량을 앞지르는 것 이상의 것이 필요합니다.
기술적 우위에만 치중하는 것은 전략적 역량 개발을 저해할
뿐만 아니라 외교적 리더십을 발휘할 기회까지 낭비하는 결과를 초래할 수 있습니다.
지난 몇 년간의 주요 기술 경쟁의 역사는 무형의 상징적 요소들이 냉전의 흐름을 결정하는 데 있어 기술의 직접적인 경제적 또는 군사적 기여만큼이나 근본적인 역할을 했다는 점을 분명히 보여줍니다.
미국이 소련에 대해 누렸던 결정적인 핵 우위는
매우 단기간에 그쳤고, 핵무기가 발휘했던 군사력은 수십 년간의 교착 상태에 안착했습니다.
비록 핵 패권을 둘러싼 경쟁은 끊임없이 이어졌지만 말입니다.
핵에너지가 가져올 것으로 기대되었던 혁명적인 경제 성장 또한 양국 모두에게 미미한 수준에 그쳤습니다.
그럼에도 불구하고, 핵 능력에서 비롯된 막대한 명성은 초강대국 간의 경쟁을 넘어 핵 확산의 핵심 원동력이 되었고, 각국 지도자들은 핵보유국이라는 배타적인 클럽에 가입해야 한다는 압박감을 느꼈습니다.
미국과 소련이 각국의 평화적 또는 군사적
목적의 핵 기술 사용 야망에 어떻게 대응했는지는 냉전 외교의 중추적인 특징이었으며, 양국의 야망에 대한 메시지 또한 마찬가지였습니다.
핵무기와 그것이 인류를 위협하는 전례 없는 실존적 위험에 대한 항의에서 비롯된 시민 사회 운동 또한 미국의 국내 정치와 외교 정책 모두에서 반드시 고려해야 할 상당한 정치적 세력이 되었습니다.
우주 경쟁에서 이러한 상징적 의미는 더욱 두드러졌습니다.
냉전 초기가 아득한 기억 속으로 사라져 가면서, 소련의 스푸트니크 발사 성공이 전 세계에 얼마나 중대한 사건이었는지, 그리고 미국의 달 착륙 성공이 지구를 얼마나 뒤흔들었는지를
떠올리기 어려울 수 있습니다.
두 사건 모두 해당 국가에 직접적인 군사적 또는 경제적 이익을 가져다주지는 않았지만, 각각 대립하는 이념 체제의 힘과 매력을 보여주는 중심점이 되었습니다.
마찬가지로 중요한 것은 소련과 미국의 우주 탐사 협력이 냉전 시대에 보기 드문 실질적인 협력의 장이 되었고, 이는 과학 발전을 가속화했을 뿐만 아니라, 치열한 이념적 분열에도 불구하고 세계에 희망과 평화로운 협력의 상징을 보여주었다는 점입니다.
프로메테우스가 신들로부터 불을 훔친 것처럼, 핵에너지를 활용하고 우주로 나아가는 것은 신과 같은 힘을 보여주는 것이었으며, 이는 인류 전체를 위한 업적이었지만, 적절하게도 초강대국이라는 이름을 가진 국가들의 경쟁적인 욕구에 의해 실현되었다.
이러한 소프트 파워의 중요성은 주로 핵 기술과 우주 기술이 지닌 독특하고 세상을 변화시킬 수 있는 특성에서 비롯됩니다.
정치철학자 한나 아렌트가 지적했듯이, 두 기술 모두 인간의 조건, 즉 역사적으로 호모 사피엔스의 존재를 규정해 온 가장
기본적인 선천적 환경을 변화시켰다는 점에서 주목할 만합니다 . 5 수천 년 동안 인류를 괴롭혀 온 지구에 갇힌 한계와 종의 고유한 자멸 제약을 초월하는 것은 과거의 거의 모든 기술과는 근본적으로 다른 차원의 기술이며, 기록된 역사의 시작부터 상상되었지만 이전에는 결코 실현되지 못했던 신화적인 열망을 반영합니다.
6 프로메테우스가 신들로부터 불을 훔친 것처럼, 핵에너지를 활용하고 우주로 나아가는 것은 신과 같은 힘을 보여주는 것이며, 이는 전 인류를 위한 업적이지만, 적절하게 명명된 초강대국들의 경쟁적 동기에 의해 실현되었습니다.
이러한 발전의 중대한 성격을 고려할 때, 국제적인 반응은 그 자체로 강력한 영향력을 발휘했습니다.
많은 국가들이 핵무기 증강에 강력히 반대했던 것처럼, 이러한 발전은 각국의 핵무기 개발 노력을 복잡하게 만들기도 했고, 미국의 달 착륙이 전
세계적으로 찬사를 받았던 것처럼 국가에 존경과 정당성을 부여하기도 했습니다.
이처럼 인류 진보에 대한 인식과 밀접하게 연결된 프로메테우스적 발전은 초강대국 간 협력을 위한 강력한 기회, 나아가 필수적인 요건을 제공하기도 합니다.
여러 정황으로 볼 때, 미래의 인공지능(AI) 발전은 냉전 시대의 우주 및 핵 기술 경쟁과 유사한 초강대국 간의 경쟁 구도 속에서 프로메테우스적 기술로 자리매김하고 있습니다.
극단적인 경우, AI의 시대적 의미에 대한 논의는 인간을 능가하는 초지능의
출현이 인류에게 어떤 의미를 갖는지에 대한 난해한 질문으로 귀결되기도 합니다.
그러나 그러한 이론적인 초지능이 현실화되기 전, 아니, 현실화된다 하더라도, 미국은 미중 AI 경쟁의 핵심 주체로서 반드시 공략해야 할, 프로메테우스적 의미를 지닌 AI 개발 분야들이 분명히 존재합니다.
비교적 구체적인 목표를 추구했던 우주나 핵 기술과는 달리, AI의 영향력은 이미 논란의 여지가 있는 변혁의 기로에 선 수많은 분야에 걸쳐 변화를 촉진하는 능력에서 비롯됩니다.
본 보고서는 미중 관계에 의해 크게 좌우될 AI 개발의 가장 중요한 네
가지 응용 분야의 의미, 이들 분야의 상호 관계, 그리고 미국이 이러한 분야에 어떻게 접근해야 하는지를 명확히 밝히고자 합니다.
미중 경쟁이 대립하는 정부 체제 간의 투쟁을 나타내는 한, 국가 권력을 재구성할 수 있는 인공지능의 잠재력은 이념 경쟁의 도구와 지형을 근본적으로 바꿀 수 있다.
향상된 유전자 선택 및 변형 기술의 발전은 획기적인 의학적 발전을 가져올 잠재력을 지니고 있지만, 동시에 인류의 자연스러운 진화를 뒤바꿀 수 있는 불안한 가능성도 내포하고 있습니다.
이러한 위험을 어떻게 관리하느냐는 냉전 시대의 핵 안전조치만큼이나 중요한 과제가 될 수 있습니다.
이 목록이 모든 것을 다 담고 있지는 않겠지만, 이 보고서에서 살펴보듯이 급속도로 발전하는 인공지능(AI) 역량은 미중 AI 경쟁 과정에서 이러한 각 분야를 근본적으로 뒤흔들 가능성이 충분히 있습니다.
공통적인 특징
겉보기에는 서로 관련이 없어 보이지만, 이 네 가지 영역은 미국 정책 입안자들이 중국과의 AI 경쟁에 대한 접근 방식을 결정할 때 통합적이고 시급하게 고려해야 할 핵심적인 공통점을 가지고 있습니다.
첫째, AI 기술은 이 네 가지 영역 모두의
기반이며, 최근 AI 연구의 획기적인 발전은 각 영역의 미래 변혁을 위한 토대를 마련했습니다.
다양한 응용 분야에 걸쳐 공통적으로 나타나는 새로운 머신러닝 기술들은 AI 역량의 폭발적인 성장과 확장을 가능하게 했으며, 앞으로도 지속적인 고속 성장을 위한 충분한 잠재력을 지니고 있습니다.
이러한 혁신은 과거 증기 혁명과 전기 혁명의 초기 모습과 유사합니다.
당시에도 새로운 핵심 기술들이 기존 도구를 강화하고 다양한 분야에서 완전히 새로운 도구를 만들어내는 데 활용되었습니다.
최근 AI 혁신의 효과는 계속해서 누적되고
있으며, AI 발전 속도가 가속화됨에 따라 겉보기에는 관련이 없어 보이는 영역의 발전이 서로 영향을 미치는 경우가 많습니다.
예를 들어 언어 모델이 이미지 분류나 단백질 접힘 예측과 같은 놀라운 비언어적 작업에서 가능성을 보여준 사례가 있습니다.
7 결과적으로, 이 네 가지 중요한 영역 모두에서 변화가 동시에 가속화되어, 겉으로는 서로 관련 없어 보이는 분야에서도 중대한 기회와 우려 사항들이 가속화된 상호 연관된 시간표에 따라 드러나게 됩니다.
사회는 유전자 조작 아기, 감시 국가, 킬러 로봇, 그리고 새로운 재앙적 위험 요소들과 같은 심오한 주제들을 상호 연관된 현상으로서 거의 동시에 다뤄야 할 것입니다.
이러한 공통된 기술적 기반과 발전 단계는 미국이 이 보고서에서 제시하는 특정 분야를 대상으로 하는 인공지능 외교가 다른 분야에도 영향을 미칠 것임을 의미합니다.
바이든 행정부가 인공지능 개발에 필수적인 첨단 반도체에 대한 수출 통제를
시행한 사례가 이를 이미 보여줍니다.
이러한 현실은 정부의 지속적인 개입을 요구합니다.
과거의 기술 발전과 비교하면 빠른 속도이지만, 발전은 점진적이며 몇 달이 아닌 몇 년에 걸쳐 진행될 것이기 때문입니다.
실질적으로, 치명적인 자율무기의 책임 있는 사용(또는 사용 자제)을 보장하는 데 필요한 메커니즘은 인간 유전자 편집의 책임 있는 경계를 설정하는 데 필요한 메커니즘과 많은 부분을 공유할 수 있습니다.
기술 민주주의 또는 기술 독재를 강화하는 도구를 개발하는 인공지능 기업들이 인공지능 사용으로 인한 대형 재앙
발생 가능성을 결정할 수도 있습니다.
이러한 주제들을 둘러싼 담론은 서로 다르지만, 공통된 기술적 기반을 가지고 있다는 것은 정책 입안자들이, 특히 미·중 관계의 맥락에서, 이러한 문제들을 분리해서 다룰 수 없다는 것을 의미합니다.
이는 또한 이러한 지역들이 해당 국가 국민들의 눈에도, 국제 사회의 상상 속에서도 완전히 분리될 수 없다는 것을 의미합니다.
또한, 이 네 가지 분야 모두 국가의 적극적인 개입을 필요로 하거나 유도할 가능성이 높으며, 이미 직접적으로 국가 개입에 의해 추진되고 있을 수도 있습니다.
자율 무기 개발과 인공지능 기반 국가 권력 강화는 미국과 중국 모두에게 핵심적인 이익이기
때문에 직간접적으로 양국이 주도할 가능성이 큽니다.
중국 정부는 기술적 권위주의 도구의 최대 고객이며, 미래 개발 방향을 상당 부분 결정합니다.
이와 유사한 규모의 기술 민주주의 발전 사례는 찾기 어렵지만, 인공지능 도구가 민주적 형태로 발현될 경우 미국은 독보적인 잠재력과 주도권을 가질 것으로 예상됩니다.
미국과 중국은 모두 인공지능 기반 군사력과 자율 무기 개발의 최전선에 있으며, 이 분야에서 우위를 점하기 위해 서로 치열한 경쟁을 벌이고 있습니다.
유전 공학의 미래는 민간 또는 학술 연구소에서 실현될 수
있지만, 미국과 중국 정부는 그 발전의 한계를 명확히 설정해야 하며, 이미 국가 생명공학 연구에 막대한 국가 자원을 투자할 의지를 보여주었습니다.
인간 게놈 프로젝트는 미국 정부가 주도하는 최대 규모의 과학 메가 프로젝트 중 하나이며, 중국은 2035년까지 생명공학 분야에서 세계를 선도하기 위해 필요한 자원을 투자하겠다고 공언했습니다.
8 마지막 으로, 인공지능 기술이 새로운 재앙의 위험을 초래하거나 기존의 위험을 악화시키는 경우, 정부는 이러한 위협을 완화하고 대응할 궁극적인 책임을 져야 하며, 이는 필연적으로 정부의 적극적인 개입과 경우에 따라 국제 협력을 필요로 합니다.
양국 정부가 이러한 분야를 어떻게 이끌어갈지는 기술 정책에 대한 접근 방식, 특히 공공 부문과 민간 부문이 혁신을 주도해야 하는 방식, 규제 개발 및 적용 방식에 대한 입장
차이로 인해 다를 가능성이 높습니다.
그러나 모든 경우에 정부의 역할은 중요하고, 어쩌면 심오할 것입니다.
미국과 중국이 인공지능 기반 혁명을 통해 갈등 규범, 국가 권력, 새로운 생명윤리, 그리고 재앙적 위험에 깊이 관여하는 데에는 이미 여러 가지 이유가 있지만, 두 초강대국 중 하나 또는 둘 다 이러한 영역과 직접적으로 관련된 특정 목표를 향해 막대한
국가 자원을 동원하는 상황을 상상하는 것은 어렵지 않습니다.
어느 한 정부라도 특정 목표 달성이 전략적 이점이나 국가적 위신을 크게 높여줄 것이라고 판단한다면, 아폴로 계획이나 맨해튼 프로젝트와 유사한 대규모 노력을 기울여 해당 목표를 먼저 달성하려 할 가능성이 높습니다.
실제로 트럼프 행정부는 이미 맨해튼 프로젝트와 유사한 계획을 검토 중이며, 트럼프 행정부 출범 이틀째 백악관에서 발표된 5천억 달러 규모의 스타게이트 프로젝트 AI 구축 계획은 비슷한 방향으로 나아가고 있음을 시사합니다 .
우주비행사 버즈 올드린이 아폴로 11호의 선외 활동 중 달 표면에 서서 미국 국기를 바라보고 있다.
아폴로 11호는 존 F. 케네디 대통령의 유인 달 착륙이라는 오랜 염원을 실현한 임무였다.
미국과 중국은 인공지능 기술이 상당한 전략적
이점을 가져다줄 수 있다고 판단될 경우, 아폴로 프로그램과 유사한 대규모 개발 노력을 시작할 가능성이 있다.
NASA (Unsplash 제공)
마지막으로, 냉전 시대의 핵무기와 마찬가지로, 이러한 각 분야의 AI 기반 발전은 더욱 강력한 국가 체제를 구축하는 데 따르는 도덕적 복잡성부터 인류의 유전적 구조를 돌이킬 수 없이 변화시키는 중대한 문제에 이르기까지 인류 전체에 보편적으로
중요한 질문들을 제기합니다.
이러한 심오한 윤리적 의미는 두 가지 이유에서 중요합니다.
첫째, 미국이 AI 기술의 탄생과 발전에 있어 근본적인 역할을 해왔다는 점을 고려할 때, 미국은 가능한 한 미국의 가치에 부합하는 방향으로 인류의 번영을 향해 기술이 발전하도록 이끌어야 할 도덕적 의무를 세계에 지니고 있다고 볼 수 있습니다.
더욱 현실적인 측면에서, 그러한 의무의 범위와 관계없이, 미국과 중국이 세계에서 가장 강력한 신기술 분야에서 새로운 영역을 개척해 나가는 과정에서 다른 국가들이 미국과 중국이 직면한 중대한
문제들을 어떻게 다루는지에 대해 어떻게 인식하는지는 매우 중요합니다.
냉전 시대에 소련과 미국의 핵·우주 기술 접근 방식이 양국의 글로벌 소프트 파워의 핵심 요소가 되었던 것처럼, 오늘날 지정학적 경쟁 속에서 양국이 인공지능(AI)을 전쟁, 국가 권력, 인간 유전자 조작, 그리고 재앙적 위험에 어떻게 활용하는지에
대한 미국과 중국의 접근 방식은 다른 국가들에 대한 영향력 확보에 중요한 영향을 미칠 것입니다.
미국과 중국 정부가 AI 발전을 어떤 방향으로 이끌느냐에 따라 각국의 광범위한 전략적 의제를 지지하는 잠재적 지지자들을 고무시키기도 하고, 반대로 소외시키기도 할 수 있습니다.
나아가 두 나라의 협력 여부는 전 세계 대부분의 국가들이 누리는 안보, 번영, 그리고 규범에 결정적인 영향을 미칠 것입니다.
연구 범위, 방법 및 결과
본 보고서는 세계 질서를 뒤흔들 수 있는 미·중 인공지능(AI) 경쟁의 중요성을 갈등 규범, 국가 권력, 새로운 생명윤리, 그리고 파국적 위험이라는 네 가지 핵심 영역을 중심으로 고찰합니다.
각 영역에 대해 미·중 경쟁 구도에서 해당
영역의 전략적 중요성을 검토하고, 중국과 미국이 경쟁의 궤적에 미치는 영향을 분석하며, 미·중 협력의 가능성과 바람직성을 평가합니다.
이러한 분석을 바탕으로, 본 보고서는 중국의 야망과 동기에 대한 현실적인 관점을 토대로 미국 정부가 이러한 고위험 영역에서 AI에 대한 접근 방식을 보다 전략적으로 관리할 수 있도록 실질적인 권고안을 제시합니다.
이 보고서는 인공지능(AI)의 지정학적 이해관계의 규모에 대한 일반적인 견해를 넘어 보다 구체적인 분석을 제공하고자 하지만, 세부적인 분석에는 한계가 있습니다.
AI 전반과 각 분야별 발전 속도는 궁극적으로 예측 불가능합니다.
또한, 이
보고서는 AI 분야의 국제 경제 협력이 미중 AI 경쟁에서 매우 중요한 요소가 될 것이라는 가정을 하고 있지만, 이미 다른 문헌에서 심도 있게 다루어졌고 중국과 미국의 무역 및 개발에 관한 광범위한 문헌을 고려한 분석이 필요하기 때문에 이 주제를 직접적으로 탐구하지는 않습니다.
<sup> 10 </sup> 대신, 이 보고서는 AI가 기술 발전의 매우 논쟁적인 영역에서 일으키는 새롭고 중대한 변화, 즉 AI의 프로메테우스적 이해관계에서 비롯되는, 그동안 연구가 부족했던 AI 소프트 파워의 측면에 초점을 맞춥니다.
본 보고서는 특정 도덕적 관점에서 네 가지 영역에 내재된 중대한 문제들을 다루려는 것이 아닙니다.
오히려, 이 영역들에서 인공지능(AI) 발전이 가져올 윤리적 함의가 매우 심각하여 외교 정책 결정에 불가피하게 영향을 미칠 것이라는 점을 인식하면서,
관련 문제들을 서술적으로 평가하고자 합니다.
라인홀드 니부어가 미국의 핵무기 증강의 필요성에 대해 지적했듯이, 핵무기 시대에는 어려운 도덕적 역설이 불가피하지만, "도덕적 요소를 무시하는 실행 가능한 해결책은 없다"는 점을 명심해야 합니다.
이처럼 중대한 결과를 초래하는 정책은 미국 국민과 전 세계에 그 정당성을 입증해야 하기 때문입니다.
<sup> 11 </sup> 이와 유사한 양상이 갈등의 규범, 국가 권력, 새롭게 부상하는 생명윤리, 그리고 재앙적 위험에 대한 AI의 광범위한 영향을 관리하기 위한 향후 어려운 결정들에도 나타날 수 있습니다.
본 분석의 목적은 이러한 도덕적 복잡성과 미중 AI 경쟁과의 관계를 명확히 하는 것이며, 특정 윤리적 입장을 옹호하려는 것이 아닙니다.
이러한 문제들이 빠르게 변화하고 있고 모든 분석은 잠정적일 수밖에 없지만, 이 네 가지 영역에서 미·중 인공지능 경쟁의 의미를 명확히 하는 것은 미국의 효과적인 정책 수립에 매우 중요합니다.
또한, 제약이 많은 중국과의 생산적인 협력
가능성을 명확히 하는 것 역시 중요합니다.
중국과의 의미 있는 협력 가능성이 매우 제한적인 상황에서 미국은 상호 보완적인 두 가지 전략을 추구해야 합니다.
즉, 인공지능 기술적 우위를 적극적으로 확대하는 동시에 국제 사회를 위한 설득력 있는 인공지능 리더십 비전을 제시해야 합니다.
이러한 비전은 야심차고 책임감 있으며 상호 이익이 되어야 합니다.
세계를 변화시킬 수 있는 기술의 잠재력을 냉철하게 인식하는 동시에 더 넓은 국제 사회의 열망에 부응해야 합니다.
트럼프 대통령이 중국과 인공지능 관련 대화를 진행하는 방식: 목표 지향적인 대화, 최대한의 압박
다가오는 트럼프-시 정상회담에서 베이징은 인공지능 안전 문제에 대해 성실하게 협상에 임하지 않을 것이다.
수출 통제에 대한 최대한의
압박과 함께 범위가 좁은 대화만이 베이징의 전략을 바꾸고 장기적인 인공지능 안전을 확보할 수 있는 유일한 방법이다.
전문가 및 직원 제공
크리스 맥과이어는 미국 외교협회(Council on Foreign Relations)의 중국 및 신흥 기
담당 선임 연구원입니다.
그는 조 바이든 대통령 재임 시절 국가안보회의(NSC)에서 미중 인공지능(AI) 정책을 총괄했습니다.
또한 도널드 트럼프 대통령 재임 초기에는 국무부에서 미·러 군비 통제 정책 수석 전문가로 활동했습니다.
도널드 트럼프 미국 대통령과 시진핑 중국 국가주석은 베이징 회담에서 인공지능(AI) 관련 문제를 논의할 예정이며, 이는 당연한 일입니다.
AI는 세계 경제 성장의 기반이 되고, 기술 혁신을 주도하며, 세계 전장의 판도를 바꾸고 있습니다.
현대 AI 모델은 지금까지 만들어진 가장 강력한 사이버 보안 및 해킹 무기이며, 그 성능은 4개월마다 두 배씩 향상되고 있습니다.
AI는 결코 무시할 수 없을 만큼 중요한 문제입니다.
미국과 중국이 인공지능(AI) 안전에 관한 대화 개시를 검토 중인 것으로 알려졌습니다.
중국 정부는 오랫동안 이러한 대화를 원해왔지만, 안타깝게도 AI 안전에 대한 강력한 국제적 약속을 하고 이를 준수하려는 의지는 미미합니다.
중국은 이러한 대화를 AI 분야에서 미국을 따라잡는 데 필요한 기술에 대한 접근성을 높일 기회로 보고 있습니다.
만약 미국과 중국이 정기적인 AI 대화를 시작한다면, 중국 정부의 이러한 계산을 바꿀 수 있는 유일한 효과적인 방법은 대화의 초점을 오로지 안전에만 맞추는 동시에
수출 통제를 강화하고 미국의 AI 분야 우위를 최대한 확대하는 "최대 압력" 캠페인을 병행하는 것입니다.
미국과 중국은 특정 위험한 기능을 가진 AI 모델의 유출을 막는 데 공통의 이해관계를 가지고 있습니다.
비국가 행위자가 AI 모델을 이용해 생물학 무기를 개발할 경우, 이는 미국과 중국 모두에게 치명적인 위험을 초래할 수 있습니다.
장기적으로 이러한 위험에 대처하기 위해서는 협력이 필수적입니다.
하지만 미국은 중국의 선의의 협력을 단순히 바라기만 해서는 이루어질
수 없습니다.
중국 정부의 인공지능(AI) 우선순위는 위험한 모델을 사용하는 비국가 행위자들의 위협 때문이 아니라, 미국에 대한 격차를 더욱 벌리는 데서 비롯됩니다.
중국은 AI 분야에서 미국보다 불과 8개월 뒤처져 있는데, 이는 상당한 격차이지만 중국은 이를 극복할 수 있다고 믿고 있습니다.
AI 역량이 빠르게 발전함에 따라, 중국의 AI 기반 사이버 공격과 군사 및 정보 작전은 머지않아
미국과 동맹국들이 직면할 가장 큰 국가 안보 위협이 될 수 있습니다.
또한 AI가 세계 경제의 가장 큰 동력으로 빠르게 자리 잡으면서, 미국과 중국의 AI 기업들은 세계 시장 점유율을 놓고 치열한 경쟁을 벌이고 있습니다.
미국과 중국 간의 격차가 줄어들수록 중국은 자국의 인공지능(AI)
역량을 활용해 미국을 견제할 가능성이 높아지고, 중국 기업들은 더 큰 경제적 이익을 얻게 될 것입니다.
베이징은 이러한 역학 관계를 인식하고 있기 때문에 미국의 AI 기술을 훔치기 위한 공격적인 공세를 펼치고 있습니다.
이러한 노력에는 첨단 미국산 AI 칩의 밀수, 미국 모델을 공격 하여 기능을 불법적으로 복제하는 ' 정제 공격 ', 그리고 기타 전략들이 포함됩니다.
CFR의 AI와 중국 분석
중국에 대한 새로운 AI 칩 수출 정책: 전략적으로 일관성이 없고 시행 불가능하다
중국 정부가 인공지능 안전 대화를 통해 이러한 역량 격차를 해소하려는
입장은 조 바이든 대통령 재임 시절인 2024년 미국과 중국이 개최한 유일한 인공지능 안전 대화에서 여실히 드러났습니다.
미국 정부는 양국이 직면한 가장 큰 공동 위험 분야를 제시하는 최고 기술 전문가들을 파견했고, 중국 정부는 미국의 인공지능 칩 수출 통제에 대해 불만을 제기하는 외교관들을 파견했습니다.
중국 인공지능 기업들 과 정부 지도자들은 미국의 수출 통제가 중국 인공지능 개발에 있어 가장 큰 제약 요인이라고 거듭 강조해 왔습니다.
중국 정부의 인공지능 안전 협력에 대한 관점과 과거 미·중
인공지능 대화에서의 행보는 미국과의 실질적인 군비 통제 조치에 대한 오랜 거부 입장과 일맥상통하며, 이러한 입장에 영향을 받은 것입니다.
중국은 군비 통제를 극도로 회의적으로 바라보며, 실제로 군비 통제 약속을 제대로 이행한 전적도 미흡 합니다 . 중국 인민해방군(PLA)의 주요 군사 전략가들은 군비 통제를 강대국들이 자국의 이점을 지키기 위해 사용하는 " 투쟁 "으로 묘사하며, 소련이 미국과의 군비 통제 협상에서 양보한 것이 소련의 전략적 입지를 약화시키고 쇠퇴에 기여했다고 주장 해 왔습니다 . 따라서 중국 정부는 중국의 인공지능 역량을 제한하는 어떠한 합의도
군비 통제의 한 형태로 간주할 것이라는 점을 분명히 해야 합니다.
중국이 군비 통제에 회의적인 이유 중 하나는 쿠바 미사일 위기와 같은 사건을 경험해 보지 못했기 때문입니다.
쿠바 미사일 위기는 미국과 러시아 지도자 및 협상가들에게 세계적인 재앙을 막아야 한다는 절박한 책임감을 심어주었습니다.
미국과 러시아의 핵 협상은 쿠바 미사일 위기 이전까지는 실질적인 성과를 내지 못했습니다.
그러나 위기 발생 불과 9개월 후인 1963년, 양국은 최초로 위기 통신 체계를 구축하고 위험한 활동을 제한하는 내용의 핫라인 협정과 제한적 핵실험 금지 조약을 체결했습니다.
중국 지도자들은 이와 유사한 경험을 가지고 있지 않습니다.
미국과 중국 간 인공지능(AI) 안전 대화는 양국 관계를 구축하고 향후 실질적인 협상의 토대를 마련하는 데 도움이 될 수 있지만, 이러한 문제에 대한 중국 정부의 입장을 바꾸지는 못할 것입니다.
중국이 AI 분야에서 미국을 따라잡을 수 있다고 믿고, 잠재적인 불이행에 대한 미국의 보복을 두려워하지 않는 한, 효과적인 미중 AI 안전 합의는 불가능합니다.
중국은 현재 미국과의 격차를 줄이는 데 실질적인 제약을 가하는 조치에 동의할 가능성이 극히 낮습니다.
설령 동의한다 하더라도, 그 합의 내용을 검증하는
것은 불가능하며, 중국이 이를 준수할 가능성도 희박합니다.
따라서 미국이 중국과 인공지능 안전에 대한 효과적인 합의에 도달하려면 중국 정부가 현재 성실한 협상에 나서지 않는 근본적인 구조적 조건을 바꿔야 합니다.
이를 위한 세 가지 방법이 있습니다.
이 경우 미국 정부는 중국이 합의를 준수하고, 새롭게 확보한 강력한 인공지능 기술을 미국의 국가 안보를 위협하는 데 사용하지 않기를 바랄 수밖에 없을 것이다.
이는 현재 중국의 AI 개발을 주도하는 미국 기술에 대한 접근을 차단하는 효과를 가져올 것입니다.
그런 사건이 발생하면 중국 정부는 자국의 인공지능 역량 개발보다 인공지능 안전에 대한 세계적 우선순위를 더 중요하게 여길 것이다.
이 중에서 두 번째 방안이 유일하게 책임감 있는 길이며, 단연코 가장 효과적인 길입니다.
만약 중국 정부가 미국과 중국 간의 인공지능(AI) 격차가 크고 빠르게 확대되고 있다고 판단하고, 미국의 기존 AI 역량이 자국의 국가 안보에 심각한 위협이 된다고 여긴다면, 미국의 AI 역량에 대해 다소 제한적인 제약을 가하는 협상을 자국의 국익에 부합하는 것으로 간주할 가능성이 높습니다.
중국은 이러한 협상에서 큰 영향력을 행사할 수는 없겠지만, 합의 내용을 준수할 가능성은 훨씬 더 높아질 것입니다.
베이징은
미국의 우월한 AI 모델을 통해 미국이 자신들의 활동을 탐지하고 보복할 것을 두려워할 것이기 때문입니다.
미국이 중국에 대한 수출 통제를 대폭 강화한다면, 미국의 인공지능(AI)
개발 격차는 현재 8개월에서 18개월, 심지어 24개월까지 벌어질 수 있습니다.
이는 AI 개발에서 영원과도 같은 시간입니다.
중국 기업들은 AI 개발의 핵심 요소인 미국산 컴퓨팅 파워에 극도로 의존하고 있습니다.
중국은 올해 미국 기업들이 생산하는 AI 컴퓨팅 파워의 약 2% 만을 생산할 것으로 예상 되지만, 선도적인 AI 모델을 개발하고 운영하는 데 필요한
컴퓨팅 파워는 기하급수적으로 증가하고 있습니다.
미국의 수출 통제는 중국의 AI 개발을 상당히 늦추는 데 기여했지만, 중국이 미국산 AI 칩을 구매하거나, 클라우드를 통해 원격으로 접근하거나, 제3국을 경유하여 밀수하거나, 미국의 칩 제조 기술을 이용해 자체 생산할 수 있도록 하는 상당한 허점이 존재합니다.
이러한 허점은 필연적인 것이 아니라, 바꿀 수 있는 정책적 선택입니다.
트럼프 대통령이 베이징에서 추구해야 할 목표는 인공지능 안전 문제에 대해 중국과 합의에 도달하는 것이 아니라, 향후 그러한 합의를 위한 여건을 조성하는 것이어야 합니다.
만약 트럼프 행정부가 중국과 인공지능에 대한 대화를 시작한다면, 대화의 초점을 인공지능 안전 문제에만 맞추고 수출 통제 문제는 다루지 않겠다는 점을 분명히 해야 합니다.
동시에, 그러한 대화는 강력한 수출 통제를 통해 기존의 모든 허점을 차단하고 미국이 중국에 대한 우위를 극대화하는 "최대 압박" 캠페인과 병행되어야
합니다.
미국과 소련이 서로의 핵무기 개발 프로그램을 지원하지 않았던 것처럼, 미국과 중국도 상대방의 첨단 인공지능 모델 개발을 지원해서는 안 됩니다.
이러한 접근 방식에 대한 유일한 대안은 중국이 인공지능 분야에서 미국을 따라잡을 수 있도록 필요한 도구를 제공하고 중국이 선의로 협력하기를 바라는 것, 또는 세계적인 재앙이 발생하여 중국이 진정한 협력에 나서기를 기다리는 것입니다.
첫 번째는 미국의 안보를 중국의 선의에 거는 도박이고, 두 번째는 베이징의 계산을 바꿀 만큼 끔찍한 재앙에 맡기는 도박입니다.
대화를 통한 최대 압박은 미국의 인공지능 리더십을 유지할 뿐만 아니라 장기적인 인공지능 안보를 확보하는 최선의 방법입니다.
본 글은 전적으로 저자의 견해와 의견을 나타냅니다.
외교협회(Council on Foreign
Relations)는 독립적이고 초당파적인 회원제 조직이자 싱크탱크 및 출판 기관으로서 정책 문제에 대해 어떠한 공식적인 입장도 취하지 않습니다.