생성 AI 붐은 새로운 국제 군비 경쟁을 격려할 수 있습니다.
생성 AI 붐은 국제 군비 경쟁을 격려할 수 있습니다.
전 세계 정부들은 ChatGPT에 지능의 징조를 불어넣은 알고리즘을 받아들이기 위해 서두르는 것으로 보인다. 기술로부터 기대되는 거대한 경제적 이익에 매혹되어 있는 것으로 보인다.
이번 주에 발표된 두 개의 보고서는 국가들이 이 기술을 무기로 사용하기 위해 서두르고 있음을 보여준다. 이는 대국간에 문제가 될 수 있는 인공지능 무기 경쟁이 될 수 있다.
미국 정부에 조언을 하는 비영리 시사 연구소 RAND의 연구원들은 정보 작전에 경험이 있는 중국 군사 연구원이 생성적인 AI가 이러한 작업에 도움이 될 수 있다고 공개적으로 논의하는 것을 보여주는 증거를 제시한다. 2023년 1월에 발표된 한 연구 논문은 구글의 BERT의 세밀하게 조정된 버전과 같은 대형 언어 모델을 사용하는 것을 제안한다. 이는 ChatGPT와 같은 챗봇을 구동하는 더 강력하고 능력있는 언어 모델의 전조이다.
“지금은 그러한 일이 진행되고 있는 증거는 없다,”라고 말하는 것은 RAND의 인공지능 전문가이자 시니어 행동 및 사회과학자인 윌리엄 마셀리노는 보고서에 기여했다. “다만 누군가가 ‘여기로 가는 길이 있다’라고 말하는 것뿐이다.” 그와 같은 생성적 AI로 인해 영향력 작전이 새로운 규모와 힘을 얻는 것에 대해 마셀리노와 RAND의 다른 연구원들은 경계심을 표하고 있다. “대만인, 미국인, 독일인인 척 하는 수백만 개의 가짜 계정을 만들어 국가적 이야기를 퍼뜨리는 시스템을 개발하는 것은 질적으로나 양적으로 다릅니다,”라고 말하는 마셀리노는 덧붙였다.
러시아의 인터넷 연구 기관이 2016년 미국 대선에 해를 끼치기 위해 전개한 온라인 정보 작전과 같은 작전은 여러 해 동안 진행되어 왔다. 이러한 작전들은 주로 수작업에 의존해 왔다. 즉, 인간 노동자들이 키보드를 이용해 작업을 수행했다. 그러나 최근 몇 년 동안 개발된 AI 알고리즘은 텍스트, 이미지, 비디오를 대량으로 생산하여 속이거나 설득하거나 심지어 소셜 미디어 플랫폼에서 사람들과 실제로 상호작용하는 데 사용될 수 있다. 최근 프로젝트에 따르면, 그러한 작전을 시작하는 데는 몇백 달러만 소요될 수 있다.
마셀리노와 공저자들은 많은 국가들 – 미국 포함 – 가 생성적 AI를 자신들의 정보 작전에 사용하기 위해 탐구하고 있을 것이라고 언급한다. 또한 많은 오픈 소스 언어 모델을 누구나 얻고 수정할 수 있는 생성적 AI 도구의 널리 퍼짐으로 인해 정보 작전을 시작하려는 모든 사람들에게 진입 장벽이 낮아졌다고 강조한다. 그들은 “기술적으로 유능한 비국가주체들을 포함한 다양한 주체들이 소셜 미디어 조작을 위해 생성적 AI를 사용할 수 있다”고 쓰고 있다.
또 다른 기술에 초점을 맞춘 시사 연구소인 특수 경쟁 연구 프로젝트가 이번 주에 발표한 두 번째 보고서도 생성적 AI가 국가들이 서로 자랑하려는 방법이 될 수 있다고 경고한다. 이 보고서는 미국 정부가 생성적 AI에 대한 투자를 대대적으로 진행해야 한다고 촉구하며, 해당 기술이 첫 번째로 이를 습득한 국가에게 “새로운 군사 능력, 경제 번영 및 문화적 영향력”을 제공할 것으로 약속한다.
RAND 보고서와 마찬가지로 SCSP의 분석도 일부 우울한 결론을 내놓는다. 그는 생성적 AI의 잠재력이 군사적으로 사용하거나 사이버 공격에 사용하기 위해 기술을 적응시키기 위한 무기 경쟁을 유발할 것으로 경고한다. 두 보고서가 모두 맞다면, 우리는 정보 공간에서 어렵게 억제 가능한 무기 경쟁에 직면하게 될 것이다.
정보 전쟁을 위해 프로그래밍된 AI 봇으로 인터넷이 침공당하는 악몽 시나리오를 피하는 방법은 무엇일까? 이는 인간들이 서로 대화를 나누어야 한다는 것을 필요로 한다.
SCSP 보고서는 미국이 “투명성을 증진하고 신뢰를 유발하며 협력을 장려하기 위해 전 세계적인 참여를 주도해야 한다”고 제안한다. RAND 연구원들은 미국과 중국의 외교관들이 생성적 AI와 그 주변의 위험에 대해 논의할 것을 권장한다. “완전히 오염되고 믿을 수 없는 인터넷이 없어지는 것이 우리 모두의 이익이 될 수도 있다고,” 마셀리노는 말한다. 이것은 우리 모두가 동의할 수 있는 것이라고 생각한다.
