더 많은 전장 인공지능은 전쟁의 연기를 더욱 치명적으로 만들 것이다.
More AI on the battlefield will make the fog of war even deadlier.
미국 군대는 한때 무적의 힘은 아니었지만, 스타트업 Scale AI의 CEO인 알렉산드르 왕은 지난 주 의회 위원회에 말하였다. 그는 인공지능을 활용함으로써 새로운 우위를 확립할 수 있다고 말했다.
“우리는 세계에서 가장 큰 군사 하드웨어 함대를 보유하고 있습니다,” 왕은 하원 군사위원회 사이버, 정보기술 및 혁신 소위원회에 말했다. “만약 우리가 이 생성되고 있는 데이터를 적절하게 구성하고 기기화할 수 있다면… 그렇다면 우리는 군사적인 인공지능 사용에 있어서 상당히 극복할 수 없는 데이터 우위를 만들 수 있을 것입니다.”
왕의 회사는 많은 양의 훈련 데이터를 처리하기 위해 군부와 협력하고 있으므로 이러한 비전에 큰 관심을 가지고 있습니다. 하지만 미국 군사 관계자들 사이에는 인공지능과 기계학습의 증가된 사용은 사실상 불가피하고 필수적이라는 확신이 있습니다. 최근에는 중동의 대량의 해양을 효율적으로 감시하기 위해 상판 로봇과 AI 소프트웨어를 사용하는 펜타곤 부대에 대해 기술하였습니다.
국가의 비할 데 없는 군사 데이터 외에도 왕은 의회 청문회에서 미국이 Nvidia와 같은 세계 최고의 AI 칩 제조업체와 세계 최고의 AI 전문가들을 보유하고 있다는 장점을 언급했습니다. “미국은 세계에서 가장 재능 있는 AI 과학자들의 선택의 장소입니다,” 그는 말했습니다.
- 애플 공급업체들, 올해 말 새로운 맥북 준비 중
- 딜 애플의 AirTag 4팩을 $84.99에 ($14 할인) 구입하고 MagSafe 충전기...
- 아마존, 메타, 마이크로소프트, 톰톰이 Google과 Apple Maps에 맞설 준...
왕의 군사 AI에 대한 관심은 Scale AI가 강력한 대형 언어 모델과 ChatGPT와 같은 고급 챗봇의 개발 전선에 있기 때문에 주목할 만합니다.
아직은 ChatGPT를 군사 서비스에 동원하는 것은 아무도 생각하지 않고 있지만, 군사 전략 게임에서 대형 언어 모델을 사용하는 몇 가지 실험이 있었습니다. 하지만 관찰자들은 미국 기업들의 최근 AI 성능 향상을 펜타곤이 활용할 수 있는 또 다른 중요한 장점으로 보고 있습니다. 이 기술이 얼마나 빠르게 발전하고 아직 문제가 있는지 고려할 때, 군사 AI 주변에 필요한 어떤 보호 장치가 필요한지에 대한 새로운 질문이 제기됩니다.
이러한 AI 역량의 증가는 몇몇 사람들의 군사적인 AI 사용에 대한 태도 변화와 함께 이루어지고 있습니다. 2017년에 구글은 펜타곤의 프로젝트 메이븐을 통해 미국 공군이 항공 이미지를 해석하는 데에 도움을 주면서 반발을 일으켰습니다. 그러나 우크라이나의 러시아 침공은 대중과 정치적인 태도가 기술 회사와의 협력을 향해 부드러워지고, 저렴한 자율 드론과 상업용 AI를 통한 데이터 분석의 잠재력을 보여주었습니다. 우크라이나 군은 신경망 딥러닝 알고리즘을 사용하여 항공 이미지와 영상을 분석하고 있습니다. 미국의 팔란티어는 우크라이나에게 표적 소프트웨어를 제공하고 있다고 밝혔습니다. 그리고 러시아는 자율 시스템을 위해 AI에 더욱 집중하고 있습니다.
“킬러 로봇”에 대한 널리 퍼진 두려움에도 불구하고, 이 기술은 아직 신뢰할만한 수준까지 도달하지 못했습니다. 그리고 펜타곤의 AI 야망에 대한 보도 중에는 국방부, 미국 군, AI에 중점을 둔 스타트업에서 완전 자율무기를 도입하려는 열망을 발견하지 못했습니다.
하지만 AI의 더욱 광범위한 사용은 인간이 방정식에서 제외되거나 추상화된 군사적인 상대와의 많은 전투를 만들어낼 것입니다. 그리고 일부 사람들은 AI를 핵무기에 비유하기도 하지만, 더 즉각적인 위험은 군사 AI 시스템의 파괴력보다는 전쟁의 안개를 깊게 하고 인간의 실수 가능성을 높이는 능력입니다.
나는 2015년부터 2018년까지 미국 해군의 해군 작전 참모총장으로 활동한 전역 4성 중장인 존 리처드슨과 이야기를 나누었을 때, 그는 AI가 산업 혁명과 원자 시대와 비슷한 군사력에 미치는 영향에 대해 확신이 있었습니다. 그는 이전 혁명을 가장 잘 활용한 쪽이 지난 두 차례의 세계 대전에서 승리한 쪽이었다고 지적했습니다.
하지만 리처드슨은 강력한 기술에 의해 주도된 군사적 상호작용의 관리에 인간의 연결 역할에 대해서도 얘기했습니다. 해군 참모총장으로서 그는 다른 국가의 함대와의 관계를 알아가기 위해 노력했습니다. “우리가 만나거나 이야기할 때마다, 우리는 서로에 대해 더 나은 이해를 얻었습니다,” 그는 말했습니다. “내가 정말로 하고 싶었던 것은, 뭔가 일어날 경우 – 어떤 잘못된 계산이나 무언가 – 상대방에게 상대적으로 짧은 시간 안에 전화를 걸 수 있도록 하는 것입니다. 그것이 당신의 첫 번째 전화가 되지 않도록 하고 싶지 않습니다.”
이제 세계 군사 지도자들이 AI의 위험과 한계에 대해 이야기하기 시작할 좋은 시기입니다.
