전장 AI 회사는 그들 중 하나가 좋은 사람들 중 하나라고 말합니다.
전장 AI 회사 중 하나가 좋은 사람이라고 합니다.
나의 앞에 있는 화면에는 산맥이 보인다. 오른쪽 위 모퉁이에서 내 부대로 다가오는 불길한 노란 점이 있다. 나는 그것이 적의 드론일 것이라 의심하지만, 새나 민간 항공기일 수도 있으므로 원격 카메라에게 그것을 확대해 달라고 요청한다. 몇 초 내에, 그것은 넓은 날개의 군용 드론의 스냅샷을 돌려준다. 들어오는 점은 노란색에서 빨간색으로 변하며 위협을 나타낸다.
이것은 비디오 게임처럼 들릴 수도 있지만, 사실은 그렇지 않다. 이것은 실제 군대에서 사용되도록 설계된 기술이다. 그리고 방위 기술 회사 Helsing AI가 어떤 소프트웨어를 판매하는지를 처음으로 기자에게 보여주는 것이다. Helsing의 주력 시스템은 현대 전쟁에서 사용되는 센서 (전자 광학, 적외선, 음파) 및 무기 시스템 (전투기, 드론, 헬리콥터)에서 생성되는 방대한 양의 데이터를 흡수한다. 그런 다음 알고리즘은 그 정보를 비디오 게임 스타일의 시각화로 추출하여 전장에서 일어나는 사건의 실시간 진행 상황을 보여준다. 내가 보고 있는 것은 Helsing의 시스템을 사용하는 군대에서 일한다면 볼 수 있는 시뮬레이션이다.
토르스텐 라일(Torsten Reil, 49세)은 이 회사의 두 CEO 중 한 명이다. 게임 개발 스튜디오 NaturalMotion을 설립한 경력을 가진 라일은 사용자 경험과 군사 고객을 위한 플랫폼의 직관성에 관심이 있다. 그리고 공동 CEO인 군사 참모 Gundbert Scherf(41세)는 유럽 군대가 어떻게 작동하고 현대화를 위해 무엇을 해야 하는지에 대해 유창하게 이야기한다. 마지막으로 31세인 인하우스 AI 전문가이자 최고 제품 담당자인 니클라스 쾰러(Niklas Köhler)가 있다. 쾰러는 의료 문제를 해결하기 위해 기계 학습을 사용하던 중에 방위 분야의 인물들로부터 접근을 받게 되면서 방향을 바꾸게 되었다. 그는 “드론을 탐지하는 것과 같은 응용은 큰 CT 스캔에서 암을 찾는 방법과 방법적으로는 그리 다르지 않다”고 말한다.
현대 전쟁에서는 매 순간이 중요하다. 그리고 Helsing의 창업자들은 그들의 소프트웨어가 서양 군대에 정보적 우위를 제공할 수 있다고 주장한다. 그들의 시스템은 군인들이 더 빠르고 더 잘 정보화된 결정을 내릴 수 있도록 도와줄 것이며, 전선에서 싸우는 병사들이 지휘소에서 지휘관들이 보는 것과 동일한 정보를 볼 수 있도록 다양한 기기에서 접근 가능하게 될 것이라고 한다. 쾰러는 “지금은 이 모든 것이 수동적으로 이루어진다: 전화 통화, 글을 읽기, 지도에 물건을 그리기”라며 말한다. “몇 개의 시스템이 있는지, 그들이 무엇을 하고 있는지, 그들의 의도는 무엇인지 이것은 AI 문제입니다.”
Helsing는 전쟁을 위한 운영 체제를 구축하려는 첫 번째 회사가 아니다. 군사 종류들은 1990년대부터 이 아이디어를 주장해 왔다. 그러나 전통적인 방위 기업들은 성과를 내지 못하고 있으며, 이에 기술 기업들이 뛰어들 수 있는 기회를 만들었다. Oculus 공동 창업자인 팔머 럭키가 창립한 캘리포니아 기반의 Anduril은 여러 군사 시스템을 연결하는 소프트웨어를 개발했다. 그리고 콜로라도에 본사를 둔 Palantir는 우크라이나 전쟁을 이용하여 자체 군사 AI에 대한 세부 정보를 공개했다. 그러나 Helsing는 이러한 유형의 소프트웨어를 개발하는 유일한 유럽 스타트업이다. 전문가들은 이 회사가 기계 간에 전자 신호를 주고받기 위해 사용되는 보이지 않는 공간인 전자기 스펙트럼을 어떻게 매핑하는지가 주목할 만하다고 말한다.
- 스페인 선거에서 기계식 일자리 종사자들이 극우파와 맞서다
- AI 거물들, 신규 백악관 협약 아래 알고리즘 외부 조사 허용을 약속하다
- AI가 인류를 파괴할 것인지 멍청한 로봇에게 묻지 마세요.
“인공 지능 응용 프로그램을 사용하여 전자기 스펙트럼 주파수의 어떤 부분을 사용할지, 어떤 부분을 방해할지를 분석하는 능력은 극도로 강력한 기술입니다”라고 전략과 국제연구센터(Center for Strategic and International Studies)의 미래 전쟁 고위 연구원인 벤 예센(Ben Jensen)은 말한다.
Helsing가 내게 기술을 보여줄 의향이 있었다는 것 자체가 유럽의 국방 산업에 대한 태도가 회사의 2년 동안의 존재 기간 동안 얼마나 변했는지를 반영한다. Helsing가 2021년에 출시한 동시에 Spotify 창립자 다니엘 엑(Daniel Ek)이 1억 유로(1억 900만 달러)를 투자한 때, 많은 Spotify 사용자들은 그들의 구독 요금이 군수 산업을 지원하는 데 사용된다는 사실에 분노를 표명했다. 그러나 그것은 2022년 2월 우크라이나에 대한 러시아의 전면적인 침공 이전의 일이었으며, 그것은 국방에 대한 대중 태도의 재조정을 일으켰다.
오늘날, 유럽 국가들로부터 우크라이나로는 수십억 달러에 달하는 군사 지원이 흘러들어온다. 스톡홀름 국제평화연구소에 따르면, 유럽 대륙의 군사 지출은 2022년에 “냉전 수준”으로 상승하여 30년 동안 가장 급격한 연간 증가를 보였다. WIRED와 공유된 PitchBook 자료에 따르면, 영국의 방위 기술에 대한 투자는 2021년부터 2022년까지 5억 유로(5억 5000만 달러)에서 10억 유로(11억 달러)로 2배로 증가했다.
“처음에는 낙담할 수도 있었을 것이다”라고 라일은 말한다. 전쟁 전에는 그가 군사 기술을 위한 자금을 모으는 것이 힘들 것이라고 사람들이 말했으며, 그가 필요로 하는 인재를 고용할 수 없을 것이라고 했다. 최고의 엔지니어들은 군사 산업에서 일하지 않을 것이다. “그런 일은 전혀 아니었습니다.”
Helsing은 현재 런던, 파리, 베를린 및 뮌헨에 네 개의 사무실을 두고 220명의 직원을 보유하고 있습니다. 그렇다고 엔지니어를 고용하는 것이 쉬웠던 것은 아닙니다. 켈러는 방위 산업의 동기에 대한 논쟁처럼 들리는 면접 과정에 대해 이야기합니다. “대부분의 사람들은 특히 우크라이나 이전에 방위 산업에 약간의 편견을 가지고 있습니다.” 켈러는 이해합니다. 그는 이전에 자신도 회의적이었다고 말하며 이것은 일부로 독일에 살았던 경험 때문이라고 말합니다. 독일에서는 군대가 나치의 과거와 불쾌한 연관을 일으키기 때문에 대중 의견은 영국보다 더 안 좋습니다. 유럽에서 방위 산업에 대한 태도가 바뀌었다면, 독일에서는 변화되었습니다. 수년 동안 독일은 미국의 방위비 증액 요구에 저항했습니다. 러시아의 침공 후 4개월 후, 독일 의회는 1000억 유로의 군사 개혁을 승인했습니다.
독일은 Helsing이 프랑스와 영국과 함께 군사 계약을 체결한 한 나라에 불과합니다. 그리고 우크라이나 침공 이후로 회사는 Rheinmetall과 Saab 같은 유럽에서 가장 권위있는 방위 계약업체들과도 파트너십 계약을 체결하여 AI를 기존 무기 시스템에 통합하고 있습니다. Reil은 Helsing이 “우크라이나 전쟁에 꽤 많이 개입”하고 있다고 설명하지만 회사가 거기서 무엇을 하고 있는지에 대한 세부 정보는 공유하지 않으며, 직원들이 정기적으로 왕래한다고만 말합니다. WIRED가 우크라이나 정부 관리자에게 Helsing이 우크라이나에서 운영 중인지 확인하도록 요청했을 때, 해당 관리자는 회사가 해당 국가에 “참여”할 계획을 인지했다고 말했습니다. (공식 발언 권한이 없기 때문에 그들의 이름은 비공개로 요청했습니다.)
Helsing의 기업 슬로건은 “민주주의를 위한 AI”입니다. 이는 회사가 러시아와 북한과 같은 독재 정부에는 절대로 판매하지 않겠다는 약속을 나타내기 위한 것이라고 Reil은 말합니다. 그러나 민주주의란 무엇을 의미할까요? 폴란드나 헝가리와 같은 EU 내에서 법관의 독립을 박탈하고 LGBTQ 권리를 탄압하는 정부가 있는 나라에 판매할 것인지에 대한 질문에 대답을 받지 못했습니다.
대신 그 슬로건은 회사가 하는 일보다는 그것을 하는 이유에 대해 더 많은 얘기를 합니다. Helsing의 구인 광고는 이상주의로 가득 차 있으며 “민주적 가치를 보호할 가치가 있는 확신을 갖고 있는 사람”을 요구합니다.
Helsing의 세 명의 창립자는 2014년 크림바 반도의 러시아 침공을 유럽 전체에 대한 대응 준비를 할 필요가 있다는 경고로 이야기합니다. “우리가 개방된 사회에서 주요 기술의 뒤쳐지고 있다는 점에 점점 더 걱정이 되기 시작했습니다,”라고 Reil은 말합니다. 그 감정은 2018년 구글 직원들이 펜타곤과의 거래에 항의하는 것을 보면서 더욱 커졌습니다. 그 거래에서 구글은 군대가 드론 영상을 분석하는 데 AI를 사용하는 데 도와줄 것이었습니다. 4,000명 이상의 직원들이 구글이 군사 감시에 도움을 주는 것은 도덕적으로 책임이 없고 윤리적으로 무책임하다고 주장하는 서한에 서명했습니다. 이에 대해 구글은 계약을 갱신하지 않을 것이라고 밝혔습니다.
“저는 그것의 논리를 이해하지 못했습니다,” Reil은 말합니다. “만약 우리가 개방적이고 자유로운 사회에서 살고 싶다면, 우리가 보호할 수 있어야 합니다. 그것들을 당연시해서는 안 됩니다.” 그는 자원 풍부한 빅테크들이 방위 산업과 협력하지 않을 경우 서양이 불가피하게 뒤처질 것을 걱정했습니다. “만약 그들이 그것을 하지 않는다면, 최고의 구글 엔지니어들이 이 일에 참여하지 않는다면, 누가 해야 할까요?”
방위 제품이 제작자가 말하는 대로 작동하는지 알기는 어렵습니다. Helsing을 포함한 회사들은 제품의 효과를 투명하게 공개하는 것이 효율을 저해할 것이라고 주장합니다. 그러나 우리가 이야기하는 동안, 창립자들은 회사가 민주주의 정권에 맞는 AI를 판매하고자 하는 이미지를 전달하려고 합니다. “우리는 개인 정보와 자유를 매우 중요시하며, 얼굴 인식과 같은 일은 결코 하지 않을 것입니다,”라고 Scherf는 말하며 회사가 군대가 사람들이 아닌 물체를 인식하는 데 도움을 주고자 한다고 주장합니다. “방위 임무에 필요하지 않은 일부는 있습니다.”
그러나 방위와 같은 치명적인 산업에서의 자동화는 여전히 어려운 문제를 야기합니다. Helsing의 시스템이 군대가 대상의 위치를 이해하는 데 도움이 되는 것만 제공한다면 어떤 문제도 일어나지 않을 것이라고 말합니다. Stanford 대학의 국제 안보 협력 센터에서 연구원인 Herbert Lin은 이 시스템이 구축되면 의사 결정자들은 자율 무기와 연결하려는 압력을 받게 될 것이라고 믿습니다. “정책 결정자들은 그런 생각을 저항해야 합니다,” Lin은 말하며, 오류가 발생할 때 사람들이 기계가 아니라 책임을 져야 한다고 덧붙입니다. 만약 AI가 “트랙터 대신 트럭이나 탱크를 파괴한다면, 그것은 나쁜 일입니다. 그 책임을 누가 져야 할까요?”
리엘은 헬싱이 자율 무기를 만들지 않는다고 주장합니다. “우리는 그와 반대로 인간들이 상황을 더 잘 이해할 수 있도록 도와주는 AI 시스템을 만듭니다.”라고 그는 말합니다.
현재 운영자들은 헬싱의 플랫폼을 사용하여 드론을 파괴할 수 있지만, 결정을 내리는 것은 인간이 아니라 AI입니다. 그러나 기계와 밀접하게 협력할 때 인간들이 실제로 얼마나 자율성을 가지고 있는지에 대한 질문이 있습니다. “사용자들이 사용 중인 도구를 충분히 이해하지 못할수록, 그들은 그것들을 마법처럼 다룹니다.” 미국 국가전략연구소의 예센은 말합니다. 이는 군사 사용자들이 AI를 너무 신뢰하거나 너무 믿지 않을 수 있다는 것을 의미한다고 주장합니다.
헬싱은 이러한 우려에 대응하는 방법을 시험하고 있습니다. “모두가 ‘사람이 루프에 있다’라고 말합니다.” 리엘은 말합니다. 이는 최종 결정이 기계가 아닌 사람에 의해 이루어지도록 보장하는 시스템을 묘사하는 용어입니다. 그러나 헬싱은 그 인간들이 단지 “루프에 있다”는 것뿐만 아니라 참여되어 있는지, 정보에 산만하거나 압도되지 않도록 해야 한다고 그는 덧붙입니다. 그 회사는 그를 위해 시스템에 일시 중단을 만들어서 운영자가 자동 조작 상태로 응답하는 것이 아니라 주어진 정보에 대해 생각해볼 수 있는 순간을 만든다고 그는 말합니다. 그리고 그들에게 묻습니다: AI의 추천을 따르고 싶은지 확신이 있습니까?
헬싱의 성공은 지금까지 계약을 보장하고 직원을 고용하는 능력과 함께 유럽의 분위기 변화와 뒤섞여 있습니다. 그리고 현재로서는, 그들이 지역 방위 산업에 소개하는 실리콘밸리적 이상주의가 작동하는 것처럼 보입니다. 회사를 창립할 때, 리엘은 말합니다, 그는 많은 사람들이 자신이 하려는 일에 동의하지 않을 것이라고 준비했습니다. 하지만 심지어 그 자신도 태도가 얼마나 변했는지에 대해 놀라움을 금치 못했다고 말합니다. “양극이 거의 반대로 흔들렸습니다.” 그는 말합니다.
오류 수정 07/20 10:40 ET: 이 기사는 토르스텐 라일과 군드베르트 셰르프가 이제 공동 CEO임을 명확히 하기 위해 업데이트되었습니다.
