큰 기술에 황홀해진 영국의 AI 정상회담은 큰 문제를 간과하고 있다
영국 AI 정상회담, 큰 기술에 황홀해도 간과되는 큰 문제들 존재
세계 지도자들과 테크 기업의 거물들이 현재 AI 안전 정상회의를 위해 남부 잉글랜드로 모여들고 있습니다. 그러나 이 화려한 행사는 모든 이들이 감동받는 것은 아닙니다.
다음 두 날 동안, 약 100명의 거물들이 런던 북쪽으로 약 90km 떨어진 역사적인 블레치리 파크에서 이 행사에 참석할 예정입니다. 제2차 세계 대전 동안, 이 장소는 나치 독일의 악명 높은 엔비그마 암호장치를 해독한 코드브레이커들의 고향이었습니다. 80년이 지난 지금, 영국 정부는 영국이 여전히 테크 슈퍼파워임을 보여주고 싶어하지만 이 계획은 우려를 불러일으켰습니다.
비판자들은 다양한 우려를 품고 있습니다. 그들은 정상회의 주최자들이 “프론티어 AI”, 유명 인물, 먼 미래의 우려에 사로잡혀 비상한 문제들을 간과한다고 걱정하고 있습니다.
일정에 늦게 추가된 경쟁자(?)는 이들의 의심을 더욱 커지게 만들었습니다. 월요일에, 리시 수냑 수상은 자 일론 머스크와 함께 “대화”할 예정이라고 밝혔습니다.
머스크는 유명인들로 가득찬 게스트 명단에 더 많은 광채를 더했습니다.
초청받은 이들 중에는 미국 부통령 카말라 해리스, 유럽 연합 위원회 위원장 우르술라 폰 데어 라이언, 유엔 사무총장 안토니오 구테레스 및 중국 부상 와우 자오후이도 있습니다.
또한, 여러 기술 거물들도 참석하였으며, 이들 중에는 마이크로소프트 사장 브래드 스미스, OpenAI CEO 샘 알트먼, Meta AI 최고경영자 얀 르쿤도 있습니다. 그러나 이 행사는 모든 이에게 열려있지는 않습니다.
“내 두려움은 정상회의가 화제를 끄는 최후의 위협에 초점을 맞출 것이라는 점입니다.
기술 부문의 많은 사람들은 리시 수냑의 회의 테이블에는 오직 거물들과 정치 지도자들만 앉을 것이라고 생각하고 있습니다.
건강 기술 스타트업 옥스포드 면역 알고리즘의 설립자인 헥터 제닐 박사는 이 행사가 생성적 AI와 큰 기술에 지배될 것을 우려하고 있습니다. 그는 리시 수냑에게 상업적이고 학문적인 대표성의 균형을 창출할 것을 요구하였습니다.
“AI 안전 정상회의가 성공으로 평가되거나 적어도 AI 안전, 규제 및 윤리에 대한 합의의 올바른 길로 평가되려면 영국 정부는 이 기술의 미래 사용 사례에 대해 모든 이들이 공평하게 토론할 수 있는 토대를 마련해야 합니다,”라고 제닐은 말했습니다.
“이 정상회의는 특정 계획과 이들의 상업적 이해를 떠나는 기업들에 의해 지배될 수 없습니다. 그렇지 않으면 이번 주의 활동은 비용이 많이 들고, 오도하게 마케팅 운동으로 평가될 것입니다.”
https://twitter.com/RishiSunak/status/1719055211451306003?ref_src=twsrc%5Etfw
제닐의 의견은 이 분야 전반에서 공통적입니다. 그의 우려를 공유하는 산업 내부 인사 중 한 명은 Norwegian 스타트업인 Iris.ai의 CTO 겸 공동 창립자인 빅터 보텁입니다.
Chalmers 대학의 전 AI 연구원이었던 보텁은 회의에 학계와 산업의 더 넓은 대표성을 요구합니다.
“기술 거물들 외에도 꼭 스타트업들의 목소리를 포함해야 합니다. AI 안전 정상회의가 큰 테크 기업에 초점을 맞추고, AI 스타트업 커뮤니티의 많은 사람들을 배제하는 것은 실망스럽습니다,”라고 유럽 벤처 캐피탈 OpenOcean의 총파트너인 에카테리나 알마스크는 말했습니다.
“기술 발전에 직접적인 영향을 미칠 규제를 만들 때 산업의 목소리가 반드시 포함되어야 합니다.”
프론티어 AI 아포칼립스
유명인들로 가득찬 게스트 명단은 그에 걸맞은 드라마틱한 일정과 함께 있습니다. 비판자들은 이 조합이 더 중요한 우려 사항에서 화풀이를 하는 것이라고 말합니다.
그들은 프로그램이 오직 “프론티어” AI 시스템에 전념할 것이라고 지적합니다. 이는 고급 일반 목적 AI 모델을 위한 모호한 용어입니다. 최근 정부 보고서에서 “프론티어 AI”라는 용어는 대부분의 경우 대형 언어 모델 (LLMs) – 특히 OpenAI의 ChatGPT에 적용되었습니다.
Zenil은 이 분야에 투자한 CEO들의 영향을 받았음을 의심하고, 정부가 보다 포괄적인 시각을 취해야 한다고 주장합니다.
“영국이 AI 채택을 위해 은탄환처럼 사용되는 하나의 접근법만이 되지 않기 때문에, 기술의 모든 측면과 다양한 모델을 아우르는 일관된 전략을 가져야 하는 것은 절대적으로 중요합니다”라고 그는 말했습니다.
“블레치리 공원에서 열리는 AI 정상회의와 AI 자문위원회가 특정한 AI 연구 또는 상업적 초점을 가진 개인들에게 지배될 경우, 모든 잠재적 사용 사례를 반영하는 규제 프레임워크를 개발하는 것이 더욱 어려워질 것입니다.”
다른 불안감의 원인은 정상회의가 “극단적인” 가상 위협과 종말 시나리오에 초점을 맞추고 있다는 것입니다. Sunak은 이러한 대재앙적 가능성을 개인적으로 강조하였습니다.
“가장 불가능하지만 극단적인 경우에는 종종 초지능이라고 불리는 AI 유형들을 통해 인류가 AI를 완전히 통제를 잃는 위험조차 존재할 수 있다”고 그는 지난 주 말에 말했습니다.
비판자들은 이러한 종말론적 전망을 지나치게 과장한 것이라 주장합니다. 어떤 사람들은 위험을 과장하는 기술 사장들이 실제로 문제를 감추기 위해 위험을 과장하는 것이라고 이야기하고, 다른 사람들은 매체를 비난하며 위험을 과장시키는 것을 비판합니다.
그들은 기후 변화, 억압된 그룹에 대한 편견, 사이버 공격과 같은 현실적인 위협에 대해 더욱 우려하고 있습니다. 최근 연구에 따르면 Google의 AI가 곧 아일랜드와 같은 양의 전기를 소비할 수 있다는 것을 지적합니다.
OpenOcean의 VC기업인 Almasque는 정상회의의 우선순위가 틀어져 있다고 우려합니다.
“AI 생태계가 번성하기 위해서는 오늘 해야 할 일에 더욱 집중해야 하는데, 정상회의는 주로 AI에서의 장기적 위험에 중점을 두고 있다는 것 같습니다”라고 그녀는 말합니다. “자신의 종속 기금을 조달하기 전에 스타트업이 IPO 가격에 대해 걱정하는 것과 같습니다.”
이러한 우려는 이번 정상회의에 대한 반대 의견을 촉진합니다. 이벤트 직전, Sunak은 그의 계획의 핵심 요소가 새로운 “세계 최초” AI 안전 연구소를 건설하는 것임을 밝혔습니다.
불량한 대학 AI 강사인 브루넬 대학교 런던의 Dr. Asress Gikay는 이 발표에 감동받지 못했습니다. Gikay는 Sunak에게 후리르는 의도가 있다고 의심합니다.
“총리는 국제 합의를 촉진하는 것보다, 국가적 수준에서의 책임 있는 AI를 위한 강력한 정책 및 규제 체계의 개발과 같이 더 급한 문제에 주목할 필요가 있는데, 현실적이고 달성 가능한 이슈보다 현실성 없는 목표로 정치적인 성명을 내놓는 데 초점을 맞추는 것 같습니다”라고 그녀는 말했습니다.
한번의 기회
회의에 대한 회의론도 있지만, AI 정상회의의 가능성에 대해 낙관적인 의견도 있습니다. 유명 인사들의 참석과 국제적인 언론의 주목은 영국이 글로벌 개발에 주요한 역할을 할 수 있다는 가능성을 시사합니다.
영국의 번성하는 AI 산업은 이 행사에 신뢰성을 더해주며, 규제에 대한 혁신적인 접근은 유럽 연합 통치 체제와의 차별화 요소를 제공합니다. 영국의 독특한 국제적 위치는 미국, 유럽 연합 및 중국 사이에서의 다리 역할을 할 수도 있습니다.
텍스트에서 이미지로 변환하는 Stable Diffusion 텍스트-이미지 모델을 개발하는 Stability AI의 CEO인 Emad Mostaque는 정상회의에 대한 유명 지지자들 중 한 명입니다.
“영국은 한 세대 동안 AI 초강대국이 되고, AI가 대형 기술뿐만 아니라 모두에게 혜택을 제공할 수 있는 기회를 갖고 있습니다,” 그는 말했다.
Iris.ai의 공동 창업자인 보테프는 더 조심스럽게 희망적입니다. 그는 정상회의의 잠재력에 대해 긍정적이지만, 정부가 표지 기사를 위해 경솔한 결정을 할 수도 있다는 걱정도 표현했습니다.
“전 세계 AI 커뮤니티가 주목하고 있는 가운데, 영국은 이 유혹에 저항해야 합니다,” 그는 말했습니다. “정상회의는 영국이 안전을 저해하지 않으면서 진척을 보장하는 AI 거버넌스의 글로벌 방향을 제시할 기회입니다. 주의와 지혜를 가지고, 영국은 혁신을 촉진하면서 신뢰를 확립하는 전문적인 규제를 개발할 수 있습니다.”
