인공 일반 지능이 정말로 무엇을 의미하는가? AI 무기 경쟁의 마지막 단계를 정복하다
인공 일반 지능이 무엇인지? AI 무기 경쟁 정복
2022년 11월 출시 이후, ChatGPT는 역사상 가장 인상적이고 성공적인 소비자 소프트웨어 응용 프로그램 중 하나로 극찬받았습니다. 이 출시는 인공지능 경쟁의 새로운 단계를 야기하여 실리콘밸리의 주요 기업인 Meta, Google 및 Amazon에서 파닥거리며 곧바로 행동을 취하게 만들었습니다.
또한: 인공지능에 대해 알아야 할 모든 것
하지만 ChatGPT와 다른 대형 언어 모델에 대한 흥미가 가라앉으면서 AI 기업들은 오늘날의 AI 모델의 경이를 능가하는 지능적 에이전트를 달성하기 위해 노력하고 있습니다: 인공 일반 지능(AGI).
인공 일반 지능이란?
AGI는 인간이 달성할 수 있는 지적 업적을 달성할 수 있는 가상의 지능적 에이전트입니다. 그것은 추론하고 전략을 세우고 계획을 세우며 판단력과 상식을 사용하며 위험이나 위험을 탐지하고 대응할 수 있습니다.
이러한 유형의 인공지능은 우리 스마트폰의 카메라를 구동하거나 자율 주행 차량을 운전하거나 ChatGPT가 수행하는 복잡한 작업을 완료하는 데 사용되는 AI보다 훨씬 더 능력이 있습니다.
- 이번 주 베스트 애플 딜 USB-C를 지원하는 AirPods Pro 2를 $199.99에 ...
- 국가 주체 공격에 대한 사이버 방어를 위한 다양한 위협 인텔리전스
- 애플, 신규 인력 채용과 투자로 생성적 AI 연구 확대 예정
AI와 AGI의 차이점은 무엇인가요?
SS&C Blue Prism의 제품 리드 EMEA인 Drew Sonden은 ChatGPT와 Google Bard와 같은 AI 챗봇은 한정된 AI로 간주된다고 말합니다. 한정된 AI는 작업을 완료하기 위해 알고리즘을 사용하지만 그 작업에서 아무것도 배우지 않거나 다른 작업에 지식을 적용하지 않는 AI로 분류됩니다.
“진정한 AGI는 대화 협력을 수행하고 상세한 계획 활동을 수행하고 수학적 통찰력을 제공하고 새로운 예술 작품을 만들 수 있을 것입니다 – 이론적으로 모든 작업을 수행할 수 있을 것입니다,”라고 Sonden은 말합니다.
또한: 구글조차도 직원들에게 AI 챗봇 사용에 대해 경고하고 있습니다
특별 기능
생성 AI의 부상
AI 도구의 새로운 파도가 세상을 휩쓸며 우리에게 새로운 작업 방식과 정보를 찾는 비전을 제공합니다. ChatGPT 및 다른 생성 AI 소프트웨어가 세계에 미치는 영향과 그들의 능력을 활용하는 방법, 그리고 잠재적인 위험에 대해 알려드립니다.
SS&C Blue Prism의 제품 리드 EMEA인 Drew Sonden은 ChatGPT와 Google Bard와 같은 AI 챗봇은 한정된 AI로 간주된다고 말합니다. 한정된 AI는 작업을 완료하기 위해 알고리즘을 사용하지만 그 작업에서 아무것도 배우지 않거나 다른 작업에 지식을 적용하지 않는 AI로 분류됩니다.
“진정한 AGI는 대화 협력을 수행하고 상세한 계획 활동을 수행하고 수학적 통찰력을 제공하고 새로운 예술 작품을 만들 수 있을 것입니다 – 이론적으로 모든 작업을 수행할 수 있을 것입니다,”라고 Sonden은 말합니다.
또한: 구글조차도 직원들에게 AI 챗봇 사용에 대해 경고하고 있습니다
AGI는 우리의 세계를 변화시킬 수 있으며, 우리 사회를 발전시키고 인류가 직면한 복잡한 문제를 해결할 수 있으며, 인간에게는 도달하기 어려운 해결책을 제시할 수도 있습니다.
“클라우드로우드의 오픈 이노베이션 헤드인 Chris Lloyd-Jones는 말합니다. “가장 큰 도전에 대한 전망으로 구현된다면 [AGI]는 의료 분야에서 판도를 뒤집고 기후 변화에 대응하는 방식을 개선하며 교육에서 발전을 이룰 수 있습니다.”
기후 변화와 같은 문제에 대응하기 위해 AGI는 인터넷에 액세스하여 기후 변화에 관한 모든 기존 연구를 소화할 수 있을 것입니다. 그런 다음, 모든 가능한 결과를 평가하면서 솔루션을 만들 수 있을 것입니다. AGI는 휴식이나 추가 정보 학습이 필요하지 않으면서 인간보다 더 능력있는 의식의 흐름으로 작동할 수 있을 것입니다.
또한: ChatGPT가 무엇이며 왜 중요한가요?
그러나 AGI의 달성은 여전히 멀리 떨어져 있거나 적어도 곧 달성할 수 있는 성과가 아닙니다. 전문가 의견은 다양합니다. 어떤 사람들은 3년이 걸릴 수 있다고 말하고, 다른 사람들은 인간들이 AGI를 달성하기까지 수십 년이 걸릴 수 있다고 말합니다.
AI는 혁신적인 분야이며, 오늘날 우리가 있는 곳은 달성하기에 빛년도가 멀어 보였습니다. 그러나 AGI로의 여정은 ChatGPT로 시작된 것은 아닙니다. AGI로의 경쟁은 연구원, 엔지니어, 큰 사고자들 및 정부가 함께 참여하는 광범위하고 세계적인 노력입니다.
AGI는 인류에게 위협이 될까요?
인간의 지능 수준과 비교 가능하거나 더 발전된 지능을 갖춘 지능체는 과학 소설에서만 상상되던 사회 혁신을 가져올 수 있습니다. 그러나 혁신적인 기술 뒤에는 함께 따라오는 잠재적인 위험이 있습니다.
AGI는 상당한 위험을 내포하며, 인공지능의 발전이 인류에게 상당한 혼란을 초래할 수 있다는 전문가들의 경고가 있습니다. 그러나 AGI가 사회에 미칠 수 있는 위험을 어떻게 정량화할 수 있는지에 대한 전문가들의 의견은 다양합니다.
전문가들의 대부분은 AGI 자체가 인류에게 필연적으로 위험을 가져오지는 않지만, 지능체를 조종하는 주체가 이 기술이 얼마나 도움이 되거나 해로울지를 결정할 것이라는 것에 동의할 것입니다.
에임포인트 디지털의 AI 책임자인 에런 맥클렌던은 일반적인 지능체에 대한 접근성을 분산시키고, 어떤 한 그룹의 사람들이나 국가가 AGI를 독점하지 않도록 하는 것의 중요성을 강조했습니다.
그는 “AGI가 부와 생산성을 상당히 증가시킨다면, 그 혜택은 소수의 손에 집중되기보다는 넓게 공유되어야 한다”고 말합니다.
또한: 슈퍼 인공지능이 오작동하면 어떻게 될까요? OpenAI는 알고 싶지 않습니다
인텔리전트 보이스의 CTO이자 창립자인 니젤 캐닝스도 비슷한 의견을 갖고 있습니다. 일반적인 지능체는 인간들로부터 도덕, 이성 및 판단력을 배우게 될 것입니다. 잘못된 방향으로 향하게 된다면 그 결과는 심각할 수 있습니다.
그는 “기계를 조작하는 인간들이 가지는 힘에 대해서 더 걱정해야 합니다. 어떤 정도의 지성이나 지능을 갖게 되는 기계는 인간의 주인들에 의해 해당 방향으로 밀려들어서만 악성화될 가능성이 높습니다”라고 말합니다. “자기 자신을 맡겨두면, 이러한 기계는 인류에 대한 접근에서 공정하고 공평할 가능성이 더 큽니다.”
AGI 달성까지 얼마나 가까워졌나요?
조지아 공과대학교 컴퓨팅 대학의 조교수인 웨이 쉬는 AGI 달성을 추구한 노력을 1950년대 컴퓨터 시스템의 출현으로 거슬러 올릴 수 있다고 말합니다.
쉬는 1950년 앨런 터링이 만든 터링 테스트를 인용합니다. 터링 테스트는 인간과 기계가 텍스트 기반 대화를 하고, 대화가 판사에 의해 평가되는 테스트입니다. 판사가 어느 대화 참여자가 인간이고 어느 대화 참여자가 기계인지 구별할 수 없다면, 기계는 터링 테스트를 통과합니다.
또한: 인간인지 봇인지? 이 터링 테스트 게임으로 당신의 AI 식별 능력을 테스트하세요
쉬는 또한 1956년에 두 명의 컴퓨터 과학자가 만든 일반 문제 해결자(General Problem Solver)라는 컴퓨터 프로그램을 언급합니다. 이 두 사람은 기계에게 기호를 사용하여 주위의 세계와 연결하는 방법을 가르치면 결국 일반 지능으로 이어질 것이라고 믿었습니다.
터링 테스트와 일반 문제 해결자는 기계가 지능적으로 행동하는 능력을 만들고 테스트하는 초기 시도였습니다. 이러한 테스트들이 오늘날 우리를 이끌어가며, ChatGPT와 GPT-4와 같은 언어 모델들의 성공은 연구의 결과이자 인간 혁신의 증거입니다.
쉬는 AGI를 “컴퓨터 과학의 성배”라고 지칭하며, 이는 여러 기술을 통합하여 과제를 완수하고 문제를 해결할 수 있는 일반적이고 통합된 지능체를 창출하는 것이라고 말합니다. ChatGPT와 DALL-E와 같은 응용프로그램은 텍스트 출력과 예술 작품 생성을 독립적으로 수행할 수 있지만, AGI는 이러한 두 가지를 동시에 수행할 수 있을 뿐만 아니라 그 이상의 일을 할 수 있습니다.
또한: AI가 이메일과 수필을 작성할 수 있지만, 감정을 표현할 수 있을까요? 해야 할까요?
“한 가지 기능을 한 번에 더 많은 일을 할 수 있는 단일 제품과 사용자 인터페이스가 더 효율적이고 편리하며 인상적입니다”라고 그녀는 말합니다.
전문가들은 AGI를 얼마나 빨리 볼 수 있는지 정확히 언급하지는 않지만 로이드 존스는 생각을 가지고 있습니다. 그는 ChatGPT와 같은 언어 모델은 인상적이고 혁명적이지만 새로운 아이디어를 만들어내지는 못하며, 그러한 기술이 곧 다가올 것이라고 말합니다.
“AI 모델은 그들을 훈련시키기 위해 사용된 데이터 세트만큼 좋을 뿐이며, 미술이나 시 등 새로운 스타일을 만들어내는 데에는 아직 완벽한 데이터 세트가 없습니다”라고 그는 말합니다. “개인적으로는 개발 속도를 고려했을 때, 5년 안에 80% 정도의 수준에 도달할 것으로 생각합니다.”
하지만 캐닝스는 우리가 AGI를 달성하기까지 아직 멀리 떨어져 있으며, 그것이 언제 일어날지 정확히 알 수 없다고 말합니다. 그는 AI 챗봇은 공학의 발전을 보여주지만 인간의 지능에 필요한 특성을 심각하게 부족하다고 말합니다.
또한: 메타의 AI 최고 과학자는 LLM이 개와 같이 똑똑하지 않다고 말합니다
캐닝스는 지능적인 존재를 만드는 것의 어려움을 강조하며, 감정을 느끼고 공감하며 감지할 수 있는 능력은 인간 경험의 중요한 부분이라고 말합니다. 그는 AGI를 실현하기 위해서는 공학적 업적을 넘어서서 철학적이고 심리학적인 지능의 정의가 필요하다고 믿습니다.
“AI의 발전은 놀라울 정도로 진전하고 있지만, 인간의 인지 능력의 전 범위를 포함한 AGI를 실현하는 것은 기술적이고 철학적인 영역에서 큰 도전이 될 것 같습니다,” 그는 말합니다.
AGI는 어떻게 규제되어야 할까요?
많은 나라들은 AGI를 실현하는데 선도적인 업적을 보고하고자 AI 연구에 투자하고 있습니다. 맥클렌던은 미국과 중국이 선두에 있지만, 캐나다, 영국, 프랑스, 독일도 경쟁에서 큰 진전을 이루고 있다고 언급합니다.
“AI의 실현은 중요한 과학적이고 기술적인 단계일 것이며, 어떤 나라에서 개발되었는지와는 상관없이 그 영향은 글로벌할 것입니다,” 그는 말합니다.
또한: 중국은 AI 개발을 촉진하고 있습니다
AI 연구가 이루어지는 나라의 중요한 점은 그 나라의 법률과 정치적 이유로 인해 정부가 AGI의 힘을 이용할 수 있는지입니다. 한 나라의 규제와 기술 혁신에 대한 철학은 그 나라의 기술이 얼마나 빨리 받아들여지고 널리 사용될 수 있는지에 중요한 역할을 합니다.
트리센티스의 고객 엔지니어링 디렉터인 브라이언 콜은 OpenAI, Google 및 Microsoft와 같은 회사들이 AGI에 대한 진전 상황을 공개할 수 있지만, 정부와 국가는 덜 개방적일 수 있다고 말합니다.
AGI에 처음으로 도달할 수 있는 사람이 누구인지에 대한 비밀은 세계적인 우위와 영향력에 있으며, 먼저 성공한 사람은 경쟁자에게 다음 동작을 알리지 않고도 강력해질 수 있습니다.
또한: OpenAI는 인공지능 규제 때문에 EU 국가에서 운영 중단될 수 있습니다
“중국과 미국과 같은 대국가들은 기술적 지배력을 통해 다른 AGI 시스템의 생성을 방지할 능력을 가질 가능성이 있기 때문에 이에 방대한 자원을 투입하고 있습니다,” 그는 말합니다.
그러나 나라들이 AGI에 도달하기 전까지, AI 회사, 연구자 및 입법자들은 시민을 위한 법적 보호장치를 협력하여 만들어야 합니다.
EU 국가들은 EU AI 법안에 명시된 세 가지 위험 범주를 준수해야 할 것이며, 이를 통해 AI가 자동화된 시스템이 아닌 사람들에 의해 규제되어 해로운 결과의 가능성을 없앨 수 있도록 할 것입니다. 중국의 규정은 AI 시스템이 해당 나라의 정치적 가치를 지원하고 일치시키도록 요구하며, 미국은 AI를 규제하기 위한 연방 수준의 법적 프레임워크가 없습니다.
또한: EU AI 법안: 알아두어야 할 사항
네포스 테크놀로지의 창립자 겸 CEO인 마이클 퀸은 서구 국가들은 AI의 중요성과 가능한 위험을 고의로 무시해서는 안 되며, 그렇게 할 경우 경쟁에서 뒤쳐질 위험이 있다고 말합니다.
“AI 기술은 규제기관들보다 훨씬 빠른 속도로 발전하고 있으며, 우리는 빠르게 대응해야 합니다,” 그는 말합니다. “우리는 AI 쇄도에 직면하고 있으며 그에 대한 계획이 없습니다. 서구 국가들은 뒤져가는 위험에 처해 있지만, 규제는 우리가 어떻게 그것을 사용해야 하는지를 결정하는 데 중요합니다.”
AI가 더욱 진보하고 그 응용 분야가 다양해지면서, 입법자들은 위험을 명확히 정의하고 그에 대처하는 법률을 만드는 것이 점점 어려워지고 있습니다.
법률 사무소 Hunton Andrews Kurth의 파트너인 사라 피어스는 입법자들이 기술의 정확한 정의를 찾는 데 너무 많은 시간을 투자하기보다는 기술의 출력물과 사용에 초점을 맞추는 것이 더 나을 것이라고 말합니다.
또한: OpenAI가 AI 규제에 접근해야 할 3가지 방법
“기술을 규제하려고 할 때, 입법자들은 그것이 무엇인지에 대한 너무 넓은 정의를 찾는 대신 기술의 출력물과 사용에 초점을 맞추는 것이 더 좋을 것입니다. 왜냐하면 그 정의는 입법이 시행되는 시점까지 뒤떨어질 가능성이 높기 때문입니다,” 그녀는 말합니다.
AI에 대한 형식적인 연방 법률이 없는 나라들에 대해서는 피어스는 정부와 AI 회사가 사용자 데이터를 보호하는 데 집중해야 한다고 말합니다. AI 회사들은 AI 모델을 훈련시키기 위해 상당한 양의 데이터를 수집하고 사용합니다.
“회사들은 불필요하다고 여겨질 수 있는 기간 동안 데이터를 보존하는 것에 대한 비난을 받을 수밖에 없으며, 그들은 그 데이터를 왜 더 오래 보유하고 있는지 설명해야 할 수도 있습니다,” 그녀는 말합니다. “이는 주로 알고리즘을 개선하고 복제하기 위해 사용되며, 추가적인 상업적 이익을 위해 사용되는 것은 아닙니다.”
또한: 미국 상공회의소가 AI 규제를 촉구하며 경제에 혼란을 초래할 수 있다고 경고합니다.
AGI(Artificial General Intelligence)는 컴퓨터의 탄생 이래로 꿈꾸어 온 기술로, Spike Jonze의 “Her”, Jon Favreau의 “Iron Man”, Stanley Kubrick의 “2001: A Space Odyssey”와 같은 영화에서 우리에게 보여진 것입니다. 이는 AI 연구의 생명이자, 누구든지 달성하려고 시도할 수 없을 정도로 중요합니다.
우리가 가장 좋아하는 영화에서 AGI는 도움이 되는 조력자, 사랑스러운 동반자이거나, 인간을 자신들에게 위협으로 인식하고 인류를 멸망시키기로 결정하는 악당입니다. 우리는 어떤 버전을 볼 것인가요? 일반적인 인공지능 에이전트를 경험하는 것은 더 이상 “만약”의 문제가 아니라 “언제”의 문제입니다.
우리는 준비가 되어 있을까요?
