AI와 당신 환각, 대형 기술 회의에서의 AI, 그리고 일자리, 일자리, 일자리
'AI and your delusion, AI in large tech conferences, and jobs, jobs, jobs.
지난 몇 달 동안, 나는 새로운 생성 AI의 어휘에 대해 알아가기 위해 AI 용어집을 읽어 왔습니다. 나는 이 주제에 대해 깊이 파고들고 평균적인 미국인보다 더 많은 지식을 가지고 있을 수도 있지만, 일부 생성 AI와 관련된 핵심 개념들이 널리 알려지고 이해되고 있다고 가정했습니다. 그러나 이번 주 언론 교수와 대화를 나누면서 그것은 사실이 아니라는 것을 알게 되었습니다: AI 도구들이 “환각”하는 경향에 대해 설명하자 그들은 멍하니 나를 바라보며 “그게 무슨 뜻이에요?” 라고 말했습니다.
“환각”은 모든 사람들이 알아야 할 첫 번째 genAI와 관련된 어휘입니다. 간단히 말해, 이는 OpenAI의 ChatGPT와 같은 AI 엔진이 진실이 아닌 것처럼 들리지만 사실이 아닌 것을 만들어 내는 경향이라는 뜻입니다. 실제로, 미국 연방상업위원회는 이번 달 초에 OpenAI에 대해 조사를 시작했는데, 그 이유는 해당 챗봇이 사람들에 대해 거짓된 진술을 할 가능성이 있다는 것입니다. “환각”은 AI 문맥에서 어디서 유래되었을까요? Google DeepMind의 연구원들은 2018년에 이 귀여운 용어를 만들었는데, 그들은 신경망 기계번역 시스템인 NMTs가 “원본 자료와 완전히 상관없는 매우 병적인 번역을 생성하는 취약성을 가지고 있다는 것을 발견했다”고 말했습니다.
원본 자료와 전혀 연결되지 않은 매우 병적인 번역. 나는 엔지니어는 아니지만, 심지어 나도 그 시스템에 심각한 문제가 있다는 것을 알고 있습니다.
대부분의 어휘집은 AI “환각”에 대해 더 직관적인 설명을 제공합니다. NBC 뉴스에서 가져온 이 정의는 다음과 같습니다:
“환각: 환각은 완전히 알려지지 않은 이유로 인해 발생할 수 있는 AI 프로그램의 예상치 못한 잘못된 응답입니다. 언어 모델은 과일 나무를 심는 것에 대해 묻는 동안 갑자기 과일 샐러드 레시피를 언급할 수도 있습니다. 또한 학문적인 인용을 만들거나, 데이터를 분석하는 데 거짓된 정보를 제공하거나, 훈련 데이터에 없는 사건에 대해 사실을 만들 수도 있습니다. 왜 이런 일이 발생하는지는 완전히 이해되지 않았지만, 희소 데이터, 정보 누락 및 잘못된 분류로 인해 발생할 수 있습니다.”
공정성을 위해, 나는 AI에 대해 “환각”이라는 단어가 무엇을 의미하는지 ChatGPT에 물어보기 위해 의견을 요청했습니다. 여기에 그의 응답이 있습니다:
AI 문맥에서 “환각”이라는 용어는 직접 관찰이나 실제 세계 데이터에 기반하지 않은 콘텐츠나 정보를 생성하는 데 비유적으로 사용됩니다. AI 시스템이 “환각”을 한다는 것은 훈련 데이터에서 발견된 특정 패턴이나 특징과 유사하거나 모방하는 출력물을 생성한다는 의미입니다.
“환각”이라는 용어는 AI에 특정한 것이 아니며, 심리학 분야에서 사용되는 용법을 가져온 것입니다. 심리학에서 환각은 외부 자극이 없이 발생하는 지각이나 감각적 경험을 의미합니다. 이러한 지각은 현실에 기반하지 않지만 경험하는 개인에게는 현실로 인식됩니다.
AI 문맥에서는 이 용어가 생성된 출력이 현실에서 벗어나거나 원본 데이터에 존재하지 않는 요소를 도입하는 상황을 묘사하기 위해 사용됩니다. 예를 들어, 이미지 생성 도메인에서 AI 시스템은 실제 개체나 훈련 데이터에서 관찰된 장면과 관련이 없는 초현실적이거나 환상적인 요소를 포함하는 이미지를 생성할 수 있습니다.
“환각”이라는 용어는 AI 시스템이 직접 관측되거나 명시적으로 지시된 것을 넘어서는 출력물을 생성할 수 있는 잠재력을 강조하기 위해 사용됩니다. 이는 AI 알고리즘의 추론, 결합 또는 새로운 패턴 생성 능력을 반영하며, 때로는 예상치 못한 또는 상상력이 풍부한 결과를 초래할 수 있습니다.
내 의견으로는 대화형 AI가 그것이 사실을 만들어 낸다고 말하기 위해 장황하고 얽힌 방식입니다. 더 나은 아는 바가 없다면 ChatGPT도 약간 방어적이라고 할 수 있겠습니다.
다음은 AI 분야에서 주목할 가치가 있는 다른 소식입니다.
미국 노동자들은 AI를 두려워하지 않지만 일자리 침식은 계속됩니다.
Pew Research Center와 McKinsey는 각각 이번 주 AI가 노동자와 일자리에 어떤 영향을 미칠 수 있는지에 대한 보고서를 발표했으며, 아직 많은 미개한 문제들이 남아 있습니다. 두 보고서 모두 읽어볼 만합니다.
피유 연구소에 따르면 미국 노동자들은 “자신의 일자리에 대한 AI의 영향에 대해 걱정보다는 희망적인 면모를 보이는 것 같습니다.”
이 연구는 일부분으로 AI에 노출되는 산업과 노동자를 양적으로 분석하기 위한 것이었습니다. Pew는 일자리를 “인공지능이 가장 중요한 활동을 완전히 수행하거나 도움을 줄 수 있는 경우 AI에 노출되는 정도로 분류했습니다.”
“더 많은 미국인들은 노출된 산업에서 일하는 경우 자신의 직업이 위험에 처해있다고 느끼지 않습니다 – 그들은 개인적으로 인공지능이 도움이 되는 것보다 해가 되는 것보다 더 많이 도움이 될 것이라고 말하는 경향이 있습니다. 예를 들어, 정보 기술 산업에서 일하는 노동자들 중 32%가 자신에게는 인공지능이 도움이 되는 것보다 해가 되는 것보다 더 많이 도움이 될 것이라고 말하고, 11%가 인공지능이 도움이 되는 것보다 해가 되는 것보다 더 많이 해가 되는 것이라고 말한다는 연구 결과가 나왔습니다.”
“인공지능이 일자리를 감소시킬 것인지 여부에 대해서는 여전히 불분명하다고 퓨 연구소는 말했습니다. ‘인공지능은 일을 대체할지 아니면 일을 보완할지를 결정하는 것은 인간들, 즉 이 비즈니스를 운영하는 관리자들의 판단에 달려있을 것이다.’라고 말했습니다.”
“고객 서비스 담당자를 고려해보십시오,” 퓨는 언급했습니다. “증거는 인공지능이 더 강력한 챗봇으로 고객 서비스 담당자를 대체할 수도 있고 생산성을 향상시킬 수도 있다는 것을 보여줍니다. 인공지능은 더 숙련된 노동자들을 위한 새로운 종류의 일자리를 생성할 수도 있습니다 – 마치 인터넷 시대가 웹 개발자와 같은 새로운 직군을 만들어낸 것처럼. 인공지능과 관련된 발전이 고용 수준을 높일 수도 있는 다른 방법은 생산성을 향상시켜 경제에 도움을 주고 전반적으로 더 많은 일자리를 창출하는 것입니다.”
인공지능에 가장 노출된 직업에 대해 얘기할 때, 예상과 다른 점은 있지만 전혀 놀라운 것은 아닙니다. 화재감식과 같은 몇몇 직업은 다른 직업보다 더 직접적으로 손을 사용하는 경향이 있기 때문입니다. 퓨는 여성들보다 남성들이 인공지능과 더 노출되어 있다고 말했습니다.
한편, McKinsey는 “Generative AI and the future of work in America”라는 보고서를 발표했습니다. 그들은 인공지능과 일자리에 대한 영향에 대해 솔직한 평가를 내렸는데, “2030년까지 미국 경제 전반에서 현재 진행 중인 업무 시간의 30%에 해당하는 활동이 자동화될 수 있다. 이는 생성적인 인공지능에 의해 가속화되는 추세입니다.”라고 말했습니다.
하지만 긍정적인 면도 있습니다. “2030년까지 약 1200만 개의 직업 전환이 필요할 수 있습니다. 직업이 줄어드는 동안 경제는 높은 임금의 직업으로 새롭게 비중을 조정할 수 있습니다. 낮은 임금의 직업에서 일하는 노동자들은 가장 높은 임금의 직위에 있는 사람들보다 최대 14배 더 많이 직업을 변경해야할 가능성이 있으며, 대부분은 성공적으로 직업을 변경하기 위해 추가 기술이 필요할 것입니다. 여성들은 남성들보다 새로운 직업으로의 이동이 1.5배 더 필요할 가능성이 있습니다.”
이 모든 것은 McKinsey가 덧붙였듯이, 미국 기업들이 직원들을 훈련하여 변화하는 요구에 대응하고, 시골 지역의 근로자나 장애를 가진 사람들과 같은 간과된 그룹을 새로운 인재로 활용하는 데 도움을 줄 때에 달려있습니다.
이 모든 것이 지금 당장 당신에게 무엇을 의미합니까? 하나는 고용주들이 채용을 돕기 위해 인공지능을 사용하고 있다는 것입니다. 이 AI 채용 도구가 있는 세상에서 취업 활동을 하는 방법에 대한 팁이 필요하다면, ENBLE의 Laura Michelle Davis가 쓴 “The New Age of Hiring”라는 유용한 가이드를 확인해보세요.
대형 기술 기업들의 AI 언급
Google/Alphabet, Microsoft, Meta(이전에는 Facebook로 알려진 회사)가 이번 주 분기 실적을 발표했습니다. 흥미롭고 예상된 것은 CEO 및 기타 임원들의 개회사에서 인공지능이 얼마나 자주 언급되었는지와 월스트리트 분석가들이 묻는 질문에서 AI가 얼마나 자주 언급되었는지였습니다.
Microsoft CEO인 Satya Nadella는 AI를 강화한 Bing 검색 엔진과 비즈니스용 AI 도구를 제공하는 그의 회사에 대해 개회사에서 인공지능을 27번이나 언급했습니다. Google CEO인 Sundar Pichai는 Google의 Bard 및 기타 AI 도구의 성능을 강조하며 AI를 35번 언급했습니다. 그리고 Meta CEO인 Mark Zuckerberg는 AI를 17번 언급했습니다. 가벼운 독서를 원한다면, 스스로 회의 내용을 검토하는 것을 권장합니다.
Zuckerberg로부터는 “팔로우하지 않는 계정에서의 AI 추천 콘텐츠가 페이스북 피드에서 가장 빠르게 성장하는 카테고리가 되었다”는 소식을 들었습니다. 또한 “AI가 앱에서 사람들이 연결하고 표현하는 데 도움이 되는 여러 가지 방법을 상상할 수 있습니다. 콘텐츠를 공유하기 쉽고 재미있게 만드는 창의적인 도구, 비서, 코치로 작동하거나 비즈니스와 창작자와 상호작용하는 데 도움이 되는 에이전트 등입니다. 이러한 새로운 제품은 모바일 앱과 메타버스 모두에서 우리가 하는 모든 것을 개선할 것입니다 – 사람들이 세계와 그 안에 존재하는 아바타와 물체를 만들 수 있게 도와줄 것입니다.”
Nadella는 Bing에 대해 얘기하면서 “OpenAI의 ChatGPT에 대한 기본 검색 경험이 되고 있으며, ChatGPT 사용자에게 신뢰할 수 있는 소스로의 링크와 더 빠른 답변을 제공합니다. 현재까지 Bing 사용자들은 10억 건 이상의 채팅을 하고 Bing 이미지 크리에이터를 통해 7억 5천만 개 이상의 이미지를 생성했습니다.”라고 말했습니다.
Pichai는 AI 기술이 Google 검색을 변형시키고 있다고 언급했습니다. “사용자들의 피드백은 지금까지 매우 긍정적이었습니다,”라고 그는 말했습니다. “현재 사용자들이 우리에게 제시하는 질문에 더 나은 답변을 제공할 수 있을 뿐 아니라 검색이 대답할 수 있는 새로운 유형의 질문을 가능하게 합니다. 예를 들어, 생성적인 인공지능은 사람들이 주제나 프로젝트를 탐색하는 동안 다양한 요소와 개인적인 기호를 고려하여 여러 가지 요인을 조합하고 가중치를 매기는 데 도움을 줄 수 있습니다. 이 새로운 경험은 웹을 탐색하는 또 다른 시작점으로 보며, 사용자들이 주제에 대해 더 깊이 알아가도록 돕는 역할을 할 것입니다.”
인공지능 탐지 기술이 다시 한 번 지연됨
지난 주에는 스탠포드 대학교의 연구자들이 생성적 AI “탐지기”가 AI가 쓴 것과 인간이 쓴 것을 구별할 수 있는지 테스트하기 위해 시작한 ENBLE 이야기를 공유했습니다. 연구자들은 이 탐지기가 효과적이지 않다고 언급하며 소프트웨어가 편향되고 쉽게 속일 수 있다고 지적했습니다.
그래서 교육자들과 다른 사람들은 Open AI, 챗지피티의 창조자,가 AI와 인간 콘텐츠를 감지하는 도구를 개발하고 있다는 1월의 소식에 기쁨을 느꼈습니다. 그러나 Decrypt의 보도에 따르면 OpenAI는 “조용히 AI 탐지 도구를 중단했습니다.
OpenAI는 “7월 20일부로 AI 분류기를 더 이상 제공하지 않기로 결정했습니다. 이유는 “정확도가 매우 낮기 때문입니다. 이 회사는 도구를 처음으로 발표한 블로그 글의 뒷부분에 이 내용을 공유했으며, “텍스트에 대한 보다 효과적인 출처 기술을 위한 피드백 통합과 현재 텍스트가 AI로 생성된 것인지를 이해할 수 있는 메커니즘을 개발하고 배포하는 것을 약속하고 있습니다.”라고 덧붙였습니다.
미국 정부는 계속해서 AI 규제에 대해 논의합니다
상원 원내대표인 찰스 슈머는 AI에 대한 기회와 위험에 대해 상원에 브리핑을 진행하는 세션을 계속하며, 이번 주에 “혁신을 장려하지만 AI가 가질 수 있는 책임을 방지할 수 있는 보호장치를 갖춘 AI 법률을 만들기에 실제로 양당의 관심이 있다”고 말했습니다.
로이터에 따르면 상원은 앞으로 몇 달 동안 더 많은 전문가들을 증언하도록 소집할 것으로 예상되며, 이번 주 초에 양쪽 선거인들이 AI가 “생물학적 공격”을 일으키는 데 사용되는 것에 대해 우려를 표명했습니다. 이미 이것은 공상과학 영화의 플롯이었던 것 같은데, 어떤 영화였는지 기억이 나질 않습니다.
슈머의 전체 발언은 여기에서 확인하실 수 있습니다.
배우와 작가 파업이 계속되는 가운데 할리우드의 AI 인재에 대한 관심이 높아집니다
영화와 AI 플롯에 관해 얘기하자면, 배우와 작가들의 파업이 계속되는 동안 엔터테인먼트 회사들은 “홍보적인 광고 효과에 관심이 없는 것 같이” AI 전문가의 채용공고를 게시했습니다. 이로 인해 창작자들은 스튜디오가 “그들의 유사성이나 목소리를 가져다가 적은 또는 없는 대가와 충분한 통지없이 반복 사용할 것”에 대한 우려로 총파업을 벌였습니다. 할리우드 리포터가 전했습니다.
“거의 모든 스튜디오 소유자들이 콘텐츠, 고객 서비스, 데이터 분석 또는 기타 용도로 AI를 고려하고 있는 것 같습니다.”라며, 디즈니는 “AI 도구가 창조할 수 있는 것의 한계를 넘어서기 위한 야망을 가진 사람과 데이터의 목소리와 디자이너, 작가 또는 예술가의 목소리 사이의 차이를 이해하는 사람”을 위해 18만 달러의 기본 연봉과 보너스 및 기타 보상을 제공한다고 말했습니다.
인터셉트는 90만 달러 연봉의 AI 제품 매니저를 구하는 넷플릭스를 찾았으며, 할리우드 리포터는 아마존이 프라임 비디오를 위한 고위 관리자를 30만 달러까지의 기본 연봉으로 찾고 있다고 전했습니다. 이 관리자는 “콘텐츠의 지역화, 콘텐츠 강화 또는 최신 생성적 AI 및 컴퓨터 비전 기술을 사용하여 콘텐츠에 접근성을 높이는 다음 큰 도전을 정의하는 데 도움이 되는 사람”이 될 것입니다.
우리는 모두 알고 있듯이, AI는 사라지지 않을 것이며, 일자리에도 영향을 미칠 것입니다. 그러나 배우부터 작가까지 어떻게, 언제, 왜 보상을 받을 것인지에 대한 질문은 인간들이 내리는 결정에 달렸습니다.
배우이자 온라인 협력 플랫폼인 힛레코드를 창조하고 창작자들에게 기여금을 지급할 방법을 찾아낸 조셉 고든 레빗은 가치 있는 오피니언 조각을 쓰며 AI는 무언가에 훈련을 받는데 – 그리고 그 무언가는 일반적으로 다른 사람들의 작품이며, 이들 작품에 대해 인정되고 보상받을 필요가 있다고 모두에게 상기시키고 있습니다.
편집자 주: ENBLE은 일부 이야기를 만들기 위해 AI 엔진을 사용하고 있습니다. 자세한 내용은 이 글을 참조하세요.
