선거에 대한 생성적인 AI의 영향에 대비하지 못했습니다.
선거에 대한 AI의 영향을 예측하지 못했습니다.
이 모든 것이 당신에게 울음을 자아내게 만들까요? 음, 조지 워싱턴도 여기서 울었습니다.
조지 워싱턴이 혁명 전쟁을 지원하지 않았다는 얘기를 들어보셨나요?
반란군을 이끄는 장군으로서 활동하면서, 조지 워싱턴은 미국의 독립 전쟁이 잘못되었다고 확신하였습니다. 그는 “우리가 성공할 가치가 있는지 확신하지 못했습니다.”
또한: 어떻게해서 ChatGPT를 거짓말을 하도록 속였나요
1777년에 영국 장군 올리버 디 랜시가 지휘하는 병사가 조지 워싱턴의 소유인 상자를 발견했습니다. 그 상자에는 워싱턴이 직접 쓴 편지들이 들어 있었는데, 그 편지들은 영국과의 화해를 바라는 그의 열망과 심지어 “나는 내 왕을 사랑합니다”라는 내용이 담겨 있었습니다.
- 딜 아마존, 아이패드 미니 6에 최대 170달러 할인, 399.99달러부터 시작
- 지금 코스트코 멤버십에 가입하고 무료 $30 기프트 카드를 받으세요
- GoodNotes 6는 AI 기반의 필기 맞춤법 및 자동완성 기능을 제공합니다.
이 상자는 워싱턴의 하인이자 노예였던 윌리엄 리가 영국에 포획될 때 그의 손에 있었습니다.
여기에 워싱턴 자신도 전쟁을 지원하지 않았다는 명백한 증거가 있었습니다.
몇 년 후인 1795년에 워싱턴은 프랑스와의 제이 조약을 상정하는 데 성공적으로 상원에 청원을 제출하였는데, 이 편지들은 워싱턴의 충성심을 믿을 수 없으며 그가 정말로 민주주의를 중요시하지 않는다는 증거로 인용되었습니다. 이로 인해 제이 조약의 통과가 매우 어려워졌습니다.
그런데… 윌리엄 리는 영국에 의해 포획되지 않았습니다. 사실, 윌리엄 리는 혁명 전쟁 동안 워싱턴의 곁을 떠나지 않았습니다. 이 편지들은 정교하게 위조된 것으로, 18세기의 딥페이크와 같은 존재입니다.
또한: 이 새로운 생성 AI의 규모는 얼마나 큰가요? 인터넷 수준의 혼란을 상상해보세요
이 편지들은 워싱턴을 괴롭히기에 충분히, 그가 직함을 나가는 마지막 행위 중 하나로, 미국 국무장관 티모시 피커링에게 위조품에 대한 반박을 담은 편지를 썼습니다.
조지 워싱턴에서 워싱턴 DC로
2018년으로 빠르게 이동해봅시다. 저는 정치적으로 논란이 있는 주제에 대해 언급하려 합니다. 잠시 정치를 무시하고, 이것들을 디스인포메이션의 존재 예시로 간주하고 주목해주세요. 이 기사의 주제는 디스인포메이션입니다. 디스인포메이션은 모든 당사자에게 해를 입힙니다. 그러나 무엇이 일어나고 있는지 보여주기 위해 실제 예시를 인용해야 합니다. 그리고 그것은 정치인들을 언급해야 한다는 의미입니다.
그러니 시작해봅시다…
예시 1: 크렘린 지원 디스인포메이션 캠페인
2016년 대통령 선거를 조사한 하원 정보위원회는 미국 정치체제를 혼란시키기 위해 고안된 가짜 주장을 포함한 3,500개 이상의 광고 라이브러리를 게시했습니다.
이 광고들은 2015년부터 2017년까지 크렘린 지원의 트롤 농장에 의해 제작되고 구매되었습니다. 구매한 광고 외에도 하원 정보위원회는 러시아의 이익에 의해 생성된 적어도 “80,000개의 유기적인” 소셜 미디어 콘텐츠가 있었다고 밝혔습니다.
예시 2: 술에 취한 행동을 가장한 수정된 동영상
다음으로, 2019년에 스피커 및 하원 의장을 맡은 당시 넨시 펠로시가 말을 더듬고 취한 모습을 보여주는 동영상을 살펴보겠습니다. 이 동영상은 리버럴성향의 “시민의 진보센터” 행사에서 펠로시가 연설하는 영상에서 가져온 것입니다.
이 동영상은 페이스북에서 45,000회 이상 공유되고 23,000개 이상의 댓글을 달았습니다. 그러나 이 영상은 가짜였습니다. 원본 영상은 “소리가 불분명하고 비틀린 듯한” 효과를 내기 위해 편집되었으며, 펠로시가 취한 모습을 연출하기 위해 편집되었습니다.
정치 캠페인에서 생성 AI의 무기화
사진, 동영상, 오디오, 심지어 손으로 쓴 편지까지 모두 정치적인 악질적 수단의 일환으로 오랫동안 위조되어 왔습니다. 위조자의 기술에 따라 품질은 다양하지만, 이러한 실천은 새로운 것이 아닙니다.
또한: ChatGPT는 실제로 어떻게 작동하나요?
그 사실을 기억하면서 생성 AI 시대의 딥페이크에 대한 토론으로 나아가봅시다. 이전에 로널드 레이건 대통령의 주요 연설 작성자였던 페기 눈안, 그녀는 자신의 월스트리트 저널 기사에서 다음과 같이 썼습니다:
거의 모든 모임에서 인공지능에 대해 이야기가 나왔다. 사람들은 AI에 접근할 때 자유롭게 공포감과 함께 현실적인 헌신을 갖고, 삶을 더 나아지게 만들기 위해 무엇을 할 수 있는지 보는 것 같다. 그것은 파도를 막을 수 없는 것처럼 멈출 수 없다. “그것이 암의 깊은 비밀을 해독할지도 모른다”라는 느낌과 “우리에게 역효과를 발휘하여 핵전쟁을 일으킬지도 모른다”라는 느낌이 결합되어 있다.
그 정도면 충분하다. Noonan은 정치적인 계층에 속해 다니면서 이런 발언으로 인해 실제로 정치적인 최고지위층조차 생성적인 AI에 대해 우려를 느끼고 있다는 증거이다.
물론, 그들을 AI 기술을 이용하는 것을 막지는 않는다.
지난 달에는, 플로리다 주지사이자 현재 여론조사 데이터를 기반으로 2위에 랭크된 공화당 대통령 후보인 Ron DeSantis를 지지하는 사람들이 AI 생성 음성을 사용하여 대통령 트럼프를 흉내 내는 광고를 만들어 냈다. 이 광고는 이전 공화당 대통령이 공격하는 모습을 보여주는 것처럼 보이도록 했다.
또한: ChatGPT가 소스와 인용을 제공하는 방법
분명하게 말하면, AI가 말한 단어들은 트럼프가 Truth Social 소셜 미디어 네트워크에 게시한 실제 게시물을 바탕으로 한 것이다. 이 광고는 기술적으로 DeSantis 주지사와 직접적으로 관련이 없는 Never Back Down PAC에 의해 자금이 지원되었다. 그러나 이 PAC는 DeSantis 주지사를 강력하게 지원하고 있다. 아마도 PAC는 기존 대통령의 목소리로 그의 직접적인 단어를 사용하는 것이 선언자가 음성 오버로 하여 말하는 것보다 효과적이거나 현실적이라고 생각했을 것이다.
또 다른 DeSantis에 귀속된 또 다른 광고에서는 트럼프 대통령이 안토니 파우치 박사와 포옹하는 장면이 나온다. 이는 AI 생성 이미지였다. 파우치는 트럼프의 코로나바이러스 작전부 이전 멤버이자 대통령의 전 대처 의료고문이며 40년 가까이 알레르기 및 감염성 질환 국립연구소 소속의 소장이었다. 대다수가 잘 알다시피 파우치는 팬데믹 초기에 갈라지게 된 인물이다. DeSantis 캠페인은 아마도 정치적 이득을 위해 트럼프를 파우치와 연결하려고 한 것으로 보인다.
이 기사의 목적은 정치 광고의 내용을 논의하는 것이 아니다. 대신, AI의 사용과 앞으로의 의미에 초점을 맞추고 있다. 트럼프가 파우치를 포옹하는 이미지가 AI로 생성된 것이라는 점이 주목할 만하다.
3월에는 뉴욕 타임스가 민주당이 기금 모금 메시지 작성을 위해 AI 사용을 테스트하고 있으며, “인간이 완전히 작성한 것보다 효과가 더 좋은 호소문”을 내놓는 것을 설명했다.
또한: 연구자들이 ChatGPT를 깨뜨린 방법과 앞으로의 AI 개발에 대한 의미
타임스는 또한 소셜 미디어에서 중계된 가짜 이미지에 대해 보도했다. 이 이미지는 뉴욕시에서 트럼프 대통령이 체포되는 모습을 보여준다.
AI는 국가 선거에서 힘을 보조할 수 있는 가능성이 분명하지만, 예산이 적어 자원의 창의적인 사용이 더 필요한 캠페인에서 많이 사용될 것으로 예상된다. 인사이더에 보도된 한 캠페인은 토론토 시장 선거였다. 인사이더는 후레이 후보를 대신하여 제작된 캠페인 전단지에 나온 세 개의 팔을 가진 여성의 이미지를 공유했다.
인사이더에서 인용한 원형을 온라인에서 찾아보았을 때, 그들이 기사에서 보여준 사진은 없었다. 아마도 후레이나 그의 캠페인 팀에 의해 이 잘못이 수정되었을 것이다. 그럼에도 불구하고, 후레이는 4위로 도착하며 우승자가 받은 투표의 겨우 조금 더 10% 이상을 얻었다.
따라서, AI가 가짜 이미지를 만들거나 비용을 줄이는 데 도움이 될 수는 있지만, 승리를 보장하지는 않는다. 아무것도 그렇게 할 수 없다.
이 모든 것은 무엇을 의미하는가?
캠페인이 생성적인 AI를 사용한다고 해서 그것을 무기화한다는 것은 아니다. 캠페인에서 생성적인 AI 도구를 사용하는 주요 사용 범주는 4가지가 있으며, 그 중 하나만이 완전히 부정적인 성격을 띠고 있다.
딥페이크와 위조: 이것은 가장 파괴적인 가능성을 가지고 있는 부분이다. 어떤 캠페인이든 정보를 위조할 때마다, 그것은 파괴적이며 악행 범주에 들어간다. 이제 인공지능의 등장으로 가짜 이미지 생성이 더 많은 사람들에게 가능해졌기 때문에, 이를 더 자주 볼 것으로 예상된다 – 캠페인뿐만 아니라 다른 곳에서도.
또한: ChatGPT가 할 수 없는 6가지 (그리고 거부하는 20가지)
광고와 편지 작성을 돕는 것: AI가 캠페인 직원들이 광고와 편지를 작성하는 데 도움을 주는 것을 볼 것이다. 내용이 거짓이거나 왜곡되었을지라도, 그것은 새로운 것이 아니다. AI 생성 전에도 캠페인 종사자들은 문서에서 진실을 굽히고 있었다.
대규모 유관 대상에 대한 콘텐츠의 속도와 맞춤화 증가: 가장 효과적인 캠페인은 종종 잠재 유권자, 특히 잠재 기부자에 대한 깊이 있는 데이터베이스를 갖고 있습니다. 그들은 목록을 구매하고 이전 캠페인 및 다른 후보자들의 데이터를 집계하여 정확히 대상을 타겟팅하는 데 도움이되는 프로파일을 작성하려고 노력합니다. 각 유권자에게 개별적으로 조정된 접근 노력을 대규모로 수행하기 위해 생성적 AI의 사용이 예상됩니다.
트렌드 및 감성 분석을 통한 통찰력 찾기: 이전 글에서는 통찰력을 얻기 위해 데이터 마이닝에 사용되는 AI의 강력함을 보여줬습니다. 캠페인은 종종 기업 수준의 데이터 마이닝 소프트웨어를 사용해왔지만, ChatGPT Plus with Code Interpreter와 같은 도구의 강력함, 사용 편의성 및 상대적으로 낮은 가격으로 인해 이러한 기능이 캠페인의 모든 수준에서 이용 가능해질 것으로 예상됩니다.
또한: 나는 ChatGPT, Bing 및 Bard에게 무엇이 걱정되는지 물었습니다. Google의 AI는 나에게 터미네이터가 되었습니다
연준의 부사장인 Gartner의 부사장 Lawrence Pingree는 이 주제에 대해 몇 가지 통찰력을 더했습니다. 그는 ENBLE에게 다음과 같이 말했습니다.
나는 새로운 가장 큰 위험이 생성적 AI 대형 언어 모델을 자동화로 설계하는 데 있습니다. 그 자동화(예: AutoGPT, BabyAGI)는 목표 지향적인 잘못된 정보 캠페인에 사용될 수 있습니다.
이로써 정치 당이나 국가가 영향력 작전을 수행하는 것이 훨씬 쉬워집니다.
LLM은 또한 딥 페이크 기술과 결합하여 음성 및 영상을 생성 할 수 있습니다. 이러한 유형의 도구를 소셜 미디어로 전달하면 진실을 알고 싶은 유권자들에게 매우 어려운 디지털 환경을 만들 수 있습니다.
캠페인에서 생성적 AI를 살펴볼 때, 실제 영향력은 대통령 선거 캠페인 밖에 있을 것입니다. 결국, 대통령 선거 캠페인은 큰 돈을 가지고 있습니다.
연방 선거위원회에 따르면 “대통령 후보자들은 2019-2020 선거주기 24개월 동안 41억 달러를 모금하고 사용했습니다.” 선거 지출을 추적하는 Open Secrets에 따르면, 평균 우리 상원 후보는 1570만 달러를, 평균 하원 후보는 200만 달러를 2018년 선거에서 사용했습니다.
일부 지방 캠페인은 상대적으로 큰 캠페인 예산을 가지고 있습니다. 예를 들어, 2024년 로스앤젤레스 시의회 및 로스앤젤레스 통합학군 지구 선거를 예로 들면, 2구 시의회 후보인 Adrin Nazarian은 이미 43만 2천 달러를 모았으며, LAUSD 3구 후보인 Janie Dam은 이미 3만 8천 달러를 모았습니다.
이제, LA 2구는 2020년 인구가 793,342 명이었습니다. 전체적으로 LA 군 자체의 인구는 970만 명입니다. 그에 비해, 오리건에 있는 작은 역사적인 시골 마을은 1만 명 미만의 인구를 가지고 있습니다.
또한: 실시간 딥페이크 탐지: 인텔 연구소가 거짓 정보와 싸우기 위해 AI를 사용하는 방법
더 작은 캠페인, 특히 내가 사는 작은 마을 정도의 규모의 캠페인은 대통령 선거 캠페인보다 훨씬 작은 예산을 갖고 있습니다. 생성적 AI 도구는 6자리와 7자리 예산을 가진 캠페인에만 제공되던 분석 도구를 심지어 가장 작은 캠페인에도 제공할 수 있습니다.
따라서 대통령 선거 캠페인이 상대 후보들을 어려운 위치에 놓기 위해 AI를 사용할 것이라고 기대할 수 있습니다 (또는 적어도 그들을 소셜 미디어에서 공유하고자하는 붉은 고기 지지자들이 선택할 수 있도록 그들을 묘사할 것입니다). 생성적 AI의 가장 큰 영향은 티켓의 맨 아래에서 나타날 것으로 예상됩니다.
계속 참고하세요. 왜냐하면 캠페인의 악플은 영원히 존재해왔으며, 이제 모든 사람들이 이를 가해하기에 더욱 쉬운 도구에 액세스 할 수 있기 때문에 그들을 더욱 많이 보게 될 것입니다.
이 모든 것이 당신을 울게 만드나요? 그렇다면 기억하세요: 조지 워싱턴은 여기서 눈물을 흘렸습니다.
일상적인 프로젝트 업데이트는 소셜 미디어에서 따라할 수 있습니다. Substack에서 주간 업데이트 뉴스레터를 구독하고, Twitter에서 @DavidGewirtz, Facebook에서 Facebook.com/DavidGewirtz, Instagram에서 Instagram.com/DavidGewirtz, YouTube에서 YouTube.com/DavidGewirtzTV를 팔로우하세요.
