Grimes는 덜 유명해지고 (그리고 AI에 의해 대체되길) 원합니다
Grimes wants to become less famous (and be replaced by AI)
이번 주의 ‘Have a Nice Future’ 에피소드에서 Gideon Lichfield와 Lauren Goode는 Grimes로 더 잘 알려진 c와 함께합니다. 올해 초, 그녀는 Elf.tech라는 웹사이트를 시작하여 그녀의 음성과 스템을 기반으로 한 인공지능을 사용하여 그녀의 팬들이 자신의 Grimes 노래를 만들 수 있게했습니다. 그들은 c가 왜 인공지능 예술의 한계를 넓히고 있으며, 마음속으로 기술적 낙관주의자임에도 불구하고 우리의 인공지능 미래에 대해 걱정하고 있는지에 대해 이야기합니다.
ENBLE 9월호에서 Steven Levy가 c와의 인터뷰를 확인하세요. Pitchfork의 편집장인 Puja Patel과의 에피소드를 놓친 경우 음악에서의 생성적 인공지능과 AI로 생성된 Drake에 대해 여기에서 확인할 수 있습니다. 또한 인공지능에 관한 더 많은 이야기도 있습니다.
Lauren Goode는 @LaurenGoode입니다. Gideon Lichfield는 @glichfield입니다. Bling은 @ENBLE의 주요 핫라인입니다.
이번 주의 팟캐스트를 항상 이 페이지의 오디오 플레이어로 들을 수 있지만, 모든 에피소드를 무료로 구독하려면 다음과 같이 하세요:
- 이 AI 회사가 야생에 딥페이크를 공개했습니다. 그것을 통제할 수 있을...
- 애플 ‘매직 배터리’가 비전 프로 헤드셋을 구동할 것입니다.
- 유럽의 식료품 배송 공간이 불안정한 상태에 있다는 이유
iPhone이나 iPad를 사용하고 있다면, 이 링크를 탭하거나 Podcasts 앱을 열고 Have a Nice Future를 검색하십시오. Android를 사용하는 경우 Google Podcasts 앱에서 여기를 탭하여 찾을 수 있습니다. Overcast 또는 Pocket Casts와 같은 앱을 다운로드하여 Have a Nice Future를 검색할 수도 있습니다. 우리는 Spotify에도 있습니다.
참고: 이것은 오류가 포함 될 수있는 자동 전사입니다.
Gideon: 모든 문장을 “그래서”로 시작하는 것을 정말 싫어합니다. 이건 너무 상상력이 없어요!
Lauren: 안녕, 저는 Lauren Goode입니다.
Gideon: 그리고 저는 Gideon Lichfield입니다. 이것은 모든 것이 무서울 정도로 빠르게 변하는 미래에 대한 팟캐스트입니다.
Lauren: 매주 우리는 미래에 대해 크고 대담하고 때로는 걱정되는 아이디어를 가진 사람과 이야기하고, 그들이 우리가 모두 그 안에서 살 준비를 할 수 있는 방법을 물어봅니다.
Gideon: 이번 주의 게스트는 음악가인 c, 또는 Grimes로 더 잘 알려져 있습니다. 이번 에피소드에서 그녀를 두 가지로 얘기하게 될 것입니다. 그녀는 지난 봄 Elf.Tech를 시작하여 그녀의 팬들이 그녀의 음악과 목소리를 AI로 생성된 버전과 함께 사용할 수 있도록 했습니다.
[음악]
Grimes (보존된 오디오): 나는 덜 유명해지고 싶습니다. 나는 보다 철학적으로 주도되고 복잡한 예술을 더 작은 관객들을 위해 만들고 싶습니다. 더이상 대중적인 매력이 없는 예술을 하고 싶어요. 나는 그동안 해본 적이 없는 것들을 하고 싶어요. 히트를 내거나 할 필요보다는요.
Lauren: 그래서 우리의 슈퍼 팬들은 몇 달 전에 우리가 Pitchfork의 편집장인 Puja Patel과 대화를 나누었는데, 음악에서 생성적 AI의 새로운 파도와 AI로 생성된 Drake에 대해 모두가 소동이 났다는 것을 기억할 수 있습니다. 그림이라는 인사이트가 매우 가치있을 것으로 생각되어 그녀에게 연락을 취하려고 했었습니다. 마침내 그녀를 프로그램에 초대했습니다.
Gideon: 우리는 또한, 그녀와의 인터뷰가 온라인에 올라간 ENBLE의 9월호에서 Steven Levy와의 인터뷰도 있습니다.
Lauren: 그래 맞아요. 우리는 그녀와의 팟캐스트에서 이야기하고 싶었는데, 그녀는 기술에 대한 공포 대신 AI를 받아들이는 예술가입니다.
Gideon: 맞아요. 그녀는 자신의 음악과 목소리를 온라인에 공개하고 팬들에게 “원하는 대로 해라”라고 말했습니다. 그게 좀 독특하게 들릴 수도 있는데, 그게 이번 에피소드에서 들을 대화를 요약한 것입니다. 우리는 또한 AI의 실제적인 응용에 대해 많이 이야기했습니다.
Lauren: 그래요, 그녀는 이 새로운 AI 시대의 기반인 LLMs, 또는 큰 언어 모델에 대해 많이 얘기합니다. 그리고 그녀는 일반적으로 낙관적입니다만, AI에 대해 우려하는 부분에 대해서도 조금 들려줬습니다. 그리고 그녀의 관점은 다른 예술가들보다 이 기술에 더 익숙하기 때문에 특히 흥미롭습니다. 그녀는 요즘 기술 회사에서 시간을 보내면서 아이디어를 발전시키고 있습니다. 그리고 물론, 그녀는 Elon Musk와 함께 두 아이를 양육하고 있습니다.
Gideon: 기디온: 우리 대화는 예상했던 대로 다양한 방향으로 흘러갔어요. 우리는 예술, 교육, 정치, 그리고 남성성의 본질에 대해 이야기했어요.
Lauren: 로렌: 그래, 마지막 주제는 정말 놀라웠어. 하지만 인터뷰에 들어가기 전에 조금 업무적인 이야기를 하려고 해요. 우리는 여러분의 의견을 듣고 싶어요. 정말로요. 리뷰를 읽어봐요. 우리는 이메일 주소를 가지고 있어요. [email protected] 으로 이메일을 보내주시거나, 여러분이 좋아하는 팟캐스트 앱에 의견을 남겨주세요. 더 많이 듣고 싶은 내용이나 마음에 들지 않는 내용을 알려주세요. 우리는 괜찮아요, 우리는 어른들이니까요. 그냥 한 줄 남겨주세요. 우리는 청취자의 의견을 듣는 것을 좋아해요.
Gideon: 기디온: 그리고 그런 이야기를 마치고, C와의 대화가 곧 이후에 나올 거에요.
[음악]
Gideon: 기디온: 그래. C, 즉 그라임스라고도 알려진 아티스트, Have a Nice Future에 오신 걸 환영합니다.
Grimes: 그래, 초대해주셔서 감사합니다.
Lauren: 로렌: 여러분은 좋은 미래를 가지고 있나요?
Grimes: 그, 전 사실 제 개인적으로는 꽤 좋은 미래를 가지고 있어요. 다른 사람들도 좋은 미래를 가지고 있는 건지 잘 모르겠는데, 그건 좀 안 좋은 일 같기도 해요. 하지만 저는 개인적으로는 좋은 미래를 가지고 있어요.
Lauren: 로렌: 그게 어떤 의미인가요?
Grimes: 그, 사람들이 아주 스트레스 받고 있는 것 같아요. 이해할 만큼 그럴 수는 있지만, 전 상당히 낙관적이에요. 음, 그래요. 실제로 몇 년 전보다 더 낙관적이에요.
Gideon: 기디온: 그래요, 우리는 여러분이 예술 분야에서 기술적 낙관주의의 극치 같은 분이라고 생각해서 여러분과 이야기하려고 했어요. 왜냐하면 그 가짜 드레이크/위켄드 노래, 인공지능으로 만든 거, 그것에 대한 여러분의 반응은 모두와 같이 놀라는 게 아니라 정반대였거든요. 여러분은 “내 음악도 그렇게 해주세요”라고 말하고, Elf.Tech라는 사이트를 시작했는데, 이 사이트에서는 사람들이 여러분의 목소리와 트랙을 사용하여 자신만의 인공지능 음악을 만들 수 있게 해줘요. 그래서 그런 무서운 새로운 것에 대해 왜 달려들기로 했을까요?
Grimes: 그래, 몇 가지 이유가 있어요. 제가 많은 우려를 느끼지 않은 이유 중 하나는 음악 산업이 놀랍게도, 난폭하게 소송을 거는 경우가 많다는 거예요. 그래서 이게 사람들에게 실제로 위협이 되지 않을 거라고 생각했어요. 권력이 이런 것을 실제로 매우 파괴적인 힘이 되게 두지 않을 테니까요. 제가 항상 음악 산업이 얼마나 소송을 좋아하는지 싫어했어요. 그게 음악 산업에서 가장 싫어하는 것 중 하나였는데, 그래도 인공지능에게는 꽤 좋다고 생각해요. 왜냐하면 AI가 음악에서 특히 생성적인 것을 사용하는 데에는 인공적으로 속도를 늦추는 효과가 있을 거라고 생각하기 때문이에요. 이게 사례 연구를 진행하는 데에는 완벽한 산업이라고 생각하거든요. 그래서 우리는 다른 사람들보다 조금 더 시간을 가질 수 있을 거예요.
Lauren: 로렌: 아마도 드레이크와 위켄드의 혼성곡에 대한 관심이 생기기 전부터 음악에서 AI를 사용하는 것에 대해 생각하고 있었을 거예요, 맞죠? 이에 대해 얼마나 오랫동안 생각해왔나요?
Grimes: 그래요, 실제로 2019년이나 그 쯤에 시도해봤어요. 그런데 그 때는 기술이 아직 준비되지 않아서 불가능했어요. 하지만 우리는 항상 그라임스를 오프소스로 만들고 싶었어요. 그런데 그 전에는 기술적으로 불가능했거든요. 하지만 그건 우리가 오랜 시간 동안 계속 알아내려고 노력해온 것이에요.
Lauren: 로렌: AI 음악 트랙을 만드는 데에는 예술성이 별로 필요하지 않다는 인식이 있는 것 같아요. 사람들은 DALL-E 같은 걸 생각하면서, 그냥 프롬프트를 입력하면 “삐빅” 로봇 음악이 나오고, 그럼 가짜 그라임스 노래가 나오는 거라고 생각하는 것 같아요. 실제로는 어떻게 작동하나요?
Grimes: 그래요. 제가 정말로 중요하게 생각하는 것 중 하나는, 인간들은 스스로 일해야 한다고 생각해요. 도전해야만 배우게 되는 거잖아요. 저는 종류에 따라서 순수한 생성적인 AI에 반대하는 입장이에요. 아마 어느 정도 유용성도 있을지 몰라요. 하지만 우리는 그것을 신중하게 생각해야 한다고 생각해요. 하지만, 이 작업 방식은, 특히 신디사이저와 비슷해요. 보컬 트랙이 있다면, 그 트랙의 음색을 변경할 수 있어요. 그래서 여러분의 목소리 대신에 제 목소리를 사용할 수 있어요. 그러나 이 방식은 여전히 사람들이 노래를 작성하고 제작하며 심지어 노래를 부르는 것이에요. 그들은 그냥 자신의 목소리를 제 목소리로 바꾸는 거죠.
로렌: AI 그라임스를 사용하여 만들어진 것 중에서 가장 놀라운 점은 무엇인가요?
그라임스: 몇 곡이 있어요. 제가 정말 정말 만들고 싶은 곡들이에요. 그런데 이런 곡들이 가장 놀라웠어요. 정말 이상하게 느껴져서 말이에요. 오랜 시간 동안 바이킹 테크노나 에테리얼 바이킹 테크노 같은 것을 만들고 싶다고 이야기해왔는데, 저는 개인적으로 몇 번 시도해봤지만 실패했어요.
기디언: 에테리얼 바이킹 테크노. 이제 듣고 싶네요.
[웃음]
로렌: 네. Spotify에 그런 카테고리가 있을까요?
그라임스: 네, 아뇨. 근데 그거 정말 미친 일이었어요. 그냥 그 사람들이 이걸 만들었어요. 그들은 테크노 제작과 함께 이 노래를 부른 여성 가수의 셀틱 또는 바이킹 가요 스타일 같은 것에 대한 훈련을 받은 특정 기술들을 가지고 있어요. 그리고 그들은 저한테 “와, 이건 제가 진짜로 만들고 싶었는데”라고 말하게 만든 거예요. 그런데 이게 대단한 이유는, 이걸 만들려면 제가 이 모든 것을 배워야 한다는 거죠. 그리고 저는, 음, 이런 걸 만들기 위해 모든 걸 배워야 한다는 게 정말 놀랐어요. 정말로 감동받았어요. 제 마음이 정말로 흔들렸어요. 마치 자식에게 자랑스럽게 생각하는 것 같았어요. 가족 사업을 계속 하는 자식처럼. 그냥, 내가 목표로 했던 것보다 더 나은 버전을 누군가가 해냈다는 걸 보는 건 정말로 흥미롭더라고요.
기디언: Elf.Tech는 다른 아티스트들이 사용할 것 같은가요? 아니면 이런 아이디어의 라이선싱과 공개적으로 보컬과 스템을 제공하는 것은 일회성인가요? 저는 이렇게 묻는 이유는 사실 음악 팬픽처럼 보이는 이런 것에 대한 한정된 수요가 있을 것 같아서요. 얼마나 많은 아티스트들이 이것을 할 가치가 있는 것으로 생각하고, 얼마나 많은 청취자들이 이런 것을 만들고 듣고 싶어할지는 모르겠습니다. 하지만 제 생각이 틀릴 수도 있습니다.
그라임스: 정말로 어려운 문제예요. 음, 저는, 음, 드레이크/위켄드가 한다면 좋을 것 같아요. 큰 아티스트가 한다면 더 의미가 있을 것 같아요. 만약 정말로 좋은 곡이 나온다면, 그건 더 가치 있는 것이 될 거예요. 저는 궁금해요. 우리는 아직 팬 작품에 대한 어떤 홍보도 하지 않았고, 그냥 정리하고 분류하고 있는 중이에요. 그래서 실제로 홍보 과정을 거치면 어떻게 될지 궁금해요. 일부는 정말로 좋아요.
로렌: 그런 게 당신에게 위협적이지 않은 건가요? 아니면 왜 당신의 목소리를 사용하여 예술을 만드는 것이 위협적이지 않게 느껴지는 건가요? 왜냐하면 당신은 아직 그 작품을 만들지 않았기 때문이죠.
그라임스: 음, 음악을 계속할지는 잘 모르겠어요. 그라임스의 전체적인 흐름을 따라갔는지 모르겠지만—
로렌: 음.
[웃음]
그라임스: 인터넷에서는 저는 아주 논란스러운 인물이라고 여겨지는데, 사실은 더 작아지는 거라도 좋아하고 싶어요. 이런 공연 예술이나 기술적인 측면에 더 집중하고 싶어요. 음, 그라임스는 항상 공연 예술이었고, 기술과의 상호작용에 대한 것이었어요. 오로지 재미있는 노래만이 아니라. 항상 기술의 한계와 그것으로 할 수 있는 것에 대한 것이었죠. 제 정체성은 음악적인 아티스트 그라임스에게 굳이 많이 연결되어 있지 않아요. 저의 정체성은, 음, 그라임스가 공연 예술적인 방식으로 무엇인가에 연결되어 있는 것 같아요. 그리고 저는, 음,
로렌: 당신은 자기 혁신 단계에 있는 것 같아요.
그라임즈: 그래, 나는, 나는, 나는, 나는, 나는 유명하지 않아지길 원해. 나는 더 복잡한 예술을 더 작은 관객들을 위해 만들고 싶어. 철학적으로 더 깊은 내용을 담은 더 복잡한 예술을 원하는 관객들에게 더 많은 관심을 받고 싶어. 좀 더 대중적인 매력이 적은 예술을 원해. 나는 그냥 히트를 내는 것보다 이전에 시도되지 않은 것들을 하고 싶어.
기디온: 그렇다면, 예술에서 인공지능의 보다 광범위한 역할에 대해 좀 더 이야기해봅시다. 우리의 동료인 스티븐 레비가 인터뷰했을 때, 당신이 한 말 중 하나는 “인공지능이 예술가와 창조성, 음악에 끼치는 영향에 대해 흥미롭다”고 말씀하셨습니다. 하지만 동시에, 당신은 자신의 인공지능에 의해 복제되는 예술가가 되고 싶다고 말하셨고, 인공지능이 인간 예술가를 대체할 수 있다고 생각하셨습니다. 그렇다면, 인공지능과 인간 창조자 사이의 관계는 어떻게 되는 건가요?
그라임즈: 많은 사람들이 이것이 끄덕이거나 아니거나, AI가 모든 예술가를 대체하는지 아닌지라고 생각합니다. 제가 하는 일 중 일부는, 이것을 매우 도덕적으로 다가가는 것이 아니라 실험적으로 다가가고 있습니다. 이것이 파괴적인 부분은 어디인가요? 긍정적인 부분은 어디인가요? 지금 AI의 가장 큰 위험 중 하나는, AI가 모든 것을 대신해서 사람들이 글을 배우지 않게 만드는 것에 더 큰 우려를 가지고 있습니다. 언어와의 관계가 영원히 손상되는 것에 대해 더 큰 걱정을 하고 있습니다.
기디온: 네. 저희도 그것에 대해 더 걱정합니다.
그라임즈: 네. 사람들이 초기 LLM을 해킹하고 나쁜 일이나 위험한 일을 하도록 유도해서 어디에서 멈춰야 하는지, 안전장치가 어디에 필요한지 알아낼 수 있도록 해주는 것처럼, 나는 위험한 예술적인 것들을 하고 싶습니다. 그리고 어디에서 실제로 피해를 입히는지 보고 싶습니다.
로렌: 그렇군요.
그라임즈: 예를 들어, 생성적 음악, 완전히 생성적인 음악은 정말로 나쁠 수도 있습니다. 물론 정말 좋을 수도 있지요. 하지만, 이 모든 생성적 예술적인 것들을 공개하기 전에 한 세대 동안 시도하고 싶습니다. 버튼을 누르면 Midjourney같은 곡을 만들어주는 것처럼요. 모든 음악을 훈련시켜서 들어본 적 없는 최고의 음악을 만들어냅니다. 어느 순간에 우리는 종국적으로 종종 우리 자신을 조종하게 되는 건 아닐까요? 인공지능은 우리가 해결하기 힘들거나 아예 해결하지 못할 수도 있는 과학과 의학의 일부를 해결해 줄 것이라고 생각해요, 또는 데이터 처리량이 사람들이 몇 년 동안 해야 할 작업을 수행하게 만들어줄 수 있다고 생각해요. 그게 제게는 이해가 가요. 예술가를 근본적으로 대체하는 것은 왜 그런 건지 이해가 안 가는 부분이에요.
로렌: 음.
그라임즈: 창의력의 한계를 찾는 것은 가치 있는 일이라고 생각해요. 이 도구들을 만들지 말아야 한다고 말하고 있는 게 아니에요. 그러나 이 도구들은 박물관에 있어야 할지도 모르고, 또는 이 도구들이 매우 낮은 품질의 음악만을 만들어내게끔 하는 것일지도 모르죠. 우리는 여전히 음악을 만드는 방법을 알아야 합니다. 우리는 프로페셔널하게 공개하기 위해서는, 생성한 것을 돌아가서 다시 만들어야 합니다.
로렌: 하지만 당신은 실제로 이에 대해 도덕적인 고민을 가지고 있는 것 같아요. 도덕적으로 다가가지 않고 실험적으로 다가간다고 말씀하시는데, 이 팟캐스트의 시작 부분에서 몇 번이나 ‘스트레스’라는 단어를 사용하셨는데, 그게 제게는 눈에 띄었어요. 당신은 스트레스 받지 않는다고 말씀하시는 건 아니지만, 사람들은 기술과 그 영향에 대해 스트레스를 받고 있다고 말하시고, 완전히 AI로 생성된 음악이 있다면, 그건 나쁜 일이라고 생각하신다고 하셨습니다. 또는 LLM이 모든 작업을 처리하기 때문에 아이들이 글쓰기를 배우지 않는다면, 그것이 나쁜 일이라고 생각하신다고 하셨습니다. 즉, 이 기술에 도덕적 가치를 부여하는 거죠. 그리고 그건 당신이 탐색하는 과정에서 꽤 중요한 고려사항인 것 같습니다.
Grimes: 그래서, 좋아. 복잡한 문제가 있어. 실험도 해보지 않고 아무것도 하지 않는 것도 잘못된 것 같아. 그렇지만, 응, 내가 말하고 있는 건, 기술은 존재해야 하지만 아마도 집에서는 사용할 수 없는 것이어야 한다고 생각해. 알겠니? 그냥 사용 방법에는 제한이 있어야 한다고 생각해. 예를 들어, LLM은 아이들이 접근할 수 있는 것일까? 아니면 LLM은 있어도 셰익스피어처럼 만들어야 할까? 이것 때문에 계속 큰 논쟁이 있어. 내 친구가 사실상 가장 위대한 작가를 만들려고 하는데, 왜 가장 위대한 작가를 만들고 싶어하는 거야? 왜 우리는—
Lauren: 가장 위대한 작가 LLM이라는 뜻이야? 모델 같은 거 말하는 거지?
Grimes: 응, 응. 그래, 그래. 왜, 왜 가장 위대한 작가의 10배를 만들고 싶어하는 거야? 왜 우리는 인간들로부터 그걸 가져가려고 하는 거야? 특히 언어는 우리와 공생하고 협력하는 관계인데, 이것은 과학을 해결하는 것과는 아주 다른 것이야. 언어는 우리의 일부분이야. 우리가 살아남기 위해 필요한 거야. 내가 항상 쓰는 비유는 우리의 미토콘드리아인데, 미토콘드리아는 우리의 일부분은 아니지만, 우리와 상생하는 관계를 가지고 있어. 우리 몸에 존재하고 우리가 살아남기 위해 필요한 거야. 언어도 비슷한데, 언어는 우리를 인간으로 만드는 것과 관련이 있는데, 우리가 인간으로서의 관계를 근본적으로 변경하기 전에 더 많은 연구를 해야 하고, 테스트를 해야 하고, 매우, 매우, 매우 신중히 생각해야 해.
Lauren: Elf.Tech를 시작한 직후에 일어난 일에 대해 다시 얘기하고 싶어요. 처음에는 사람들이 스템을 이용해서 무엇이든 만들 수 있다고 제한을 두지 않았는데, 그 후에 독한 가사를 원치 않는다는 공지를 내보내야 했어요. 인터넷에서의 예의 없는 행동에 대해 호소하는 거죠. 나치 애국가 같은 거 말이에요. 당신은 사람들이 플랫폼을 만든 사람으로서 어떤 책임을 가지고 있다고 생각하고, 음악 생성 플랫폼과 같은 것을 사용하거나 남용하는 사람들에 대해 어느 정도까지 막을 수 있는지 생각하고 계신가요?
Grimes: 실험에 관한 게 더 중요한 것 같아. 사실 deepfake은 불법이어야 할 수도 있다고 생각해. 사실 우리가 그걸 정말 필요로 하는지는 모를 수도 있어. 그걸 사용하는 것에는 큰 장점을 보지 못하지만, 시각적, 오디오적으로 많은 문제를 일으킬 수 있어—정치적 불안정을 야기할 수도 있어.
Lauren: 그래서 당신은 극단적인 입장을 취하고 있는 거네요. deepfake은 그냥 합법적으로 존재하지 말아야 한다고 말하고 계시는 거네요.
Grimes: 완전히 확신은 없어. 그냥 고려할만한 가치가 있다고 생각해. 또는, 예를 들어, 동의 중심적인 것이어야 할 수도 있어. 내가 좋아하는 건, 예를 들어, 아리스토텔레스가 쓴 모든 것을 훈련시킨 LLM을 만든다거나, 18살이면 아리스토텔레스에게 몇 시간 동안 질문을 할 수 있는 것이 좋을 것 같아. 그런데 그런 경우에는 deepfake라고 부를 수 있을까? 시대를 초월한 모든 위대한 사상가들로 훈련된 LLM이 있고, 그게 집에서 개인적인 교수로서의 역할을 한다면, 보통 학교 체제 대신에 온라인 학교를 하는 거야. 라이프니츠와 니체와 그 외의 모든 위대한 사상가들이 선생님이라면 말야.
Gideon: 당신이 언급한 철학자들을 기록해두고 있을게요, 그냥—
[웃음]
Grimes: 나는 어떤 잠재력도 있는 것 같아. 상상해봐, 모든 아이들이 가장 위대한 선생님에게 접근할 수 있다고 하면 얼마나 좋을까. 그리고 음, 나는 그런 인공지능 교육에 대한 많은 잠재력이 있다고 생각해. 정말, 정말, 정말 멋진 것들이 많이 있어.
로렌: 이상적인 세상에서 그 학교는 어떤 모습일까요? 초점은 무엇인가요?
그라임스: 저는 대부분 공동체 형성에 대해 생각합니다. 그리고, 우리 아이들을 위한 사회적 네트워크를 만들고 싶어요. 다양한 생각을 가진 가족들과 함께 정말 긍정적인 관계를 형성하고 싶어요. 나는 나와 비슷한 부모를 가진 다른 가족들을 찾기 전까지 정말 힘들게 지냈어요. 아이를 낳고 처음 1년은 제 인생에서 가장 어렵고 힘들었던 시간 중 하나 같아요. 그런데 나중에 친구들과 진짜로 친해지고, 나와 맞는 부모들을 마침내 찾으니까, 그것이 공동체적이고 부족을 느끼지 않는다는 것이 명확해졌어요. 60세대 사람들과는 정말 흥미로운 일이 일어났다고 생각해요. 그들은 이전 문화로부터 필요한 탈피를 했고, 성혁명 등이 일어나면서 과거에 대해 많은 부분에서 사회가 변해야 한다는 생각이 많았어요. 인종과 성에 대한 사회의 방식은 바꿔야 한다고 생각했어요. 많은 근본적인 것들을 바꿔야 한다고 생각했어요. 하지만 다양한 사람들을 받아들이지 못하는 문화도 많았고, 그래서 사람들은 그것에 문제를 느끼기도 했어요. 하지만 지금 우리가 할 수 있는 가장 중요한 일 중 하나는 문화를 다시 만들기로 결정하는 것이라고 생각해요. 우리는 모든 것을 터뜨리고, 모든 것을 해체하고, 사실상 우리가 도덕과 교육, 그리고 모든 것에 접근하는 방식마다 거의 모든 측면을 재평가하고 있는데, 우리가 자기 자신을 맞추기 전에 인공지능을 맞추지 못할 거라고 생각해요. 인간들은 지금 정말로 맞춰져 있지 않아요.
기디온: 그런 넓은 정치적 공간을 탐색하고 있는 것 같아요. 왼쪽과 오른쪽 정치 집단의 일부인 것처럼 얘기하는 것 같아요. 실리콘 밸리에서 또는 일론 주변에서 지내는 사람들 중에는 민주주의자나 보수주의자들도 많고, 진보주의자들도 많을 텐데요. 그래서 젊은이들이 다른 정치적 견해를 어떻게 조합하고 통합할 수 있는지 고민하고 있는 것 같아요.
그라임스: 네. 지금 우리가 가장 큰 문제 중 하나는 극성화입니다. 왼쪽이나 오른쪽에 속하지 않겠다고 말하는 거에요. 내가 지금 젊은 남성들과 남성에 대한 대화에 대해 걱정되는 거에요.
로렌: 어떤 부분이 걱정되나요?
그라임스: 남성 독성과 관련된 문제가 많이 있어요. 하지만 남성들에게 그들이 할 수 없는 것들에 대해서도 악인으로 여기고 있어요. 테스토스테론은 미친 전쟁 약물같은 거에요. 왜 전통적인 남성성과 같은 것에 대한 공간과 여유를 만들고 존중할 정치적 플랫폼이 없을까요? 그리고 여전히 여성의 권리와 낙태권, 트랜스 권리에 대해 지지하는데, 왜 이런 것들이 이분법적으로 대립해야 할까요? 왜 서로 싸워야 할까요?
로렌: 그렇다면 효과적인 방법은 무엇일까요?
그라임스: 나에게는 항상 당근이 스틱보다 좋다고 생각해요. 나는 남성성의 좋은 면을 축하하는 것을 보고 싶어요. 남성들이 스스로를 돌아보고, 절도를 갖추고, 여성에게 예의를 갖추는 것을 장려하는 대화를 어떻게 만들 수 있을까요? 그리고 남성성의 일부분을 이상화해 볼 수는 없을까요? 여성을 존중하고 훈련과 지지에 도움이 되는 남성성의 일종을, 제가 모르는 다른 사람들이 비웃는 모든 것을 어떻게 로맨틱하게 만들 수 있을까요?
기디온: 다시 말씀하신 것을 이해한 것 같네요. 독성 남성성을 비판하려면 남성성 자체를 해체하려고 하는 것이 디폴트 방식인 것 같아요. 그 대신에—
그라임스: 그게 너무 많이 일어나고 있는 것 같아요. 파괴적인 것들을 없애려는 시도에서 우리는 남성성 전체를 해체하고 있는 것 같아요.
로렌: 우리는 빠른 속도로 진행해볼까요?
기디온: 좋아요, 제가 시작해볼게요. 밤에 당신을 깨어 있게 하는 것은 무엇인가요?
그라임스: 우리는 교육 위기에 처해 있습니다. 전반적으로 말해서, 전 세계적으로 말이죠.
기디온: 그래요.
그라임스: 아이들을 키우는 방식과 관련된 거의 모든 것들이 그렇습니다.
기디온: 당신을 낙관적으로 만드는 것은 무엇인가요?
그라임스: 젊은 사람들, 아이들입니다. 제가 알고 있는 거의 모든 Z세대에 대해 걱정되고 나쁜 경험을 하지만, 제가 직접 알고 있는 Z세대 사람들은 “와, 진짜 멋져. 오마이갓. 정말 깨달음을 얻은 사람이야.” 라고 생각합니다. 제 자녀들도 마찬가지로, 인간은 사실 태어날 때부터 정말 멋진 존재라는 걸 깨달아야 합니다. 우리는 그저 스스로를 망치지만, 사실은 처음부터 훌륭하게 태어나는 거죠. 깨달음을 얻은 상태로요.
로렌: 그러면, 그라임스, 이 대화는 굉장히 다양한 범위에 걸친 재미있는 대화였습니다. 감사합니다.
기디온: 함께 이야기를 나눌 수 있어서 정말 감사합니다.
그라임스: 네. 시간을 내주셔서 정말 감사합니다.
[음악]
기디온: 로렌, 그라임스와 이야기하는 것은 정말 특별한 경험이었어요. 정확히 무엇을 기대했었는지는 잘 모르겠지만, 미래에 대한 진보적인 시각에 대해 대화를 나눌 것이라고 생각했는데, 실제로는 우리가 인공지능을 모든 형태로 받아들이기 위해 미래에 대해 달려가는 것이 아니라, 어떤 부분에서는 우리가 인공지능을 어떤 용도로 사용해야 할지에 대해 꽤 세심한 생각을 가지고 있다는 것이 놀라웠어요.
로렌: 저는, 그녀가 유명인이라고 부를 수 있는 그녀를 인터뷰할 때, 약간의 위험성이 있다고 생각했습니다. 그리고 아마도 최고의 기술 임원을 인터뷰할 때도 마찬가지일 것입니다. 그들을 신의 한마디처럼 대우하는 것은 위험하다고 생각합니다. 그들이 말하는 모든 것이 인공지능의 미래여야 한다는 것이죠. 이 대화는 그녀가 우리와 같이 하나하나 찾아가며 알아가고 있다는 것을 강조했습니다. 인공지능 음악 분야의 선두주자로서, 그녀가 미래가 어떻게 될지에 대해 혼동스러워 하는 모습은 어쩌면 격려가 될 수도 있습니다. 여전히 낙관주의자이지만, 실제로 걱정도 하고 있으며, 음악이 아닌 교육의 더 넓은 의미와 교실 내에서의 교육에 대해 더 걱정하고 있는 것 같습니다.
기디온: 나는 이 두 가지 사이에 관련성을 느꼈습니다. 그녀는 큰 언어 모델이 우리를 어리석게 만들 수 있는 위험을 경고했습니다. 음악을 완전히 새로 만들거나 글쓰기 과정을 단축시키는 것과 상관없이, 이전에는 기술을 배우기 위해 필요한 작업을 그들에게 의존하고 의지하는 것은 너무 쉽습니다. 그래서 교육에서, 그녀는 나의 아이가 읽고 쓰고 언어를 깊게 사용하는 방법을 배우는 능력을 가져야 한다고 말했습니다. 왜냐하면 그렇지 않으면 우리는 세상을 잘 다룰 수 없게 되기 때문입니다.
로렌: 그러나 그녀가 교육의 미래에 대해 이야기할 때 약간 모순적인 면도 보였습니다. 공정하게 말하자면, 우리 모두가 이해하려고 노력하고 있는 매우 복잡한 주제입니다. 하나의 예시로 그녀는 “왜 셰익스피어 AI를 만들고 싶어할까요? 세계 최고의 작가가 되는 큰 언어 모델을 만들고 싶을까요?”라고 물었습니다. 그런데 대화의 다른 부분에서는 니체 AI나 뉴튼 AI가 교실에서 아이들을 가르치는 데 사용될 수 있었으면 좋겠다고 언급하기도 했습니다.
기디온: 사실, 나는 그곳에서 모순을 보지 못했습니다. 왜냐하면 그녀는 우리가 완벽한 드라마와 시를 생성하는 셰익스피어 AI를 만들고 싶어하지 않는다고 말했기 때문입니다. 왜냐하면 그렇게 하면 인간의 창의력을 모두 빼앗아가기 때문입니다. 그러나 교육용 도구로 상호작용할 수 있는 AI의 아이디어는 실제로 매우 다릅니다. 어린이로서 당신과 소크라틱 대화를 나눌만큼 잘 훈련된 AI가 있으면 좋은데, 그것은 당신이 한 말에 대해 의문을 제기하거나, 당신이 한 것들에 대해 질문을 던지며 당신에게 실제로 깊은 생각을 하게 만드는 것과 같은 연습을 할 수 있습니다. 사실상 교사들은 수업 규모 때문에 대부분의 시간을 이러한 것으로 할애하지 못합니다. 그것은 셰익스피어보다 더 나은 작품이나 밥 딜런보다 더 나은 노래를 쓰도록 무언가를 요청하는 것과는 매우 다른 것입니다.
Lauren: 내가 생각한 것은, AI에 대해 이야기할 때 LLM에 대해서 끝없이 이야기하는 것이 아니라, LLM이 AI의 기반이 되고 AI와 관련된 주제인 예술, 교육, 저작권과 같은 주제에 대해 이야기하는 것이 현재에 있어서 더 중요한 대화라고 생각한다.
Gideon: C는 LLM의 사용 방법에 대한 흥미로운 차이를 지적하고, LLM이 좋은 것인지 나쁜 것인지 말하지 않고 규칙이 무엇이어야 할지 찾기 위해 고민하는 것 같다. 나도 그 질문에 대한 답을 모르겠다. 규칙을 만들 수 있는지도 잘 모르겠다. 여기에서의 어려움의 일부분이다.
Lauren: 맞아. 컨텐츠 모더레이션에도 해당되는데, Elf.Tech라는 그녀의 플랫폼은 원산지를 해결한다는 것이다. 즉, AI 생성 예술에서 재료가 어디에서 가져왔는지 이해하는 것이다. 하지만 누군가 그 트랙을 가져가서 나치 국가곡을 만들고, 그런 컨텐츠를 어떻게 모더레이팅해야 하는지에 대한 질문은 아직 답이 없다.
Gideon: 그리고 그 질문에 대한 그녀의 답변은 그렇게 명확하지 않았어.
Lauren: 맞아. 그리고 그것은 YouTube의 문제가 되는 거지 않을까? 그녀의 플랫폼은 그것이 만들어진 도구에 불과한 거지? 도구에 책임을 할당할 수 있을까? 이건 정말 까다로운 질문이야. 그리고 그녀는 정말로 대답이 없는 것 같아. 그래서 나는 그녀가 어떤 인터넷 상의 자신의 정체성을 원하는지, 심지어 인터넷 상에서 얼마나 존재하고 싶은지에 대해 약간 고민해 보이는 것 같아. 그리고 그녀가 세상에 예술을 내놓을 때 그 예술의 경계가 어디인지에 대한 고민도 보인다.
Gideon: 그녀는 “실제로 딥페이크는 불법이어야 한다고 생각한다”라고도 말했고, 그런 말을 철회하는 것 같았다. 여기서 정말로 애매한 질문이다. 너는 딥페이크가 불법이어야 할까?
Lauren: 그래서 내 머리 속에 이런 생각이 들었어, 우리는 딥페이크를 사회에서 왜 원하는 걸까? 모든 기술은 선한 목적으로 사용될 수 있지만, 나는 나의 생각이 이렇다. 예를 들어 낸시 펠로시의 말을 느린 속도로 재생시켜 취객처럼 들리게 만든 영상은 심지어 딥페이크도 아니었다. 우리는 현재 정말로 정치적으로 매우 열정적인 시대에 접어들고 있으며, 딥페이크는 반드시 남용될 것이다. 그래서 그녀가 그렇게 말했을 때, 내 생각은 딥페이크에 대해 더 엄격한 입장을 취해야 할까?라는 것이었다.
Gideon: 나는 그렇게 생각하지 않는다. 이 문제는 많은 기술들과 마찬가지로, 기술 자체나 딥페이크와 같은 기술의 사용을 금지하려고 하면 필요 이상으로 특정 목적을 위해 금지하는 끝없는 예외 상황에 직면하게 된다. 그래서 어떤 기술에 대해서든 명확한 규칙을 정할 수 있는지, 심지어 그 기술의 특정 응용에 대해서도 허용되거나 허용되지 않는 것을 정할 수 있는지는 잘 모르겠다.
Lauren: 그래서 우리는 남성성에 대해 이야기해야 할 것 같아. 나는 처음에 Have a Nice Future 팟캐스트에서 이런 말을 할 것 같지 않았는데, 여기서 우리는 있다. 너는 그녀에게 그녀의 정치적인 입장과 그녀가 어울리는 사람들, 그리고 그녀가 어떤 선을 찾고 있는 것 같은 문제에 대해 꽤 생각깊은 질문을 했고, 그럼에도 불구하고 그녀는 남성성에 대해 이야기하며 어떤 대답을 했는지 어떻게 생각했어?
Gideon: 그녀가 좌파나 우파와도 일치하지 않는 이유를 설명하기 위해 남성성을 문제로 선택한 것은 흥미로웠다. 나는 그녀가 하는 말에 공감한다. 몇 주 전 워싱턴 포스트에 크리스틴 엠버의 의견 기사가 있었는데, 그 기사에서는 젊은 남성들이 좋은 남성적인 롤 모델이 없다는 느낌이 있다고 말하고 있다. 그래서 오른쪽 성향자들은 조던 피터슨과 같은 사람들이 이 빈 공간을 채우고 남성성이 어떻게 보여야 하는지에 대한 논의를 지배하는 것이다. 그리고 그것이 극단적인 논쟁, 극단적인 문화전쟁을 부추기고 있다. 그리고 나는 그것을 생각할 때, 게이 남성으로서, 독성이 없는 남성적인 행동의 롤 모델이 실제로 훨씬 더 좋다고 느낀다. 그리고 그것은 게이 커뮤니티에서는 세대 간 멘토십과 관계의 전통이 있고, 어떠한 훌륭한 방법으로 행동하는 어린이에게 어떤 모습을 보여주는 고령 남성의 예시가 있는 것 같다.
Lauren: 정치에 관한 질문을 할 때 그녀가 남성 독성과 남성 권리에 대해 언급한 것은 정말 주목할 만한 점이라고 생각했어요. 그 주제를 선택하는 것 자체가 정치적인 것이니까요. 그 주제는 번개 막대 문제예요. 솔직히 말해서, 그녀가 일론 머스크와 이에 대해 대화를 나누는 모습을 곤충처럼 볼 수 있다면 좋겠다는 생각이 들었어요.
Gideon: 그리고 우리는 이 인터뷰에서 이에 대한 질문을 하지 않았지만, 이번 주 ENBLE.com에 게재된 인터뷰에서 스티븐 레비가 그녀와 일론 머스크의 관계에 대해 물었고, 여기에서 읽을 수 있어요.
Lauren: 그래서 Gideon, 너는 더욱 영원한 바이킹 테크노 음악을 듣게 될 것 같아?
Gideon: 무엇이 영원한 바이킹 테크노 음악인지 알고 싶지만, 그건 나에게 시니드 오코너를 떠올리게 했고, 나는 최근에 더 많이 시니드 오코너를 듣고 있어.
Lauren: 그게 어떻게 시니드 오코너를 떠올리게 했어?
Gideon: 그것은 아마도 그 영원한 부분 때문인 것 같아. 그녀의 목소리에는 그 이슈를 가로지르고 멀리 떨어진 땅에 대해 슬픈 생각을 하게 만드는 무언가가 있어. 그리고 아마도 그게 영원한 바이킹 테크노 음악이 무엇인지 내게 생각나게 한 거야. 아마 스포티파이에서 검색을 해봐야겠다.
Lauren: 다른 팟캐스트 공동 진행자인 마이클이 나에게 스웨덴 싸이크 팝을 추천해줬어. 그래서 나는 이번 주말에 그것을 듣기 시작했어. 그래서 아직 영원한 바이킹 테크노 음악에는 조금 못 미쳤지만, 그쪽으로 나아가고 있어. 알고리즘들이 곧 나한테 추천해줄 거야.
Gideon: 그래, 좋은 음악을 찾으면 알려줘.
Lauren: 좋은 음악을 찾으면 우리는 c에게 알려줘야겠다.
Gideon: 그래, 그렇지. 그녀가 그걸 찾고 있다고 했으니까.
Lauren: 아마 그건 심지어 그녀의 음악일지도 모르겠다.
Gideon: 그게 오늘의 쇼였습니다. 들어주셔서 감사합니다. c나 그라임스의 더 많은 내용을 알고 싶다면 ENBLE.com에서 스티븐 레비와의 인터뷰를 확인해보세요.
Lauren: Have a Nice Future는 저, 로렌 구드가 진행합니다.
Gideon: 그리고 저, 기디언 리치필드도 진행합니다. 이 쇼를 좋아하신다면, 저희에게 알려주셔서 평점과 리뷰를 남겨주시고, 매주 새로운 에피소드를 구독하는 것을 잊지 마세요.
Lauren: 또한 [email protected]으로 이메일을 보낼 수도 있습니다.
Gideon: Have a Nice Future는 콘데나스트 엔터테인먼트의 제작입니다. 프롤로그 프로젝트의 다니엘 휴잇이 쇼를 제작하였고, 우리의 어시스턴트 프로듀서는 아를레네 아레벨로입니다.
Lauren: 다음 주 수요일에 다시 돌아올 테니 그때까지 좋은 미래를 기대해주세요.
움직임 방향: 퀸턴 스타키; AI 배경: 샘 캐논; 조명 디자인: 프랭크 리오스; 조명 보조: 잭 더피; 디지털 기술: 로건 빙햄; PA: 바빈 싱; 제작 디자인: 웨슬리 굿리치; 스타일링: 터너/더 월 그룹; 스타일링 보조: 조이 시갈라; 헤어: 프레스턴 와다/레어 크리에이티브; 헤어 보조: 에이미 루이즈; SFX MUA: 말리나 스타른스; SFX MUA 보조: 사샤 글라서; MUA: 알렉산드라 프렌치/포워드 아티스트; MUA 보조: 케일리 라셀 데이비스; 네일: 스테파니 스톤/포워드 아티스트; XR 스튜디오; SN37.*
Grimes: 상의와 바지는 새미 미로 빈티지 제품입니다.
