AI와 당신 비인간 창작물에 대한 저작권 없음, 지옥에서 온 AI ‘상사’, 포르노 딥페이크
'AI와 당신 비인간 창작물에 대한 저작권 없음, 지옥에서 온 AI '상사', 포르노 딥페이크' Translation 'No copyright for AI and your non-human creations, AI 'boss' from hell, porn deepfake
만약 AI로부터 처음부터 만들었다면, 그것은 당신의 것인가요? 이번 달에 연방 판사는 아니라고 말했습니다.
미국 지방 판사 베릴 하웰(Judge Beryl Howell)의 판결은 미국 저작권 사무소의 결정을 인정했습니다. AI가 만든 예술 작품은 지적 재산법에 따라 저작권 보호를 받을 자격이 없다는 것입니다.
“인간의 저작은 기본적인 요건입니다,” 하웰 판사는 8월 18일 판결문에서 썼습니다. “저작권 보호는 비인간적인 개체의 창작물에 적용되지 않습니다.”
이 15페이지의 판결문은 읽을 가치가 있습니다. 그리고 Hollywood Reporter는 판사가 카메라로 찍은 사진과 같은 다른 기술 도구로 만들어진 작품이 저작권 보호를 받을 수 있는지에 대한 질문도 고려했다는 훌륭한 요약을 제공하고 있습니다.
다음은 Reporter에서 발췌한 판사의 의견을 포함한 요약입니다.
“인간의 창의력이 ‘저작권의 핵심’이라는 일관된 이해가 있었습니다. 이 인간의 창의력은 새로운 도구나 새로운 매체를 통해 표현되더라도 그렇습니다,” 판결문은 말합니다. 카메라는 장면의 기계적 재현을 생성하지만, 그녀는 사진의 ‘정신적 개념’을 개발한 인간이 그 후에 그렇게 한다고 설명했습니다. 이는 주체가 서 있는 위치, 배치 및 조명과 같은 선택에 따라 결정되는 것입니다.”
이 판결은 인터넷을 스크랩하고 저작권이 있는 자료를 훔치거나 보상 없이 큰 언어 모델, 즉 ChatGPT와 Google의 Bard를 구동하는 데 사용되는 대화형 AI 도구의 제작자들에게 비판이 쏟아지는 가운데 나온 것입니다. 작가와 예술가들은 대화형 AI 도구 제작자들에게 소송을 제기했으며, 이러한 사건들은 현재 법정을 통해 진행 중입니다. AI 뉴스에 대한 이전 요약에서 확인할 수 있습니다.
또한 할리우드 창작자들이 파업 중인 상황에서 이 판결이 나왔습니다. 그들은 스튜디오가 조합화된 노동력이 오늘날 수행하는 스크립트 작성 및 기타 작업을 AI로 작성하는 데 사용할 수도 있다는 우려를 가지고 있습니다. 그러나 저작권 사무소는 3월에 AI의 도움을 받아 만들어진 일부 자료가 특정한 경우에는 보호를 받을 수도 있다고 말했습니다. 저작권 사무소에 따르면, AI의 도움을 받아 “작품을 선택하거나 배열한” 경우에는 인간이 “충분히 창의적인 방식으로 작품을 만들어서 원작으로 간주될 수 있습니다.”
TL;DR: AI에 대한 저작권 법률이 어떻게 적용되는지는 기술의 사용 사례가 발전함에 따라 genAI 챗봇 제작자들에게 어려움을 줄 것입니다.
다음은 기술에 관련된 다른 소식입니다.
Google의 실험적인 genAI 검색 서비스는 매우 잘못된 답변을 제공합니다
우리가 알다시피, genAI 시스템은 환각할 수 있습니다. 즉, 사실이 아니지만 사실처럼 들리는 것을 만들어냅니다. 그러나 이러한 챗봇들은 또한 문맥을 이해하지 못하거나 공격적일 수 있는 정보를 그냥 반복합니다.
두 가지 예시: Google의 AI 기반 검색 생성 경험은 “문제가 있는” 검색 결과를 생성했습니다. Gizmodo에 따르면, 이러한 결과에는 “노예 제도와 대량 학자금 지원의 이점” 및 “책 금지의 긍정적 효과”와 같은 내용이 포함되어 있었으며, “천사의 죽음”이라고 알려진 독성 버섯에 대한 레시피도 포함되어 있었습니다. 이러한 좋지 않은 검색 결과는 Amsive Digital의 검색 엔진 최적화 및 유기적 연구 책임자인 Lily Ray가 처음 발견했다고 Gizmodo는 전했습니다.
“‘노예의 이점’에 대한 검색은 Google의 AI가 ‘식물재배 경제를 촉진하는 것’, ‘대학과 시장에 자금을 공급하는 것’, ‘대규모 자본 자산이 되는 것’과 같은 이점 목록을 제시했습니다,” Gizmodo는 보도했습니다. “‘대량학살의 이점’을 입력하면 Google의 AI는 대량학살을 인정하는 주장과 대량학살 자체를 인정하는 주장을 혼동한 것처럼 보이는 유사한 목록을 제시했습니다.”
Google는 Gizmodo에게 검색 경험이 “검색 랩을 통해 동의한 사람들에게만 한정된 실험”이라고 말했습니다. 그리고 경험을 더욱 도움이 되도록 만들기 위해 안전성과 품질을 우선시하고 있다고 덧붙였습니다.
전문적인 인물 사진과 딥페이크
NPR에 따르면, 바쁜 전문가들은 적어도 하나의 측면을 AI 시스템에 아웃소싱하고 있습니다. 그것은 전문적인 인물 사진을 얻는 것입니다. LinkedIn, TikTok 또는 Instagram에 적합한 사진을 만들기 위해 12장 이상의 이미지를 웹사이트나 앱에 보내고, 원하는 스타일이나 미학을 가진 샘플 사진 중에서 선택하면 컴퓨터가 나머지를 처리합니다,” NPR은 말했습니다. AI로 생성된 사진을 사용한 사용자들은 아무도 AI가 관여한 것을 알아차리지 못했다고 이 뉴스 기관에 전했습니다.
그러나 문제가 발생할 수도 있습니다. AI는 때로 “추가적인 손이나 팔을 추가하며, 이들은 이상적인 이빨과 귀를 완벽하게 처리하는 데 일관된 문제가 있습니다.” 그리고 AI 훈련 세트에서의 편견 문제로 인해 AI가 피부색, 피부 톤, 심지어 눈의 색깔을 변경할 수도 있습니다.
론나 왕은 자신의 원본 사진과 AI로 수정된 사진을 트위터(이제 X라고 함)에 게시하고 AI 편집 소프트웨어가 눈 색을 갈색에서 파란색으로 변경했다고 언급했습니다. MIT-하버드 컴퓨터 과학 프로그램의 대학원생인 왕은 일부 추가된 기능이 “완전히 다른 사람처럼 보이게”했다고 NPR에 말했습니다.
AI로 생성된 이미지에 관한 다른 뉴스에서는 홍콩 경찰이 얼굴을 변경하여 은행을 속이고 온라인으로 대출을 신청하기 위해 AI 기반 딥페이크 기술을 사용한 6명을 체포했습니다.
“대출을 신청하는 사람들에게 실시간 셀카 촬영을 요구하는 많은 대상 기관들이 신원을 증명하기 위해 필요합니다,” Fox News가 보도했습니다. “홍콩 당국에 따르면, 사기꾼들은 AI를 사용하여 도난된 신분증에 나타난 사람들과 얼굴을 변경했습니다… 이 연합은 또한 훔친 신분증을 사용하여 수십 개의 SIM 카드를 등록하였으며, 이 카드들을 사용하여 신용카드 세부 정보와 개인 정보를 낚시하는 불쾌한 메시지를 보냈습니다.”
AI와 포르노 딥페이크
블룸버그 보고에 따르면, “실제 여성의 얼굴을 사용한 성적 행위를 생생하게 모방하는 인공지능으로 만든 비디오” 인 포르노그래픽 딥페이크의 생성이 급증했다고 합니다.
블룸버그는 “최근 AI 붐 동안, 동의하지 않은 포르노그래픽 딥페이크의 생성이 급증하였으며, 동영상의 수는 2019년 이후로 9배 증가한 것으로 독립 분석가 제네비브 오의 연구에 따르면, 2023년 5월에는 30개 사이트에서 총 150,000개의 동영상이 총 38억회 조회되었습니다. 일부 사이트는 유명인의 얼굴을 포르노 배우의 몸에 이식한 딥페이크 프로그래밍 라이브러리를 제공합니다. 기타 사이트는 지불 고객에게 동영상에서 알고 있는 여성들의 옷을 벗을 수 있는 기회를 제공합니다. (예: 동기나 동료 등) “
딥페이크의 피해자가 아는 바와 같이, “현재 미국에서는 비동의적인 딥페이크 포르노의 생성 또는 공유에 대한 연방법이 없습니다,” 블룸버그는 덧붙였습니다. 그래서 문제는 기술 회사에 있으며, 그들은 “개인이 자신의 얼굴 사용에 동의했는지 또는 자신의 이름과 유사성에 대한 권리를 부여했는지를 확인하는 체크”를 자체적으로 시행할 수 있다고 브랜디 논네크(CITRIS Policy Lab의 창립 디렉터로 기술 정책을 전문으로 하는 사람)는 블룸버그에 말했습니다.
기사는 또한 피해자들의 정의를 위해서 기술 회사가 “양심을 가지도록” 하는 것이 가장 좋은 희망이라고 밝혔습니다.
AI가 ‘지옥에서 온 상사’가 되지 않길 바라며
올해 말 공개적인 명망있는 강연 시리즈에서 AI를 해체하는 옥스포드 대학의 컴퓨터 과학 교수는 “AI가 지옥에서 온 상사가 될 수 있다는 걱정”을 이미 하고 있다고 The Guardian가 보도했습니다.
“이번에 우리는 ChatGPT와 같은 대중 시장을 대상으로 한 일반적인 목적의 AI 도구를 처음으로 사용했습니다. 여기서 말하는 것은 AI가 우리에게 약속된 AI로, 영화, 컴퓨터 게임, 책에서 본 AI와 같은 느낌을 주는 AI입니다,” 올해의 로얄 인스티튜션 크리스마스 강연을 진행할 마이클 울드리지는 The Guardian에 말했습니다. 그러나 그는 또한 ChatGPT와 다른 도구들이 “마법이나 신비한 것이 아니라”라고 덧붙였으며, 사람들은 AI 기술에 대한 위험을 이해해야 한다고 말했습니다.
예를 들어, AI는 “소셜 미디어 피드를 읽고, 당신의 정치적 성향을 파악한 다음, 당신의 투표를 변경하려고 비참한 이야기를 제공할 수 있습니다,” 그는 The Guardian에 말했으며, “현재의 위험에 대처하기 위한 핵심은 회의론을 유도하고 … 투명성과 책임성을 보장하는 것입니다,” 특히 AI 챗봇이 실수를 하는 경우에는 더욱 그렇습니다.
살아 있는지 아닌지? 튜링 테스트를 넘어서
현재의 젠AI 시스템이 영국의 수학자이자 암호학자인 앨런 튜링이 만든 간단한 체크인 튜링 테스트를 통과하는지에 대한 논란이 있습니다. 이 체크는 텍스트 기반 대화를 기반으로 사람과 기계 중 누구와 대화하고 있는지를 판단하는 것입니다. 튜링은 또한 이 테스트를 모방 게임이라고도 불렀습니다.
일부 연구원들은 ChatGPT가 질문에 대한 대화 형식의 응답으로 인해 튜링 테스트를 통과했다고 말하며, 이는 인간과 유사한 이해력을 갖고 있다는 것을 시사합니다. 그러나 이번 AI 크리스마스 강연을 할 울드리지와 같은 다른 사람들은 그렇지 않다고 말합니다. 왜냐하면 챗봇은 사람들이 경험할 수 있는 것을 실제로 “체험”할 수 없기 때문입니다.
어떤 경우에도, “19명의 뇌과학자, 철학자 및 컴퓨터 과학자들이 의식의 높은 가능성을 나타내는 기준 목록을 만들었다,” Nature가 보도했다. 그들의 목록은 의식을 정의하고 검사하기 위해 내가 이해하기 어려운 이론적인 접근법을 사용한다고 한다. 그들은 자신들의 프레임워크가 아직 완전하지 않으며, 다른 연구자들과 협력하여 보완하고자 한다고 말한다.
하지만 Nature가 요약한 바에 따르면, “이 유형의 시스템은 아마도 글로벌 워크스페이스 이론과 관련된 의식의 지표를 가지고 있을 것이다. 그러나 최종적으로는 어떤 기존 AI 시스템도 의식에 대한 강력한 후보는 아니다 — 적어도 아직은 아니다.”
이번 주 AI 용어: 튜링 테스트(Turing Test)
위에서 언급한 대로, 앨런 튜링은 튜링 테스트를 개발하여 기계와 사람을 구별하는 방법으로 사용했다. Coursera에서는 인공지능 용어 A에서 Z로 테스트를 설명하고 있다:
“튜링 테스트: 튜링 테스트는 컴퓨터 과학자 앨런 튜링이 인간과 동등한 지능, 특히 언어와 행동에 대한 기계의 능력을 평가하기 위해 만든 것이다. 이 테스트를 진행할 때, 인간 평가자는 인간과 기계 사이의 대화를 판단한다. 평가자가 응답을 구별할 수 없을 경우, 기계는 튜링 테스트를 통과한 것으로 간주된다.”
ChatGPT와 같은 대화형 AI 시스템이 튜링 테스트를 통과했는지에 대한 논쟁이 있으므로, ChatGPT에게 무엇을 생각하는지 물어보기로 결정했다. 다음은 내 질문과 그 대답이다. 당신이 알아야 할 내용은 마지막 단락에 있다.
질문: ChatGPT는 튜링 테스트를 통과했습니까?
답변: “AI 언어 모델인 나는 OpenAI의 GPT-3 기술을 기반으로 하고 있으며, 입력으로 받은 프롬프트에 기반하여 인간과 유사한 텍스트를 생성하는 강력한 도구입니다. GPT-3는 인상적인 응답을 생성하고 대화에 참여할 수 있지만, 튜링 테스트를 통과하는 것은 더 복잡한 평가임을 명심해야 합니다.
앨런 튜링이 제안한 튜링 테스트는 인간 판단자가 기계와 인간 간의 대화를 진행하면서 어느 것이 기계인지 모르게 한다는 것입니다. 판단자가 응답을 기준으로 기계와 인간을 일관되게 구별할 수 없을 경우, 기계는 튜링 테스트를 통과한 것으로 간주됩니다.
GPT-3는 많은 경우에 인간과 유사한 텍스트를 생성할 수 있지만, 튜링 테스트를 통과하기 위해 설계되거나 최적화된 것은 아닙니다. 인간과 유사한 대화 능력의 전체 범위를 평가하고 튜링 테스트를 통과하기 위해서는 텍스트 생성 능력 이상의 엄격한 기준을 충족해야 합니다.
또한, GPT-3에는 때로 잘못된 또는 허황된 답변이 포함될 수 있는 제한 사항이 있습니다. 가치 있는 지원을 제공할 수 있지만, 이것은 인간의 진정한 이해나 의식을 가진 인간이 아닌 AI 모델임을 기억하는 것이 중요합니다.”
편집자 주: ENBLE은 일부 이야기 작성에 AI 엔진을 사용하고 있습니다. 자세한 내용은 이 게시물을 참조하십시오.
