조작된 바이든 비디오는 페이스북의 딥페이크 정책에 대한 시험 사례입니다.
페이스북의 '딥페이크' 정책을 시험할 수 있는 구라친 바이든 비디오입니다.
5월에는 조 바이든 대통령의 조작된 동영상이 페이스북에 등장했습니다. 원본 영상은 바이든이 2022년 중간선거 기간에 손녀의 가슴에 “내가 투표했어요” 스티커를 붙이고 뺨에 입맞춤을 하는 모습을 보여줍니다. 조작된 버전은 동영상을 반복하여 소녀에게 반복적으로 접촉하는 것처럼 보이도록 편집되었으며, “소아학대자”라고 라벨이 붙여졌습니다.
Meta는 그 비디오를 삭제하지 않았습니다. 오늘, 회사의 감시 기구인 Oversight Board는 해당 결정을 검토할 것을 발표했으며, 2024년 미국 대통령 선거 및 내년 전 세계적으로 50개 이상의 투표가 예정되어 있기 때문에 Meta가 조작된 미디어와 선거에 대한 잘못된 정보를 어떻게 다룰지에 대해 대응할 방안을 강구하도록 압력을 가할 계획입니다.
“선거는 민주주의의 기반이며, 플랫폼들이 그 과정의 무결성을 보호할 수 있는 능력을 갖추는 것이 매우 중요합니다,”라고 감시 기구 대변인인 댄 챠이슨은 말합니다. “인공지능의 발전을 고려할 때, Meta가 변조된 콘텐츠, 특히 선거 전에 대중을 속이기 위한 동영상 등을 더 잘 다루는 방법을 모색하는 것은 더욱 중요합니다.”
Meta는 블로그 글에서 그 동영상이 Facebook의 혐오 발언, 괴롭힘 또는 조작된 미디어 정책을 위반하지 않는다고 밝혔습니다. Meta는 조작된 미디어 정책에 따르면 비디오가 “평범한 사람에게는 분명하지 않은 방식으로 편집되거나 합성되었으며, 평범한 사람을 속여 해당 비디오 주인공이 말하지 않은 말을 한 것으로 오해하게 할 수있는 방식으로” 편집된 경우에 비디오를 삭제할 것이라고합니다. Meta는 바이든 비디오가 AI 또는 기계 학습을 사용하지 않았다고 언급했습니다.
전문가들은 수개월 동안 2024년 선거는 더 복잡하고 위험해 질 것이라고 경고해 왔습니다. 이는 생성적 인공 지능 덕분에 더 현실적인 가짜 오디오, 동영상 및 이미지가 생성 될 수 있기 때문입니다. Meta도 생성적 인공 지능의 해를 억제하기 위해 기타 기술 회사들과 함께 노력을 다하기로 약속했지만, 대부분의 일반적인 전략은 콘텐츠에 워터마크를부여하는 것과 같은 방식은 최선의 경우에도 다소 효과적이라는 것을 입증해 왔습니다. 지난 주에는 슬로바키아에서 나라의 주요 정치인 중 한 명이 선거 조작을 논의하는 것처럼 보이는 가짜 오디오 녹음이 페이스북에 유포되었습니다. 이러한 창작자들은 Meta의 조작된 미디어 정책에서 커버하지 않는 기회를 이용할 수 있었습니다. 해당 정책은 가짜 오디오를 다루지 않습니다.
바이든 비디오 자체는 AI로 생성되거나 조작되지는 않았지만, 감시 기구는 AI를 고려하고 이 사건을 통해 Meta의 조작된 동영상 정책에 대해 보다 깊이 검토하고 있습니다.
“우리가 공유되는 내용을 넓게 살펴보더라도, 잘못된 문맥, 편집된 미디어가 있으며, 정책은 그 문제를 어떻게 처리할지 반영해야 한다고 생각합니다,”인권 증진을 위해 기술을 활용하는 비영리 단체 Witness의 프로그램 디렉터인 샘 그레고리는 말합니다.
Oversight Board는 권고뿐만 아니라 구속력 있는 결정을 내릴 수 있으며, Meta는 이를 따를 것인지 여부를 결정할 수 있습니다. 감시 기구는 2024년 선거에 대한 회사의 접근 방식을 형성할 수 있는 사례를 수용하려고 노력했으며, 현 캄보디아 총리인 후느센 전 체제에서의 선거 기간 중 폭력을 부르는 내용 삭제하지 않은 Meta의 결정과 해당 국가 자체의 선거 이후 폭동에 앞서한 브라질 장군의 연설을 검토했습니다.
하지만 그레고리는 감시 기구가 Meta가 조작된 미디어에 대해 접근하는 방식에 대한 구속력 있는 결정을 내리더라도, 실제로 회사가 이 문제에 얼마나 많은 자금이나 자원을 투입할 것인지를 지시하는 권한은 거의 없다는 점에 대해 걱정합니다. 특히 미국 외의 선거에서는 말입니다. Meta와 같은 많은 대형 기술 회사들은 잘못된 정보 및 혐오 발언과 같은 문제를 다루는 신뢰와 안전한 직원들을 감축해 왔습니다. Meta는 영어 이외의 언어 및 미국 외의 상황에서 내용을 조정하는 데 어려움을 겪었습니다.
Google과 달리, Meta는 사용자가 이미지가 AI로 생성된 것인지 또는 조작된 것인지를 알 수 있도록 도와주는 기능을 도입하지 않았습니다. Meta는 사용자나 팩트 체크자가 볼 수 있는 컨텍스트를 더 잘 이해할 수 있도록 소비자를 위한 도구를 만들지 않았습니다.
감독기구는 바이든 비디오를 통해 Meta가 AI로 생성된 또는 AI로 조작된 콘텐츠를 어떻게 처리해야 하는지에 대한 기본 작업을 하길 희망하기는 하지만, Gregory는 많은 조작된 미디어에 대한 질문들이 아마도 대답되지 않을 것으로 예상한다고 말합니다.
“감독기구가 정책들이 어떻게 작동하고 전 세계적으로 어떻게 작동하는지에 대한 명확하고 명랑한 평가를 제공하는 것은 정말 도움이 된다고 생각합니다,” Gregory는 말합니다. “이 단일 사례에서 결정될 수 있을지는 모르겠습니다.”
