딥 페이크, 협박, 그리고 생성 AI의 위험성
Deepfakes, Threats, and the Dangers of Generative AI
생성 AI의 능력은 급속하게 가속화되고 있지만 가짜 비디오와 이미지는 이미 실질적인 피해를 입히고 있습니다. Ceartas io의 창립자인 Dan Purcell은 그가 씁니다.
최근 FBI의 이 공공 서비스 알림은 AI 딥 페이크가 온라인에서 개인 정보와 안전에 어떤 위협을 가지고 있는지 경고했습니다. 사이버 범죄자들은 이미지를 음란한 가짜로 디지털 조작하고 금전을 지불하지 않으면 이를 인터넷에 공개하겠다고 협박하여 개인을 이용하고 협박합니다.
이와 같은 조치 외에도 이미 문제가 인식된 것보다 훨씬 더 널리 퍼져 있다고 생각되며, 이를 대항하기 위한 새로운 노력이 긴급하게 필요하다고 생각합니다.
왜 딥 페이크가 쉽게 발견될 수 있을까요?
나에게 문제인 것은 해로운 딥 페이크가 얼마나 쉽게 발견될 수 있는지입니다. 어둠과 탁한 인터넷이 아니라 대부분의 사람들이 이미 스마트폰에 가지고 있는 주류 소셜 미디어 앱에서 발견됩니다.
타인의 음란한 딥 페이크 이미지를 공유하는 사람을 형사로 처벌하는 법안
5월 10일 수요일, 미네소타 주의 상원 의원들은 사전 동의 없이 타인의 음란한 딥 페이크 이미지를 공유하는 사람을 형사로 처벌할 것인데 동의한 법안을 통과시켰습니다. 이 법안은 선거에 부당한 영향을 미치기 위해 딥 페이크를 공유하는 사람을 포함하도록 거의 만장일치로 통과되었습니다.
- 애플 제품은 손 제스처로 물건을 제어하는 스마트 링을 가질 수 있을까요?
- 딜 아마존에서 M1 맥북 에어를 749.99달러에 (249달러 할인된 가격으로)...
- 애플은 아마도 애플 워치의 강도 운동 추적을 개선하기 위해 스트레인 ...
캘리포니아, 버지니아, 텍사스 등과 같은 다른 주에서도 유사한 법률이 통과되었습니다.
이 법안 통과에 대해 기뻐하고, 이 법안이 완전히 법률로 제정되기까지 너무 오래 걸리지 않기를 바랍니다. 그러나 미국의 모든 주와 전 세계적으로 더 엄격한 법률이 필요하다고 생각합니다. EU가 이 분야를 선도하고 있습니다.
미네소타 상원과 FBI의 경고
미네소타 주 상원과 FBI의 강력한 조치가 이 중요한 문제에 대한 전국적인 논의를 유발할 것으로 가장 낙관적입니다. 그 이유는 전문적인 이유뿐만 아니라 개인적인 이유도 있습니다. 몇 년 전에 나의 전 여자친구가 사전 동의 없이 나의 은밀한 성적 이미지를 올렸습니다.
피해자를 보호해 줄 수 있는 것은 아직 없습니다
해당 사진들은 약 2년 동안 온라인에 있었고, 그 사실을 알게 된 후에는 매우 부끄럽고 정신적으로 충격을 받았습니다. 그런 행위가 가해진 사람에 대한 제재가 없고, 피해자를 보호할 수 없다는 사실이 전혀 불안하게 느껴졌습니다. 그러나 그것은 나의 미래 비즈니스의 계기가 되었고, 동의하지 않은 콘텐츠를 추적, 위치 확인, 검증하고 마지막으로 제거할 수 있는 솔루션을 개발하겠다고 맹세했습니다.
전 세계적인 관심을 끈 딥 페이크 이미지
최근 전 세계적인 관심을 끈 딥 페이크 이미지에는 전 대통령 도널드 트럼프의 체포, 교황 프란치스의 세련된 흰색 패딩 점퍼, 프랑스 대통령 에마누엘 마크롱이 쓰레기 수거부로 일하고 있는 모습 등이 포함됩니다. 후자는 프랑스의 연금 개혁 파업이 극에 달한 때였습니다. 이러한 사진들에 대한 즉각적인 반응은 그들의 현실성이었지만, 매우 소수의 시청자만이 속을 속였습니다. 기억에 남을만한가요? 그렇지만 피해는 아니었지만 잠재력이 있습니다.
바이든 대통령은 이 문제에 대해 언급했습니다
바이든 대통령은 최근 화이트하우스에서 기술 리더들과 함께 AI의 위험성에 대해 언급한 바 있습니다. 그는 올해 2024년 미국 대통령 선거에서 재선을 위해 나선 의사를 밝힌 후, 공화당 국립위원회(RNC)가 완전히 AI로 생성된 이미지를 사용하여 대통령을 공격하는 YouTube 광고를 내놓았습니다. 비디오의 왼쪽 상단에 작은 부가 설명이 있지만, 그 설명은 너무 작아서 일부 시청자들이 이미지를 진짜로 오해할 가능성이 있습니다.
공화당이 바이든의 고령 또는 기동성에 초점을 맞추고, 그에게 노인 도우미나 휠체어를 사용하는 AI 이미지를 사용한다면 그에 대한 사무실에 대한 적합성에 대한 투표자들의 견해를 바꿀 수도 있습니다.
이미지 조작은 매우 위험할 수 있습니다
이러한 이미지 조작은 분명히 매우 위험할 수 있습니다. 1차 수정은 표현의 자유를 보호해야 합니다. 딥페이크 기술로 인해 이제 합리적이고 생각하는 정치적 토론이 위험에 처해 있습니다. 2024년이 다가오면서 정치적 공격이 점점 더 혼돈스러워질 것으로 보입니다.
미국 대통령조차 자신의 품위, 가치, 평판을 보호하는 데에 취약한 위치에 놓일 수 있다면, 전세계 시민들은 어떤 희망을 가질 수 있을까요?
일부 딥페이크 비디오는 다른 것보다 더 설득력 있을 수 있지만, 제 전문적인 경험에서 보면, 그들의 제작에 관여하는 것은 고도로 숙련된 컴퓨터 엔지니어들뿐만이 아닙니다. 노트북과 몇 가지 기본적인 컴퓨터 지식만으로도 충분하며, 정보를 얻을 수 있는 온라인 소스도 많이 있습니다.
진짜와 가짜 비디오의 차이를 알아보세요
기술 분야에서 직접 일하는 사람들에게는 진짜와 가짜 비디오의 차이를 알아보는 것이 비교적 쉽습니다. 그러나 넓은 사회에서 딥페이크를 구별하는 능력은 그렇게 간단하지 않을 수도 있습니다. 2022년에 전 세계적으로 실시된 조사에 따르면 소비자들 중 57%가 딥페이크 비디오를 감지할 수 있다고 선언했으며, 43%가 딥페이크 비디오와 진짜 비디오를 구별할 수 없다고 주장했습니다.
이 그룹에는 투표권이 있는 사람들도 분명 포함될 것입니다. 이것은 딥페이크 비디오가 정치 후보자와 관련된 경우 선거 결과에 영향을 미칠 수 있다는 것을 의미합니다.
생성적 AI
음악가이자 작곡가인 스팅은 최근에 자신의 경고문을 발표하여 작곡가들은 생성적 AI 시스템과 경쟁하며 안일해지지 말아야 한다고 경고했습니다. 그의 의견에 공감할 수 있습니다. 인간 예술 운동이라는 그룹은 현재 인간의 표현력을 “창의적 과정의 중심에 두고 창작자들의 생계와 작품을 보호하는 것”을 목표로 한 온라인 청원을 진행 중입니다.
이 청원은 AI가 인간의 업적과 창의력을 대체할 수 없다고 주장합니다. TDM(텍스트 및 데이터 마이닝)은 음악가의 목소리나 작곡 스타일을 모방하는 AI의 한 가지 방법으로, 대량의 데이터를 학습하는 것을 포함합니다.
AI는 우리에게 이익을 줄 수 있습니다.
AI가 우리에게 이익을 줄 수 있는 방법을 알 수 있지만, 기업 내에서 생성적 AI의 적절한 거버넌스에 대한 문제들에 대해 우려됩니다. 이러한 문제들은 투명성 부족, 데이터 유출, 편견, 유해 언어, 저작권 등이 있습니다.
더 강력한 규제와 법률이 필요합니다.
더 강력한 규제 없이 생성적 AI는 공인인물 여부에 상관없이 개인들을 이용하려는 위협을 가지고 있습니다. 내 의견으로는 이러한 기술의 빠른 발전은 이를 더욱 악화시킬 것이며, 최근 FBI의 경고도 이를 반영하고 있습니다.
이 위협이 계속해서 커지는 동시에 AI 연구 개발에 투입되는 시간과 자금도 증가하고 있습니다. 현재 AI의 글로벌 시장 가치는 약 1,000억 달러로 평가되고 있으며, 2030년까지 거의 2조 달러로 급증할 것으로 예상됩니다.
여기에는 KSL 뉴스에서 보도된 실제 사건이 있습니다.
– 특히 아이들 – 특히 십대들을 보호하기 위해 읽어주세요.
여기에서 읽으세요.
부모님들이 최근에 이 정보를 공개하여 우리 모두를 도와주려고 했습니다.
상위 세 가지 범주는 신분 도용과 사칭 사기였습니다.
기술은 이미 충분히 발전하여 딥페이크 비디오를 단 한 장의 이미지로 생성할 수 있으며, 사람의 목소리를 통한 그럴듯한 재현 버전은 단 몇 초의 오디오만 필요합니다. 반면에 작년에 제출된 수백만 건의 소비자 신고 중 상위 세 가지 범주는 신분 도용과 사칭 사기였으며, 이로 인해 88억 달러가 손실되었습니다.
미네소타 주의 기록에 따르면, 딥페이크 성적 이미지를 공유하는 행위를 범죄화하는 법안에 반대표를 한 명의 대표가 있었습니다. 그들의 동기가 무엇이었는지 궁금합니다.
저 또한 피해자였습니다!
저 또한 피해자로서 이 문제에 대해 상당히 목소리를 내왔으므로, 저는 이것을 꽤 명백한 문제로 보고 있습니다. 그것이 저에게 일어날 때, 저는 매우 외로웠고 도움을 청할 곳을 모르는 상황이었습니다. 다행히 그때부터 많은 변화가 있었습니다. 이 긍정적인 흐름이 지속되어 다른 사람들이 제가 겪은 고통을 겪지 않기를 바랍니다.
댄 퍼셀은 세아타스 DMCA의 창립자이자 CEO로, 세계 최고의 창작자, 기관 및 브랜드와 협력하여 그들의 콘텐츠의 무단 사용과 배포를 방지하는 선도적인 AI 기반의 저작권 및 브랜드 보호 회사입니다. 자세한 정보는 www.ceartas.io에서 확인하십시오.
주요 이미지 크레딧: Rahul Pandit; Pexels; 감사합니다!
