인스타그램에서 AI 생성된 인플루언서를 발견하는 데 도움이 되는 AI 면책 조항이 있을까요?
인스타그램에서 AI 생성된 인플루언서를 찾는 데 도움이 되는 AI 면책 조항이 있을까요?
인스타그램은 인공지능이 부분적으로 또는 완전히 생성한 게시물을 만날 때 사용자에게 알림을 보내는 기능을 개발 중일 수도 있다. 앱 연구원 알레산드로 팔루지에 따르면, AI가 생성한 게시물은 게시물 생성에 인공지능이 관여했음을 설명하는 라벨이 함께 표시될 것이다.
또한: 인스타그램 계정을 연동하기 전에 Meta의 Threads 앱에 대해 알아야 할 5가지
하지만 이러한 라벨은 생성적 AI가 전체 계정을 생성할 때 사람들이 쉽게 알아차릴 수 있게 도와줄 수 있을까?
인스타그램에서 세 명의 인기 있는 영향력 있는 인플루언서들은 800만 명 이상의 팔로워를 확보하고 수백만 달러의 브랜드 거래를 받았다. 그러나 이 세 명 모두 AI가 생성한 것이다. 릴 미퀴라, 임마, 쉬두는 AI가 생성한 인스타그램 인플루언서로, 그들의 사진은 인공지능에 의해 생성된 것이다.
이들은 모두 흥미로운 삶을 살고 있으며 디올, 캘빈 클라인, 샤넬, 프라다 등의 브랜드와 협업했다. 각각의 AI 인플루언서는 자기 소개에 “디지털 페르소나”라는 구문의 변형이 있으며, 모든 사진은 불현듯 공포의 계곡을 떠올리게 하는 느낌을 주지만, 많은 댓글러와 팔로워들은 이 인플루언서들이 진짜라고 믿고 있다.
각각의 디지털 인플루언서는 그래픽 디자이너와 디지털 아티스트들을 고용하여 인공지능의 도움으로 인플루언서의 이미지를 만들어내는 기술 회사의 제품이다.
디지털 인플루언서는 브랜드와 마케팅 회사들에게 매력적이다. 여행에 따른 비용을 줄일 수 있으며 언어 장벽을 제거할 수 있으며, 브랜드에 맞게 외모를 변화시킬 수 있다는 장점이 있다.
또한: AI 탐지기가 ChatGPT로부터 우리를 구할 수 있을까? 5개의 온라인 도구를 사용하여 알아보았습니다.
더 중요한 것은 디지털 인플루언서는 브랜드에 대한 위험을 가져오지 않는다는 것이다. 그들은 의견이나 정치적 가치를 가지지 않으며, 10년 전의 의문스러운 트윗도 없다. 디지털 인플루언서가 브랜드의 진정성을 위협할 수 있는 일은 없다.
또한, 디지털 인플루언서는 나이를 먹거나 브랜드 가치와 어긋나는 외모 변화를 할 수 없다. 예를 들어, 릴 미퀴라는 2016년에 인스타그램 계정을 만든 이후로 19세인 상태를 유지하고 있다. 그동안 그녀는 유명인과 협업하고 잡지 표지를 장식하며 수백만 달러를 벌어들였다.
또한: 생성적 AI 플랫폼을 사용하여 초개인화를 달성하는 방법
하지만 사람들이 릴 미퀴라의 게시물을 빠르게 스크롤할 때, 몇 명이나 그녀가 AI가 생성한 것이라는 사실을 즉시 알 수 있을까? 전문가들은 그렇지 않다고 말한다. 젊은 사람들은 특히 영향을 받기 쉽고, 온라인에서 본 콘텐츠는 그들의 자아와 주변 세계에 대한 시각을 형성한다.
그리고 디지털 인플루언서들은 언제나 완벽하게 보이고 이상적인 삶을 살아갈 수 있기 때문에, 청소년들이 소셜 미디어 스크롤링으로부터 받는 압박과 불안한 느낌에 더해질 수 있다.
그렇다면, 릴 미퀴라를 AI가 생성한 인플루언서로 “밝히는” 것은 인스타그램, 그녀의 “주인” 또는 인스타그램 사용자가 소비하는 콘텐츠를 더 잘 판단해야 할까? 정부는 빅테크를 더 엄격한 기준으로 규제하기 위해 새로운 기관을 만들어야 한다고 주장한다.
빅테크는 이러한 규제가 혁신을 억제할 수 있다고 말하며, 많은 사용자들은 책임이 기술과 소셜 미디어 기업에 있다고 믿는다.
인공지능 생성 콘텐츠 라벨은 인스타그램이 사용자가 마주치는 콘텐츠를 더 잘 이해할 수 있도록 도와주는 첫 번째 시도는 아니다. 2020년 코로나19 대유행 중에 인스타그램은 백신에 대한 잘못된 정보를 퍼뜨리는 해시태그를 차단하고 COVID-19와 백신에 대한 신뢰할 수 있는 정보를 제공했다.
또한: 인스타그램 피드 수정: 원하는 콘텐츠를 더 많이 보려면 어떻게 해야 할까요(원하지 않는 콘텐츠는 덜 보게)?
하지만 생성적 AI는 국가 보건서비스나 질병통제예방센터와 같은 신뢰할 수 있는 정보 링크를 제공하는 것만큼 명확하지 않다. AI는 더 어렵고 제어하기 어렵고, 기술 회사들은 생성적 AI에 의한 잘못된 정보가 유통될 수 있는 가능한 위험과 싸우고 있어야 한다.
