인스타그램의 AI 생성 콘텐츠에 대한 라벨링 노력
인스타그램 AI 콘텐츠 라벨링 노력
인공지능(AI)은 더 큰 역할을 하고 많은 시장을 혼란시키고 있습니다. 특히, 소셜 미디어 플랫폼들은 사용자에게 더 나은 서비스를 제공하기 위해 AI 도구를 채택하고 있습니다. 가장 인기 있는 소셜 미디어 사이트 중 하나인 Instagram은 현재 인공지능을 사용하여 생성된 게시물에 레이블을 붙이기 위한 새로운 경고를 개발하고 있습니다. 이 변경의 목표는 사람들이 소비하는 미디어의 제작에 AI가 사용되었다는 사실에 대해 더욱 개방적이고 정직하게 알리는 것입니다.
콘텐츠 제작 시 인공지능(AI)이 사용되었는지 사용자에게 알리기 위해 Instagram은 현재 레이블링 시스템을 개발 중입니다. Instagram 앱 내에서 스크린샷을 공유한 앱 연구원 Alessandro Paluzzi는 “크리에이터 또는 Meta가 이 콘텐츠가 AI로 생성 또는 편집되었다고 말했다”는 안내문이 있는 페이지를 공개했습니다. 이 경고는 해당 콘텐츠가 “Meta AI에 의해 생성되었다”고 강조합니다. 기사는 생성적 AI에 대한 간략한 설명과 AI를 사용하는 기사를 식별하는 몇 가지 팁과 함께 계속됩니다.
Instagram의 모회사인 Meta와 Google, Microsoft, OpenAI와 같은 주요 AI 플레이어들은 이러한 레이블링 시스템 도입과 일치하는 최근 약속을 하였습니다. 이 약속들은 백악관과 함께 개발되었으며 AI의 윤리적 성장을 보장하기 위한 것입니다. 사이버 보안과 차별에 관한 연구를 지원하고 AI로 생성된 콘텐츠의 존재를 알리기 위한 워터마킹 시스템을 만드는 것과 같은 노력의 몇 가지 예시가 있습니다.
레이블에 “Meta가 말했다”라는 구문이 포함되어 있으므로 Instagram의 레이블링 시스템의 정확한 자동화 수준은 아직 알려져 있지 않지만, 기술 회사 Meta는 사용자의 공개적인 공지에만 의존하는 것이 아닌 일부 경우에는 이 공지를 미리 적용할 것으로 안전하게 가정할 수 있습니다. Meta 대표는 이 공지에 대해 의견을 전달하지 않았지만, 이 새로운 기능은 AI로 생성된 콘텐츠에 대한 플랫폼의 개방성과 책임감을 보여줍니다.
AI로 생성된 콘텐츠의 잠재적인 잘못된 정보의 확산에 대한 우려가 제기되었습니다. 이는 아직 초기 단계이지만, 올해 초에는 굉장히 인기를 끈 포프 프란치스가 멋진 패딩 점퍼를 입은 사진과 같은 사건들을 통해 잠재적인 영향을 상기시킵니다. AI가 오도독하거나 해로운 정보를 만들고 퍼뜨릴 수 있는 쉬운 방법은 이 사진에 의해 강조되었으며, 나중에 이 사진은 사실이 아니라는 것이 밝혀졌습니다. 이는 교활한 문맥뿐만 아니라 위성 이미지나 정치 사진과 같은 딥페이크의 제작에서도 위험합니다.
최근 Meta는 인스타그램과 같은 서비스를 위해 일반 사용자가 접근할 수 있는 생성적 AI 기능을 개발하는 등 인공지능(AI) 능력을 향상시키기 위한 노력을 기울여 왔습니다. 여전히 개발 중인 인스타그램의 기능들에 대한 증거가 나타나고 있습니다. Meta의 CEO인 마크 저커버그는 6월 전체 모임에서 인스타그램 스토리를 위한 사진 편집을 위한 텍스트 프롬프트와 같은 기능을 개발 중이라고 직원들에게 알렸습니다. 앱 연구원인 Alessandro Paluzzi는 또한 인스타그램을 위한 “AI 브러시” 기능에 대한 증거를 발견했습니다. 이 기능은 사용자가 사진의 개별 픽셀을 편집할 수 있도록 해줄 것입니다. 또한 금융 타임즈는 Meta가 다음 달부터 AI 챗봇에 “페르소나” 기능을 추가할 수도 있다고 보도했습니다.
인공지능 분야의 다른 산업 선도기업인 Google은 AI에 의해 생성된 콘텐츠에 대한 소비자에게 정보를 제공하는 가치를 인식하기 시작했습니다. 회사는 이미지 검색의 “이 이미지에 대해” 기능을 곧 출시할 예정이라고 발표했습니다. 이 기능은 AI가 생성한 이미지인지 아닌지를 쉽게 알려줄 것입니다. 이 기능은 Google이 해당 이미지를 처음 색인화한 위치를 공개함으로써 이미지의 신뢰성에 대한 중요한 문맥과 통찰력을 제공합니다.
전체 기술 산업은 Instagram과 Google의 AI로 생성된 콘텐츠에 대한 레이블링과 식별 노력을 통해 투명성과 책임성의 중요성을 인식하기 시작하고 있습니다. AI가 발전하고 일상생활에 더 통합됨에 따라 사용자는 콘텐츠 제작에 AI가 어떻게 사용되는지를 알아야 합니다. 이러한 레이블링 시스템은 명확한 설명자를 제공함으로써 사용자가 상호작용하는 콘텐츠에 대해 합리적인 선택을 할 수 있도록 도와줍니다.
Instagram이 AI로 생성된 콘텐츠에 레이블을 붙이기로 한 결정은 AI 기술이 우리의 디지털 경험에 점점 더 큰 영향을 미치는 시대에 대한 투명성과 책임성을 높이기 위한 긍정적인 한 걸음입니다. Instagram의 목표는 사용자에게 그 콘텐츠가 제작에 AI가 사용되었다는 사실을 알려줌으로써 사용자가 그 콘텐츠를 소비할 때 더 많은 주체성을 부여하는 것입니다. 이러한 변경과 Google이 AI로 생성된 이미지를 식별하기 위한 작업은 AI 시대에 대한 개방성에 대한 점점 더 큰 인식을 나타냅니다. 플랫폼과 비즈니스는 사용자의 신뢰를 유지하고 인터넷을 모두를 위한 보다 안전한 장소로 만들기 위해 AI의 윤리적이고 책임감 있는 사용을 우선시해야 합니다.
처음으로 보고된 곳: ENBLE
자주 묻는 질문
인스타그램은 새로운 라벨링 시스템을 개발하는 것에 어떤 목표를 가지고 있나요?
인스타그램은 새로운 라벨링 시스템을 통해 플랫폼에서 콘텐츠 제작이나 편집에 인공지능(AI)이 사용되었음을 더욱 공개적이고 정직하게 알리고자 합니다. 이 라벨링 시스템은 사용자들에게 AI가 게시물 작성 또는 편집에 사용된 경우 알려줄 것입니다.
인스타그램에서 AI로 생성된 콘텐츠에 대한 라벨링 시스템을 개발하고 있는 사람은 누구인가요?
인스타그램의 모회사인 Meta가 플랫폼에서 AI로 생성된 콘텐츠에 대한 라벨링 시스템을 개발하고 있습니다.
AI로 생성된 콘텐츠의 라벨에는 무엇이 쓰여질까요?
AI로 생성된 콘텐츠의 라벨에는 “생성자 또는 Meta가 이 콘텐츠를 AI로 생성하거나 편집했다고 말했습니다.”라고 쓰여집니다. 이는 해당 콘텐츠가 “Meta AI에 의해 생성되었다”고 강조합니다.
라벨링 시스템의 도입이 왜 중요한가요?
라벨링 시스템의 도입은 AI로 생성된 콘텐츠를 통해 잘못된 정보와 딥페이크가 확산될 가능성에 대한 우려를 해소하기 위해 중요합니다. 이는 사용자들이 소비하는 콘텐츠에 대해 더 많은 문맥과 투명성을 제공하기 위한 목적을 가지고 있습니다.
주요 AI 기업들이 윤리적인 AI 성장을 위해 어떤 노력을 하고 있나요?
Meta, Google, Microsoft, OpenAI와 같은 주요 AI 기업들은 백악관과의 협력을 통해 AI의 윤리적인 성장을 보장하기 위한 약속을 하고 있습니다. 이러한 노력에는 사이버 보안 및 차별 연구의 재정 지원, AI로 생성된 콘텐츠에 대한 관객들에게 경고를 주기 위한 워터마킹 시스템 등이 포함됩니다.
Meta는 AI로 생성된 콘텐츠에 대한 알림을 어떻게 적용하고 있나요?
인스타그램의 라벨링 시스템에서 자동화 수준은 정확히 알려져 있지 않지만, 라벨에 “Meta가 말했다”라는 구절이 들어있는 점은 Meta가 일부 경우에는 알림을 적극적으로 적용하려고 하며 사용자의 공개를 의존할 수도 있다는 것을 시사합니다.
인스타그램을 위해 개발 중인 다른 AI 기능들은 무엇인가요?
Meta는 인스타그램을 위해 사진 편집을 위한 텍스트 프롬프트 및 사용자가 사진의 개별 픽셀을 편집할 수 있는 “AI 브러시” 기능을 포함한 다른 AI 기능들을 개발 중입니다.
Google은 AI로 생성된 콘텐츠에 대해 어떻게 접근하고 있나요?
Google도 AI로 생성된 콘텐츠에 대한 소비자들에게 정보를 제공하기 위해 노력하고 있습니다. 이미지 검색을 위한 “이 이미지에 대해”라는 기능을 출시할 예정이며, 사용자들이 이미지가 AI의 결과물인지 아닌지를 쉽게 판단할 수 있도록 도와줄 것입니다.
AI 시대에서 투명성이 왜 중요한가요?
투명성은 AI 시대에 사용자들이 상호작용하는 콘텐츠에 대해 더 많은 주체성을 부여하고 정보를 소비하는 데 있어서 학습된 선택을 할 수 있도록 해주기 위해 중요합니다. 이는 신뢰를 구축하고 AI 기술의 책임 있는 사용을 보장합니다.
인스타그램이 AI로 생성된 콘텐츠에 라벨을 달기로 한 결정의 보다 넓은 영향은 무엇인가요?
인스타그램이 AI로 생성된 콘텐츠에 라벨을 달기로 한 결정은 AI 기술의 사용에 대한 더 큰 투명성과 책임을 위한 긍정적인 한 걸음입니다. 이는 기술 산업에서 점점 더 열린 태도와 책임감을 가지려는 의식의 성장을 반영하며, 모두에게 안전한 온라인 환경을 조성하기 위한 필요성을 보여줍니다.
주요 이미지 크레딧: Unsplash
