ChatGPT는 Facebook과 같은 사이트에서 불법 콘텐츠를 조정할 수 있습니다 | ENBLE
ChatGPT는 불법 콘텐츠를 조정할 수 있습니다 | ENBLE
GPT-4 – ChatGPT Plus를 구동하는 대형 언어 모델 (LLM) -은 곧 온라인 모더레이터로 새로운 역할을 맡을 수도 있습니다. OpenAI의 ChatGPT 개발자에 따르면, 이는 “디지털 플랫폼의 미래에 대한 더 긍정적인 비전”을 제공할 수 있다고 합니다.
OpenAI는 인간 모더레이터 대신 인공지능 (AI)을 도입함으로써 GPT-4가 “정책 변경에 대한 훨씬 빠른 반복을 수행할 수 있으며, 시간을 월 단위에서 시간 단위로 줄일 수 있다”고 주장합니다. 또한 “GPT-4는 긴 콘텐츠 정책 문서의 규칙과 뉘앙스를 해석하고 정책 업데이트에 즉각적으로 적응하여 더 일관된 라벨링을 할 수 있다”고 OpenAI는 주장합니다.
예를 들어, 블로그 게시물은 모더레이션 팀이 콘텐츠에 라벨을 지정하여 해당 플랫폼의 규칙 내 또는 외부에 해당하는지 설명합니다. GPT-4는 미리 정답을 알지 못한 채 동일한 데이터 세트를 가져와 자체적으로 라벨을 지정할 수 있습니다.
그런 다음 모더레이터는 두 개의 라벨 세트를 비교하여 혼동을 줄이고 규칙에 명확성을 추가할 수 있습니다. 즉, GPT-4는 일반 사용자로서 작동하여 규칙이 의미 있는지 판단할 수 있습니다.
인간적인 피해
현재 다양한 웹사이트에서 콘텐츠 모더레이션은 인간에 의해 수행되며, 이는 그들을 잠재적으로 불법적이거나 폭력적이거나 그 외 해로운 콘텐츠에 정기적으로 노출시킵니다. 우리는 콘텐츠 모더레이션이 일으킬 수 있는 정말로 끔찍한 인간적 피해를 반복적으로 목격해왔습니다. 페이스북은 직업의 트라우마로 인해 PTSD를 겪은 모더레이터에게 5200만 달러를 지불한 사례가 있습니다.
- 스트리밍은 이번 여름에 새로운 최고를 찍었습니다. 여기에 가장 많이 ...
- 4K에 대한 최고의 GPU UHD 해상도, 레이 트레이싱 등 | ENBLE
- Walmart Plus에 가입해야 할까요? 알아야 할 사항들입니다.
인간 모더레이터에 대한 부담을 줄이는 것은 그들의 근무 환경을 개선하는 데 도움이 될 수 있으며, GPT-4와 같은 AI는 인간이 문제 콘텐츠를 처리할 때 느끼는 정신적 스트레스에 면역이므로, 과로와 PTSD에 대해 걱정할 필요가 없습니다.
그러나 이러한 방식으로 AI를 사용하는 것이 직업 상실을 야기할 수 있는지는 의문입니다. 콘텐츠 모더레이션은 항상 재미있는 일은 아니지만, 결국은 일이며 GPT-4가 인간 대신 이 영역에서 대체한다면, 이전 콘텐츠 모더레이터들이 단순히 불필요한 인력으로 남아있지 않고 다른 직무로 재배치될 가능성에 대한 우려가 있을 것입니다.
OpenAI는 블로그 게시물에서 이 가능성에 대해 언급하지 않았으며, 이는 콘텐츠 플랫폼이 결정할 문제입니다. 그러나 이는 대기업이 AI를 단순히 비용 절감 수단으로 사용할 가능성이 있으며 그 이후에 대한 걱정이 거의 없는 채로 배치될 수 있다는 우려를 완화시키지 않을 수 있습니다.
그래도, 인구 수십억 명이 매일 사용하는 웹사이트에서 콘텐츠를 모니터링하는 과로와 감정적인 타격을 줄일 수 있는 AI가 있다면, 이 모든 일에 좋은 면이 있을 수 있습니다. 그러나 이에 따른 직무 상실로 인한 엄청난 파괴력에 얼마나 균형을 맞출 수 있는지는 아직 알 수 없습니다.
