심지어 OpenAI도 ChatGPT 표절 감지를 포기했다 | ENBLE
OpenAI abandons ChatGPT plagiarism detection.
인공지능 챗봇 ChatGPT의 창시자인 OpenAI는 인간이 아닌 인공지능이 만든 콘텐츠를 감지하기 위해 개발한 도구인 AI Classifier를 중단했습니다. OpenAI는 “정확도가 낮다”고 밝혔으며, 이 도구는 출시된 지 단 6개월 만에 폐쇄되었습니다.
ChatGPT와 경쟁 서비스들이 대중적인 인기를 끌면서, 인공지능 사용의 비판에 대한 집중적인 반발이 있었습니다. 교육자들은 특히 ChatGPT를 사용하여 학생들이 자신의 에세이와 과제를 작성한 후 자신의 것으로 속이는 가능성에 대해 특히 우려하고 있습니다.
OpenAI의 AI Classifier는 이러한 그룹들의 우려를 완화시키기 위한 시도였습니다. 이 도구는 텍스트가 인간이 작성한 것인지 인공지능 챗봇이 작성한 것인지 판별할 수 있어 사람들에게 학생을 공정하게 평가하고 허위 정보에 대항할 수 있는 도구를 제공하는 것이 목표였습니다.
그러나 OpenAI는 자체 도구에 대해 신뢰를 가지는 것 같지 않았습니다. 도구를 발표하는 블로그 글에서 OpenAI는 “우리의 분류기는 완전히 신뢰할 수 없습니다.”라고 밝히며, “도전 세트”에서 인공지능이 작성한 텍스트를 제대로 식별한 비율은 26%에 불과하다고 언급했습니다.
이 도구를 중단하는 결정은 크게 알리지 않았으며, OpenAI는 웹사이트에 전용 게시물을 게시하지 않았습니다. 대신, AI Classifier를 공개한 게시물을 업데이트하여 “AI 분류기는 정확도가 낮아 더 이상 사용할 수 없습니다.”라고 명시했습니다.
- 쓰레드, 물러나라. TikTok이 텍스트 게시물에 자신만의 스핀을 걸고 나...
- 최고의 3D 프린터 거래 $170에 창조물을 현실로 만드세요 | ENBLE
- Spotify 프리미엄 계정 이용료 인상
업데이트는 계속되며, “우리는 피드백을 통합하고 현재 텍스트에 대한 보다 효과적인 출처 추적 기술을 연구하고 개발하여 사용자가 오디오 또는 시각 콘텐츠가 인공지능 생성인지 이해할 수 있는 메커니즘을 개발하고 배포하기 위해 노력하고 있습니다.”라고 덧붙였습니다.
더 나은 도구가 필요합니다
AI Classifier는 AI가 작성한 콘텐츠를 감지하기 위해 개발된 유일한 도구가 아닙니다. OpenAI의 결정에도 불구하고, GPTZero와 같은 경쟁사들은 계속해서 운영될 것입니다.
AI 작성을 식별하기 위한 이전 시도들은 잘못된 방식으로 비롯된 경우가 많습니다. 예를 들어, 2023년 5월에 한 교수는 자신의 학생들의 논문에서 표절을 감지하기 위해 ChatGPT를 실수로 사용한 후 전체 반을 낙제시켰습니다. 물론 ChatGPT는 심각하게 잘못된 결과를 내놓았고, 교수도 그랬습니다.
OpenAI조차 자체 챗봇이 만든 표절을 올바르게 인식하지 못한다고 인정하는 것은 우려의 소지입니다. 인공지능 챗봇의 파괴적인 잠재력과 이 분야의 개발 일시 중단을 요구하는 요구에 대한 우려가 증가하는 시기에 이러한 실패한 AI Classifier보다 강력한 도구가 필요할 것입니다.
