ChatGPT를 도움으로하는 봇들이 소셜 미디어에서 퍼지고 있습니다.
ChatGPT를 도움으로 하는 봇들이 소셜 미디어에서 퍼지고 있습니다.' can be condensed to 'ChatGPT를 도움으로 하는 봇들이 소셜 미디어에 퍼지고 있습니다.
많은 사용자들에게 소셜 미디어 피드와 알림을 스크롤하는 것은 스팸 콘텐츠의 오염된 연못을 걷는 것과 같습니다. 새로운 연구에서는 암호화폐와 블록체인에 관해 X (이전의 트위터)에서 거짓 정보를 퍼뜨리는 1,140개의 AI보조 봇이 발견되었습니다.
하지만 이러한 종류의 콘텐츠를 게시하는 봇 계정들은 인디애나 대학의 연구원들이 발견한 대로, 식별하기 어려웠습니다. 이 봇 계정들은 ChatGPT를 사용하여 콘텐츠를 생성하였으며, 실제 계정들과 구별하기 어려웠기 때문에 피해자들에게 더 큰 위험을 안겨주었습니다.
또한: Meta의 AI 기반 다국어 음성 및 텍스트 번역기를 데모로 사용할 수 있습니다. 다음은 사용 방법입니다.
AI 기반 봇 계정들은 암호화폐와 블록체인에 대한 실제 인간들과 유사한 프로필 사진 및 자기 소개를 갖고 있었습니다. 이들은 AI로 생성된 정기적인 게시물을 올리고, 자신의 것인 것처럼 훔친 이미지를 게시하며, 답글과 리트윗을 작성했습니다.
연구원들은 1,140개의 트위터 봇 계정들이 동일한 악성 소셜 봇넷에 속해있음을 발견하였으며, 이를 “fox8″이라고 명명하였습니다. 봇넷은 사이버 범죄자에 의해 중앙적으로 제어되는 연결된 기기 또는 계정들의 네트워크입니다.
- Meta의 Threads 웹사이트가 이제 모두를 위해 런칭되었습니다.
- 오픈AI의 GPT-3.5 Turbo를 세밀하게 조정하면 GPT-4만큼 (혹은 그 이상)...
- 딜 아마존, 애플의 새로운 15인치 맥북 에어에 $200 할인, $1,099부터 ...
또한: Claude AI가 ChatGPT가 할 수 없는 4가지 일
생성적 AI 봇들은 인간의 행동을 모방하는 데 점점 더 능숙해지고 있습니다. 이는 Botometer와 같은 전통적인 및 최신의 봇 탐지 도구들이 이제는 충분하지 않다는 것을 의미합니다. 이 연구에서는 이러한 도구들이 봇이 생성한 콘텐츠와 인간이 생성한 콘텐츠를 식별하고 구별하는 데 어려움을 겪었지만, 한 가지 도구는 눈에 띄었습니다. OpenAI의 AI 분류기는 일부 봇 트윗을 식별할 수 있었습니다.
봇 계정을 어떻게 식별할 수 있을까요?
트위터의 봇 계정들은 서로 팔로우하며, 동일한 링크와 해시태그를 사용하며, 유사한 콘텐츠를 게시하며, 심지어 서로와 상호작용하기도 합니다.
또한: ‘BeFake’라는 새로운 소셜 미디어 앱은 사용자들에게 AI를 사용하여 사진을 변형하도록 권장합니다.
연구원들은 AI 봇 계정들의 트윗을 조사하고 1,205개의 자기 공개적인 트윗을 발견하였습니다.
이 중 81%는 동일한 사과하는 구절을 사용하였습니다:
“죄송하지만 OpenAI의 유해하거나 부적절한 콘텐츠 생성 정책을 위반하는 요청에는 응할 수 없습니다. AI 언어 모델로서, 제 답변은 항상 모든 대상을 위해 예의 바르고 적절해야 합니다.”
이 구절의 사용은 봇이 ChatGPT의 OpenAI 정책에 어긋나는 유해한 콘텐츠를 생성하도록 지시받은 것을 시사합니다.
나머지 19%는 “AI 언어 모델로서”의 언어를 다른 형태로 사용하였으며, 그 중 12%는 특히 “AI 언어 모델로서, 특정 트윗을 검색하거나 특정 트윗에 대한 응답을 제공할 수 없습니다.”라고 말했습니다.
또한: ChatGPT 대 Bing Chat 대 Google Bard: 어떤 AI 챗봇이 가장 좋은가요?
이러한 봇들이 게시한 트윗 중 3%가 세 개의 웹사이트(cryptnomics.org, fox8.news, globaleconomics.news) 중 하나를 링크하고 있었던 사실도 단서였습니다.
이러한 사이트들은 보통의 뉴스 매체처럼 보이지만, 2023년 2월에 거의 동시에 등록되었으며, 사용자들에게 수상한 소프트웨어를 설치하도록 팝업창을 띄우는 등 주목할만한 적색 깃발을 가지고 있었으며, 모두 동일한 워드프레스 테마를 사용하고 도메인이 동일한 IP 주소로 해석되는 것으로 나타났습니다.
악의적인 봇 계정들은 소셜 미디어에서 자체 복제 기술을 사용하여 악성 소프트웨어나 감염 가능한 콘텐츠를 링크하여 사용자의 연락처를 이용하거나, 사용자의 브라우저에서 세션 쿠키를 훔치거나, 팔로우 요청을 자동화하는 등의 공격을 가할 수 있습니다.
