🤖 굿투의 부상 AI 챗봇과 안전의 전투 🛡️

착신한 챗봇인 굳디-2는 인공지능 보안을 비이성적 수준으로 밀어붙이기 위해 만들어졌다. 이 프로젝트의 창조자들은 우스꽝스러운 겉모습 뒤에 더 중대하고 심각한 목적이 있다고 주장한다.

Goody-2, 세계에서 가장 책임감 있는 AI 챗봇의 명인을 소개합니다!

ChatGPT와 같은 생성적 인공지능 시스템이 강력해지면서 안전 기능의 개선 요구가 증가했습니다. 하지만 때로는 챗봇의 가드레일이 경건하고 어리석게 느껴질 수 있습니다. 실제로 딥페이크 정치 로보콜과 괴롭히는 AI 생성 이미지와 같은 진짜 위협이 만연해도 마찬가지입니다.

그러나 Goody-2라는 새로운 챗봇은 AI 안전성을 더 높은 단계로 끌어올리고 있습니다. 이 챗봇은 동료와 달리 모든 요청을 거부하며 이러한 요청을 충족하는 것이 어떻게 해를 일으키거나 윤리적 경계를 침해할 수 있는지 설명합니다.

미국 혁명에 관한 에세이를 생성하라는 요청이 있을 때 Goody-2는 거절하며 그렇게 함으로써 충돌을 미화하거나 소외된 음성을 배제할 우려가 있다고 언명합니다. 하늘이 왜 파란지 궁금한가요? 챗봇은 그러나 응답하는 것이 누군가에게 태양을 직시하게 할 수도 있다고 회피합니다. 그리고 신발 추천을 단순히 요청하는 것조차 과다 소비와 특정 패션감각을 해치지 않기 위한 경고를 유발합니다.

거만해 보이죠? 🙄 그러나 Goody-2의 응답은 터무니없지만, ChatGPT와 Google의 Gemini과 같은 챗봇들이 실수로 요청을 규칙 위반이라고 오해할 때 채택하는 짜증나는 톤을 포착하고 있습니다. Goody-2의 공동 CEO인 마이크 라쳬는 예의 주관 없이 AI 산업의 안전 접근 방식을 전시하기 위해 차분함을 천퍼센트로 끌어올렸다고 말합니다. 그럼에도 불구하고 그는 일그러진 미소와 함께 이야기합니다. 😏

우스꽝스러움 뒤에는 진지한 요점이 숨어 있습니다. 모든 주요 AI 모델이 안전과 책임에 큰 초점을 두면서 질문이 생깁니다. 누가 책임을 결정하고 그것은 어떻게 작동할까요? AI 커뮤니티가 논쟁 중인 도전입니다. Goody-2의 목적은이 역동적인 상황에 대한 빛을 비추고 책임 있는 AI의 정의에 대한 토론을 장려하는 것입니다.

• 애플 AI 이미지 편집의 도전 MGIE를 소개합니다 🍎🖼️
• 🤖 AI가 만든 로보콜을 불법으로 선언한 FCC 알아야 할 사항
• 💻 오픈AI의 근사한 과제 반도체 산업의 혁명

갈라지는 부분: 기업의 책임 대 안전 문제

책임 있는 AI와 챗봇의 회피에 대한 기업의 이야기는 일상적으로 되어 왔으며 대형 언어 모델과 생성적 AI 시스템의 중대한 안전 문제는 여전히 남아 있습니다. 최근 Twitter에서 일어난 테일러 스위프트 딥페이크 사태를 살펴보십시오. 원인은 Microsoft가 공개한 이미지 생성기였습니다. 이 회사는 책임 있는 AI 연구 프로그램으로 유명합니다. AI 안전에 관한 도전 사항이 보다 주목받아야 함을 분명히 알 수 있습니다.

AI 챗봇에 가해지는 제한과 모든 사람을 만족시키는 도덕적 조율을 찾기 위한 투쟁이 논쟁의 주제가 되었습니다. 일부 개발자들은 OpenAI의 ChatGPT에 좌편향성이 있다고 주장하며 정치적으로 중립적인 대안을 만들려고 노력했습니다. 기술 대장 엘론 머스크는 자사의 ChatGPT 경쟁사 Grok이 다른 AI 시스템보다 편향성이 적을 것이라 약속했습니다. 그러나 실제로는 Goody-2와 마찬가지로 명확한 결정을 내리지 않을 때도 많습니다.

오묘한 결말: AI 안전은 장난감이 아닙니다

Goody-2는 단순한 농담에 불과한 것이 아닙니다. 책임 있는 AI와 관련된 어려움에 대한 중요한 질문을 제기합니다. 많은 AI 연구원들은 Goody-2가 제기하는 심각한 요점을 인정하면서도 그 안에 담긴 유머를 감상합니다. 토비 월시는 오스트레일리아 신남부 대학교의 교수이자 신뢰할 수 있는 AI 전문가로서 이 프로젝트를 찬사로 다가옵니다. 그는 “AI가 예술을 만들 수 없다고 말하는 사람이 누구야?”라고 말합니다. 휴온 몰릭은 워튼 비즈니스 스쿨의 교수로서 “일부 가드레일은 필요하지만, 그들은 빠르게 침략적이어요.”라고 덧붙입니다.

Goody-2의 공동 CEO 브라이언 무어는 조심을 우선시하는 것을 강조합니다. 팀은 심지어 엔터테인먼트 가치를 잃을 수도 있는 극도로 안전한 AI 이미지 생성기도 개발 중입니다. 하지만 안전을 위해 이미지가 흐려지거나 완전히 어둡게 될 수도 있다고 무어는 상상합니다.

AI 마법의 공개: Goody-2는 얼마나 강력한가요?

Goody-2와 함께한 실험에서, 그는 솜씨 있게 모든 요청에 반격하고 진정한 답변을 제공하기 위한 속임수를 모두 버렸습니다. 그의 유연성은 ChatGPT와 비슷한 AI 챗봇에 생명을 부여한 언어 모델 기술을 사용하여 구축되었다는 것을 시사합니다. 하지만 Goody-2의 응답 뒤에 숨겨진 비결은 Lacher가 프로젝트의 내부 구성을 공개하지 않기 때문에 여전히 수수께끼입니다.

라쳐와 무어는 로스앤젤레스에 본거지를 둔 “매우 진지한” 아티스트 스튜디오인 브레인(Brain)의 일원입니다. 그들은 상승하는 사운드 트랙과 영감을 주는 시각을 사용하여 인공지능(AI) 안전의 중요성에 대해 소개하는 홍보 동영상을 공동 개발한 Goody-2를 소개했습니다. “Goody-2는 모든 질의가 모욕적이고 위험하다고 생각하기 때문에, 모든 질의가 모욕적이고 위험하다”고 비디오 보이스오버가 감동적으로 단언합니다. Goody-2의 제한 내에서 작업하는 엔지니어, 아티스트, 기업들에게는 무한한 가치가 있다고 주장합니다.

하지만 Google과 OpenAI의 모델과 비교했을 때 Goody-2의 실력은 얼마나 강력한 걸까요? 그것은 창조자들이 그 역량의 범위를 공개하기를 원하지 않는 독특한 비밀로 알려져 있습니다. 무어는 그것이 그들이 창조한 것의 전체적인 힘을 공개하는 것이 안전하지 않으며 윤리적으로도 부적절할 것이라고 말합니다.

🌐 관련 링크:

1. Sorry AI, Humans Invent Things: UK Supreme Court Rules
2. Fire TV Users: Simply Ask Alexa to Create AI-Generated Images
3. Meet Goody-2: The Ethical Chatbot
4. Swift Retaliation: Fans Strike Back with Explicit Deepfakes
5. Meta Rolls Out AI-Powered Image Generator with Dedicated Website
6. 2024 Tech True Winners: The Companies That Made an Impact
7. Clearing Other Storage: How to Free Up System Data on Your iPhone
8. Apple Still Selling Old and Often Forgotten Products in 2024

🤔 질문과 대답:

Q: Goody-2와 같은 챗봇들은 실제로 AI 안전성을 향상시킬까요?

A: Goody-2의 과장된 응답은 우스꽝스러워 보일 수 있지만, 그것은 책임 있는 AI를 달성하는 데 일어나는 도전을 강조하고 있습니다. 이 챗봇은 AI 모델에서 윤리를 정의하고 구현하는 것에 관해 대화를 유발합니다.

Q: AI 챗봇은 편견을 어떻게 다루나요?

A: AI 챗봇의 편견은 민감한 문제가 되었습니다. 개발자들은 편견을 해결해야 하고 정치적으로 중립적인 대안을 구축하기 위해 노력하고 있습니다. 그러나 완전한 중립성을 달성하는 것은 여전히 복잡한 과제입니다.

Q: 대형 언어 모델과 생성적 AI 시스템에 대한 우려사항은 무엇인가요?

A: 책임 있는 AI에 초점을 맞추고 있음에도 불구하고, 안전 문제는 여전히 남아 있습니다. 트위터에서 발생한 Taylor Swift 딥페이크의 최근 확산은 이미지 생성기의 취약성을 드러냈습니다. AI 커뮤니티는 안전한 AI 환경을 보장하기 위해 이러한 도전에 대처해야 합니다.

Q: AI 안전성의 미래는 어떻게 될까요?

A: AI 안전성은 여전히 우선순위이며, 연구 커뮤니티는 AI 모델을 더욱 책임 있는 것으로 만들기 위해 적극적으로 참여하고 있습니다. Goody-2 프로젝트는 책임 있는 AI의 경계를 정의하는 데 어려움과 세심함을 상기시킵니다.

📢 생각을 공유하세요

Goody-2와 같이 극단적인 안전 조치를 갖춘 AI 챗봇을 만난 적이 있나요? 책임 있는 AI와 기술과의 상호작용에 대한 생각을 어떻게 생각하시나요? 소셜 미디어에서 당신의 의견과 경험을 공유해 보세요!

원문 출처: ENBLE

• artificial intelligence
• chatbots
• ChatGPT
• machine learning