생성적 인공지능은 기업들이 당신의 데이터에 대해 더욱 갈망하게 만들고 있다
생성적 인공지능은 기업들의 데이터 갈망을 증대시키고 있다.
Zoom는 비즈니스 회의에 파자마로 참석하는 것을 일반화시킨 회사입니다. 그러나 이번 주에는 Zoom이 사용자들에게 동의 없이 개인 데이터를 인공 지능 교육에 사용하지 않을 것을 재확인하기 위해 자신을 다시 음소거 해야 했습니다.
Hacker News의 예리한 사용자가 지난 주에 주목한 바에 따르면, 3월에 Zoom의 약관이 업데이트된 것으로 보이며, 이로 인해 회사는 음성, 비디오 및 기타 데이터를 수집하여 기계 학습 시스템에 사용할 수 있는 자유를 얻었습니다.
새로운 약관은 고객들이 “서비스 생성 데이터의 액세스, 사용, 수집, 생성, 수정, 배포, 처리, 공유, 유지, 저장”을 목적으로 기계 학습 또는 인공 지능(알고리즘 및 모델의 교육 및 튜닝을 포함)을 포함하여 Zoom의 동의를 한다고 명시하였습니다.
이 발견은 비판적인 뉴스 기사와 분노한 게시물을 일으키게 되었습니다. 곧 Zoom은 입장을 변경했습니다. 월요일에 Zoom의 최고 제품 담당 임원인 Smita Hasham은 “음성, 비디오 또는 채팅 고객 콘텐츠를 동의 없이 인공 지능 모델을 교육하기 위해 사용하지 않을 것”이라는 블로그 글을 썼습니다. 회사는 또한 약관을 동일하게 수정했습니다.
- 인공지능과 빅 데이터를 활용하여 Z세대에 매력적인 직장 만들기
- The Art of Private Equity Interviewing 화려한 대답을 위한 팁
- AMD와 Intel CPU 보안 버그가 Linux 패치를 가져왔습니다.
이러한 업데이트는 충분히 안심스러워 보이지만, 물론 많은 Zoom 사용자나 비즈니스 계정의 관리자는 자신들이 무엇을 넘기고 있는지 제대로 이해하지 못한 채 “확인”을 클릭할 수 있습니다. 또한 Zoom을 사용해야 하는 직원들은 그들의 고용주가 어떤 선택을 했는지 알지 못할 수도 있습니다. 어떤 변호사는 여전히 약관이 동의 없이 많은 데이터를 수집할 수 있도록 허용한다고 지적합니다. (Zoom은 댓글 요청에 응답하지 않았습니다.)
이러한 사태는 생성적 인공 지능 붐이 이미 기존보다 데이터에 대한 열망을 더욱 증폭시킨 현 시점에서 의미 있는 데이터 보호 부재를 보여줍니다. 기업들은 생성적 인공 지능을 데이터를 어떤 용도로 사용해야 하는지 또는 해당 미래 AI 시스템이 무엇을 할 수 있는지 명확하지 않을 때라도, 생성적 AI를 종류의 괴물로 간주하고 어떻게든 데이터를 공급해야 한다고 여기기 시작했습니다.
DALL-E 2와 Midjourny 같은 AI 이미지 생성기의 등장은 웹에서 스크랩된 많은 양의 학습 데이터(그 중 상당수가 저작권 소유) 덕분에 가능해졌습니다. 그리고 여러 회사들은 현재 자신들이 소유한 데이터나 고객 및 사용자로부터 생성된 데이터를 사용하여 생성적 AI 도구를 구축하려고 합니다.
Zoom은 이미 생성적 AI에 대한 열기를 보여주고 있습니다. 회사는 6월에 회의 요약 및 이메일 작성을 위한 두 가지 텍스트 생성 기능을 도입했습니다. Zoom은 사용자의 비디오 회의 데이터를 사용하여 더 복잡한 알고리즘을 개발할 수도 있습니다. 이러한 알고리즘은 회의에서 개인의 행동을 요약하거나 분석하거나, 일시적인 연결 끊김이나 샤워할 시간이 없는 사람을 위해 가상의 유사 인물을 생성할 수도 있습니다.
Zoom이 더 많은 데이터를 확보하기 위한 노력의 문제는 개인 데이터에 관련된 일반적인 상황을 반영한다는 점입니다. 많은 기술 회사들은 이미 우리의 정보를 통해 이익을 얻고 있으며, Zoom과 같은 많은 회사들은 이제 생성적 AI 프로젝트에 더 많은 데이터를 확보하기 위한 방법을 모색하고 있습니다. 그렇지만 우리 사용자들이 그들의 하는 일을 감시하려고 하는 것은 우리에게 달려있습니다.
“기업들은 가능한 한 많은 데이터를 수집하려고 합니다,”라고 데이터 및 사회 연구소의 실행 이사 인 Janet Haven은 말합니다. “이것은 데이터를 수집하고 해당 데이터를 기반으로 제품을 개발하거나 데이터를 데이터 브로커에 판매하는 비즈니스 모델입니다.”
미국은 연방 개인 정보 보호법이 없어서, EU 국가와 비교해 소비자들이 ChatGPT에 영감을 받은 데이터에 대한 갈망에 노출되는 경우가 더 많습니다. 미국 데이터 개인 정보 및 보호법과 같은 제안된 법률은 데이터 수집 및 사용에 대한 더 엄격한 연방 규칙을 제공할 희망을 제시하고, 바이든 행정부의 AI 권리 선언서도 기본적인 데이터 보호를 요구합니다. 그러나 현재는 Zoom의 움직임에 대한 이러한 공개적인 반발이 기업들의 데이터 욕구를 억제하는 가장 효과적인 방법입니다. 불행하게도, 이는 인공 지능 분야에서 경쟁하려는 기업들의 의문을 모두 포착하기에는 신뢰할 수 없는 메커니즘입니다.
소비자로부터 수집된 데이터의 산출물에서 구축된 가장 흥미로운 및 널리 칭찬받는 새로운 기술들이 개인 정보에 대한 도덕적으로 의문스러운 방식으로 수집된 데이터의 산더미 위에 구축되는 시대에는 새로운 보호책이 빨리 필요합니다. “개인은 모든 조치를 취하여 자신을 보호해야 한다,”고 데이터 및 사회 연구소의 이사인 Janet Haven은 말합니다. “이것은 사회적인 문제라는 개념과 상반됩니다.”
