의원들, ChatGPT 수준의 인공지능이 정부 허가를 필요로 한다고 주장
의원들, ChatGPT 수준의 인공지능은 정부 허가를 필요로 한다고 주장
미국 정부는 인공지능을 규제하기 위한 새로운 기구를 만들어야 하며, OpenAI의 GPT-4와 같은 언어 모델에 대한 작업은 라이선스를 부여받은 회사에만 허용되어야 한다는 것이 민주당 리처드 블루멘탈과 공화당 조쉬 할리 세네이터의 권고입니다. 이들은 어제 입법 프레임워크를 시작하여 미래 법률의 청사진이 되고 의회에 제출되는 다른 법안에도 영향을 미칠 것으로 기대하고 있습니다.
이 제안에 따르면, 얼굴 인식 및 기타 “고위험” AI 응용 프로그램을 개발하기 위해서도 정부 라이선스가 필요합니다. 회사들은 배포 전 잠재적인 피해를 입힐 수 있는 AI 모델을 테스트하고, 발표 후 문제가 발생한 경우 이를 공개하며, 독립적인 제3자에 의한 AI 모델 감사도 허용해야 합니다.
이 프레임워크는 또한 회사들이 AI 모델을 생성하는 데 사용된 학습 데이터의 세부 정보를 공개하고, AI에 의해 피해를 입은 사람들이 해당 회사를 소송할 권리를 갖도록 제안합니다.
이 세네이터들의 제안은 워싱턴 DC에서 AI를 규제하는 방법에 대한 논의가 가열되는 가운데 앞으로의 몇 일과 몇 주 동안 영향력을 행사할 수 있습니다. 다음 주 초에 Blumenthal과 Hawley는 사람들에게 피해를 입히거나 권리를 침해하는 AI 시스템을 배포할 때 기업과 정부에게 어떻게 책임을 지을지에 대한 선망을 감독할 예정입니다. 이 자리에는 Microsoft 사장 브래드 스미스와 칩 제조업체 Nvidia의 주요 과학자 윌리엄 데일리도 증언할 예정입니다.
하루 후에는 척 슈머 상원의원이 AI를 규제하는 방법에 대한 회의 시리즈의 첫 번째 모임을 주최할 예정입니다. 슈머 상원의원은 이를 “우리가 지금까지 진행한 가장 어려운 일 중 하나”라고 표현한 바 있습니다. Mark Zuckerberg, Elon Musk, Google, Microsoft 및 Nvidia의 CEO를 포함한 AI에 관심을 가진 기술 임원들은 거의 20여 명의 손님 명단의 약 절반을 차지하고 있습니다. 다른 참석자들은 AI 알고리즘에 적용될 가능성이 있는 사람들을 대표하며, 작가 길드와 노동조합 연맹인 AFL-CIO의 무역 조합 회장, 그리고 UC 버클리의 Deb Raji와 Humane Intelligence의 CEO이자 Twitter의 전 윤리적 AI 담당자인 Rumman Chowdhury 등 인권 침해를 방지하기 위해 AI에 작업하는 연구원들도 포함됩니다.
- 당신의 웹사이트에 상호작용성을 추가하는 JavaScript의 5가지 방법
- X는 사람들의 피드에 라벨이 없는 광고를 살짝 미끄러뜨리는 것 같습니다.
- X는 소셜 미디어 콘텐츠 관리법에 대해 캘리포니아를 상대로 소송을 제...
IBM에서 이전에 AI 윤리 이니셔티브를 이끌었던 애나 렌하트는 AI 전문가들이 AI가 규제되어야 하는 방법과 이유를 설명하기 위해 의회에 출석한 지 몇 년이 지난 후에야 세네이터들이 이를 수행하고 있다는 사실을 보는 것은 매우 상쾌하다고 말합니다.
렌하트는 “이들이 이를 담당하고, 통찰력 포럼이나 전문가들과의 면담을 위한 2년간의 시간을 소요하는 위원회를 기다리지 않겠다는 것을 보는 것은 정말 상쾌합니다”,라고 말하며 환영합니다.
하지만 그녀는 신규 AI 감독 기구가 자율주행 자동차부터 건강 관리, 주택 등 다양한 분야에서 사용되는 기술을 감독하기 위해 필요한 다양한 기술과 법적 지식을 보유할 수 있는지 확신하지 못합니다. 렌하트는 “라이선스 제도 아이디어에 좀 막히는 부분은 여기에 있습니다”,라고 말합니다.
강력한 인공지능 시스템 개발자에게 라이선스 사용을 제한하는 아이디어는 산업과 의회에서 양호한 지원을 받고 있습니다. OpenAI CEO Sam Altman은 5월에 상원에서 증언할 때 AI 개발자들을 위한 라이선스를 제안했는데, 이는 아마도 그의 회사가 선도적인 위치를 유지하는 데 도움이 될 수 있는 규제적인 해결책입니다. 지난달 센터 Lindsey Graham과 Elizabeth Warren이 제안한 법안은 기술 회사들이 정부 AI 라이선스를 확보해야 한다고 요구하지만 특정 규모 이상의 디지털 플랫폼에만 해당됩니다.
렌하트는 정부가 AI 개발을 위한 라이선스 사용에 대한 의문을 갖는 유일한 AI 또는 정책 전문가는 아닙니다. 5월에는 혁신을 억제할 수 있다는 우려로 자유주의적인 정치 캠페인 그룹인 Americans for Prosperity와 돈이나 영향력 있는 연결을 가진 회사들에 의한 산업 차지에 대한 경고를 내린 디지털 권리 비영리 단체인 전자선 개방기금이 모두 이 라이선스 아이디어에 대한 비판을 했습니다. 이에 대응하여 어제 발표된 프레임워크는 AI 감독 기구의 직원들에 대한 강력한 이해관계 규칙을 권장합니다.
블루멘탈과 할리의 미래 AI 규제 프레임워크는 아직 몇 가지 질문에 대한 답변을 제공하지 못하고 있습니다. AI 감독은 새롭게 설립된 연방 기관에서 이루어질지 아니면 기존 연방 기관 내부의 그룹에서 이루어질지 아직 확실하지 않습니다. 또한 세네이터들은 특정 사용 사례가 고위험으로 정의되고 개발을 위해 라이선스가 필요한지를 결정하기 위해 어떤 기준을 사용할지 명시하지 않았습니다.
환경 비영리 단체인 Friends of the Earth의 기후 디지트 정보 프로그램 디렉터인 마이클 크의에 따르면 새로운 제안은 좋은 첫걸음처럼 보이지만 아이디어를 제대로 평가하기 위해서는 더 많은 세부 사항이 필요합니다. 그의 조직은 기후 변화를 악화시키는 고에너지 AI 프로젝트가 방지되도록 의회에 요구하기 위해 슈머에게 편지를 보내고, 다음 주 의회를 돌면서 돌아다닐 이동형 광고판을 통해 요구하고 있습니다.
크는 입법 프레임워크가 부정적인 영향을 문서화하고 공개하도록 요구하는 점에 동의하지만, 기업들이 무엇이 해로운 것으로 간주되는지를 정의하는 데 기업들이 정의하는 것을 의회에 맡겨서는 안된다고 말합니다. 그는 또한 의회의 구성원들이 기업들이 AI 시스템을 훈련하고 배포하는 데 필요한 에너지 양을 공개하며 AI 모델의 영향을 평가할 때 잘못된 정보의 확산 위험을 고려할 것을 요구합니다.
입법적인 틀은 연방정부가 지금까지 채택한 것보다 인공지능 규제에 더 엄격한 접근을 고려하고 있음을 보여줍니다. 연방정부는 자발적인 위험 관리 틀과 비결속적인 인공지능 권리 법안을 발표했습니다. 백악관은 구글, 마이크로소프트, 오픈AI를 포함한 여덟 개의 주요 인공지능 기업과 7월에 자발적인 합의를 이루었지만, 더 강력한 규칙이 올 것이라고 약속했습니다. 인공지능 회사 협약에 관한 브리핑에서 백악관 인공지능 특별보좌관인 벤 부천넌은 사회를 인공지능의 피해로부터 안전하게 지키기 위해서는 입법이 필요하다고 말했습니다.
