자율 주행 차량은 어린 보행자를 감지하는 데서 더욱 부족한 것으로 연구가 밝혀졌다.
연구에 따르면, 자율 주행 차량은 어린 보행자 감지에서 더 부족하다.
인공지능(AI)은 흑인을 잘못 인식하는 얼굴 인식 시스템부터 히틀러를 존경하는 챗봇까지 편향적인 역사를 가지고 있습니다. 일부 상황에서는 결과가 치명적일 수도 있습니다.
이번 주에는 이와 관련한 사례가 드러났습니다. 최근 연구에 따르면, 자율주행차 연구에 사용되는 보행자 감지 시스템은 주요한 연령 및 인종 편향을 가지고 있습니다.
이 연구는 무인 자동차의 도입에 또 다른 장애물을 제시합니다. 또한 도로 안전에 대한 경계를 더욱 키우게 됩니다.
이 연구 결과는 8개의 인기 보행자 감지 시스템을 체계적으로 검토한 결과입니다. 킹스 칼리지 런던(KCL)의 연구진은 8,000개 이상의 보행자 이미지에 이 소프트웨어를 테스트했습니다.
그들은 평균적으로 성인의 감지 정확도가 어린이보다 거의 20% 높았으며, 미색 피부인 보행자에 대해서도 7.5% 더 정확했습니다.
- 제2차 세계 대전 코드 해독사들의 고향인 블레치리 파크에서 세계 최초...
- Google는 새로운 인증 점검을 통해 Gmail 보안을 강화했습니다.
- 트럼프의 기소는 미국의 마지막 희망입니다
이러한 차이점은 인공지능 편향의 공통 원인인 대표적인 훈련 데이터 부족에서 비롯됩니다.
“공학 및 데이터 과학 관련해서는 ‘쓰레기를 넣으면 쓰레기가 나온다’라는 옛날 속담이 있습니다. AI 시스템은 많은 훈련 데이터로 훈련되어야 하며, 그 데이터의 불완전성은 반드시 AI에서 반영됩니다,”라고 KCL의 컴퓨터 과학 강사인 장 지에 박사는 TNW에 말했습니다.
“이 경우에는 이 보행자 감지 시스템을 훈련시키기 위해 사용된 오픈 소스 이미지 갤러리가 모든 보행자를 대표하지 못하며, 밝은 피부를 가진 성인에 편향되어 있습니다. 적은 양의 데이터로 훈련되었기 때문에 AI는 대표되지 않은 그룹을 감지할 때 더욱 부정확해집니다.”
조명 조건에서 또 다른 문제가 발견되었습니다. 낮은 대비 및 어둠 속에서는 어린이와 피부색이 어두운 사람에 대한 편향이 더욱 심화되었습니다. 이는 두 그룹 모두가 야간 운전 중 증가된 위험에 노출될 수 있음을 시사합니다.
자동차 제조업체는 보행자 감지 소프트웨어에 대한 세부 정보를 공개하지 않지만, 일반적으로 연구에서 사용된 동일한 오픈 소스 시스템을 기반으로 합니다. 따라서 장 박사는 동일한 문제를 겪을 것이라고 확신합니다.
위험을 줄이기 위해 그는 보행자 감지 시스템에 대해 더 많은 투명성과 더 강화된 규제를 요구합니다.
“개발자들은 자신들의 감지 시스템이 어떻게 훈련되고 어떻게 수행되는지에 대해 더 투명하게 시작해야 합니다. 이렇게 하면 객관적으로 측정될 수 있으며, 그렇지 않을 경우에는 심각한 결과를 초래할 수 있습니다,” 그는 말했습니다.
“하지만 이 외에도 제조업체들은 자신들의 AI 시스템을 공정하고 대표적으로 만들기 위해 노력해야 하며, 이러한 동기부여는 정책 결정자와 AI의 공정성에 대한 더 강화된 규제로부터 나올 것입니다.”
연구 논문은 여기에서 읽을 수 있습니다.
