모니터링 센서 인종차별 논란
결국 데이터 축적 부족이 원인
기술의 중립성, 무조건 타당할까?
가끔 기술은 억울한 상황을 마주하고는 한다. 만든 사람도 사용하는 사람도 그럴 의도가 없었으나 전혀 예상하지 못한 결과가 도출되면서 엄청난 비난을 마주하게 되기 때문이다. 기술은 순수하지만 사용하는 사람도, 실제 결과도 모두 다를 수 있다는 것이다. 크게 본다면 핵기술이 그러했고, 사소하게는 이번 사건이 좋은 사례이다.
중국의 한 블로거에 의해 논란이 된 이번 사건은 자동차의 운전 보조기능과 여기에 포함된 운전자 모니터링 기술과 관련이 있다. 정리하자면 사실상 센서가 인종차별을 했다는 말인데, 도대체 어떻게 된 일일까? 빠르게 살펴보도록 하자.
글 오대준 수습 에디터
운전자 모니터링 기능 오작동
서양인 중심 기본 세팅 의심
중국에서 활동하는 유명 블로거인 데렉TLM은 자신이 탑승했던 중국의 자동차 브랜드인 샤오펑의 모니터링 센서가 자신의 눈을 졸린 눈으로 인식했다는 경험을 웨이보에 게시했다. 이 사건이 큰 논란으로 퍼진 이유는, 현재 중국에서 운전자 모니터링 시스템이 탑재된 차량이 이미 55만 대에 달하기 때문이다. 이에 데렉은 샤오펑 CEO를 태그하했으며, CEO 역시 이에 응대했지만 어떤 조치가 취해졌는지는 알 수 없다고.
당연한 얘기겠지만 만약 정말 기능의 오류라면, 해당 센서의 기본 세팅은 서양인을 대상으로 설정되어있을 가능성이 높다. 그게 아니고서야 동양인들이 절대다수인 중국에서 동양인의 눈을 졸린 눈으로 인식할 리가 없기 때문이다. 그리고 이것은 전적으로 차의 중요한 기능에 설정 오류를 저지른 샤오펑의 책임이다. 하지만 이 역시 의견이 분분하다.
기술은 중립적, 개인의 문제라는 주장
과거 센서 백인, 흑인 차별적 인식 논란
만약 이것이 동양인 전반을 졸린 눈으로 해석하는 것이 아닌, 단순히 해당 블로거가 중국인 중에서도 눈이 작은 사람이기 때문이라면, 센서 기술은 문제가 없다고 볼 수 있다. 정확히는 개개인의 특이성을 인식할 정도로 AI의 데이터가 충분히 축적되지 않았다는 것이다.
과거에도 자동차 관련 기술과 인종차별이 엮인 적이 있었다. 지난 2019년 조지아 공과대학의 연구 결과, 당시 자율주행차가 밝은 톤의 보행자를 더 감지하며, 따라서 피부톤이 어두운 유색인종 인지에 실패할 확률이 상대적으로 높다는 결과가 도출되었다.
이러한 현상들이 정말 유의미할 정도로 심각하다고 볼 수는 없다. 실험과 특정 개인에게서 나타난 문제를 기술 전반의 문제점이라고 지적하는 것은 지나친 일반화이기 때문이다. 하지만 그런데도 소수의 데이터에서 이런 문제가 발생했고, 기성품은 모든 이들의 만족과 안전을 책임져야 한다. 이를 어떻게 해결할 수 있을까?
벤츠, BMW 등 여러 차량에 탑재된 기능
네티즌들 ‘웃프다’
벤츠의 ‘주의 어시스트’, BMW X3의 ‘피로 집중 경고’처럼 다양한 브랜드에 자율주행 기능과 이에 필요한 모니터링 기술이 함께 탑재되었다. 이에 따라 기업들은 점점 더 정교한 AI를 만들기 위해 노력하고 있다. 결국 AI 기술은 얼마나 많은 데이터를 축적하는지, 그리고 이 데이터를 얼마나 정교하게 분석하는지가 발전 수준의 척도이기 때문에, 상황에 따른 운전자들의 데이터를 축적하는데 많은 기업이 혈안이 되어있다.
네티즌들은 이러한 사건이 웃기기도 하면서도, 같은 동양인으로서 분노도 함께 느끼는 듯하다. ‘저 사람 사진 보면 내가 봐도 졸지 말라고 하겠는데’라는 댓글을 단 네티즌도 있었으며, ‘별걸 다 차별받네, 궁예는 시동도 못 거는 건가’라는 댓글에 많은 네티즌이 공감을 보내기도 했다.
