default_top_notch
default_news_top
ad37
default_news_ad1
default_main_ad3

우버 자율주행차 사망사고는 소프트웨어 책임?

기사승인 2018.05.17  08:47:57

공유
default_news_ad2

- [황장석의 실리콘밸리 팩트체크] '거짓 긍정(false positive)'과 효율 문제

미국 애리조나 템피(Tempe). 애리조나 주도(州都)인 피닉스 바로 오른쪽에 있는 인구 18만 명의 도시입니다. 애리조나주립대(Arizona State University)가 있는 곳이기도 하죠. 지난 3월 18일 이 도시는 불행한 사건 때문에 각종 언론 보도에 등장하게 됩니다. 우버 자율주행차 사망사건이었습니다. 그전에도 자율주행차 사고는 있었지만 자율주행 모드로 주행하던 상황에서 보행자를 치어 숨지게 한 사건은 처음인 것으로 여겨지고 있습니다. 우버의 자율주행차는 미국 자동차공학회가 제시한 자율주행 기술 0~5단계 중에서 인간의 개입이 전혀 필요 없는 완벽한 자율주행 기술 최고 수준인 5단계에 근접한 4단계(만일에 대비해 인간 운전자가 운전석에 앉아 있어야 하는 단계) 정도로 분류됩니다.

사건 이후 경찰이 공개한 사고 동영상을 보면 당시 횡단보도가 아닌 곳에서 한 여성이 자전거를 끌고 도로를 건너고 있었는데 시험운행을 하고 있던 자율주행차는 이를 감지하지 못하고 들이받았습니다. 차량은 당시 시속 64km 정도로 달리고 있었습니다. 긴급상황이 발생할 경우 자율주행 모드를 해제하고 운전대를 잡도록 하기 위해 우버 측이 고용한 인간 운전자도 무용지물이었습니다. 운전석에 앉아 있긴 했지만 휴대전화를 들여다 보는지 시종일관 아래를 보고 있다가 사고 직전에야 전방을 주시하고 놀라는 모습이 동영상에 등장합니다.

우버 자율주행차 사망사고 당시 내부와 외부 모습

사고 원인은 소프트웨어의 '거짓 긍정' 문제였다?

사고가 났을 땐 가장 큰 의문은 자율주행차가 전방에서 자전거를 끌고 무단횡단을 하는 보행자를 감지하지 못했느냐는 것이었습니다. 그런데 얼마 전 그와 관련한 의문에 단서를 제공하는 내용을 디 인포메이션(The Information)이라는 매체가 단독보도했습니다. 디 인포메이션은 실리콘밸리를 중심으로 정보기술(IT) 업계의 움직임을 심도 있게 보도하는 매체입니다. 연회비 399달러를 내는 유료회원만 기사 원문을 볼 수 있어 회원이 아닌 필자의 경우엔 다른 매체가 디 인포메이션 보도를 인용해서 쓴 기사로 내용을 접했습니다.

하여튼 다른 매체가 인용해서 보도한 내용은 이렇습니다. 우버 측이 자체 조사를 한 결과, 사고 당시 자율주행차가 보행자(보다 엄밀히 말하면 어떤 물체의 움직임)를 감지했지만 '거짓 긍정(false positive, 긍정 오류)'으로 판단했다는 것이었습니다. 우버의 자율주행차 소프트웨어가 무단횡단을 하는 보행자를 피해 가야 할 대상으로 인식한 게 아니라 무시하고 달려도 괜찮은 대상으로 분류했다는 뜻입니다. 예컨대 갑자기 날아든 풍선이나 종이상자 같은 물건으로 판단했다는 것이죠.

 

안전보다 경쟁이 중요했다?

우버 자율주행차 사망사고 직후부터 전문가들은 '거짓 긍정'이 원인일 가능성에 무게를 두고 있었던 것으로 보입니다. 실리콘밸리에서 자율주행 스타트업 ‘팬텀AI(Phantom AI)’를 창업해 운영하고 있는 조형기 CEO도 사고 직후 그 같은 언급을 했었습니다. 그는 카네기멜론(CMU) 대학원에서 자율주행 관련 석·박사 학위를 받고 테슬라 오토파일럿 부문에서 근무한 엔지니어입니다. 사고 당시 어둠이 내려 앉은 저녁이었다고는 하지만 라이다(LiDAR, 자율주행차에서 ‘인공 눈(eye)’ 기능을 하는 장치같은 장치가 전방에서 움직이는 대상을 감지하지 못했을 가능성은 희박하기 때문에 결국 소프트웨어가 '거짓 긍정'으로 인식한 게 사고 원인이 아니겠느냐는 것이었습니다.

자율주행 기술에서 소프트웨어의 거짓 긍정과 거짓 부정(false negative, 부정 오류)은 매우 중요한 이슈입니다. 자율주행차가 라이다, 위성항법시스템(GPS) 등을 통해 주변 상황을 감지하며 운행을 하는 과정에선 보행자가 불쑥 나타날 수도 있고, 교통신호가 고장 나 있을 수도 있으며, 산길에서 돌이 떨어질 수도 있고, 풍선이 날아들 수도 있습니다. 자율주행차 소프트웨어는 그런 상황마다 운행을 멈춰야 한다는 신호(부정)로 받아들일지, 계속해서 운행해도 된다는 신호(긍정)로 받아들일지 판단해야 합니다. 움직이는 물체가 감지돼서 멈췄는데 알고 보니 풍선이었으면 '거짓 부정'으로 잘못 인식한 것이며, 이번 사고에서처럼 안 멈추고 운행했는데 보행자였으면 '거짓 긍정'으로 잘못 인식한 것이죠.

 

효율과 안전, 어느 기준을 높일 것인가

이런 문제는 아직까지 우버의 자율주행 기술이 무단횡단을 하는 보행자를 감지한 뒤 제동을 걸어 멈추거나 피해갈 만큼 발전하지 못했다는 걸 의미하기도 합니다. 현재 자율주행 부문에서 가장 앞서 있다는 평가를 받는 구글의 자율주행 자회사 웨이모의 경우엔 자율주행 모드에서 보행자 사망사고를 낸 적이 없습니다. 다만 웨이모 역시 자율주행 기술 최상의 단계인 5단계에 이르렀다는 평가를 받고 있진 않습니다.

그렇기 때문에 현 시점에선 기술 수준 이상으로 중요한 게 어떨 때 멈추고 어떨 때 안 멈출지 민감도를 조정하는 문제입니다. 기술 수준을 감안해 자율주행차 소프트웨어에서 원활한 운행(효율)과 사고 방지(안전가운데 어느 쪽 기준을 높일지는 회사 측이 결정하기 때문입니다. 극단적으로 가정하면, 상황 발생 시 어지간하면 멈춤 신호로 인식하도록 프로그램을 조정하면 차량은 가다 서다를 반복할 겁니다. 반대로 어지간하면 주행 신호로 받아들이게 조정하면 보다 자연스러운 주행이 가능할 것이고요.

머큐리뉴스가 디 인포메이션 보도를 인용한 기사를 보면 “우버 회사 측이 원활한 운행이라는 목표를 얻어내기 위해 차량 주변 대상에 지나치게 민감하게 반응하지 않도록 조정했을 수 있다”는 내용이 나옵니다. 시험주행에서 보다 나은 성과를 내기 위해 안전 기준을 낮춘 게 아니냐고 의심하는 것으로 보입니다.

자율주행차 사망사고 당시 현장 사진

자율주행 후발주자의 무리?

사실 우버는 자율주행 부문에서 후발주자입니다. 자율주행 사업에 본격적으로 뛰어든 건 2016년 8월 웨이모(당시엔 구글 X의 자율주행 프로젝트) 출신 엔지니어 앤서니 레반도스키(Anthony Levandowski)가 설립한 자율주행 트럭회사 ‘오토(Otto)’를 인수하면서부터였습니다. 시작한 지 아직 2년도 채 안된 셈이죠. 반면 자율주행 부문을 선도한다는 평가를 받는 구글은 2009년부터 자율주행 프로젝트를 시작했습니다. 준비해온 기간만 감안해도 구글이 한참 앞서 있죠.

자율주행 트럭회사 오토 인수와 관련해 우버가 구글의 자율주행 핵심 인재와 기술을 불법으로 빼돌리기 위해 오토 측과 공모를 한 게 아니냐는 내용의 우버-구글(웨이모) 소송도 있었습니다. 구글 측이 지난해 2월 제기한 소송이었는데요, 치열한 공방을 벌이더니 길어져야 서로 득 될 게 없다는 판단이었는지 올해 2월 우버가 구글 측에 24500만 달러 상당의 우버 주식을 지급하기로 하는 조건으로 소송이 종결됐죠.

우버는 업계에서 공격적인 기업문화를 가진 기업이란 평가를 받아왔습니다. 트래비스 캘러닉 공동창업자가 우버 CEO로 재직하던 지난해 6월, 파이낸셜타임스는 우버의 기업문화에 대한 칼럼을 게재했습니다. 앤드류 힐 에디터가 쓴 이 칼럼은 우버의 공격적이고 거친 기업문화를 거론하며 특정 분야에서 앞서가는 기업이 공격적이고 거칠게 사업을 하면 경쟁자들도 마찬가지 방식을 따르지 않으면 경쟁하기 어렵다고 지적했습니다. 그러면서 우버의 운전자(CEO)가 바뀌지 않는 한 이런 문화가 바뀌지 않을 것이라고 했습니다.

결과적으로 파이낸셜타임스 칼럼이 나오고 2개월만인 지난해 8월 트래비스 캘러닉 CEO가 사내 성추문과 남성 중심의 문화, 자율주행 기술 절도 재판 등의 문제로 불명예 퇴진하고 새로운 CEO가 등장했습니다. 운전자가 바뀌었으니 우버의 문화도 바뀌었을까요. 이번 자율주행차 사망사건만 놓고 보면, 그렇게 생각하기는 쉽지 않아 보입니다. 물론 향후 어떤 접근 방식을 취하는지 지켜볼 일이기는 합니다.

 

자율주행 기술 경쟁의 전환점 될까

한가지 확실한 건 이번 사건으로 자율주행 서비스를 보다 신중하게, 안전 중심으로 접근하는 움직임이 주목 받고 있다는 겁니다. 스탠퍼드대 인공지능연구소 출신 연구진이 중심이 돼 창업한 자율주행 스타트업 Drive.ai가 7월부터 텍사스 프리스코에서 시작하는 서비스가 대표적입니다. 이 회사는 시 교통당국, 서비스 대상지역의 기업과 협력해서 해당 기업이 운영하는 주거시설 주민과 기업 직원 등을 대상으로 자율주행 택시 서비스를 시범 운영할 예정입니다. 주민과 직원 등을 대상으로 사전 교육도 실시한다고 합니다. 처음엔 승하차 지점을 정해서 서비스를 하다가 점차 서비스 지역을 넓혀나가는 방식으로 사업을 진행할 계획입니다.

공교롭게도 우버를 대표하는 서비스 우버X가 등장했을 때도 보행자 사망사건이 발생했었습니다. 2013년 12월 31일 샌프란시스코 시내에서 엄마, 남동생과 함께 길을 건너던 6세 소녀가 우버 운전자의 차량에 치여 숨진 사건이었죠. 당시 사건은 우버와 같은 운송네트워크회사(Transportation Network Companies, TNCs)가 사고 보험을 강화하는 계기가 됐었습니다. 적어도 이번 자율주행차 사망사고는 가속페달 밟기 경쟁이 가열되던 자율주행차 시장에서 신중한 형태의 자율주행 서비스에 좀 더 주목하는 계기가 될 수 있을 것으로 보입니다.

황장석 팩트체커 surono@naver.com

<저작권자 © 뉴스톱 무단전재 및 재배포금지>
황장석 팩트체커    surono@naver.com  최근글보기
2002년부터 동아일보와 서울신문에서 정치부, 사회부, 문화부 기자로 일했다. 2012년 스탠포드대학교 후버연구소 객원연구원을 역임했다. 퇴사 이후 실리콘밸리 근처에 거주하며 한국 언론을 통해 실리콘밸리와 IT기업 소식을 전하고 있다. 2017년 실리콘밸리의 과거와 현재, 미래를 조명한 책 <실리콘밸리 스토리>를 냈다.
default_news_ad5
default_side_ad1
default_nd_ad2

인기기사

default_side_ad2

포토

1 2 3
set_P1
default_side_ad3

섹션별 인기기사 및 최근기사

default_side_ad4
default_nd_ad6
default_news_bottom
default_nd_ad4
default_bottom
#top
default_bottom_notch