[비즈한국] 지난 3월 19일 미국 애리조나주에서 역사적이고도 비극적인 사고가 일어났다. 도로주행 테스트 중이던 우버의 자율주행 차량이 4차선 도로를 건너던 보행자를 미처 발견하지 못하고 치어 사망에 이르게 한 것이다. 비록 2016년 7월 테슬라 운전자가 자율주행모드에서 다른 트럭과 부딪쳐 사망한 사고가 있긴 하였지만, 길 위의 보행자를 치어 사망케 한 사고는 이번이 처음이다. 이로써 자율주행 차량이 탑승자뿐만이 아니라 길 위의 보행자도 위협할 수 있다는 사실이 입증되었다.

두 사고는 모두 명백한 자율주행 알고리즘의 오작동으로 인해 벌어졌다. 테슬라의 사망사고는 대낮에 내리쬐는 강한 햇빛과 흰색 트럭의 빛 반사로 인해 (추정컨대) 하늘과 흰 트럭을 구분하지 못해 일어났고, 이번 우버의 보행자 사망사고는 심야에 자전거를 끌고 길을 건너던 보행자를 (이유는 알 수 없지만) 미처 발견하지 못해 일어났다. 

사실 자율주행 차량은 비전 이외에 LiDAR와 같은 레이저 센서로도 사물을 발견할 수 있기에 이번 사고가 꼭 어둠 때문이라고는 말할 수 없다. 결국 두 사고는 모두 명백한 ‘알고리즘 오작동’으로 인한 것이라고 할 수 있다.

어떤 알고리즘이든 완전무결할 순 없다. 따라서 이번 사고 역시 무결한 알고리즘을 만들지 못한 개발자의 탓으로 돌릴 수만은 없다. 문제는 그 이후다. 만약 예기치 않은 오작동이 발생했을 때 탑승자와 보행자를 지켜줄 ‘플랜B’는 무엇인가. 

건물들은 화재에 대비해 비상구가 있고, 전투기는 추락에 대비해 비상탈출 장치가 있는데, 자율주행 차량은 과연 무엇을 갖추고 있는가. 놀랍게도 ‘아무것도 없다.’ 더 정확히 말하자면, ‘자율주행 차량이 현재가 비상상황인지 인식 못 하는 이상, 우리가 할 수 있는 일은 아무것도 없다.’

결국 자율주행 차량을 실제 도로 위에 올린 기업과 이를 허용한 정부는 알고리즘적 오류가 야기할 치명적 결과를 충분히 예측할 수 있었음에도 불구하고 차량을 현실세계에 데뷔시킨 주요 책임자들이다. 그들에게 대책이라곤 이런 비상상황에 돌발 대처해줄 운전자(혹은 테스트 드라이버)밖에 없었다. 

하지만 운전자의 존재는 알고리즘적 오류를 보완하는 플랜B가 되지 못함을 앞서 두 사고가 잘 보여줬다. 이번 우버 사고에선 테스트 드라이버가 몇 초간 휴대폰을 본 사이에 사고가 발생하였고, 지난번 테슬라 사고에선 운전자가 사고 전후에 브레이크를 밟은 흔적이 전혀 없는 것으로 밝혀졌다. 즉, 전방주시에 소홀할 수밖에 없는 운전자에게 플랜B를 기대할 순 없고, 우리는 우리 생명을 지키기 위한 또 다른 탈출구가 필요하다. 

우리는 이제 자율주행 알고리즘만이 아닌, 그것의 예기치 못한 오류로부터 탑승자와 운전자를 보호할 플랜B를 이야기할 때가 되었다. 알고리즘 오작동에 대비해 우리는 어떠한 대책을 가지고 있는가. 예를 들면, 사람마다 몸속에 칩을 심어 ‘나 사람이요’라며 강한 신호를 뿜어내야 하는 것이 아닐까. 그렇다면 프라이버시 문제는 어떻게 할 것인가. 로봇이 같은 공간에서 살아가야 하는 시대엔 안전을 위해 프라이버시를 희생해야 하는 것일까. 혹 안전보장이란 미명하에 사고보다 더 위험할 수 있는 빅브라더의 출현을 허락하는 것은 아닐까.

이번 사망사고로 인해 우버의 주가는 물론 자율주행 차량들의 핵심 부품을 제공하는 엔비디아의 주가마저 10%가량 내려앉았다고 한다. 우버는 최근 사고 사망자 가족과 합의를 했는데, 아마도 매우 금액이 클 것이라 예상할 수 있다. 

하지만 앞으로 발생하는 모든 사고에서 이렇게 기업이 충분한 합의액을 제시할 수는 없다. 그동안 꾸준히 제기되었던 사고의 법적인 책임에 대한 문제다. 우리가 맞이할 ‘로봇과 함께 사는 미래세계’에선 사고의 책임과 이의 보상에 대한 새로운 패러다임이 등장해야 할지도 모른다. 기술만 빠르게 달려가야 하는 것이 아니라 사회적 제도 역시 빠르게 발맞춰 변화해야 한다.

이제 시작이다. 비록 이번 우버의 보행자 사망사고는 비극이었지만, 앞으로 더 비극적인 일을 막을 수 기회를 우리에게 주었는지도 모른다. 알고리즘 오류로부터 우리를 지켜줄 플랜B는 무엇인가. 이러한 사고에 대해 우리는 어떤 사회적 합의를 만들어 갈 것인가. 자율주행 차량의 기술적 진보도 중요하겠지만, 그 기술이 안전하게 활동할 수 있도록 만드는 것은 결국 우리 모두의 몫이다.

필자 엄태웅은 서울대학교 기계항공공학부에서 로봇을 전공한 후 LIG Nex1과 KIST에서 국방로봇과 의료로봇을 개발했다. 현재는 캐나다 워털루대학에서 헬스케어를 위한 딥러닝을 연구 중이다.​ 

엄태웅 워털루대학 연구원 writer@bizhankook.com

[핫클릭]

· [CEO 라이벌 열전] '인앤아웃' 대우건설 송문선 vs 대림산업 박상신
· '꼴랑 몇천 원?' 통신장애에 뿔난 피해자들과 SK텔레콤의 다른 셈법
· 기아차 '더 K9'을 지금 당장 사야 할 이유 셋, 그 반대 셋
· 그들에겐 '기회의 땅'…블록체인 거물들 '코리아 러시'의 비밀
· [사이언스] AI 대가들의 '카이스트 보이콧', 못 다한 이야기

<저작권자 ⓒ 비즈한국 무단전재 및 재배포 금지>