인공지능은 누구를 살릴 것인가
4차산업혁명의 이슈(1) 자율주행차 딜레마
인간 대신 자동차가 스스로 운전하는 자율주행자동차. 2020년이면 완전한 자율주행차가 등장할 것이라고 많은 전문가들이 예상하는 가운데 미국이나 우리나라에서도 주행 시험이 한창 진행 중이다.
그런데 자율주행차에는 아직 풀지 못한 윤리적 문제가 있다. 보통 자율주행차가 상용화되면 인간이 운전을 할 때보다 90% 정도 사고의 위험을 줄일 수 있다고 말한다. 하지만 불가피하게 사고를 내야 할 상황이 된다면 어떤 기준으로 피해를 줄이느냐 하는 문제이다.
이것은 기술의 문제가 아니라 판단의 문제이다. 인간이 운전을 할 때는 사고 순간 개인의 반사행동이나 자율적 판단에 따르지만 인간이 아닌 기계(자율주행차)의 경우 합리적 기준에 의한 프로그래밍이 되어 있어야 하기 때문이다.
몇 가지 상황을 가정해보자.
1) 10명의 보행자를 회피하기 위해 다른 1명의 보행자와 충돌하는 것이 정당한가.
2) 다른 1명이 노약자 또는 임산부라면.
3) 10명의 보행자를 회피하기 위해 도로 벽면과 충돌해 탑승자가 사망할 수 있는 상황이라면.
이런 경우 자율주행차가 어떤 선택을 하도록 프로그래밍 하는 것이 바람직할까. 
지난해 6월 ‘사이언스’지에는 자율주행차의 딜레마에 관한 연구결과가 실렸다. 미국 MIT 미디어랩과 프랑스 툴루즈 카피톨대 공동연구진의 설문조사에 따르면 일반적으로 승객보다 보행자의 숫자가 많다면 승객을 희생시키는 쪽으로 프로그래밍하는 것은 어쩔 수 없다고 생각하는 사람이 76%에 달했다. 하지만 자신이나 가족이 그 차에 탑승해 피해를 볼 수 있다는 말을 들은 후에는 19%만이 자율주행차를 구입하겠다고 응답했다.
결국 공리주의적인 해법으로 자율주행차가 설계된다면 그 차는 소비자들로부터 외면을 받게 될 것이고 자동차 제조회사들은 그런 방식으로 자동차를 만들기 꺼릴 것이기 때문에 자율주행차의 보급이 늦어질 수밖에 없다는 얘기다.
올해 8월 독일 정부가 세계 최초로 발표한 ‘자율주행차 윤리 가이드라인’은 이런 점에서 많은 시사점을 던져준다. 14명의 과학자와 법률가로 구성된 독일 ‘자동화와 커넥티드 자동차 윤리위원회’는 총 15개 항목의 가이드라인을 만들었다. 주요 내용은 △동물과 재산 피해보다 인간 생명과 평등에 더 많은 가치를 부여하고 △공공의 책임과 의무를 규정했으며 △자율주행차 도입에 대해 긍정적으로 해석하고 있으며 △공공 도로 시스템 전체가 안전성을 위해 구축되어야 함을 제시하고 있다.
그러나 매우 논쟁적인 딜레마에 대해서는 명확히 규정하지 못하고 많은 학자들과 언론을 통해 우리 사회가 합의를 거쳐야 하는 문제라고만 언급했다.
가이드라인은 8항에서 사회윤리 딜레마를 언급하는데 ‘실제 상황에서나 예견할 수 없는 행위를 통해 사람의 생명이 선택될 수 없다’고 명시했다. 즉 이런 판단을 표준화하거나 프로그램 할 수 없으며 기술 시스템이 사고에 대해 복잡하거나 본능적인 평가를 내려 인간 운전자의 도덕적 판단을 대체하면 안된다는 것이다.
또 9항에서는 ‘피할 수 없는 사고에서 개인의 특성(나이 성별 물리적 정신적 차이)을 기반으로 어떤 차별적 판단과 다른 사람의 희생을 제안해서는 안된다’고 지적했다.
22일 오후 서울 영등포구 여의도 일대에서 서울대 지능형자동차IT연구센터가 개발한 자율주행차 스누버(SNUver)가 일반도로 시험 주행을 하고 있다. ⓒ 연합뉴스
자율주행차는 이런 윤리적 딜레마 외에도 설계를 하는 과정에서 수많은 함정들이 숨어 있다. 가령 미국 운전자들 사이에는 ‘캘리포니아 스톱(California stop)’ ‘피츠버그 좌회전(Pittsburgh left)’ 같은 관행이 있다. 캘리포니아 스톱은 2차선 같은 좁은 도로에서 차가 별로 없을 때는 빨간 불이라도 슬쩍 지나가도록 용인해주는 것이고, 피츠버그 좌회전은 좌회전 신호가 끝났을 때 한 대 정도는 꼬리를 물고 죄회전을 하도록 허용되는 것을 말한다. 이런 인간 운전자의 습성을 기계인 자율주행차에 어떻게 이해시키고 사고를 회피하도록 프로그램 할 것인지도 문제가 되는 것이다. 그렇다고 법규를 위반하도록 프로그램을 할 수도 없는 어려움이 생긴다.
지난 6월 미국전기전자학회(IEEE)에서는 재미있는 문제들이 제시됐다. 사람이 많이 모여든 야구장이나 공연장에 자율주행차들이 주차되어 있을 때 경기나 공연이 끝날 무렵 자율주행차들이 혼잡을 피하기 위해 미리 나와 주인을 기다리면서 주변 도로를 돌아다닌다면 그 많은 차들이 행사장 주위를 가들 메워 오히려 교통혼잡을 가중시킬 우려도 있다는 것이다. 또 1차선 도로에 자동차로 꽉 막혀 있을 때 인간 운전자의 경우 급할 경우 약간의 틈새만 있어도 주위의 양해를 구하고 빠져나가지만 자율주행차는 전혀 그런 규정을 벗어난 임기응변을 하지 못한다.
홍성욱 서울대 교수(과학사 및 과학철학 협동과정)는 “자율주행차의 윤리적 딜레마는 실제 운전 중에 거의 일어나기 힘든 ‘가짜 문제’라는 주장이 나오고 있으며 법규나 사회 인프라의 구축 등 다른 문제가 더 중요할 수 있다”고 말한다. 이런 이유로 ‘자율주행차의 진짜 문제는 사람이다’라는 IEEE의 주장이 설득력을 얻고 있다.
구글의 인공지능 전문가인 제프 딘 시니어 펠로는 지난 11월말 일본 도쿄에서 열린 기자간담회에서 “인공지능을 코딩하면서 왼쪽에 2명이 있고 오른쪽에 3명이 있으면 오른쪽을 살린다고 코딩하지 않는다”며 ‘자율주행차는 그런 상황이 아예 발생하지 않도록 운전을 할 때 미리 대비를 해서 사고를 막는 것을 목표로 한다“고 말했다.
미국 트럼프 정부가 최근 자율주행차에 대한 안전 규제들을 대폭 완화함에 따라 테슬러 포드 등 자동차 업체들은 1~2년 내에 운전자 없이 완전 주행이 가능한 자동차를 내놓는 것을 목표로 기술 개발에 박차를 가하고 있다. 그러나 자율주행차에 대한 사회적 윤리적 문제들은 이제 시작 단계라고 볼 수 있다.
- 김학진 한국과학언론인회 회장
- 저작권자 2017.12.19 ⓒ ScienceTimes