자율주행차와 트롤리 의문 ~처럼

어느 방향으로 가든 사람이 다칠 수밖에 없는 위급한 상황. 과연 무인 자율주행차(self-driving car)는 어떤 결정을 내려야 할까요? 다수가 다치는 것보다 소수가 다치는 쪽을 선택하는 것이 올바른 것일까요?​

>

이런 감정은 이미 있었어요. 영국의 철학자 필리파 푸트(Philippa R. Foot)는 트롤리 문재(Trolley problem) 문재 점검을 통해 우리에게 윤리적인 문재를 던졌습니다. 트롤리 문재는 모두 sound와 같은 상황을 나타낸다. 브레이크가 망가진 트롤리가 빠르게 달리고 있어요. 이대로 계속 간다면 레 1에서 1작업자 5명과 부딪치는 것이 명백한 상황입니다. 옆 선로에는 인부 1명이 혼자 있어요. 이 때 선로를 변환할 권한이 여러분에 있다면 어떤 선택을 합니까?​ 트롤리 문재에 응답한 응답자 89%가 전기 선로를 바꾸겠다고 답했다 하지만 정작 이런 상황에 처한다면 누구나 감정에 빠질 수밖에 없어요. 어떤 선택을 하든 누군가는 큰 화를 당할겁니다. 작업자 수의 차이일 뿐이에요. 다수를 위해 소수를 희생하는... 자결하기 어려운 문재입니다.​

>

자율주행차 도입이 가시화된 현 시점에서 트롤리 문제가 다시 불거진 것은 어쩌면 자연스러운 일이다. 차가 도로를 달리고 있으면 한순간의 실수는 곧 오그라들어 버립니다. 자율주행차가 문재 내지 스토리 테스트 도중 발생했는데, 지난해 미국 어린이 저그와인주에서 우버 자율주행차와 보행자가 충돌하는 문제가 있었습니다. 보행자는 병원으로 옮겨졌지만 안타깝게 사망했습니다.​

>

사람들의 견해는 제각각이었어요. 센서가 제대로 작동했다면 문제가 없었을 것이라는 견해와 사람이 직접 운전하는 상황에서도 피하기는 불가능에 가까웠다는 견해가 맞섰습니다. 유출된 영상을 보면, 문제의 차량에는, 우버 직원이 운전석에 탑승하고 있었지만, 너무나 순간에 일어난 일이라, 즉시 대처하지 못하는 장면이 그대로 게재되고 있습니다. 경찰은 문제 관련 자료를 분석한 결과 사람이 운전해도 피하기 어려웠다는 결론을 내렸습니다. 하지만 우버는 자율주행차 운행을 전면 중단합니다.​

>

우버 차량에 기술적인 결함은 없었던 것으로 판명되었지만 나쁘지 않고, 이 사건을 계기로 사람들은 자율주행차의 안전성에 대해 의심을 품게 됩니다. 사람과 달리 자율주행 시스템의 소견은 절대적으로 알 수 없기 때문에 우려는 더욱 커졌습니다.자율주행차 시스템은 카메라가 나쁘지 않고 각종 센서가 수집한 환경정보를 주행에 반영한다. 일반적인 자율주행도 수없이 많은 선택의 연속이지만, 결코 나쁘지 않기 때문에 반드시 중요한 판정을 내려야 하는 순간도 찾아옵니다. 차 앞으로 갑자기 보행자가 달려들면 운전자에게 위험한 상황이 닥쳐도 급하게 핸들을 꺾어야 하는지, 아니면 진행방향인 너희에게 달려가야 할지 예기하고 있다. 어떤 비결이든 프로그래머가 코딩한 소프트웨어가 판단을 내려야 한다. 다른 사건이 발생할 수도 있습니다. 보행자 대신 강아지가 뛰어들거나 노인과 어린이가 함께 나쁘지 않으면 누구를 보호할 것인지도 사건이다. 물론 인명피해가 없는 최선의 비결이 존재하면 좋겠지만 미래에 닥칠 모든 조건을 예측할 수는 없다.​

>

지난해에는 관심 있는 논문이 발표됐다. 학술지 네이처에 게재된 논문입니다. 미국 매사추세츠공대(MIT)와 하버드대 연구진으로 구성된 공동연구팀은 모럴 머신(Moral Machine)으로 불리는 웹사이트에서 트롤리 문제에 대한 대규모 설문조사를 실시했습니다. 설문지에는 다소 논리적인 귀취가 주어졌습니다. 자율주행차가 횡단보도를 지나가지 않도록 하기 전에 브레이크 촌락이 발생한다. 만약 계속 앞으로 나아가면 길을 걷다가 보행자와 충돌하고 핸들을 돌리면 벽에 부딪혀 탑승자가 위험에 처합니다. 보행자는 성별과 괜찮은 이빨로 구분하고 동물도 포함하여 13개의 시 나쁘지 않고 리오를 만들었습니다. ​

>

​ 해당 설문은 소셜 뉴스 웹 사이트'레디쯔(Reddit)'첫 페이지를 장식하는 스타 유테유보'퓨디파이(PewDiePie)'도 홍보에 힘을 갖고 233개의 나라에 있는 응답자들로부터 설문 데이터를 축적합니다. 연구 결과를 보면 동물보다는 인간의 생명을 구하려고 하고 소수보다는 다수를 살리려는 경향이 자신감을 가졌어요.노인보다는 유아의 우선순위를 더 높게 소견했습니다. 남자보다는 여자, 승객보다는 보행자, 상황을 가만히 지켜보기보다는 행동하는 것을 선택했어요. 특이한 것은, 서 있는 위치에는 범죄자도 포함되어 있는데, 대부분의 사람들은 범죄자보다 개를 살리는 것이 우선이라고 선택했습니다. 가장 높은 우선순위를 차지한 대상은 유모차(Stroller)였습니다.​

>

독일은 자율주행 윤리 규정을 제안한 유일한 나라입니다. 규정에는 '나이에 따른 차별은 금지되어야 한다'라는 항목이 포함되어 있습니다. 설문에 참여한 일반 사람들의 견해에 대한 윤리적 취향에 반한다고 할 수 있지요. 독일은 자율주행차의 산업기술 장벽도 입법을 추진하고 있다.MIT 컴퓨터 과학자이자 논문 저자 중 한 명인 이야드 라흐완(Iyad Rahwan) 교수는 "모럴 머신에서 제기한 구체적인 시나리오는 사실상 거의 일어나지 않는다"며 "여론조사가 인공지능(AI) 윤리를 세우는 기초가 돼서는 안 된다"고 강조했습니다. 이어 인공지능은 자율성과 적응력을 가지고 있기 때문에 기존 관념으로 규제해서는 안 된다고 말했습니다.​

>

자율주행차를 개발 중인 구글은 인공지능으로 인한 윤리적 의문이 없을 것이라고 입장을 밝혔습니다. 제프 딘 구글 AI 총괄은 자율주행차는 사건을 막는 것을 목표로 할 뿐 절대 인명피해가 적은 방향으로 알고리즘이 입력돼 본인이 될 수는 없다며 오히려 자율주행차가 인간 운전자보다 더 좋은 결과를 가져올 것이라고 밝혔습니다.자율주행차는 우리의 삶에 편안함을 주는 놀라운 기술입니다. 언뜻 보면 인간도 어떤 이 최고의 선택인지, 일으킬 수 없는 의문을 자율주행차에 떠넘긴 것이 아닌가 하는 의문도 있습니다. 그러나 기술의 편리함에 취해, 무고한 희생자가 본인 오는 것을 간과해서는 안됩니다. 지금 당장 자율주행차 도입이 늦더라도 기술적인 준비가 완성되었을 때 비로소 의미 있는 기술이라고 할 수 있습니다. 사람의생명과관련된의문이니까요.​텍 플러스 에디터 자신의 유권 tech-plus@naver.com​

>