여백
> LIFE&PEOPLE >
[책 속 한 대목] “당신의 자율주행차는 누군가를 죽이도록 설계된다”
   

◇넷플릭스의 SF영화 '나의 마더'는 인류 멸종  후 인공지능 안드로이드 '로봇엄마'가 인공배양으로 태어난  딸을 양육한다는 스토리를 담고 있다. 사진은 영화의 한 장면.

1905년 미국 위스콘신대학이 학부생들에게 윤리 문제를 제시했다. “갱도에 고장난 광차가 질주하고 있다. 선로에는 광부 5명이 작업중이고, 옆 선로에는 광부 1명이 작업하고 있다. 당신 손에 광차의 선로를 바꿀 수 있는 전환기가 있다. 어떻게 할 것인가?”

위스콘신대학의 윤리 문제는 1951년 독일의 법철학자 한스 벨첼, 1967년 영국 철학자 필리파 푸트 등을 거치면서 ‘트롤리 딜레마(광차 문제, trolley problem)’라는 윤리학의 대표적 실험으로 체계화됐다.

정작 트롤리 딜레마가 묻고자 한 것은 “과연 1명(혹은 소수)의 생명을 ‘의도적’으로 빼앗는 것이 도덕적으로 허용될 수 있는가”이다. 하지만 조건을 바꾼 비슷한 실험들에서 참여자의 90%는 ‘기꺼이’ 소수를 희생시켜 다수를 살리는 쪽을 택했다. 윤리적 행위의 목적을 ‘최대 다수의 최대 행복’ 실현에 두는 벤담의 공리주의에 입각한 선택이었다.

미국 철학자 주디스 자비스 톰슨이 공리주의적 사고의 상투성을 뒤집었다. “당신은 폭주하는 전차를 다리 위에서 내려다보고 있다. 철로에는 5명의 인부가 있다. 그런데 당신 옆에 엄청나게 뚱뚱한 사람이 있다. 당신이 그를 밀어 철로 위로 떨어뜨린다면 인부들을 구할 수 있다. 어떻게 하겠는가?” 1명을 희생시키는 행위가 ‘레버’가 아닌 ‘손’으로 바뀌자 응답자들은 “내가 살인할 수는 없다”며 다수를 포기했다.

넷플릭스 SF영화 ‘나의 마더’ 역시 공리주의적 사고를 뒤튼다. 인류 멸종 이후 인공배아로 태어난 소녀에게 로봇엄마가 묻는다. “각기 다른 장기이식이 필요한 5명의 환자가 있다. 이때 위독한 환자 1명이 온다. 이 환자의 장기로 5명을 살릴 것인가, 아니면 위독한 1명을 살리고 5명을 죽일 것인가?” 소녀는 “5명이 살인자이거나 열성 인자를 갖고 있다면 살릴 필요가 없다”고 말한다.

갈수록 섬뜩해지는 트롤리 딜레마가 현실로 다가왔다. 2015년 10월 MIT 테크놀로지 리뷰에는 ‘자율주행 자동차가 누군가를 죽이도록 설계되어야 하는 이유’라는 논문이 실렸다. 논문은 운행 중 고장나 인명피해가 불가피한 3가지 경우를 가정했다.
(​A) 그대로 직진하면 보행자 10명을 치게 되고, 방향을 틀면 보행자 1명을 치게 된다.
(​B) 직진하면 보행자 1명을 치게 되고, 방향을 틀면 (벽에 부딪혀) 탑승자 1명만 죽거나 다친다.
(C) 직진하면 여러 명을 치게 되고, 급격히 방향을 틀면 탑승자 1명만 죽거나 다친다.

런던대 헤나 프라이 교수의 ‘안녕, 인간’(와이즈베리 펴냄)에는 이와 관련한 메르세데스 벤츠사의 입장이 나온다. 2016년 파리 모터쇼에서 벤츠의 ‘운전자지원 시스템 및 안전부문’ 책임자 크리스토프 폰 후고는 “우리는 탑승자를 구한다.”라고 밝혔다. 벤츠사 입장이 언론에 보도되자 비난여론이 들끓었다. 사이언스지의 설문조사에서도 응답자의 76%가 “탑승자를 희생시키고 많은 사람을 구하는 것이 더욱 도덕적”이라고 답했다.

그런데, 사이언스지가 질문을 달리하자 응답자들의 태도가 확 바뀌었다.
“많은 사람을 구하기 위해 탑승자를 희생시키도록 설계된 자율주행차가 있습니다. 당신은 이 주행차를 구매하시겠습니까?”

주태산 주필  |  joots@econovill.com  |  승인 2019.07.22  01:28:34
주태산 주필의 다른기사 보기

[태그]

#주태산, #넷플릭스, #나의 마더, #안드로이드, #광차, #트롤리 딜레마, #자율주행차, #윤리학 실험, #헤나 프라이, #안녕 인간, #메르세데스 벤츠

[관련기사]

이 기사에 대한 댓글 이야기 (0)
자동등록방지용 코드를 입력하세요!   
확인
- 200자까지 쓰실 수 있습니다. (현재 0 byte / 최대 400byte)
- 욕설등 인신공격성 글은 삭제 합니다. [운영원칙]
이 기사에 대한 댓글 이야기 (0)
SPONSORED
여백
여백
전문가 칼럼
동영상
PREV NEXT
여백
포토뉴스
여백
여백
서울시 종로구 율곡로84 10F, 이코노믹리뷰/이코노빌 (운니동, 가든타워) 대표전화 : 02-6321-3000 팩스 02-6321-3001
기사문의 : 02-6321-3042 광고문의 02-6321-3012 등록번호 : 서울,아03560 등록일자 : 2015년 2월 2일
발행인 겸 편집국장 : 임관호 편집인 : 주태산 청소년보호책임자 : 전진혁
Copyright © 2019 이코노믹리뷰. All rights reserved.
ND소프트 홈페이지 바로가기