로봇이 인간을 지배하는 날이 과연 올까?

‘터미네이터’ 영화를 처음 봤을 때의 느낌은 놀라움과 흥분 그 자체였다. 1984년에 제임스 카메론이 감독했는데, 겨우 650만 달러의 저예산으로 만들었지만, 나는 아직도 전체 터미네이터 시리즈 중에서 1편이 가장 멋있다. 1984년이니 고 1 때였고, 그 당시 영화광이었던 나는 늘 부산의 개봉관들을 순례하며 영화들을 섭렵했다.

서기 2029년 핵전쟁의 잿더미 속에서 로봇이 세상을 지배했고, 인류를 말살시키기 위해 사람들 씨를 말려나간다. 로봇도 고민을 하는 지는 모르겠지만 인간 저항군이 골칫거리였고, 마침내 인간 저항군의 리더인 존 코너의 존재 자체를 없애버리기 위해 그 유명한 T-800이 과거로 가고, 존 코너 역시 자신의 어머니를 지키기 위해 요원을 밀파시킨다.

영화론 수업에서만이 아니라 터미네이터는 여러 논쟁거리를 던져줬다. 학생들은 저마다 신나게 주장을 펼치며 목에 핏대를 세웠다. 어차피 비현실적인 것이니 뭐가 정답인지도 알 수 없어, 그렇게들 떠들어 댔다. 주요한 몇 가지는 존 코너와 자신의 부하는 부자관계인데, 뭐가 먼저 일까다. 부하가 아버지니 생각할 수록 복잡해진다. 그리고 다른 몇 가지와 함께 가장 기억에 남는 것은 ‘로봇이 인간을 해치게 될까?’ 하는 것이었다.

디스토피아 미래를 그린 영화들은 대부분 이런 구도다. 인간의 편리를 위해 만들어진 AI, 로봇 또는 기계류들이 인류를 공격하는 무서운 일에 대한 상상이 만들어낸 허구의 세계다. 단연코 막연한 공포를 자아내게 된다. 확신은 못해도 결론은 그럴 가능성이 별로 없어 보인다. 돈이 필요하거나 군림하고 싶어서라는 이유는 로봇에게는 해당사항이 없다.

 

‘로봇 원칙 1 : 인간에게 해를 끼치지 않는다’

로봇 3원칙이라는 것이 있다. 1942년 아이작 아시모프가 쓴 공상 과학소설인 ‘런어라운드(Runaround)’에서 처음 언급되었다. 제일 먼저 썼다고 해도 로봇을 만드는 사람이 아니라 글을 쓴 사람이라, 엔지니어나 박사들이 그의 생각을 지킬까 하는 의문이 들지만 어쨌던 로봇의 원칙을 세상에 처음 천명한 사람임은 분명하다. 기본적으로 로봇은 인간에게 해를 끼치지 않아야 하고 인간의 명령에 복종해야 하면서 로봇 자신의 존재를 보호하는 로봇 안전 준칙 같은 것이다.

1. 로봇은 인간에게 해를 끼치지 않는다. 2. 로봇은 1번 원칙에 위배되지 않는 한 인간이 내리는 명령에 복종해야 한다. 3. 로봇은 첫 번째와 두 번째 원칙을 위배하지 않는 선에서 로봇 자신을 보호해야 한다. 그리고 무려 40여년 간 이 세가지 원칙이 있어오다가 1985년에 아시모프 본인이 한 가지를 추가했다. 4번째가 아니라 0번으로. 0 번째 법칙은 ‘로봇은 인류에게 해를 가하거나, 해를 끼치는 행동을 하지 않음으로써 인류에게 해를 끼치지 않는다.’ 개별적 인간들의 집합체인 인류 집단의 안전까지 확장했다. 모든 엔지니어가 이런 개념을 심어서 만든다고 장담할 수 없으나, 적어도 기계나 로봇은 인간을 이롭게 하기 위해 만들어진 피조물이다.

인류의 문명이 제 아무리 발전에 발전을 거듭해오고 있다 할 지라도 아직까지 이런 기본 원칙에 대립하는 반박 의견을 듣거나 본 적은 없다. 만화에서 제 아무리 빌런들이 설쳐대도 현실에서의 이 원칙은 가을 날의 털 끝만큼도 의심의 여지가 없다. 그래서 사람들은 각자 밥 먹고 일하고 살아간다. 이러한 기본 원칙에 대한 반박은 ‘사람이 숨을 쉬고 밥을 먹을 필요가 있을까?’를 의심하는 것이라는 생각이다.

생각을 좁혀, 인류가 아니라 내가 속한 조직으로 눈을 낮춰보자. 조직 내에서 전체의 합의에 의해 정해진 것은 진행되어야 함을 전제로 한다. 어떤 회사에서 프로젝트의 진행 여부를 논의하기 위해 회장단부터 그룹 내 임원진 그리고 주요 팀장들까지 다 참석한 가운데, 실무 프레젠테이션을 진행했다. 새로운 프로젝트라 전사적인 노력이 필요한 사안이었다. 새로운 프로젝트가 성공리에 진행된다면 새로운 성장 엔진을 추가하게 되기에 많은 사람들이 잔뜩 기대했다.

실무 발표가 끝나고 열띤 논쟁이 벌어졌다. 계열사 사장단은 물론 팀장들까지 합세하여 진행된 그날의 논의는 상당히 고무적이었고, 제대로 준비해서 성공적으로 진행해 나가기로 전체적인 합의가 이루어진 가운데 끝났다.

그 이후 해당 실무진은 프로젝트 준비에 바쁜 나날을 보냈다. 자료 준비며, 프로젝트 진행에 수반되는 일들을 함께 진행해야 할 외부 전문업체들의 선정 그리고 사내에 지원이 필요한 여러 부서들과의 협력 방안도 고려되어야 했다. 그렇게 몇 날 며칠을 밤잠을 설쳐가며 준비하고 있던 중에 팀장이 전화를 받았다. 최고경영인의 특수관계인으로 있는 고위급 인사로부터의 연락이었다.

“그 프로젝트 아직 시작 안 했지?”

“시작이라면 어떤 의미인지는 모르겠지만, 본격적인 진행을 위해 오랫동안 많은 사람들이 협력해서 사전 준비가 마무리 되었습니다. 기안해서 결재를 받을 예정입니다.”

“아니, 내 말은 그 일과 관련해서 자금이 나갔는지를 묻는 거야.”

“아직 결재 전인데, 자금집행이 될 리가 있겠습니까? 하지만 외부 업체들, 그리고 사내 여러 팀과 공조하기 위해 준비는 됐습니다.”

“그 프로젝트는 꼭 해야 하는 거야?”

“예? 그때 회의에서 다 같이 하자고 논의가 됐고, 합의를 본 사안입니다만….”

“그걸 몰라서 물어보는 게 아니잖아. 지금 그걸 꼭 해야 될 이유가 있어?”

“지금이 딱 적당한 시기라는 것은 그 날 다 논의가 된 것으로 알고 있습니다.”

“하, 내 말 못 알아듣네. 그 일 하지 않으면 우리 회사에 심각한 문제라도 생기는 거야?”

“그건 아닙니다.”

“그럼 안 했으면 좋겠는데.”

“무슨 문제라도 있으신 건가요? 그 회의에서는 하자는 의견이셨잖습니까?”

“그 때는 하는 것도 좋을 거 같았는데, 생각해보니 안 하는 게 좋을 거 같아서.”

“회장님 의견이신가요?”

“이 팀장이 내 말대로 중단하면, 회장님께는 내가 말씀 드려볼게.”

“……”

실무 팀장 입장에서는 난감한 상황일 수 밖에 없었다. 본격적인 프로젝트에 돌입하지는 않았다고 하지만, 여러 외부 전문업체들이 시간을 들여서 진행해 왔던 것이며, 준비해온 팀원들이 시간과 노력, 그리고 결정을 위해 모였던 몸값 비싼 사람들의 시간 또, 그 이후 여러 팀들에서 신경 써왔던 부분들까지 고려한다면 뒤늦은 보류 결정은 회사의 신뢰에 악영향이 불가피해 보였다.

 

‘되는 일도 없고, 안 되는 일도 없는 조직!!!’

자금이 집행되지 않았음을 다행으로 여기고, 별 이유 없이 포기해야 하는 일은 드물지 않다. 실무 입장에서 이러지도 저러지도 못하는, 결국 그 프로젝트는 시작도 해보지 못한 채로 끝났다. 돈 달라고 징징대는 외부 업체들 달래고, 시간과 노력을 들인 다른 팀들의 짜증도 받아주고, 무엇보다도 거기에 매달리며 미뤄뒀던 다른 업무들도 있었다. 찬성표 던졌던 많은 임원들로부터 ‘무능한 팀’으로 낙인까지 찍히면서 말이다.

이런 일이 몇 번 반복되자 사람들은 웬만해서는 움직일 생각도 하지 않았다. 버젓이 최고경영진이 참석하여 내린 결정에 대해서도 그룹 내 또 다른 실세인 특수관계인 눈치를 살펴야 했다. 사람들이 공감하는 원칙이 사라진 자리에는 새로운 원칙이 들어섰다. ‘그 분이 예스 하지 않으면 손 대지 말라.’ 조직의 모든 이가 한결 같이 자조적으로 입에 올리는 말이 생겨났다. “되는 일도 없고, 안 되는 일도 없다!”

굳이 드러내지 않는다 할지라도 조직이라면 지녀야 할 원칙은 분명히 있다. 전쟁 중에 꼭 필요한 고지를 점령하기 위해 부대장이 ‘돌격 앞으로’라는 명령을 내렸는데, 병사들이 부대장 옆에 있는 또 다른 실세인 ‘빅 마우스’의 얼굴을 살피느라, 명령에 따를지 말지를 고민하고 있다면 그 전쟁은 해보나 마나이다. 고객과의 계약이나 수주 또는 물량 주문을 받을 때 회사의 매출과 수익의 증가가 아니라 이 건이 회사의 또 다른 실세인 그 분의 칭찬감인지 아닌지를 저울질 하게 된다면 그 회사의 성장은 요원하다.

특별한 목적이 있어서가 아닌데, 손해 보는 지 뻔히 알면서도 누군가의 체면을 세워주기 위해 저가 입찰에 나서는 기업들이 있다. 고객의 입맛에 맞는 제품을 생각하는 것이 아닌 사내의 빅마우스 입맛에 맞춰서 디자인하는 회사도 많다. 회사 일 보다 특정인의 사적인 일이 우선인 곳도 많다. 특정인의 기분을 탓하며 그 업무를 맡은 사람을 배제해 버리고 엉뚱한 사람들로 하여금 일을 진행시키는 일도 허다하다.

사업하는 사람들은 최종 결정 전까지 수없이 많은 갈등에 시달린다. 아침에 생각한 사안을 점심 먹고 뒤집어 버리고, 뒤집어진 의견이 다시금 저녁에 또다시 뒤집어 질 수 있다. 회의석상에서 상대방의 생각과 의견에 대해서는 얼마든지 반박할 수도 있는 것이 당연하다. 하지만 그것이 의견이나 생각이 아니라 원칙을 바꾸는 일이라면 다시 생각해 볼 문제다. 원칙은 반박의 대상도 아니요. 뒤집어질 사안도 아니다.

자신이 세운 원칙을 지키기 위해 자신이 아끼는 장수의 목을 친 ‘읍참마속’은 그래서 아직도 유효하다. 자신이 아끼는 장수라 하여 끼고 돌기만 했다면 지금처럼 삼국지가 회자되는 일도 없었을 것이다. 로봇이나 기계는 태생적으로 인류를 편리하고 도움을 주기 위해 만들어진 것들이다. 하지만 그럼에도 불구하고 인공지능이 발전할 대로 발전해서 나중에는 인간을 찜 쪄 먹을 로봇이 탄생하지 않을까 하는 걱정을 하는 것이 인간이다. 다 같이 회사를 위해서 하자고 결정해 놓고, 혹시나 나중에 뒤통수 치는 일이 벌어지지 않을까 하는 것도 사람이기 때문이다. 그래서 적어도 제대로 된 조직이라면 의견은 반박될 수 있어도, 원칙에 대해서는 불가하다는 첫 원칙이 더더욱 필요하다.