<맥스 테그마크의 라이프 3.0> 맥스 테그마크 지음, 백우진 옮김, 동아시아 펴냄

인공지능의 미래에 관해서는 여러 관점이 있다. 책에는 디지털 이상주의자, 기술회의론자 등으로 대별한다. 2014년 7월 18일 미국 나파밸리 머스크 주최 파티에서 벌어진 래리 페이지와 엘론 머스크의 논쟁은 유명하다. 구글 창립자인 래리 페이지는 디지털 생활은 우주 진화에서 자연스러운 단계이기 때문에 어떤 이유에서건 인공지능의 발전을 막아서는 안 되며, 인공지능을 노예처럼 대하지만 않으면 좋은 결과에 이를 수 있다고 주장했다. 이에 엘론 머스크는 왜 디지털 생활이 우리가 좋아하는 것들을 파괴하지 않을 것으로 믿느냐고 반문했다. 그러자 래리 페이지는 엘론 머스크를 ‘종(種)차별주의자(Speciesist)’라고 몰아붙였다. 탄소가 아니라 실리콘을 기반으로 한다는 이유로 어떤 생명체를 열등하게 봐선 안 된다는 주장이었다.

저자는 래리 페이지를 ‘디지털 이상주의자’로 분류한다. 디지털 이상주의자는 인공지능이 발달해 인간 수준에 이르는 것은 시간문제이며, 그것은 인류 번영을 보장한다는 입장이다. <마음의 아이들>의 저자 한스 모라벡이나 <특이점이 온다>의 레이 커즈와일이 이 부류에 속한다. 이들은 20~100년 사이에 초지능 인공지능이 등장할 것으로 예측한다. 이들의 걱정은 인공지능에 대한 피해망상 때문에 인공지능 발전이 저해되거나 거대한 정치권력이 고도로 발달한 인공지능을 자신들의 이익을 위해서만 사용하는 상황이다.

‘기술 회의론자’들은 인간 수준의 능력을 지닌 인공지능은 개발될 수 없다고 본다. 가능하더라도 수백 년이 지나야 할 것이라고 말한다. 인공지능·딥러닝 분야 세계적 권위자인 앤드루 응 스탠퍼드대 교수와 산업용 로봇 개발자인 로드니 브룩스 MIT 교수가 여기에 속한다.

저자의 분류에는 없지만, 다른 한편에서는 초지능 인공지능의 등장을 기정사실로 보면서도 그 인공지능이 인류에 위협일 수 있어 대비해야 한다는 목소리들도 있다. 엘론 머스크와 스티븐 호킹, 빌 게이츠 등이다.

저자는 독자적인 생명 분류법을 제시한다. ‘라이프 1.0’은 하드웨어와 소프트웨어 모두 진화의 방식을 통해서만 발전하는 생명 형태이다. 박테리아의 경우 어떤 상황에 대응하는 아주 기초적인 반응을 할 수는 있지만 무언가를 학습하지는 못한다. 쥐의 경우 학습 능력이 있지만 그리 정교하지 않다. 학습한 내용을 다음 세대에 전달하지도 못한다. 이러한 동물은 ‘라이프 1.1’에 해당한다.

‘라이프 2.0’은 하드웨어는 진화해야 하지만 소프트웨어는 설계할 수 있는 생명 형태다. 인간은 자신의 신체를 스스로 바꿀 수는 없다. 진화를 통해 변화 가능하다. 하지만 정신은 성장과 학습을 통해 바꿔나갈 수 있다. 자신이 설계한 소프트웨어를 다음 세대에 전달할 수도 있다. 최근 들어 인간은 하드웨어 일부를 설계한다. 치아를 임플란트로 바꾸거나 약한 심장은 심장박동기를 설치해 보강한다. 지금의 인간은 ‘라이프 2.1’ 수준의 존재다.

‘라이프 3.0’은 소프트웨어는 물론 하드웨어도 설계할 수 있는 생명 형태다. ‘궁극적인’ 생명 형태다. ‘라이프 3.0’이 될 수 있는 인공지능은 인간 수준의 범용인공지능(AGI, Artificial General Intelligence)이다. 알파고나 왓슨 같은 일반 인공지능은 바둑이나 퀴즈 풀기 등 특정 분야에서만 뛰어난 능력을 보여주지만 자신의 분야를 넘어가면 할 수 있는 일이 없다. 하지만 범용인공지능은 인간처럼 모든 것을 해낸다. 그 가운데 초지능(Super Intelligence)은 범용지능 중에서도 인간의 모든 영역에서 인간 수준을 훨씬 뛰어넘는 지능이다. 초지능은 물리학의 한계가 허용하는 수준까지 자신을 업그레이드할 수 있을 것이다.

책에서 가장 눈에 띄는 대목은 초지능의 위험성 부분이다. 예를 들어, 초지능 로봇에게 “양을 늑대로부터 보호하라”고 지시해보자. 양치기 로봇은 인간이 부여한 목표를 달성하려면 자기가 끝까지 살아 있어야 한다고 판단한다. ‘자기 보전’이란 하위 목적을 갖게 되는 것이다. 또 목장 주변 환경을 탐색하면서 다양한 경로로 공격해올 늑대들을 물리치기 위해 총과 같은 다양한 무기가 필요하단 사실을 깨닫게 될 수 있다. ‘자원확보’라는 하위 목적이 추가되는 것이다.

자기보전과 자원확보는 우두머리 수컷 생명체에게나 있는 본능이다. 이로 인해 초지능 양치기 로봇은 자신을 폐기하려는 인간들마저 양을 보호하는 데 방해가 되는 적으로 간주해 공격할 수도 있다. 저자는 “초지능 인공지능의 목표가 인간의 목표와 정렬되지 않는다면 우리는 곤경에 빠질 것이다”라고 경고한다. 인공지능에 대해, 가까운 미래에 대해 알려면 반드시 읽어야 할 필독서다.