“AI 규제? 반드시 실패한다...통제하라!” [주태산 서평]

<더 커밍 웨이브> 무스타파 술레이만 지음, 이정미 옮김, 한스미디어 펴냄.

이 책의 저자는 우리가 반드시 알아둬야 할 인물이다. 무스타파 술레이만(Mustafa Suleyman, 1984년생)은 시리아 출신의 택시운전사 부친과 영국인 간호사 모친 사이에서 태어났다. 삼형제 중 장남으로 영국 런던에서 성장했다.

어린 시절 술레이만에게는 데미스라는 연상의 친구가 있었다. 그 친구의 동생이 훗날 딥마인드의 공동 창업자가 된 데미스 허사비스(Demis Hassabis, 1976년생)다. 술레이만은 대화가 통했던 데미스 허사비스와 어떻게 하면 세상에 긍정적인 임팩트를 줄 수 있을 것인지 토론하곤 했다.

술레이만은 사회운동부터 시작했다. 다니던 옥스포드 맨즈필드 칼리지를 중퇴하고 무슬림 청소년을 위한 전화상담 자선 단체 MYH를 설립해 활동했다. 국제분쟁 해결 컨설턴트로도 일했다.

그러던 중, 캠브리지를 나와 신경과학자가 된 데미스 허사비스를 다시 만나 2010년 9월 딥마인드 테크놀로지(DeepMind Technologies)를 창업했다.

신경과학에 기반한 인공지능 개발 회사 딥마인드는 직원수 50명에 불과했지만 설립 후 4년 만인 2014년 1월 유럽계 정보기술(IT) 기업 중 최고 인수 금액인 5억 달러에 구글에 매각되었다.

현재 딥마인드의 공식 명칭은 ‘구글 딥마인드 (Google DeepMind)’이며 데미스 허사비스가 CEO를 맡고 있다.

술레이만도 구글로 자리를 옮겨 AI 제품 관리 부서의 부사장으로 일했다. 그의 팀과 함께 개발한 것이 세계에서 가장 강력한 대화용 AI 시스템인 람다(LaMDA)였다.

2022년 구글 퇴사 후 페이팔 창업자 중 한 명인 리드 호프먼과 손잡고 ‘인펙션AI(Inflection AI)’을 설립해 CEO를 맡았다. 최근 이 곳에서 출시한 서비스가 ‘파이(PI·Personal Intelligence)’다. 파이는 생성형 인공지능으로 감정 이해도가 높다고 한다.

◇AI-신기술, 인류를 어디로 이끄나?

저자는 <더 커밍 웨이브(The Coming Wave)>에서 AI 산업의 폭발적인 발전으로 인해 무엇이, 어떻게 바뀔 것인지 예측한다. 그러면서 인류는 이 놀라운 기술을 과연 어디까지 통제하고 억제할 수 있는지 따져 본다.

일단, 저자는 AI의 발전이 가까운 미래에, 인류에 대해 새로운 정의(定義)를 내릴 것이라고 단언한다. 불(火), 바퀴(wheel), 전기의 발명이 인류 역사의 궤적을 바꾸었듯이 AI가 그러한 역할을 하게 될 것이라는 예상이다.

나아가 그로 인해 우리는 인류라는 종(種)의 역사에서 가장 중요한 문턱에 서게 될 것이라고 주장한다. 즉 ‘새로운 물결(wave)’을 맞이하게 된다는 것이다.

‘새로운 물결’의 고유한 특징으로는 비대칭성, 초(超)진화성, 만능성, 자율성을 제시하고, 이 가운데서 만능성에 주목한다. 만능성은 범용(汎用)적 성격이라 저자는 이것을 옴니유즈(omni-use technology)라고 명명하고 있다.

저자는 AI가 ‘새로운 전기(電氣)’처럼, 우리의 일상생활 깊숙이 침투해 로봇, 생물학, 화학 등 다양한 분야와 결합함으로써 해당 산업의 발전을 이끌 것이라고 예측한다. 또한 양자 컴퓨팅과 같은 분야가 AI의 발전을 돕고, AI가 이들을 도와 한 단계 도약하는, 이른바 선순환 구조에 이를 것이라고 전망한다.

이로 인해 AI와 관련 산업은 급속도로, 그리고 광범위하게 발전하고 기존에 존재하지 않던 새로운 생물을 만들거나 관련 기능을 변형하는 합성 생물학이 함께 발전하면서 인간에 대한 정의를 새롭게 내리게 될 것으로 본다.

◇ 피할 수 없는 미래, 억제라도 가능해야

저자가 이러한 미래, 피할 수 없는 변화를 우리가 어떻게 통제하고 억제할 수 있을 지 가장 우려하고 있다.

거대 기술 기업들은 물론 전 세계의 국가는 과거와 다름없이 사활을 걸고 AI 기술 개발에 나설  것이다. 문제는 핵 무기와 달리 AI 기술은 범용적이고도 다양한 측면에서 활용할 수 있기 때문에 전통적인 방식으로는 규제에 실패할 것이라는 데 있다.

저자는 과거 신기술에 반대했던 러다이트 운동의 실패를 예로 들면서 AI 기술도 이와 같을 것이라고 말한다. 그는 AI 기술을 정부와 사회가 적절하게 관리하려면 반드시 ‘containment’가 가능해야 한다고 주장한다.

이 용어는 책에서 ‘억제’로 번역됐다. 하지만, 정치학에서는 봉쇄의 의미로 사용된다. 1950년대 냉전 시기 구 소련의 팽창주의에 대응하여 미국이 펼친 유명한 ‘봉쇄 전략’이 영어로는 containment strategy이다.

다시 말해, 저자는 AI를 일일이 규제하기보다 AI를 견제할 수 있는 각종 정책 즉 거버넌스, 지배구조, 그리고 억제 및 통제, 봉쇄할 수 있는 기술들을 다각도로 모색하고 갖추자는 것이다.

◇ 엄청난 잠재력과 위험성 지닌 두 개의 범용기술, AI와 합성생물학

책의 1부에서는 수천 년에 걸쳐 발전해 온 기술의 오랜 역사와 기술 변화의 물결이 어떻게 확산되는지 살펴본다.

2부에서는 다가오는 물결에 대해 살펴본다. 그 물결의 중심에는 엄청난 잠재력과 힘, 위험성을 지닌 두 가지 범용 기술, 즉 인공 지능과 합성 생물학이 자리한다.

두 기술이 미칠 영향은 오래전부터 예견돼 왔지만, 그 파급력은 여전히 과소평가되는 경우가 많다. 이 두 기술을 중심으로 로봇 공학과 양자 컴퓨팅과 같은 여러 관련 기술이 복잡하고 격동적인 방식으로 발전할 것이다. 여기에서는 관련 기술들이 어떻게 등장했고 어떠한 기능을 수행할 수 있는지 살펴볼 뿐만 아니라 그 기술들을 억제하기가 왜 그렇게 어려운지 그 이유에 대해서도 함께 살펴본다.

3부에서는 억제되지 않은 기술의 물결이 불러올 거대한 권력 재분배의 정치적 함의를 살펴본다. 현재 정치 질서의 근간이자 기술 억제의 가장 중요한 주체는 바로 국민 국가다. 이미 위기에 흔들리고 있는 국가는 새로운 형태의 폭력, 잘못된 정보의 홍수, 사라져 가는 일자리, 치명적인 사고 등 새로운 물결로 증폭된 일련의 충격으로 더 약화될 것이다.

더 나아가 그 물결은 중앙 집중화와 탈중앙화를 동시에 이끄는 일련의 지각변동을 일으킬 것이다. 이는 거대한 기업들을 새로 만들어 내고 권위주의를 강화하는 한편, 전통적인 사회 구조 밖에서 살아가는 집단과 움직임에도 힘을 실어 줄 것이다. 국민 국가의 정교한 협상은 우리가 그와 같은 제도를 가장 필요로 할 때 엄청난 압박을 받게 될 것이다. 결국 이러한 방식으로 우리는 딜레마에 빠지게 된다.

4부에서는 우리가 할 수 있는 일에 대한 논의로 넘어간다. 기술을 억제하고 딜레마에서 벗어날 수 있는 가능성이 조금이라도 있을까? 있다면 어떤 방법이 있을까? 이 섹션에서는 코드와 DNA 수준에서 국제 조약 수준까지 10단계로 나눠 엄격하고 중첩된 제약 조건, 즉 억제를 위한 개략적인 계획을 수립하는 방법을 간략하게 설명한다.

에릭 브린욜프슨 스탠퍼드대 교수는 이 책에 대해 이런 평을 남겼다. “다가오는 AI와 합성 생물학의 물결은 다음 10년을 인류 역사상 최고의 시간으로 만들 것이다. 만약 그게 아니라면 최악의 시대가 될 것이다.”