<새로운 질서> 헨리 A. 키신저∙에릭 슈미트∙크레이그 먼디 지음, 이현 옮김, 윌북 펴냄.
“더 많은 인력이나 자원을 요청하기 전에, 각 팀은 자신들이 원하는 일을 AI로는 왜 해낼 수 없는지를 입증해야 합니다.”
2025년 3월 20일, 캐나다의 글로벌 전자상거래기업 쇼피파이(Shopify)의 토비 뤼트케 CEO가 전직원에게 보낸 메모다. AI로 대체할 수 없는 업무임을 입증하지 않으면 인력 충원이 불가능하다는 방침을 분명히 했다. 이처럼 AI에 의한 일자리 대체는 현실로 나타나고 있다.
그런데 <새로운 질서>의 저자들은 AI가 일자리에만 머물지 않고 더 많은 분야에서 빠른 속도로 근본적인 패러다임을 바꿔갈 것이라고 예측한다. 저자들은 물리학·화학·생물학∙지정학·역사·철학까지 AI의 영향력이 닿는 전 분야를 훑으며 AI 시대 미래상을 전망한다.
저자들은 AI는 얼마나 똑똑해질 수 있는지, 앞으로 전쟁은 어떤 양상으로 펼쳐지는지, AI가 어떻게 인간을 대체하고, 어떻게 인간의 지위를 위협할 것인지 등 다양한 질문을 던지고 답한다. 나아가 우리가 기계 기술과 공생하는 인간종 ‘호모 테크니쿠스’로 바람직하게 진화할 건설적인 방법을 모색한다.
◇ AI, 인간을 전쟁에서 배제시켜
이 책은 AI의 일자리 대체를 기존과 다른 시각에서 살핀다. AI는 우리가 더는 하지 않아도 되는 일을 대신 맡게 된다. 인간은 직업 상실이 아닌 노동 해방을 이루고, 결핍에서 풍요로 경제의 근간이 달라질 수도 있다.
대표적으로 AI는 전쟁과 안보의 패러다임도 전면적으로 바꿀 것이다. 책에서 제시하는 한 가지 시나리오는 AI가 대리인으로 나서는 것이다.
인간은 전쟁에서 완전히 제외된다. 데이터센터와 디지털 인프라가 AI의 공격을 촉발하고, 인간 사상자를 줄이면서도 전쟁의 결정력은 줄이지 않는다. 전쟁은 순전히 기계의 치사율을 다루는 게임으로 변질되며, 병사의 용맹함이나 애국심과는 무관한 양상으로 그 성격이 완전히 바뀐다. 저자들은 AI가 초래한 분쟁을 과연 무엇이 끝낼 것인지 물으며, 평화와 안녕을 보장할 새로운 길을 찾는다.
◇ AI, 스스로 ‘존엄한 존재’ 되어 인간 대체할 수도
역사학자 유발 하라리는 “AI는 도구가 아니라 행위자다”라고 지적했다. AI가 인간의 도구에 머물지 않고 주도적으로 행위하는 주체가 될 수 있다는 것이다. 이 때문에 저자들은 초인적인 기계 지능 앞에서 ‘인류’를 재정의하는 것은 매우 시급한 현안이라고 강조한다.
AI 슈퍼컴퓨터는 인간 뇌보다 정보 처리 속도가 1억 2000만 배 빠르다. 더 방대한 양의 정보를 소화하고, 제시되는 요청을 훨씬 더 많이 처리한다. 그러한 AI에 우리는 번역, 이미지와 영상 생성, 코딩 등 인간의 다양한 능력을 학습시키고 있는데, 모든 AI 시스템에 안전장치를 설치하고, 인간의 ‘존엄성’을 현대적이고 지속 가능하게 정의하여 전달하는 일이야말로 더 근본적이고 시급한 과제라는 것이다.
저자들은 특히 우리들이 ‘인류란 무엇인가’를 올바로 정의하고 합의하지 않으면, AI가 특정한 방법으로 존엄성을 침해하고 이를 정당화할 수 있다고 우려한다. 심지어 AI가 충분한 능력을 부여받아 존엄한 존재가 됨으로써 인간을 완전히 대체할 수도 있다고 본다.
하지만, 일하지 않고서도 원하는 것을 가질 수 있을 때에 나타날 인간의 ‘수동성’은 어떻게 할 것인지, 고역이면서도 동시에 충만함과 즐거움의 원천이 되는 노동을 기계가 앗아간다면 인간은 어떻게 자기 역량을 발휘할 것인지 살핀다.
이 외에도 책에는 AI로 인한 패러다임의 변화를 예시하고 있다.
▲통제되지 않은 신기술이 오픈소스로 확산해 상당한 AI 역량을 갖춘 범죄 집단들이 나타난다.
▲지배적인 AI 시스템을 발명한 국가 이외의 국가들은 데이터를 공급하는 조공국으로 전락한다.
▲AI가 오류를 교정하는 과정에서, ‘잘못된’ 선택을 내리곤 하는 인간의 자유의지를 위협한다.
▲인간을 대신하여 탐사하는 AI가 적대적인 외계 지능과 접촉하여 인류 문명의 종말을 초래한다.
▲AI는 인간 노동자의 지시나 참여 없이도 현재 우리가 상상할 수 없는 규모와 물질로 세계를 구축할 수 있다. AI가 물리적 실체를 갖추면 인류는 통제권을 AI에 대폭 이양하게 될 것이다.
▲AI가 취향에 맞춰 설계한 세계에 몰입해 인간은 능동적 주체에서 수동적 소비자로 밀려난다.
▲상당한 힘을 가진 단호하거나 절박한 주체라면 다른 주체의 우수한 AI 개발을 경계할 것이다. 만일 지배적인 주체가 결국 모든 역량을 손에 넣었다고 부차적인 주체가 인식하게 될 경우, AI를 이용한 물리적 선제공격을 가하는 등 상호파괴라는 결과를 초래할 수 있다.
▲오늘날의 문제는 기온이 전례 없이 극단적인 가속도로 상승하는 것이다. 이 문제는 사실 두 가지 별개의 문제로 구성되는데, 둘 다 탄소에 지나치게 의존하는 데서 비롯되었다. 두 문제 모두 화학이 원인이자 궁극적인 해결책이므로, AI를 이용하여 화학의 잠재력을 완전히 실현하면 해결될 수 있다.
◇ 저자
챗GPT가 출시되기 4년 전인 2018년, 헨리 키신저(전美국무장관, 1923~2023), 에릭 슈미트(구글 前 CEO), 크레이그 먼디(MS 前 연구책임자) 등 3인이 공동 집필했다. 닉슨∙포드 행정부에서 국가안보보좌관, 국무장관을 지낸 키신저는 현실정치(레알폴리티크, Realpolitik)의 신봉자로서 미국의 외교 정책에 지대한 영향력을 행사한 인물이다. 미소 긴장완화와 중국개방을 이끌었고, 1973년에는 베트남전 해결 노력을 인정받아 노벨평화상을 수상했다.
샘 올트먼(오픈AI CEO), 데미스 허사비스(딥마인드 CEO), 다리오 아모데이(앤트로픽 CEO), 무스타파 술레이만(MS AI CEO) 등 AI 업계의 선두 주자들도 중요한 정보와 통찰을 제공하며 이 책의 집필을 도왔다.
