[IT큐레이션] 죽음의 지평선을 걷는 무기상인, 실리콘밸리

챗GPT 개발사 오픈AI가 미국 국방부와 2억 달러(약 2700억원) 규모의 인공지능(AI) 도구 제공 계약을 체결하며 처음으로 군사 분야에 진출했다. 이는 AI 기술을 군사력에 접목하려는 미국의 흐름 속에서 빅테크 기업들의 방산 시장 진출이 가속화되고 있음을 보여준다.

빅테크는 원래 미 국방부 등과의 협력 등 AI 기술이 방산용으로 활용되는 것에 미온적 반응을 보인 바 있다. 지금은 상황이 180도 달라졌다. 이제 실리콘밸리는 전장의 무기상인이 되어 그 누구의 눈치도 보지않고 방산 시장으로 저벅저벅 걸어가고 있다.

오픈AI, 무기를 잡다
로이터 통신 등 외신은 16일(현지시간) 미 국방부 발표를 인용해 오픈AI가 이번 계약을 수주했다고 보도했다. 내년 7월까지 유효한 이번 계약을 통해 오픈AI는 전투 및 기관 분야의 국가 안보 과제 해결을 위한 최첨단 AI 기능의 시제품을 개발하게 된다. 구체적인 개발 내용은 공개되지 않았다.

이번 계약은 오픈AI가 방산 분야 진출 의사를 밝힌 지 약 6개월 만에 성사됐다. 실제로 오픈AI는 지난해 12월 방산 스타트업 안두릴 인더스트리즈와 협력해 미군의 드론 방어 시스템에 자사 AI 기술을 적용하겠다고 발표하며 군용 AI 시장 진출을 공식화한 바 있다. 

샘 올트먼 오픈AI 최고경영자(CEO) 역시 지난 4월 "국가 안보 분야에 참여하기를 원한다"며 강한 의지를 드러내기도 했다.

한편 오픈AI의 참전으로 실리콘밸리의 방산 기술 경쟁은 더욱 치열해질 전망이다. 이미 AI 기업 팔란티어는 미 육군과 10억 달러 규모의 프로젝트를 진행 중이며 마이크로소프트(MS)는 국방부 전용 '코파일럿' 맞춤형 버전을 개발하고 있다. 페이스북의 모회사 메타 또한 안두릴과 손잡고 AI 기반 군사용 장비 개발에 나섰다. 오픈AI의 경쟁사로 꼽히는 앤스로픽도 팔란티어, 아마존과 협력해 미군에 AI 기술을 제공하겠다고 밝혔다.

실리콘밸리, 무기를 잡다
빅테크들이 처음부터 기술의 방산 및 안보 영역 진출에 적극적인 것은 아니다. 오히려 그 반대였다. 실제로 미 국방부가 인공지능(AI)을 군사 작전에 본격적으로 통합하려던 첫 플래그십 프로젝트 '메이븐(Maven)'은 실리콘밸리의 강력한 반발에 직면했다. 

2017년 시작된 이 프로젝트의 목표는 감시 드론이 수집하는 방대한 동영상 데이터를 구글의 AI 엔진 '텐서플로'로 분석해 잠재적 표적을 식별하는 것이었다. 그리고 국방부는 이를 인간 분석가의 부담을 줄이는 보조 도구라 설명했지만, 기술 업계와 구글 내부에서는 '자동화된 살상'으로 가는 첫걸음이라는 우려가 확산했다.

구글이 "객체 인식을 지원하는 오픈소스 API를 일시 제공할 뿐"이라고 해명했지만, 내부의 반발은 거셌다. 구글의 비공식 모토였던 "사악해지지 말자(Don't Be Evil)"를 내세운 4000여 명의 직원이 프로젝트 참여 중단을 요구하는 청원에 서명하기도 했다. 이들은 "구글은 전쟁 사업에 관여해서는 안 된다"고 주장했고, 수십 명의 직원이 항의의 표시로 사표를 던졌다.

논란은 구글 경영진이 프로젝트의 민감성을 인지하고 언론 노출을 최소화하려 했다는 내부 이메일이 폭로되면서 걷잡을 수 없이 커졌다. 결국 2018년 6월 구글은 내부 위기와 외부 비판에 밀려 계약을 갱신하지 않겠다고 발표했다. 구글은 나아가 "사람에게 상해를 입히는 무기"나 "국제 규범을 위반하는 감시 기술"에는 AI를 사용하지 않겠다는 내용의 'AI 원칙'을 발표하기도 했다.

다만 이 원칙에는 사이버 보안, 훈련, 수색 및 구조 등 다른 분야에서는 군과 계속 협력할 것이라는 중요한 예외 조항이 포함되어 있었다. 일종의 플랜B가 있다는 뜻이다. 그리고 이는 훗날 구글이 국방 사업에 다시 참여하는 전략적 발판이 되었다. 그러나 단기적으로 구글이 AI 원칙을 발표하며 논란은 일단락되는 것처럼 보였다.

클라우드 전쟁, JEDI의 붕괴에서 JWCC의 다중 공급업체 미래로

구글의 철수는 AI 등 최첨단 기술의 무기 영역 적용을 원하는 방산 시장에 공백을 만들었다. 구글 직원들이 결사적으로 AI 원칙을 끌어냈지만, AI 기술의 방산 분야 도입을 원하는 거대한 흐름은 멈추지 않았기 때문이다. 구글 직원들은 용감하게 최첨단 기술의 인명살상 가능성에 선을 그었지만, 어차피 벌어질 일이었다. 결국 구글이 철수한 공백을 누가 메울 것인가의 문제만 남았다.

그 공백은 구글의 경쟁사인 아마존과 마이크로소프트가 메웠다. 단초는 클라우드다. 

프로젝트 메이븐의 여진 속에서 미 국방부는 10년간 100억 달러 규모의 '합동 방어 인프라 사업(JEDI)'을 발표했다. 국방부의 노후화된 IT 인프라 전체를 단 하나의 상용 클라우드로 통합하는 '승자독식' 방식의 초대형 프로젝트다.

당초 AWS가 유력했으나 치열한 경쟁 끝에 2019년 10월 마이크로소프트가 최종 사업자로 선정되는 이변이 일어났다. AWS는 즉각 소송을 제기했다. 도널드 트럼프 대통령과 아마존 창업자 제프 베이조스의 적대적 관계가 부당하게 개입했다는 주장이었다. 결국 JEDI는 시작도 전에 기나긴 법적 공방에 휩싸였다.

미 국방부는 결국 2021년 7월 JEDI 프로젝트를 공식 폐기했다. 그러나 공식 폐기 당일 후속 사업으로 다중 공급업체, 다중 클라우드 모델을 채택한 '합동 전투원 클라우드 역량(JWCC)' 계획을 발표하며 여전히 최첨단 기술을 가진 빅테크와의 협업 가능성을 열어줬다. 이어 2022년 12월 미 국방부는 AWS, 마이크로소프트, 구글, 오라클 등 4개 기업과 최대 90억 달러 규모의 JWCC 계약을 전격 체결했다. 구글이 돌아왔다. 실제로 JWCC 계약 체결은 메이븐 사태로 국방부 대규모 사업에서 배제됐던 구글의 귀환이라는 점에서 큰 관심을 모았다.

미 국방부는 멈추지 않았다.

JWCC 계약 이후 클라우드 인프라 구축과 동시에 개별 병사의 전투 능력을 극대화하기 위한 '통합 시각 증강 시스템(IVAS)' 프로젝트를 추진했다. 그리고 마이크로소프트가 수주에 성공했다. 계약 규모가 최대 220억 달러에 달하는 초대형 프로젝트며 핵심은 마이크로소프트의 상용 혼합현실(MR) 헤드셋 '홀로렌즈 2'를 군용으로 개조한 장비 개발로 요약할 수 있다. 병사의 시야에 3차원 지형도, 적군 위치, 아군 현황 등 전장 정보를 실시간으로 투사하고 야간 투시 기능까지 통합해 전례 없는 수준의 상황 인식 능력을 제공하는 것이 목표다.

물론 개발 과정은 순탄치 않았다. 현장 테스트에 참여한 병사들이 두통, 메스꺼움, 눈의 피로 등 심각한 부작용을 호소했기 때문이다. 그러나 기술과 방산의 연결은 더욱 강해졌다. 오히려 더 확장되기 시작했다. 오큘러스 창업자 파머 럭키가 설립한 방산 기술 스타트업 '안두릴 인더스트리즈'와 같은 새로운 경쟁자에게도 기회가 열렸기 때문이다. 향후 국방 기술 생태계는 구글, 마이크로소프트 같은 빅테크가 클라우드 등 소프트웨어 플랫폼을 제공하고 안두릴 같은 신생 방산 기술 기업이 IVAS 같은 맞춤형 하드웨어를 개발하는 형태로 역할이 분담될 가능성도 제기된다.

실리콘밸리의 변심
프로젝트 메이븐 사태 이후 군사 기술 개발에 조심스럽던 빅테크의 태도는 급격히 변하고 있다. 과거의 윤리 원칙은 지정학적 현실과 시장의 압력 앞에서 재해석되거나 사실상 폐기되는 '거대한 반전'이 일어나고 있다.

당장 챗GPT 개발사 오픈AI는 이용 약관에서 '군사 및 전쟁' 활용 금지 조항을 삭제하고, 미 국방부와 사이버 보안 소프트웨어 개발에 협력하고 있다. 구글 역시 AI 원칙 웹페이지에서 무기 개발 금지 조항을 삭제하고 '국가 안보 지원'을 강조하는 방향으로 선회했다. 메타 또한 자사 AI 모델 '라마'의 군사적 활용 금지를 명시했던 규정을 바꿔 미 국방 기관에 모델을 제공한다고 발표했다.

변화의 배경에는 수조 달러 규모의 거대한 방산 시장이라는 '시장의 중력'과, 중국과의 'AI 군비 경쟁'이라는 '지정학적 압박'이 있다. 특히 중국 인민해방군이 메타의 '라마' 모델을 군사용으로 연구했다는 소식은 미국 빅테크가 미군과의 협력을 서두르게 된 결정적 계기가 된 것으로 분석된다.

직원들의 반발에 기반한 윤리적 자율 규제의 시대가 끝나고 있다는 분석이 나온다. 이제 기업 경영진은 '국가 안보'라는 강력한 명분을 앞세워 내부 우려를 이전보다 쉽게 묵살하고 있다. 논의의 초점은 "우리가 이 일을 해야 하는가?"에서 "경쟁에서 뒤처지지 않기 위해 반드시 해야 한다"로 이동했다.

이제 빅테크와 미 국방부는 밀접한 공생 관계에 접어들었다는 것이 중론이다. 국방부는 기술 우위를 위해 빅테크의 혁신이 필요하고, 빅테크는 방산 부문의 안정적인 수익과 전략적 위상을 외면하기 어렵기 때문이다. 그리고 빅테크와 국방부의 협력은 이제 '할 것인가 말 것인가(if)'의 문제가 아니라 '어떻게 할 것인가(how)'의 문제가 되었다. 

향후 과제는 이 파트너십을 위한 지속 가능한 프레임워크를 구축하는 것이라는 주장이 나온다. 기업의 자율 규제만으로는 충분하지 않다는 것이 입증된 만큼, 군사 AI의 개발 및 배치에 있어 인간의 책임을 보장하는 법적, 제도적 규제 마련이 시급하기 때문이다. 업계 관계자는 "기술의 혁신을 국가 안보에 활용하면서도 민주적 가치와 윤리 원칙을 담보할 수 있는 체계를 만드는 것이 중요해지고 있다"면서 "이제 거버넌스의 시대가 시작되어야 한다"고 강조했다.