[이코노믹리뷰=최진홍 기자] 스웨덴의 발명가 겸 기업가인 알프레드 노벨은 1893년 평화운동가 베르타 폰 주트너에게 "내 유산의 일부를 한 재단에 기부해 5년 마다 주는 상을 제정하고 싶다"는 편지를 쓴다. 1895년 몇 번의 유언장 수정을 거쳐 탄생한 노벨상의 시작이다. 최근 '미투운동'의 여파로 노벨상의 입지가 크게 휘청이고 있지만, 노벨상을 받는다는 것은 여전히 개인을 넘어 국가의 자랑이다.

현재의 노벨상이 자랑하는 명예로운 권위와는 별개로, 자연인 노벨의 인생은 악평의 연속이다. 기존의 불완전한 화약의 단점을 보완한 다이너마이트를 발명해 탄광과 채굴현장의 생산성을 상승시켰으나 그와 비례해 무자비한 대량 인명 살상의 현장에도 다이너마이트가 활용됐기 때문이다.

일각에서 다이너마이트가 많은 사람들을 해치는 장면을 본 노벨이 괴로워했고, 그 결과가 노벨상 제정이 됐다는 말도 나오지만 냉정히 말해 명확한 근거는 없다. 한 프랑스 신문이 노벨이 사망한 것으로 오인해 부고기사를 내며 '죽음의 상인'이라는 표현을 썼고, 이를 본 노벨이 깜짝 놀라 속죄를 했다는 말이 있지만 이를 뒷받침하는 확증은 없다.

아마존과 구글 직원들이 들고 일어선 이유

평생을 군수업자로 살아온 노벨이 다이너마이트 악용을 보며 괴로워했을 가능성은 낮지만, 우리는 그가 기술의 악용을 걱정하고 괴로워했을 것이라 믿는 경향이 있다. 노벨의 딜레마다. 이 딜레마는 현실의 노벨과 우리의 상상이 충돌하며 벌어진다. 그러나 우리의 상상에 더욱 충실하자면 노벨의 딜레마는 전혀 다른 화두를 던지게 된다. '새로운 기술의 발전=인류의 진보'라는 공식이 무너진다고 가정해보자. 색다른 노벨의 딜레마를 만날 수 있다.

워싱턴포스트(WP)와 미국 의회전문매체 더힐을 비롯한 주요외신은 26일(현지시각) 아마존 직원들이 제프 베조스 최고경영자(CEO)에 서신을 보내 정부에 얼굴 인식 기술 판매 시도를 중단하라고 요구했다.

최근 트럼프 행정부의 이민자 정책과 밀접한 관련이 있다. 도널드 트럼프 대통령은 최근 멕시코 불법 이민자에 대한 통제를 강화하면서 불법 이민자와 그 자녀를 분리해 수용하는 행정명령에 서명했다. 최근 한 발 물러나며 유화적인 제스쳐를 보였으나 불법 이민자 가이드 라인을 강화하겠다는 기존 정책은 강행할 방침이다. 이 과정에서 인권유린 논란이 불거지고 있다.

아마존 직원들은 정부에 제공되는 얼굴 인식 기술이 이민자와 소수민족을 억압하고 감시하는 도구가 될 가능성에 주목하고 있다. 시민사회단체 미국시민자유연맹(ACLU)도 비슷한 주장이다. 이들은 지난 19일 아마존의 얼굴 인식 기술 레코그니션(Rekognition)이 정부에 납품되는 것에 반대하며 "감시는 인권을 유린한다"고 주장했다.

아마존의 기술력, 특히 초연결을 전제로 하는 인식 기술력은 정평이 났다. 지난 1월 시애틀에서 최초 오픈한 아마존고 매장이 대표적이다. Just Walk Out(저스트 워크 아웃) 기술이 총망라됐다는 설명이다. 아마존은 2014년 고객의 동선을 따라 RGB 카메라가 이동하며 딥러닝과 센서 기술을 바탕으로 실시간 쇼핑 지원을 끌어내는 기술인 저스트 워크 아웃 기술을 특허 등록했다.

아마존고의 기술에 얼굴 인식 기능은 없다. 그러나 고객이 매장 안으로 들어오면 매장 내부의 카메라를 사용하여 고객을 추적하는 놀라운 기술력을 보여주고 있다. 매장에 들어오는 고객이 자신의 전화를 입구에 설치된 기기에 스캔하면, 이 때부터 매장 안에서 시스템의 3D 목표물로 표시된다. 카메라가 진열장의 제품도 함께 가리키면서 고객과 상품 간의 접촉을 판단한다.

아마존은 정부에 제공하려는 얼굴 인식 기술이 단순한 물체 식별 기술에 불과하다는 해명을 내놨으나, 시민사회단체와 내부 직원들의 반발에 당혹해하는 분위기다. 최근 아마존은 트럼프 행정부와 마찰을 빚으며 껄끄러운 관계를 보였으나 트럼프 대통령의 우주군 창설에 블루오리진이 적극 참여할 가능성을 내비치는 등, 소위 밀당(밀고 당기기)을 거듭하며 숨 고르기에 나서고 있다. 이 과정에서 얼굴 인식 기술의 정부 납품에 관련된 논란이 불거지는 것은 부담스럽다.

아마존과 정부를 둘러싼 논란은 구글과 미 국방부 사이에서 벌어진 프로젝트 메이븐 논란과 비슷하다. 프로젝트 메이븐은 미 국방부의 인공지능 무기 시스템으로 알려졌으며, 구글은 1000만달러의 계약금을 받고 인공지능 기술을 제공한 것으로 확인됐다. 당초 구글은 프로젝트 메이븐에 활용되는 자사 인공지능 기술력은 살상무기 개발과 관련이 없으며 매출에서 차지하는 비중도 미비하다고 설명했으나, 내부 직원들의 반발이 심해지자 결국 손을 떼기로 결정했다.

선다 피차이 구글 최고경영자(CEO)는 7일 프로젝트 메이븐 포기와 함께 새로운 인공지능 윤리 지침을 발표하며 "무기 개발에 인공지능 기술을 제공하지 않고 인권을 침해하지 않도록 할 것이며 인공지능 자동화 단계에서 인종과 성, 정치적 차별이 개입되지 않도록 하겠다"면서 한 발 물러났다.

빅브라더 공포, 정부의 개입

마이크로소프트(MS)는 지난해 9월 정기 보안인텔리전스 보고서를 통해 클라우드가 사이버 무기로 악용될 수 있다고 경고했다. MS애저 보안센터의 모니터링에 감지된 외부 공격 중 악성IP와 통신이 무려 51.0%를 차지했으며 원격으로 데스크톱을 무작위로 연결하려는 시도는 23.0%, 스팸은 19.0%, 포토스위핑이 3.7%로 확인됐다.

클라우드에 침입해 이를 사이버 무기로 바꾸려는 시도는 지금도 이어지고 있다. 기술의 즉각적인 반응과 시너지, 보안, 비용 절감에서 탁월한 성과를 내는 클라우드가 우리를 위협하는 괴물로 변신하는 극적인 순간이다.

아마존과 구글의 사례도 마찬가지다. ICT 기술의 발전으로 인공지능과 사물인식 등의 영역에서 다양한 성과가 나오고 있으나, 그와 비례해 악용 가능성도 커지고 있다. 빅브라더의 공포다.

인공지능과 무기의 만남도 비슷하다. 카이스트는 지난 2월 국내 방산업체인 한화시스템과 협력해 인공지능 기술을 적용한 새로운 무기 시스템을 개발하기로 결정했다. 지난해 10월 국방 인공지능 기술 개발을 위해 체결한 양해각서의 후속조치며 국방 인공지능 융합연구센터를 설립하는 것이 골자다.

세계 29개국 57명의 인공지능 연구자들이 즉각 반발하고 나섰다. 토비 월시 호주 뉴사우스웨일스대 교수를 대표로 하는 57명의 연구자 그룹은 5일 성명을 내고 카이스트가 자율무기와 살인로봇을 개발하고 있다"고 맹비난했다. 논란이 확산되자 카이스트는 "오해가 있다"면서 "인간의 통제력이 미치지 못하는 인공지능 무기 개발에 나서는 것이 아니며, 인간 존엄성에 어긋나는 연구활동을 하지 않겠다"는 총장 명의 성명서를 배포했다. 인공지능과 관련된 국방 프로그램을 연구할 뿐, 공격로봇을 개발하고 살상용 무기를 개발하는 것이 아니라고 해명했다.

많은 ICT 기업들에게 '기술의 발전=인류의 진보'라는 공식은 일종의 금과옥조로 여겨졌다. 그러나 ICT 기술의 발전이 초연결 플랫폼으로 수렴되는 한편, 의도를 가진 정부의 개입으로 다양한 논란이 불거지고 있다. 노벨의 딜레마는 21세기 우리에게도 시사하는 바가 크다.