[이코노믹리뷰=황진중 기자] 육군은 19일 네이버 본사에서 인공지능(AI) 보안에 대한 경각심을 제고하고 직원들의 기술 역량강화를 위한 강연이 18일 열렸다고 밝혔다.

강사로 나선 권현 대위는 카이스트(KAIST)에서 위탁교육을 받고 있다. 육군은 권현 대위가 지난해 ‘네이버 우수 연구자’로 선정돼 네이버사의 요청에 따라 강연을 하게 됐다고 설명했다.

AI는 고성능 컴퓨터 연산과 로봇기술과 융합해 산업현장은 물론 일상생활과 국방 등 사회전반에 걸쳐 점차 확산되고 있다. 기술 발전과 더불어 AI를 악용하는 경우도 있어 AI 보안 분야에 대한 관심이 요구되고 있다.

권현 대위는 이날 강의에서 ‘AI의 우회공격(Evasion attack)과 대응방안’이라는 주제를 발표하면서 AI 시스템 보호방안으로 ‘Friend-safe evasion attack’을 제안했다. 우회공격은 기존 AI 시스템이 탐지하지 못하도록 우회해 시스템의 취약점을 공격하는 방법으로 아군 AI 시스템은 보호하면서 적군 AI 시스템에만 회피공격을 하는 방안이다.

권 대위는 “AI가 데이터 변조 공격에 노출되면 여러 문제가 발생될 수 있는데 예를 들어 사람이 보기에는 이상이 없는 좌회전 표지판을 자율주행차량이 우회전으로 잘못 인식하거나, 음성인식 스피커에서 어떤 물건을 주문할 때 다른 상품을 인식하게 해서 엉뚱한 물건을 주문할 수 있다. 또 개인정보를 다른 기계로 보내는 등 오작동을 발생시킬 수 있다”고 지적했다.

권 대위는 “세상을 이끌 안전한 AI 환경을 함께 만들어가자”고 강조하면서 AI 기술의 데이터 변조 보안문제를 해결할 시스템 보호방안을 소개했다.

육군 관계자는 “AI 보안 관련 카이스트 박사 과정을 밟고 있는 권 대위는 최근 이슈가 되고 있는 AI 음성인식과 사물인식의 보안 취약점에 대한 연구를 하고 있다”면서 “국제 저명학술지인 SCI SCI(Science Citation Index)에 논문 6편, 국제학술대회에 논문 5편을 게재하는 등 국제적으로도 연구 성과를 인정받고 있다”고 설명했다.

권 대위는 ‘Adversarial Example that is Safe for Friendly Deep Neural Networks’라는 논문의 주저자로서 지난해 국가정보원이 후원하는 사이버 안보(보안) 논문 공모전에서 장려상을 수상하기도 했다. 이외에도 미국 군사 분야 최고학회인 ‘Milcom’과 일본 AI 통신학회에 논문을 발표하고 국내 대학교에서 특강을 하는 등 활발한 학술활동을 이어가고 있다.

권 대위는 “발표한 연구를 확장시켜 군사용 표지판, 위장이나 은밀채널, AI 인식 회피 등에 접목할 수 있다”면서 “향후 발전될 AI 보안 분야에서 아군을 보호하고 적은 불리하게 통제할 수 있는 기술을 개발해 국방기술 발전에 기여하고 싶다”고 말했다. 그는 또 “민간에서 앞서 나가고 있는 학술 분야를 군에 접목시키기 위해 끊임없이 노력하는 연구자이자 군인이 되고 싶다”고 밝혔다.