4차 산업혁명은 곧 '초연결 시대'의 도래를 말한다. 사물 인터넷과 스마트폰으로 촘촘하게 연결되는 시대, 일단 발생하기만 하면 '초연결' 생태계를 한 번에 무너뜨릴 수 있는 '사이버 공격'에 대한 두려움도 커지고 있다.

글로벌 보안컨설팅 전문업체 포네몬인스티튜트에 따르면 세계적으로 사이버 공격에 따른 기업들의 데이터 유출 사고 총피해액은 연간 4000억 달러(약 458조 9000억 원)에 이른다고 알려졌다. 또한 피해 상황을 파악하는 데만 평균 256일이 소요된다.

고도화되며 세밀해지는 사이버 공격에 대응하기 위해서는 보안 전문가 한 명이 매일 20만 건 이상의 보안 이슈를 감시하고, 매월 6만 개 이상의 사이버 보안 정보를 습득해야 한다. 사실상 불가능한 일이다. 하루가 다르게 진화하는 사이버 공격에 어떻게 대비할 수 있을까?

최근 보안 솔루션과 인공지능이 결합해 사이버 공격을 예측하고 탐지하려는 시도가 이어지고 있다. 인공지능은 어떤 보안 분야에서 사용될 수 있을까? 소프트웨어정책연구소에 따르면 인공지능은 침입탐지 및 예방, 참해 사고 후 진단 및 대응, 침투 테스트 등에 두루 사용될 수 있다.

우선 전 세계의 위협 정보를 수집해 새로운 위협을 사전에 인지하고 예방할 수 있다. 정확한 검출 및 오류를 우선적으로 파악해 비용을 절감할 수 있다. 또한 알려진 위협에만 대응할 수 있었던 한계를 극복하며 새로운 사이버 위협을 예방할 수 있다.

사고가 발생했을 때 인공지능이 빅데이터를 기반으로 원인을 진단하고 조치 방법을 제안할 수 있다. 화이트 해커에 의존하던 기존의 침투 테스트 방식을 인공지능이 스스로 지원함으로써 보다 견고한 대안을 제시할 수 있을 것으로 보인다.

관련 업계에 따르면 현재 보안 분야에 접목된 인공지능은 공격을 스스로 막고 대응하기 전 단계를 지나고 있다. 데이터로부터 배우고 스스로 성능을 높여가는 머신러닝을 통해 발전 중이라고 알려졌다. 인공지능과 손잡은 보안 기술, 어떻게 달라지고 있을까?

가상 분석가, 인공지능의 두뇌+분석가의 직관력

보안 업계에서 인간과 인공지능을 접목하려는 시도는 꾸준히 있어왔다. 하지만 알고리즘을 위한 사이버 보안 데이터를 수동으로 분석해야 했기에 두 번 일을 해야 하는 상황에 봉착해왔다. 인공지능이 직접 데이터를 분석하기에는 기술적 한계가 있었고, 전담 분석가가 함께 일하기에는 '인공지능' 활용의 의미가 빛을 바라지 못한다는 의견이 있었다.

최근 분석가의 일을 대폭 줄여주마 감시자의 역할 정도를 수행하게 해 줄만한 기술이 등장했다. 지난 4월 미국 매사추세츠공대(MIT)에서는 사이버 공격의 85%를 감지할 수 있는 인공지능 시스템 AI2가 개발됐다. MIT의 컴퓨터 과학 및 인공지능 연구소(Computer Science and Artificial Intelligence Laboratory, CSAIL)의 연구원들은 잘못 측정할 확률은 떨어뜨리고 공격의 예방 능력은 3배나 큰 새로운 인공지능 플랫폼 AI2를 공개했다.

AI2는 인공지능과 분석가의 직관력을 기반으로 협동해 움직인다. 인공지능이 머신 러닝을 통해 지속적인 데이터 모델링에 최적화된 방법을 찾으면, 경험이 풍부한 분석가는 머신 러닝의 상태를 확인한다.

CSAIL의 과학자 칼리안 비어라마챠네니(Kalyan Veeramachaneni)는 "AI2를 '가상의 분석가' 정도로 생각하면 된다"라며 "AI2는 정교하게 다듬어진 새로운 모델을 끊임없이 생성하는데, 이는 시간 단위로 세분화되며 매시간 스스로를 업데이트한다. 이를 정보보안에 접목하면 탐지율이 엄청나게 높아질 것"이라고 설명했다.

비어라마차네니팀은 3개월간 수백만 명의 사용자가 생성한 36억 건의 로그 데이터를 가지고 실험을 진행했다. AI2는 85%의 탐지율을 보였으며, 오 탐지율은 5배 줄어들었다. 85%는 이전 벤치마크에 비해 세 배 정도 올라간 수치다.

또한 AI2는 세 가지 비감독 학습 모델이 더해져 원시 자료를 걸러내는 능력도 갖추고 있다. 갖추었다. AI2가 반복 학습을 통해 탐지력을 키우며 걸러낸 자료를 받은 분석가는 AI2에게 피드백을 해줄 수 있다. 피드백을 받은 AI2는 이를 수용해 더욱 강해지고 정확해진다. 사람과 기계의 올바른 상호작용의 사례로 볼 수 있다.

해커 추적하는 '보안 전문가', IBM의 인공지능 왓슨

IBM의 인공지능 플랫폼 '왓슨(Watson)'은 이미 보안 전문가 역할도 수행하고 있다. 왓슨은 지난 20년 간 축적된 IBM의 사이버 보안 연구자료와 최근 급 증하고 있는 각종 보안 위협 요소를 학습하고 있다.

왓슨 기반의 '코그너티브 보안 솔루션'은 각 정부와 기업체가 사이버 보안 사고에 신속히 대응할 수 있도록 지원하는 역할을 할 예정이다. 왓슨을 활용한 사이버 보안 솔루션은 빅데이터를 활용하고 분석해 암 치료, 기상 예측 등에서 두각을 나타내 온 왓슨의 3번째 또 다른 도전 과제다.

왓슨은 전 세계에서 실시간으로 쏟아져 나오는 대량의 정보를 수집하고 분석하는 것은 물론 추론 능력을 통해 인간의 의사결정 시간 및 정확도를 높여준다. 인공지능을 기반으로 한 왓슨 같은 보안 시스템을 활용하면 기존에 다루지 못했던 비정형 데이터까지 분석할 수 있다.

인공지능과 사람의 한계, 협업으로 해결 

정보 보안 분야에서 인공지능의 한계는 무엇일까? 앞으로의 발전 가능성에 대한 의심은 없지만, 아직은 인간을 넘을 수 없다는 점이 한계라고 볼 수 있다.

지난 8월 미국 방위고등연구계획국(DARPA)에서 주최한 인공지능 보안시스템 대회 ‘2016 다파 사이버 그랜드 챌린지'(DARPA Cyber Grand Challenge)가 열렸다.

해당 대회에 참가한 해커팀 쉘피쉬(Shellphish) 멤버인 케빈 보골트(Kevin Borgolte)는 자체 개발한 '매케니컬 피시'(Mechanical Phish)를 활용해 대회에서 3위를 차지했다. 2004년 결성된 쉘피쉬팀은 캘리포니아 산타바바라 대학 졸업자들 중심으로 구성됐으며, 각종 해킹 대회에 출전하며 우승을 거머쥐고 있다.

보골트는 비즈니스인사이더와의 인터뷰를 통해 "보안 분야에서 인공지능을 활용해 취약점을 찾을 수 있지만 여전히 사람 해커들의 수준을 넘기 어렵다. 알파고 수준까지 발전하려면 상당히 많은 시간이 걸릴 것이다"라고 설명했다.

그는 이어 "특히 보안 관련 자동분석 시스템은 아직 초기 단계다. 아직까지는 엄청난 컴퓨팅 파워가 수반되어야 시스템 운영이 가능하다. 하지만 가능성에 대해서는 의심의 여지가 없다"라고 설명한 바 있다. 사람의 수준을 넘지 못한다는 말은 사람이 더 개발할 수 있는 영역이 있고, 취약점을 안다는 뜻이다. 이제 인공지능과 어떻게 협업하며 또 활용할지가 관건이다.