[이코노믹리뷰=최진홍 기자] 카이스트 연구진이 인공지능 블랙박스로 불리는 심층신경망의 기하학적인 구조를 규명하고 이를 통해 의료영상, 정밀분석에 활용할 수 있는 수학적 원리를 밝혀 화제다.

카이스트는 10일 바이오 및 뇌공학과 예종철 석좌교수 연구팀이 ‘심층 합성곱 프레임렛(Deep Convolutional Framelets)’이라는 새로운 기술로 심층신경망의 수학적 원리를 밝혔다고 발표했다. 이 연구는 응용수학 분야 국제 학술지 ‘사이암 저널 온 이매징 사이언스(SIAM Journal on Imaging Sciences)’ 지난달 26일자 온라인 판에 게재됐다.

심층신경망은 최근 폭발적으로 성장하는 인공지능의 핵심을 이루는 딥 러닝의 대표적인 구현 방법이다. 대부분의 인공지능 기술이 심층신경망을 기반으로 작동하며 이를 이용한 영상, 음성 인식과 영상처리 기법, 바둑, 체스 분야는 이미 인간을 앞질렀다는 평가다.

문제는 심층신경망의 정체다. 뛰어난 성능에도 불구하고 정확한 동작원리가 밝혀지지 않아 현재 과학계의 대표적인 난제로 평가받았다. 글로벌 ICT 업계는 현재 심층신경망이라는 강력한 기술력을 활용하고 있으나, 막상 그 원리를 정확하게 알 수 없어 의도하지 않았던 기술적 오류 등이 발생하는 리스크를 가지고 있다.

연구팀은 심층신경망의 구조가 얻어지는 고차원 공간에서의 기하학적 구조를 찾기 위해 노력했다는 설명이다. 이후 기존의 신호처리 분야에서 집중 연구된 고차원 구조인 행켈구조 행렬(Hankel matrix)을 기저함수로 분해하는 과정에서 심층신경망 구조가 나오는 것을 발견했다. 연구팀은 신호를 효과적으로 나타내는 고차원 공간인 행켈 행렬를 찾고 이를 분리하는 방식을 통해 필터링, 풀링 구조를 얻는 이론적인 구조를 제시하는데 성공했다.

연구팀은 수학적 원리를 통해 제안된 인공신경망 구조를 영상잡음제거, 영상 화소복원 및 의료영상 복원 문제에 적용했고 매우 우수한 성능을 보임을 확인했다. 예종철 교수는 “시행착오를 반복해 설계하는 기존의 심층신경망과는 달리 원하는 응용에 따라 최적화된 심층신경망구조를 수학적 원리로 디자인하고 그 영향을 예측할 수 있다”며 “이 결과를 통해 의료 영상 등 설명 가능한 인공지능이 필요한 다양한 분야에 응용될 수 있다”고 말했다.