국내 연구진이 인공지능(AI)의 핵심을 이루는 심층학습(deep learning)을 구현하는 심층신경망(deep neural network)의 구조와 작동 원리를 수학적으로 규명, 더 똑똑한 AI를 구현할 수 있는 기반을 마련했다.

한국과학기술원(KAIST) 바이오및뇌공학과 예종철 석좌교수 연구팀은 10일 인공지능을 구현하는 심층신경망의 구조를 밝히고 이를 통해 의료영상 및 정밀분야에 활용할 수 있는 고성능 인공신경망 제작의 수학적인 원리를 규명했다고 밝혔다.

인공지능의 심층신경망은 체스나 바둑, 음성인식, 영상처리 등 많은 분야에서 뛰어난 성능을 보이지만 어떤 원리로 작동하는지 밝혀지지 않아 예상치 못한 결과나 오류가 발생할 가능성 등이 문제가 되고 있다.

연구진은 심층신경망의 구조가 얻어지는 고차원 공간에서의 기하학적 구조를 찾는 연구를 수행, 심층신경망이 기존 신호처리 분야에서 집중적으로 연구된 고차원 구조(행켈구조 행렬, Hankel structured matrix)를 기저함수로 분해하는 과정과 밀접한 연관이 있다는 사실을 발견했다.

이는 심층신경망의 내부 작동 원리를 수학적으로 밝혀낸 것으로 이를 활용하면 기존 심층신경망 구조의 단점을 찾아내 보완할 수 있고, 나아가 더 뛰어난 성능의 인공지능을 설계하는 데도 적용할 수 있다고 연구진은 설명했다.

연구진은 또 기존에는 인공지능 구현을 위한 심층신경망을 구성할 때 구체적인 작동 원리를 모른 채 실험적으로 구현했다면 이 연구는 수학적 원리를 통해 더 우수한 성능의 인공신경망을 설계할 수 있는 이론적 구조를 제시한 것이라고 말했다.

이번에 밝혀진 수학적 원리를 이용해 심층신경망을 설계, 영상에서 80%가 화소가 사라진 사진을 복원하는 데 적용한 결과, 사라진 영상의 자세한 디테일을 복원하는 기능이 기존 인공신경망보다 우수한 것으로 확인됐다.

예 교수는 "이 연구결과를 활용하면 시행착오를 반복해 설계하는 기존의 심층신경망과 달리 원하는 응용에 따라 최적화된 심층신경망 구조를 수학적 원리로 디자인하고 그 영향을 예측할 수 있다"며 "의료영상 등 설명 가능한 인공지능(XAI)이 필요한 다양한 분야에 응용될 수 있다"고 말했다.

과학기술정보통신부 중견연구자지원사업과 뇌과학원천기술사업 지원으로 수행된 이 연구결과는 응용수학 분야 국제학술지 '사이암 저널 온 이미징 사이언스(SIAM Journal on Imaging Sciences, 4월 26일 자) 온라인판에 게재됐다.