인공지능(AI) 대표 기술인 ‘딥러닝’은 문서 번역부터 자율주행 등 다양한 AI기술 분야에 널리 이용되고 있다. 하지만 딥러닝 AI의 예측 값에 대한 설명이나 근거 제시는 매우 어렵다. 복잡한 모델 구조와 고차원 입력 데이터 방식으로 구성됐기 때문이다.
국내 연구진이 딥러닝AI의 의사결정을 좌우하는 ‘입력 변수’ 데이터 중 중요한 데이터만 걸러낼 수 있는 알고리듬 개발에 성공했다. 최재식 KAIST 김재철 AI대학원 교수팀은 세계 최초로 AI딥러닝 ‘입력 변수’의 기여도를 계산할 수 있는 기술 개발에 성공했다고 23일 밝혔다.
딥러닝은 인공 신경망을 여러 단계 형태로 연결하는 기술로, 문서 번역부터 자율주행, AI로봇 개발 등 다양한 분야에 적용된다. 하지만 직관적이지 못한 복잡한 모델 구조 때문에 AI가 예측한 값에 대한 설명이나 근거를 제시하기 어렵다는 단점이 있다. 이는 예측 결과에 대한 근거가 반드시 필요한 국방, 의료 분야에 대한 AI상용화의 걸림돌로 꼽힌다.
최 교수팀은 이 같은 문제를 해결하기 위해 ‘증류 알고리듬’이라는 기술을 개발했다. 화학물질의 불순물을 제거하는 것처럼 딥러닝에 학습되는 데이터 중 쓸모없는 것을 걸러내는 기술이다. 이 알고리듬은 딥러닝 AI에 입력하는 데이터 중 모델 예측 기여도가 높은 데이터만 추출한다. 반대로 모델 예측과 연관성이 적은 데이터는 제거된다. 이 과정을 반복하면 딥러닝에 입력된 데이터는 예측 기여도가 높은 것들만 남게 된다.
연구팀은 새롭게 개발한 증류 알고리듬을 딥러닝 기반 이미지 분류 AI모델인 △VGG-16 △ResNet-18 △Inception-v3에 적용했다. 그 결과, 각 입력 데이터의 기여도를 계산하는데 효과적인 것으로 나타났다. 연구팀 측에 따르면 구글에서 개발한 ‘설명 가능한 AI’ 기술인 ‘텐서플로우 툴 키트’와 비교했을 때도 입력 기여도 점수가 최대 0.436점 높다고 한다.
최 교수는 “딥러닝을 활용한 예측 AI모델 사용이 늘고 있지만, 설명성이 부족한 문제는 상용화에 발목을 잡는 주 원인 중 하나였다”며 “이번 연구를 통해 개발한 증류 알고리듬 기술은 입력 데이터의 기여도를 안정적으로 제공하기 때문에 다양한 딥러닝 모델의 설명성을 높이는데 기여할 수 있을 것”이라고 전했다.
이번 연구 성과는 국제학술대회 ‘신경정보처리학회(NeurIPS) 2022’에서 오는 12월 1일 발표될 예정이다.