[디지털데일리 박세아 기자] 발전된 설명가능 인공지능(이하 XAI) 기술이 기존 인공지능 기술 한계를 보완하며 실제 산업 현장에 적용으로까지 연결되고 있다.

XAI는 포스코가 스마트 도로를 건설할 때나 삼성전자가 제조공정 상태를 설명할 때 사용되는 등 대기업을 중심으로 빠르게 확산하고 있다.

21일 과학기술정보통신부가 주최한 '국제 인공지능 토론회'에서 한국과학기술원 최재식 교수는 XAI 발전 동향에 대해 발표했다. 이날 토론회는 과학기술정보통신부(장관 임혜숙, 이하 과기정통부)가 국내외 최신 인공지능 기술 동향을 공유하고 미래 차세대 인공지능 발전 방향 논의를 위해 개최했다. 과기정통부 혁신성장동력사업을 담당하고 있는 정보통신기획평가원 인공지능사업단과 사업 참여기관인 한국전자통신연구원, 한국전자기술연구원, 서울대학교, 한국과학기술원이 공동으로 주관해 온라인으로 진행됐다.

'새로운 시대의 인공지능을 향한 방향 조망'이라는 주제로 진행된 이날 토론회에서 최 교수는 XAI의 동향과 산업 적용 사례 등을 공유했다.

XAI는 판단에 대한 이유를 사람이 이해할 수 있는 방식으로 제시하는 인공지능을 의미한다. 인공지능이 기계 학습으로 데이터를 학습해 입력 데이터에 대한 판단 결과를 제공하지만, 결과에 대한 근거나 데이터 인과관계를 설명하기 힘들다는 한계를 극복하기 위한 기술이다.

현재 XAI에 대한 연구는 2017년 7월부터 올해 말까지 혁신성장동력 프로젝트 일환으로 XAI 연구센터에서 진행되고 있다. 이 연구를 통해 만들어진 기술은 실제 산업현장에서 더 많이 상용화 할 수 있도록 노력하고 있다는 설명이다.

최 교수는 연구진이 개발한 ▲딥러닝 입력과 내부 설명 ▲데이터에서 인과관계를 학습하고 설명하는 기술의 실제 산업 적용 사례를 제시했다.

우선 딥러닝 입력 관련 기술은 기존 네트워크와 압축된 네트워크의 특성을 일치시켜 의사결정 설명을 보존하는 것과 연관있다. 관련 기술은 ICCV, CVPR, KDD21 등이 있다. 정확한 변조기반 입력 기여 설명 기술인 ICCV는 의료영상 분류에서 왜곡 현상 분석과 왜곡 방지로 병변 세부 영역 설명이 가능하다. 생성 모델의 내부를 분석하고 수정하는 기술 CVPR은 생성모델 내부에 문제가 있는 뉴런을 찾는 인공지능 기술이다. 문제가 생기는 뉴런을 비활성화해 완전하게 만든다. KDD21는 시계열 딥러닝 내부를 분석하는 기술이다. 시계열 딥러닝 모델 원리를 설명하는 모델로 이 기술을 활용하면 레이블이 없는 시계열 데이터의 특징을 확인할 수 있다.

데이터에서 인과관계를 학습하고 설명하는 기술에는 EMNLP, ICML 등이 있다. EMNLP는 판단 근거를 비지도로 학습하는 기술로 사람이 생성한 지도학습 데이터가 부족하거나 없는 환경에서도 비슷한 성능을 달성할 수 있게 한다. 데이터 변조에 견고한 모델을 제공해 소수샷 환경에서 학습에 더 유리하다. ICML은 상호작용 학습을 통한 의사결정을 설명하는 데 쓰인다. 더 적은 양의 데이터로 높은 정확도 성능을 달성한다. 비용 효율적으로 선별된 필수적인 데이터만 도메인 전문가에게 전달해 평가를 진행한다.

이와 같은 기술들은 국내 대기업이 실제 산업현장에서 쓰일 뿐만 아니라, 신장손상 이유를 예측하는 등 병원 내 응급상황 예측 솔루션에도 활용된다. 현재 세브란스와 일산 병원 등에서 사용 중이다. 또 신한은행, IBK기업은행, KEB하나은행 등 금융권에서도 고객 신용평가 모델을 설명할 때 이 XAI 기술이 적용된다.

최 교수는 "현재 대기업부터 금융업, 병원에 이르기까지 다양한 산업군에 해당 기술을 활용하고 있다"며 "기술 발전이 지속해서 이뤄지는 상황에서 XAI가 인공지능 모델의 성능도 높일 수 있는지, XAI를 사용하면 성능이 저하되지 않는지, 수천만개 뉴런이 있는데 딥러닝을 설명하는게 가능한지와 같은 질문도 여전히 남아있다"고 말했다.

국내 연구진은 XAI 국제표준을 제청하고, 승인받은 상태다. 이의 일환으로 전담반을 구성해 올해부터 3년간 전 세계 XAI 표준을 만드는데 주도적 위치를 차지할 수 있는 기반을 만들었다.