AI 해석력 - ETRI, 설명가능한 AI (XAI) 기술 동향

https://ettrends.etri.re.kr/ettrends/221/0905221008/

2026.08.03
[설명가능한 AI (XAI) 기술 동향]

본 보고서는 인공지능의 투명성을 확보하는 설명가능한 AI(XAI) 기술 동향을 다루며, 특히 기존 딥러닝 모델의 '블랙박스' 한계를 극복하기 위한 내재적 설명성과 사후 분석 기법의 결합을 핵심적으로 논하고 있습니다. 연구는 고정된 활성화 함수 대신 학습 가능한 단변수 함수를 연결망에 배치하여 모델 스스로가 구조적인 해석력을 갖게 하는 콜모고로프-아르놀트 네트워크(KAN)를 차세대 아키텍처로 집중 조명합니다. 이를 차량 동역학 모델에 적용한 사례를 통해, 모델 내부 구조를 직접 시각화하는 KAN의 장점과 SHAP 및 LIME 같은 전통적인 사후 통계 기법을 병행함으로써 국방 및 자율주행 분야에서 필수적인 신뢰성과 안전성을 동시에 확보할 수 있음을 입증합니다. 결과적으로 이 원문은 구조적 투명성을 갖춘 네트워크와 정밀한 분석 도구의 통합이 미래 인공지능 시스템의 사회적 수용성을 높이는 결정적인 이정표가 될 것임을 시사합니다.

 

KAN 적용 예

SHAP 적용 예

 

LIME 분석 결과 예