인공지능 - 해석력 - LLM 내부 해석을 '인간 중심 탐구 과정'으로

https://dl.acm.org/doi/10.1145/3772363.3798720

https://www.kw.ac.kr/ko/life/newsletter.jsp?BoardMode=view&DUID=52393&tpage=1

이 논문은 인공지능의 내부 작동 원리를 단순한 기술적 절차를 넘어 인간의 감각 형성 과정으로 재정의하며, 대규모 언어 모델(LLM)을 탐구하고 조정하기 위한 5단계 인간 중심 프레임워크를 제안합니다. 연구진은 에세이 자동 채점 과정에서 발생하는 인구통계학적 편향 사례 연구를 통해, 기술적 개입이 편향을 83.3% 감소시키는 동시에 채점 정확도까지 향상하는 기능적 최적화의 도구가 될 수 있음을 입증합니다. 궁극적으로 이 연구는 해석 가능성을 모델의 고정된 속성이 아닌 개발자와 모델 사이의 탐색적 관계로 바라보며, 책임감 있는 AI 개발을 위한 실질적인 설계 방향을 제시합니다.