“AI 모형의 해석 및 진단은 인간의 몫”, CDTB 콜로퀴움 성료 

‘설명 가능한 AI’ 논의, 증명해
“ChatGPT보다 훨씬 더 큰 충격 줄 것”

지난 22일(금) 고려대학교 경영대학 Center for Digital Transformation & Business (이하 CDTB, 센터장=김재환 교수)가 ‘AI모형의 설명가능성’을 주제로 한 콜로퀴움을 고려대 LG-POSCO경영관에서 주최했다.

이날 행사는 박유성 고려대 통계학과 교수를 단독 연사로 초청해 진행됐다. 강연이 시작하기에 앞서 김재환 교수는 “바쁜 와중에도 참석해준 학생들에게 감사의 말씀을 드린다”며 환영의 인사를 전했다.

이어 “AI의 유의미한 역할과 작용에 일찍 노출된 현 상황에서, AI가 도출한 자료에 대한 설명가능성의 요구가 있어왔다”며 “이것이 우리의 연구에 어떤 효용을 지닐 수 있을지 고민해보는 계기가 되기를 바란다”고 말했다. “시간을 내어 참석해준 학생들의 졸업논문 구상에도 해당 강연이 많은 도움이 되리라 믿는다”는 학생들에 대한 격려도 덧붙였다. 이번 행사는 온·오프라인 병행으로 이뤄졌다. 

‘AI모형의 설명가능성’이라는 대주제로 진행된 본 콜로퀴움은 개발이 완료된 AI모형의 산출결과를 바탕으로 해당 AI모형을 설명하고자 하는 기법을 만들어내는 방법을 고민해보는 장을 마련했다. ‘AI 모형의 설명가능성’이란 머신 러닝 알고리즘으로 작성된 결과와 출력을 인간인 사용자가 이해하고 이를 신뢰할 수 있도록 해주는 일련의 프로세스와 방법론이다. 

강연은 Libraries의 개념, Explainer의 종류에 대한 설명을 시작으로 SHAP(Shapley Additive explainers), LIME(Local Interpretable Model-agnostic Explanations), Anchors, Counterfactual Explanations 등 세부 라이브러리 및 Explainers의 개념과 유형 설명, 해당 라이브러리의 예측과정 원리 증명 등의 내용으로 구성됐다. Explainer를 실행하고 시각화하는 오픈 소스 라이브러리는 현재 개발단계에 있는 만큼 본 강연에서는 대표적인 라이브러리인 ELI5, ALIBI, SHAP, LIME 등이 소개됐다. 박유성 교수는 각 라이브러리의 근간 이론을 설명하고 직접 진행한 통계적 증명 데이터와 그 과정을 시각자료로 상세히 제공해 주제에 대한 이해를 도왔다. 박유성 교수는 “앙상블 러닝이나 수많은 은닉층으로 구성된 딥러닝의 예측 정밀도는 기존의 선형모형보다 월등하지만, 내부적으로 그것이 어떻게 작동하여 예측치가 만들어지는지 설명하는 데 어려움이 있다”며 “우리는 직관적으로 이런 것들의 논리를 이해할 수 있어야 하며 이를 바탕으로 AI모형에 대한 설명이 가능해야 한다”고 전하며 해당 주제의 연구의미와 중요성을 강조했다.

모형에 대한 학술적 증명뿐 아니라 현대사회의 시의성에 맞는 모형의 활용사례에 대한 제안과 고민도 이어졌다. ‘건강검진 결과 중 어떤 항목을 어느 정도로 개선해야 암에 걸릴 확률을 5퍼센트 이하로 줄일 수 있는가’와 같이 건강검진, 집값 등과 같이 실제 사례의 해결에 용이한 머신러닝 프로그램이 그 증명과정과 함께 상세히 소개됐다.

강연을 마치며 박유성 교수는 AI모형의 설명 가능성이 갖는 함의를 거듭 강조했다. 박 교수는 “AI는 인식하지 못하는 개별적인 통계 데이터가 언제나 존재하기 마련”이라며 “아무리 AI모형 자체의 정확성이 높더라도 이것이 신뢰할 만한 것인지 아닌지는 사람이 직접 논리의 정합성을 진단하고 해결책을 제시해야 한다”고 밝혔다. 

강연이 끝나고 학생들과 가진 질의응답 시간에서는 실무에서 ‘설명가능한 AI’가 어떻게 유의미하게 활용될 수 있는지에 대한 논의가 주를 이뤘다. 강연을 마치며 박유성 교수는 AI모형의 설명가능성의 전망과 그 발전가능성을 타진했다. “AI가 설명 가능하다는 것은 실무에서 기업이 상품의 특정 요소들이 매출에 영향을 미칠 것이라고 가설을 세울 때 그 근본적인 근거로 활용할 수 있다는 것을 의미한다”며 “AI의 설명 가능성은 한 요소가 전체 결과에 미치는 영향이 가시화되도록 실현함으로써 가설의 효용성을 지지하는 근본적인 근거를 제공한다”고 전했다. 이어 “이는 새로운 마케팅이론 개발에 상당한 힌트를 주며 최근 이슈가 되는 ChatGPT보다도 훨씬 더 큰 충격을 안겨줄 수도 있을 만큼 획기적인 잠재력을 내포한다”고 긍정적으로 전망했다.