eXplainable AI (XAI) for Manufacturing Systems

딥러닝이 인공지능의 대명사가 되어 버린 것 하다. 신호/이미지 인식, 번역, 무인자동차, 의료 (왓슨), 알파고 등 많은 분야에서 딥러닝의 효과는 이미 검증되었고 앞으로도 딥러닝을 활용한 성공 사례는 급증할 듯하다. 여기서 예기하는 딥러닝의 효과는 결과의 정확성 면에서 그렇다는 것이다. 딥러닝의 단점을 예기할 때 단골로 등장하는 단어가 “Black Box”다. Black Box는 항공기의 상황을 파악할 수 있는 유용한 Box의 의미도 있지만 여기서는 글자 그대로 “어두운 상자” 즉, 안을 들여다 볼 수 없다는 부정적인 의미를 내포하고 있다. 안을 들여다 볼 수 없으니 정확한 결과가 나왔어도 왜 그런 결과가 도출됐는지 알 길이 없다. 딥러닝이 대표적인 그런 인공지능 모델이다.

 

결과에 대한 충분한 설명이 필요한 분야는 그렇지 않은 분야보다 많다. 의료분야가 대표적이다. 정확한 진단도 중요하지만 이에 못지 않게 왜 그런 진단을 내리게 되었는지가 중요하다. 제조업도 마찬가지이다. 불량을 정확히 예측하는 것도 중요하지만 어떤 설비 및 환경의 문제로 인해 불량이 야기되었는지 파악하는 것이 앞으로 불량 예방에 더욱 중요하다.

 

딥러닝 계열의 알고리즘이 하루에도 수백 개씩 쏟아지는 지금 설명 가능한 딥러닝 모델에 대한 중요성이 서서히 관심을 끌고 있다. 유명학회에서 독립 워크숍이 생길 만큼 말이다. 이러한 연구분야를 eXplainable AI (XAI)로 부르고 있다. 우리나라에서도 얼마 전 UNIST에서 XAI주제로 꽤 큰 규모의 연구비를 지원 받았다는 소식이 전해진다.

 

내가 관심 있는 제조분야에서 XAI가 성공적으로 자리매김하기 위해서는 공정의 전반을 설명할 수 있는 데이터가 있어야 한다. 현업에서는 불량의 원인을 찾기 위해 해당 공정의 정보만을 이용하는 경우가 많은데 성공하는 경우도 있지만 많은 경우 만족하지 못한 결과를 얻는다. 불량이라는 것이 과거 공정으로부터 누적된 영향에 의해 발생하기 때문에 해당공정외에도 이전 공정에서 원인이 발생하는 경우가 생기기 때문이다.

 

아무리 뛰어난 AI기법이라도 불량의 원인을 파악할 수 없는 데이터를 가지고는 정확한 불량 예측은 불가능하다. XAI에 관심을 두다 보니 알고리즘 성능 향상을 위한 연구도 중요하지만 문제를 해결할 수 있는 데이터를 어떻게 수집/확보하는지가 더 중요하다는 생각이다. 내용이야 어쨌던 주어진 데이터를 가지고 무식하게 성능만을 올리려고 했던 나 자신이 부끄러워진다. 앞으로는 주어진 데이터에 대한 정확한 이해 나아가 어떤 데이터를 수집해야 하는지에 대한 고민도 함께 해야겠다.