현대 인공지능 분야의 대표주자라 할 수 있는 심층신경망 학습(Deep learning)은 다양한 분야에 적용되어 그 위력을 입증하고 있다. 초기 심층신경망 연구의 주요 관심사가 효과적인 학습과 성능 향상에 방점이 찍혀있었다면, 최근의 심층신경망 연구는 심층신경망의 실제 적용이라는 관점에서 파생되는 다양한 측면의 문제들을 포괄하고 있다. 심층신경망에 해석 가능성을 부여하고자 하는 연구 흐름 역시 이러한 배경에서 등장했다고 볼 수 있다. 본 고에서는 심층신경망에 해석성을 이식하는 작업이 왜 필요한지 살펴보고 이와 관련된 최신 연구 동향을 논의하고자 한다.