요약심층 신경망의 선형 근사를 기반으로 하는 설명 맵 생성 장치 및 방법이 개시된다. 상기 설명 맵 생성 방법은 프로세서(processor)를 포함하는 컴퓨팅 장치에 의해 수행되는 분류 모델의 설명 맵 생성 방법으로써, 입력 이미지(x)에 대한 분류 모델의 활성화 정보(Activation map)를 획득하는 단계, 상기 입력 이미지(x)의 목표 범주(target class)에 대한 민감도 정보를 계산하는 단계, 및 적어도 하나의 제1 설명 맵을 생성하는 단계를 포함하고, 상기 적어도 하나의 제1 설명 맵을 생성하는 단계는, 상기 분류 모델에 포함된 계층들 중 어느 하나의 계층에 포함된 채널들 각각에 대하여, (1-1) 상기 활성화 정보와 미리 정해진 활성화 정보의 요소별(element-wise) 차분 연산을 수행하는 단계, 및 (1-2) 상기 차분 연산의 결과와 상기 민감도 정보에 대한 요소별 곱셈 연산을 수행하는 단계를 포함하고, 상기 적어도 하나의 제1 설명 맵을 생성하는 단계는 채널 별로 수행된 (1-2) 과정의 결과값을 합산하여 도출된다.
대표 청구항프로세서(processor)를 포함하는 컴퓨팅 장치에 의해 수행되는 분류 모델의 설명 맵 생성 방법에 있어서,입력 이미지(x)에 대한 분류 모델의 활성화 정보(Activation map)를 획득하는 단계;상기 입력 이미지(x)의 목표 범주(target class)에 대한 민감도 정보를 계산하는 단계; 및적어도 하나의 제1 설명 맵을 생성하는 단계를 포함하고,상기 적어도 하나의 제1 설명 맵을 생성하는 단계는, 상기 분류 모델에 포함된 계층들 중 어느 하나의 계층에 포함된 채널들 각각에 대하여,(1-1) 상기 활성화 정보와 미리 정해진 활성화 정보의 요소별(element-wise) 차분 연산을 수행하는 단계, 및(1-2) 상기 차분 연산의 결과와 상기 민감도 정보에 대한 요소별 곱셈 연산을 수행하는 단계를 포함하고,상기 적어도 하나의 제1 설명 맵을 생성하는 단계는 채널 별로 수행된 (1-2) 과정의 결과값을 합산하여 도출되는,분류 모델의 설명 맵 생성 방법.
