요약본 발명은 임베디드 기기의 메모리에서 온-디바이스(On-Device) 학습이 가능한 신경망 구조 탐색방법을 제공한다. 본 발명에 따른 신경망 구조 탐색방법은, 신경망 구조를 위한 임시 모델을 정의하고 상기 임시 모델의 채널 개수와 레이어 개수를 설정하는 단계와, 상기 임시 모델의 커널 크기, 출력 채널 개수, SE 블록 사용 유무에 대한 탐색공간을 설정하는 단계와, 상기 탐색공간 내에서 커널 크기, 출력 채널 개수, SE 블록 사용 여부의 탐색하는 단계와, 상기 임시 모델의 가중치 파라미터를 학습하는 단계와, 상기 임시 모델의 구조 파라미터를 학습하는 단계와, 상기 임시 모델에서의 메모리 사용량을 계산하는 단계와, 상기 학습된 가중치 파라미터, 구조 파라미터 및 메모리 사용량을 이용하여 상기 메모리에서 온-디바이스 학습이 가능한 최종 신경망 모델을 탐색하는 단계를 포함한다.
대표 청구항임베디드 기기의 메모리에서 온-디바이스(On-Device) 학습을 위한 신경망 구조 탐색방법에 있어서,상기 신경망 구조를 위한 임시 모델을 정의하고 상기 임시 모델의 채널 개수와 레이어 개수를 설정하는 단계;상기 임시 모델의 커널 크기, 출력 채널 개수, SE(Squeeze-Excitation) 블록 사용 유무에 대한 탐색공간을 설정하는 단계;상기 탐색공간 내에서 커널 크기, 출력 채널 개수, SE 블록 사용 여부를 탐색하는 단계;상기 임시 모델의 가중치 파라미터(weight parameter)를 학습하는 단계;상기 임시 모델의 구조 파라미터(architecture parameter)를 학습하는 단계;상기 임시 모델에서의 메모리 사용량을 계산하는 단계;상기 학습된 가중치 파라미터, 구조 파라미터 및 메모리 사용량을 이용하여 상기 메모리에서 온-디바이스 학습이 가능한 최종 신경망 모델을 탐색하는 단계를 포함하는 신경망 구조 탐색방법.
