기술 세부내용본 발명은 범용 컴퓨터 클러스터 환경에서 대규모 심층 신경망(Deep Neural Network, DNN) 을 구축하고 고속으로 학습시킬 수 있는 초병렬 심층 학습 방법 및 장치에 관한 것으로, 모델 및 데이터 병렬화를 수행하면서도 delayed gradient 문제를 해결할 수 있습니다. 본 발명에 따르면 범용 컴퓨터 클러스터 환경에서 대규모 심층 신경망을 구축하고, delayed gradient로 인한 학습 성능 저하 문제를 해결한 초병렬 심층 학습 알고리즘을 제공할 수 있습니다.
