요약본 발명은 신경망 기반 인공지능 프로세싱 장치 및 그 동작 방법에 관한 것으로, 상기 장치는 파이프라인 구조의 신경망 동작 중 적어도 인코딩 및 디코딩 연산 과정에서 접근되는 버퍼들에 있어서, 상기 인코딩 연산의 각 인코딩 시점에 순차적으로 연결된 인코딩 유닛에 의해 배타적으로 접근되는 인코더 버퍼들; 상기 디코딩 연산의 각 디코딩 시점에 상기 인코딩 유닛과 대칭되고 순차적으로 연결된 디코딩 유닛에 의해 배타적으로 접근되는 디코더 버퍼들; 및 상기 각 인코딩 시점에 상기 인코딩 유닛에 의해 출력되고 상기 각 디코딩 시점에 상기 디코딩 유닛에 의해 공유되는 연결값을 저장하는 연결 버퍼들;을 포함한다.