본 발명은 인공신경망과 연산 가속기 구조 통합 탐색 장치는 신경망 아키텍처를 결정하는 NAS (Neural Architecture Search) 모듈; 및 상기 결정된 신경망 아키텍처에 따른 가속기 아키텍처를 결정하고 상기 결정된 가속기 아키텍처에 관한 하드웨어 메트릭을 예측하는 DANCE (Differentiable Accelerator and Network Co-Exploration) 평가모듈을 포함한다. 따라서, 본 발명은 경사하강법을 사용하여 탐색을 진행함으로써 전체 탐색 공간을 대표하는 인공신경망을 한번 훈련하는 것으로 탐색을 완료할 수 있어 매우 빠른 탐색이 가능하고 미분 가능한 방식으로 지연시간이나 에너지 소모량과 같은 직접적인 하드웨어 메트릭을 최적화할 수 있다.