1919년 도쿄에서 태어나 중국 대련에서 유년기를 보낸 후 다쿠쇼쿠 대학(拓殖大學)을 졸업했다. 제2차 세계대전 후 연합군 총사령부(GHQ)에서 근무하면서 다수의 필명으로 잡지에 작품을 발표, 추리소설 작가로서의 길을 다져나갔다. 1950년 추리소설잡지 『호세키』에서 주최한 추리소설상 장편부분에 입선되었으며, 1956년 강담사가 기획한 ‘신작 장편 탐정소설전집’ 제13권에 『검은 트렁크』가 당선, 이후 알리바이 트릭에 집중한 작품으로 활약하였다.

1958년에는 탐정 호시카게 류조가 등장하는 『리라장 사건』을 발표, 비평가와 독자의 극찬 속에 큰 반향을 일으켰으며 1960년 『증오의 화석』과 『검은 백조』로 제13회 일본 탐정작가클럽상을 수상하였다. 사회파 소설이 일본 장르소설의 주류로 부상하던 무렵, 마쓰모토 세이초의 『점과 선』을 의식하여 『사람들은 그것을 정사(情死)라 부른다』를 발표하는 등 평생 본격 추리소설만을 썼다.

1988년에는 동경창원사에서 ‘아유카와 데쓰야와 13개의 수수께끼’ 시리즈를 간행, 작품 집필 외에도 수십 권에 이르는 앤솔로지 편집 등을 통해 후진 양성에 힘을 썼다. 1990년 그의 이름을 건 장편 추리소설 신인상 ‘아유카와 데쓰야 상’이 동경창원사 주최로 창설되어, 이는 젊은 작가의 등용문이 되었다. 2001년 본격 추리소설에서의 혁혁한 업적을 인정받아 제1회 본격 미스터리 대상 특별상을 받았으며, 이듬해 83세의 나이로 세상을 떠난 이후 제6회 일본 미스터리 문학 대상을 수상하였다. 본격 추리소설 작가들은 물론, 현재 다방면에서 활약하고 있는 젊은 미스터리 작가들의 정신적인 지주로서 평가받는 아유카와 데쓰야는 에도가와 란포, 요코미조 세이시와 함께 ‘본격 추리소설의 신(神)’으로 추앙받고 있다.