1948년 후쿠오카에서 태어났다. 세 살 때부터 데즈카 오사무의 만화에 영향을 받고, 초등학생 때에는 만화를 그리기도 했지만 좌절했다. 중학교 시절에 『셜록 홈즈의 모험』을 읽고, 3학년 때는 모방해 소설을 쓰기 시작했다. 공부는 국어와 영어 이외에도 특히 수학과 체육이 싫었다고 한다. 시험공부를 하지 않아 대학입시에 실패했다.

졸업 후에는 서점 근무를 거쳐, 일본기계학회 사무국에 취직했다. 몇 년을 근무한 후, 이대로는 소설을 쓸 수 없을 거라는 생각이 들어 1975년부터 소설(시나리오)을 투고하기 시작했으며, 1976년에 『유령열차』로 올요미모노 추리소설 신인상을 수상하며 데뷔했다. 1978년에는 『삼색 고양이 홈즈의 추리』가 베스트셀러가 되었고, 이후 이 시리즈를 중심으로 인기 작가가 되었다. ‘세 자매 탐정단’ 시리즈와 ‘스기하라 사야카(杉原爽香)’ 시리즈 등 여러 인기 시리즈를 포함해 라이트 미스터리의 기수적인 존재가 되었다. 『악처에게 바치는 레퀴엠』으로 1980년 제7회 가도카와 소설상을 수상했고, 『괴담』으로 제35회 일본 추리작가협회상을 수상했다.

소설가 대부분이 워드프로세서나 컴퓨터를 이용해 작품을 집필하지만, 아카가와 지로는 완고할 정도로 원고지에다 손으로 쓰는 것을 고집하고 있다. 손으로 쓰는 것이 빠르다고 한다. ― 원고지에 집필하는 작가는 니시무라 교타로, 오사와 아리마사, 호사카 가즈시 등이 있다. 생일이 2월 29일이어서, 1988년에 간행된 ‘삼색 고양이 홈즈 시리즈’ Kappa Novels 판 저자 소개에서는 ‘올해 열 살이 되었다.’고 기재되어 있다.

2008년에 집필 작품이 500편이 넘었고, 누계 발행부수는 3억 부를 넘는다. 그 가운데 많은 작품들이 독자들의 꾸준한 사랑을 받은 덕분에 1983년부터 3년 동안 일본 문단의 고액 납세자 1위를 차지했으며, 1984년에는 베스트셀러 1위에서 4위까지가 모두 그의 작품으로 채워지는 진기록을 세웠다. 또 그의 작품 중 무려 12편이 영화화되었고, 70여 편이 TV드라마로 제작되었다. 저자는 “다작을 목표로 하는 것은 아니지만 쓰다 보니 자연히 작품이 많아졌다.”며 “600편까지 쓸 수 있을지 모르겠지만 독자가 있는 한 계속 작품을 쓰겠다.”고 말한 바 있다. 또한 그는 2010년 한일 지식인 1,100여 명이 함께한 한일강제병합 원천무효 지식인 서명에 동참한 바 있다.