일본 경제소설의 아버지. 아이치학예대학교에서 경제학을 가르쳤다. 해박한 지식과 통찰로 기업과 조직의 생리, 직장인들의 애환을 사실적으로 묘사한 경제소설을 잇달아 발표하며 대중의 인기를 얻었다.
1927년 나고야에서 태어났으며 본명은 스기우라 에이이치(杉浦英一)다. 1957년 『수출(輸出)』로 문학계 신인상을, 이듬해에 『총회꾼 긴조(摠會屋錦城)』로 제40회 나오키상을 수상하면서 1960년대 일본 최고의 소설가로 꼽혔다. 『타오르는 석양(落日燃ゆ)』으로 요시카와 에이지 문학상과 마이니치 출판문화상을, 2002년에는 경제소설 분야를 확립한 업적으로 아사히상을 수상했다. 작고한 뒤 카도카와문화진흥재단 주최로 ‘시로야마 사부로 상’이 만들어졌다.
그는 아내가 세상을 떠난 후 이전 소설과는 전혀 다른 글을 쓰기 시작했다. 아내의 말, 표정, 사소한 행동까지 함께 살아온 날들을 꼼꼼하게 써내려가며 아내를 잃은 슬픔을 아름다운 추억으로 환기시켰다. 그러던 중 2007년에 세상을 떠났고, 미처 완성하지 못한 원고를 그의 서재에서 발견한 둘째 딸 이노우에 기코가 편집부에 전달해 비로소 『무심코 당신을 부르다가』가 완성됐다.
이 책 은 출간되자마자 먼저 떠난 아내를 그리워하는 남편의 담담하면서도 진심어린 고백으로 독자의 마음을 울렸고, 일본 TBS TV 드라마로도 방영되어 화제를 일으켰다.
대표작으로 『소설일본은행(小說日本銀行)』『황금의 나날(黃金の日日)』『관료들의 여름(官僚たちの夏)』『임원실 오후 3시(役員室午後三時)』『가격파괴(價格破壞)』 등이 있다.