1938년 도쿄에서 태어났다. 와세다 대학에서 서양철학을 공부하다 중퇴했다. 1960년대 후반, ‘부조쿠部族’라는 이름으로 자연 속에서 공동체 생활을 시작했다. 1973년에는 가족과 함께 순례 여행을 떠나 인도와 네팔을 다녀왔다. 그 뒤로 부조쿠 공동체의 동료와 함께 일본에서는 처음으로 유기농 채소 가게를 열었다. 또한 경제성장에 반대하는 삶을 소개하는 대항문화 잡지 〈부드러운 혁명 시리즈〉의 편집을 맡아 일을 하고, 도쿄 시내의 작은 건물에서 ‘호빗토 빌딩 공동체’를 꾸렸다.

그리고 1977년에 식구들과 함께 규슈 남쪽 야쿠섬으로 삶터를 옮겼다. 오래되고 버려진 마을에서 그는 다시 마을을 살리는 데에 힘을 쏟고, 농사를 짓고, 집을 돌보고, 사람들과 어울렸다. 밤이면 섬에서 살아가는 이야기와 나날이 거둔 생각들을 시와 산문으로 써서 잡지에 싣고, 책을 펴냈다. 2001년 돌아갔다.
시집과 산문집이 모두 서른 권이 넘는데, 그동안 한국에서는 산문집 《어제를 향해 걷다》, 《여기에 사는 즐거움》, 《더 바랄 게 없는 삶》, 《애니미즘이라는 희망》이 나왔다. 더불어 이 책 《나는 숲으로 물러난다》가 출간되면서 야마오 산세이의 시 세계가 처음으로 우리 독자들 앞에 모습을 드러내게 되었다.