미국 오클라호마 시에서 태어났다. 1967년 물리학과 천문학 전공으로 메릴랜드 대학을 졸업하고, 그 즉시 베트남전에 징집되어 공병으로 참전했다. 1969년 파편 100여 개가 몸에 박히는 중상으로 명예제대를 한 후, 같은 해 SF전문지 《갤럭시(Galaxy)》에 단편 「Out of Phase」을 게재하며 작가로 데뷔한다.

그가 직접 경험한 베트남전의 참상은 작품에 큰 영향을 미친다. 대표작 『영원한 전쟁』(1974)은 전쟁의 본질이 무엇인지 대중들에게 재확인시켜 주었고, 독자와 평론가들의 압도적인 지지를 받으며 휴고 상, 네뷸러 상, 로커스 상의 최우수 장편상을 수상한다. 또한 작가 어니스트 헤밍웨이에 대한 애정과, 그와 자신 사이에 존재하는 공통점에서 착안한 작품인 『헤밍웨이 위조사건』(1991)으로 휴고 상과 네뷸러 상의 최우수 중편상을 수상하는 저력을 보인다. 2009년에는 전미 SF 판타지 작가 협회(SFWA)에서 그랜드마스터의 칭호를 받았으며 2012년에는 SF 명예의 전당에 올랐다.

2016년 현재 홀드먼은 MIT에서 조교수로 문예창작을 가르치며 『Graves』(1993),『Forever Peace』(1997), 『Camouflage』(2004)등의 작품을 통해 지금까지 꾸준하고 왕성하게 활동하고 있다.