1963년 충북 영동에서 태어나 초등학교 시절 서울로 이주해 봉천동 은천초등학교를 졸업했다. 고등학교 재학시절 방황하다가 자퇴 후 고졸 검정고시에 합격했다. 군복무를 마치고 4년 늦게 연세대학교 법대에 입학했다. 1991년 사법시험에 합격해 사법연수원을 졸업하고 94년 2월 판사로 임용되어 서울지법 남부지원에서 판사생활을 시작했다. 전주지방법원을 거쳐 대전지방법원에서 일하던 중 제16대 대통령 선거를 앞두고 김민석이 정몽준 캠프에 합류한 것에 반발해 판사직을 그만두고 노무현 캠프에 합류했다. 노무현 당선 후 대통령직인수위원회에서 최연소 위원으로 일했으며, 참여정부에서 민정제2비서관, 법무비서관으로 일했다.

2008년 대전 서구에서 제18대 총선에 출마해 낙선했으나 2012년 제19대 총선에 출마하여 당선되었다. 2016년 제20대 총선에 출마하여 재선되었고, 2020년 제21대 총선에 출마하여 3선에 성공했다. 문재인 정부에서 추미애 장관의 후임으로 2021년 1월 28일부터 2022년 5월 9일까지 제68대 법무부 장관을 역임하였다. 문재인 대통령 퇴임 이후 현재까지 더불어민주당 검찰독재정치탄압대책위원회 상임위원장, 노무현재단 대전·세종·충남 지역위원회 고문을 맡아 활동하고 있다.