스님의 속명은 김금택(金金宅)이고, 탄허(呑虛)는 법호이며 법명은 택성(宅成)이다. 1913년 음력 1월 15일 독립운동가 율재(栗齋) 김홍규(金洪奎)를 부친으로 전북 김제에서 출생했다. 14세에 유학의 경전을 두루 섭렵한 데 이어 15세에 기호학파 최익현 계통의 대유(大儒) 이극종(李克鍾) 문하에서 노장사상과 제자백가를 배웠다.

도가의 경전을 읽으며 생긴 도(道)에 대한 의문에 답을 얻고자 한암 스님과 3년간 20여 통의 서신으로 문답을 주고받았다. 1934년 22세 때 상원사에서 한암 스님을 은사로 출가, 한암 스님의 인품에 매료돼 “3년, 길어야 10년”을 기약하며 오대산에 들던 길은 영영 탈속의 길이 됐다. 한암 스님 지도를 받으며 3년간 묵언 정진, 15년 동안 오대산 동구 밖을 나오지 않고 수행, 『화엄경』을 읽다가 대오각성했다.

생전 『신화엄경합론』의 현토 간행을 유촉(遺囑)했던 한암 스님의 뜻을 받들어 역경을 시작했다. 10여 년에 걸친 대불사 끝에 200자 원고지 6만여 장에 달하는 『현토역해 신화엄경합론(新華嚴經合論)』 47권의 결실을 세상에 내놓았다.
이 『신화엄경합론』을 비롯해 전통 강원 사미과(沙彌科)의 『초발심자경문』과 『서장』, 『도서』, 『선요』, 『절요』의 사집(四集), 『금강경』, 『능엄경』, 『원각경』, 『기신론』의 사교(四敎)와 『육조단경』 등을 우리말로 완역하는 등 승가 교육과 인재 양성을 위한 교재들이 탄허 스님의 손을 거쳐 번역되고 출간됐다.

동아일보 주최 제3회 인촌문화상, 국가로부터 은관문화훈장을 받았다. 1983년 6월 5일(음력 4월 24일) 월정사 방산굴에서 세수 71세, 법랍 49세로 입적했다.