경남 창녕에서 태어나 김해에서 어린 시절을 보냈다. 그 후 부산에서 중고등학교를 마치고 서울대에서 법학을 전공했다. 1974년 공군법무관을 시작으로 30여 년간 부산, 경남지역에서 법관으로서 사회 갈등 해소와 분쟁 조정에 힘써왔으며, 2006년부터 2012년까지 헌법재판소 재판관으로 재임했다.
김 재판관은 충무공 정신을 약재로 복용한다면 양극화로 분열되고 갈등하는 이 사회가 치유될 수 있으리라 믿어 이순신학교의 설립을 꿈꾸는 사람이다. 나아가 이제는 작은 이순신 양성 사업이 국가에 의해서 체계적이고 전국적으로 시행되어야 이 국가와 사회가 건 강해진다는 신념으로 ‘이순신 재단 설립 및 그 유지에 관한 법률’ 제정에 온 힘을 쏟고 있다.