케플러의 추측 : ‘페르마의 마지막 정리’와 더불어 가장 오랫동안 해결되지 않았던 수학사 최대의 난제

16세기 말, 영국의 귀족이자 항해가인 월터 랠리 경은 배에 포탄을 적재하는 최선의 방법을 알고 싶어 했다. 이 평범한 호기심으로부터 수학사 최대의 난제 중 하나가 탄생한다. 1611년 당대 최고의 수학자이자 천문학자인 요하네스 케플러는 이 문제를 접하고는 오래지 않아 간단명료한 해답을 내놓았다.

즉, 청과물 상인이 오렌지나 토마토를 쌓을 때처럼 하는 것이 가장 조밀하게 쌓는 방법이라는 것이다.(본문 28~29쪽 그림 참조) 이 방식이 소위 ‘육방 밀집 쌓기(HCP)’이다. 이때의 밀도는 74.05퍼센트에 이르며, 결국 이것이 3차원 구 쌓기의 최대 밀도로 판명된다. 실생활에서는 상인들을 비롯해서 누구나 아는 상식이었지만 이 사실을 수학자들이 엄밀하게 증명해 내기까지는 이후 무려 387년이라는 세월이 필요했다. 일견 지극히 간단해 보이는 사실도 이렇게 수학의 세계로 넘어오면 복잡하고 미묘한 기하학적 수수께끼가 된다. 그리고 여기에 바로 수학의 순수한 매력과 오묘함이 있는 것이다. 이 책은 수학사 최대의 수수께끼 중 하나였던 ‘케플러의 추측’을 아드리아네의 실 삼아 수학의 아름다운 미궁 속으로 우리를 안내해 준다.

이 책에는 케플러의 추측에 직, 간접적으로 관여했던 수십 명의 수학자들이 등장한다. 요하네스 케플러로부터 아이작 뉴턴, 라그랑주, 수학의 황제로 불리는 카를 프리드리히 가우스, 악셀 튜에, 라슬로 페에스토트, 다비트 힐베르트, 우이 시앙……그리고 추측을 최종적으로 증명해 낸 토머스 헤일스. 이중 라그랑주나 가우스 같은 이들은 직접 원 쌓기 문제를 다루지는 않았지만 이 문제를 풀 수 있는 수학적 기초를 마련해 놓은 인물들이다. 이처럼 케플러의 추측 주변에는 수학사에 등장했던 기라성 같은 천재 수학자들이 포진하고 있으며, 수학의 여러 영역의 지식들이 복합적으로 맞물려 있다. 그리고 이 문제가 해결되기까지의 도정 속에 수학의 진보와 발전 과정이 고스란히 녹아들어 있음은 물론이다.