아는 이가 내게 다음과 같은 얘기를 했었다.

자신은 고등학교 때 수학은 정말 좋았다고. 언제나 답이 딱딱 떨어지니까 말이다. 반면에 국어는 그렇지가 않았다고.

짐작할 만하지만, 그이는 공대 출신이다. 나도 수학을 못했던 것은 아니지만(좀 오글거리긴 하지만 못했던 편이라기 보다는 잘했던 편이다), 그 의견에 크게 동의는 할 수 없었다(물론 그 자리에서 반박하지는 않았다). 우선은 정답이 반드시 존재해야 하는 상황이 과연 바람직한 것인가 하는 데 대한 의심이 있고, 또 하나는 고등학교 수학이야 그럴 수 있고, 나아가 공대의 수학이야 그럴 수 있다고 하더라도 수학이 얼마나 모호한 문제를 다루고 있는지를 조금은 인식하고 있었기 때문에 그렇다.

하지만 수학에 대한 일반적인 인식은 그렇다. 그 수학이라는 과목을 잘 하든, 못 하든 수학은 분명한 답을 내주는, 혹은 내기를 강요하는 학문이라는 것 말이다. 그래서 좀 인간적이지 못한 느낌을 주는, 그런 분야. 거기에서 좀 더 나가면, 세상은 그렇게 수학처럼 딱딱 떨어지는 것은 아니다라는 항변? (그러나 세상은 수학으로 이루어져 있다.)

조던 엘렌버그의 『틀리지 않는 법』은 바로 그 수학에 대한 얘기다. 그런데 묘한 것은 제목이다. ‘틀리지 않는 법’이라니. 처음에는 그러려니 하고(그래, 수학이란 틀리지 않는 법을 가르쳐 주는 학문이지) 읽다 보면, 그게 아니란 걸 알 수 있다. 이 ‘틀리지 않는 법’이란 항상 ‘정답’을 알려준다는 의미가 아닌 것이다. 수학이란 참 많은 것을 할 수 있으며, 현대 사회 곳곳에 포진해 있지만, 항상 옳을 수 있는 방법이 아니라 그저 틀리지 않는 법을 알려주는 것이 수학이라는 얘기는 미묘하지만 분명한 차이가 있으며, 저자가 하고 싶은 얘기이다.

『틀리지 않는 법』은 다섯 부분으로 구성되어 있다. 각 부(part)의 제목은 선형성, 추론, 기대, 회귀, 존재. 참 삭막하고 재미 없는 제목들이다. 수학 얘기라서 그런가 싶지만, 각 부에서 각 장의 제목들은 전혀 그렇지가 않다. 이를테면 1부 ‘선형성’이라는 제목 아래에 포진되어 있는 장의 제목들은 이렇다. ‘덜 스웨덴스럽게’, ‘국소적으로는 직선, 대역적으로는 곡선’, ‘모두가 비만’, ‘미국인으로 따지면 몇 명이 죽은 셈일까?’, ‘접시보다 큰 파이’. 그러니까 전형적으로 흥미로운 얘기를 하겠다는 뜻이다. 바로 수학을 바탕으로. 이 ‘선형성’이라는 제목 아래에서 통계를 이해하는 데 있어서 선형적으로(다른 말로 하면, 별 고민 없이라고 해도 그리 틀린 것 같지는 않다) 해석하는 데 대한 문제점을 낱낱이 분석하고 있는 셈인데, 그것도 우리가 흔히 접하는 내용들을 가지고, 흥미롭게 접근하고 있다.

그 밖에 ‘2부 추론’에서는 통계에서 p-값의 문제점, 즉 추론을 하는 데 있어서 어떤 기준으로 데이터의 차이를 의미 있게 볼 것인가에 대한 문제를 제기하면서 (당연히) 베이즈 추론을 알려주고 있으며, ‘3부 추론’에서는 주로 복권 얘기를 통해 기대값에 대한 우리가 흔히 잘못 이해하고 있는 기대값에 관한 얘기를, ‘4부 회귀’에서는 평범으로의 회귀와 흡연과 폐암 사이의 관계에 관한 역사적 논의를 하고 있다. ‘5부 존재’에서는 선거 제도에 관해서 모순점과 그 모순과 관련한 수학을 얘기하고 있다(물론 수학적으로는 형식주의에 관한 복잡하고도 심각한 논의이기도 하다).

재미있는 얘기도 많고, 우리 생각의 허점을 그대로 파고드는 얘기도 많다. 그래서 당연히 흥미롭고 유익하지만, 항상 쉬운 것만은 아니다. 그러나 수학이라는 단어에 지레 겁먹을 만큼은 아니라는 것만은 분명하다.

수학은 강력한 돋보기다. 순전히 이론적인 논의에서부터 시작한 수학은 언젠가는 현실 세계의 다양한 이슈들을 설명하고, 새로운 세계를 만들어내는 강력한 수단이 된다는 것을 이 책은 잘 보여준다. 더더욱 중요한 것은 수학을 공부하는 이유를 이 책은 잘 보여준다는 것이다(그 얘기부터 시작하고 있다. 그게 목적이라는 얘기다). 이런 얘기들이다.

“수학은 불확실한 것에 대해서 추론하게끔 해주는 수단, 불확실성을 완전히 길들이진 못할지언정 어느 정도 다스리게끔 해주는 수단이다. ... 수학은 우리에게 원칙적인 방식에 따라 확신하지 않을 방법을 알려 준다.” (549쪽)

즉, 수학은 의심하게 한다. 머뭇거리게 하며, 그 머뭇거림이 바로 행동이다.

참 다른 수학이다.

* 이 책은 데이비드 핸드의 『신은 주사위 놀이를 하지 않는다』와 상당히 유사한 느낌을 준다. 같은 수학이라서 그렇고, 불확실성을 다루는 점에서 더욱 그럴 수 밖에 없다. 다루는 예들도 겹치는 것이 적지 않다. 그러나 분명히 다르다. 『신은 주사위 놀이를 하지 않는다』는 얇고, 『틀리지 않는 법』은 두껍다는 것만이 아니다. 『신은 주사위 놀이를 하지 않는다』는 현실 세계에 적용되는 수학적 논의에서 많이 나아가지 않지만, 『틀리지 않는 법』은 수학에서 자꾸 벗어나고자 시도를 한다. 결국에 그것도 수학이지만 말이다. 앞의 책을 읽고, 뒤의 책을 읽으면 훨씬 도움이 된다.