현대세계에서 퍼스널 컴퓨터가 없다는 것은 아마 상상조차 할 수 없을지도 모른다. 그렇지만 내가 사회생활을 처음 시작하던 시절, 나는 회사에서 처음 컴퓨터를 접했다. 사무실 한쪽에 서너 대의 컴퓨터가 줄지어 있었고, 사람들은 컴퓨터를 쓰려면 앞서 쓰던 사람이 끝내기를 기다려야 했다. 또한 컴퓨터를 사용하는 방법을 배우기 위해 일주일간 사외교육을 받았고, 거기서 당시 쓰이던 프로그램인 PE와 MP를 배웠다. 그 때, 컴퓨터를 사용하여 할 수 있었던 것은 문서작성이 전부였는데 말이다. 그러다 몇 년 후, 아래한글 프로그램이 출시되자 그 사용방법을 몰라 끙끙대던 기억은 지금도 그 때를 생각하면 웃음이 저절로 나오게 만든다.

요즘이야 컴퓨터 프로그램도 많고, 또 사람들은 자기가 하고자 하는 목적에 맞게 컴퓨터를 자유자재로 다루고 있는 것을 보면 격세지감을 느끼기도 하지만, 앞으로 컴퓨터가 어디까지 진화할지를 생각하면 일말 기대가 되기도 하지만, 조금은 두려운 마음이 들기도 한다. 이 책 [생각하는 기계]는 이처럼 현대 전자기술 문명의 근간을 이루는 컴퓨터의 근본 원리를 다룬 책이다. 시중에는 수많은 컴퓨터 관련 서적이 범람하지만, 대부분이 여러 장치구성이나 활용법에 관한 것이라고 한다. 이에 저자는 현란한 신기술에 가려 잘 보이지 않는 컴퓨터과학의 근본원리를 일반인들이 쉽게 이해할 수 있도록 하기 위해 이 책을 썼다고 한다.

일찍이 아인슈타인은 “어린아이에게 설명하지 못하는 이론이라면, 제대로 이해하고 있다고 말 할 수 없다.”라고 했다. 이는 자신이 제대로 알지 못하는 경우, 남들이 알아들을 수 있도록 설명하는 것이 불가능하다는 말이기도 하다. 설명하고자 하는 것을 확실하게 알지 못하는 상태에서 남에게 설명한다는 것은, 이해를 돕기 보다는 오히려 혼란을 가중시키는 것임을 우리는 일상에서도 흔히 느낄 수 있다. 그렇지만 이 책을 읽으면서 나는 듣는 사람도 어느 정도 지식을 가지고 있을 때, 그 말이 성립함을 다시 한번 느낀다. 책을 읽는 순간에는 이해가 가는 것 같았지만, 한 단락을 다 읽고 난 다음에는 속 시원하게 이해가 되지 않았기 때문이다. 아마 IT부분에 대한 나의 지식이 짧기 때문에 생긴 일이 아닐까 싶기도 하다.

컴퓨터는 스위치(제어요소)와 커넥터(연결요소)라는 두 가지 요소만 충분히 확보되면 누구든지 재료에 상관없이 만들 수 있으며, 작동원리는 AND와 OR 함수의 조합이라고 한다. 컴퓨터 논리에서는 두 신호에 1과 0이라는 이름을 붙였고, 이는 일단 주어진 기능을 구현할 방법만 알면 더 이상 생각하지 않아도 된다는 뜻이라고 한다. 이것을 기능적 추상화라 하며, 컴퓨터는 기능적 추상화를 통해 만들어진 계층구조로 이루어졌다. 다시 말하여 AND나 OR 함수를 취급할 때, 기술에는 전혀 신경 쓰지 않아도 된다는 말이다.

또한 컴퓨터를 구현하기 위해서는 하드웨어적인 구성요소와 소프트웨어적인 구성요소가 필요하다. 하드웨어적인 구성요소로는 논리함수와 유한상태기계가 필요한데, 논리함수란 1과 0으로 추상화된 논리블록을 가리킨다. 각각의 입력조합에 대한 출력을 확정할 규칙만 기술할 수 있다면 AND, OR, 그리고 인버터 함수를 사용하여 어떠한 이진법 함수도 모두 구현할 수 있으며, 이것은 시간의 흐름에 관계없이 항상 일정한 작업을 수행하는 임의의 논리블록을 구성할 수 있음을 뜻한다고 한다. 그런가 하면 유한상태기계란 시간의 흐름에 따라 변하는 기능을 다루기 위한 장치로, 이전에 입력된 일련의 값들을 기억하게 만든다. 이런 유한상태기계의 상태를 저장하는 비트들을, 저장하는 논리블록을 우리는 레지스트라 부른다. 한편 소프트웨어적인 구성요소로는 프로그래밍 언어를 들 수가 있다. 컴퓨터는 자신이 어떤 일을 해야 할지 알아 듣도록 정확히 설명만 해주면 컴퓨터 스스로 다 알아서 한다. 이를 프로그래밍이라 하며, 프로그래머는 컴퓨터가 어떻게 그 일을 하는지 신경 쓰지 않고, 프로그래밍이라는 언어만 다루면 된다고 한다.

이처럼 컴퓨터는 프로그램이 실행되는 대로 작동되며, 프로그램은 프로그래밍 언어로 작성된다. 이 언어는 운영체계라 부르는 서브루틴 집합의 제어에 따라 인터프리터나 컴파일러에 의해 기계어 명령열로 변환되며, 컴퓨터 메모리 안에 저장되어 있는 이 명령들에 어떤 작업이 수행될 지에 대한 정의가 담겨있다. 유한상태기계는 이 명령들을 호출하여 실행하는 것이다. 이러한 유한상태기계와 메모리는 저장용 레지스트와 논리함수 블록으로 구성되어 있으며, 논리함수는 직렬이나 병렬로 구성된 스위치에 의해 구현된다. 이 스위치들은 0이나 1중 한 신호를 전송한다. 이것을 기능적 추상화의 계층구조라 부른다고 한다.

시간이 지날수록 인류의 기술은 발전하고 있다. 그리고 그 기술의 중심에는 컴퓨터가 있다. 지금까지 알려진 한, 인간이 증명할 수 있는 정리는 컴퓨터도 증명할 수 있고, 컴퓨터가 계산하지 못하는 문제는 인간도 계산할 수 없다고 한다. 이는 컴퓨터가 할 수 있는 일의 한계에 대한 논쟁을 불러 일으키기에 충분했다. 그 논쟁의 중심에 있는 것이 튜링기계, 호환성, 카오스 시스템 그리고 양자 컴퓨터와 같은 것 들이라고 한다. 튜링기계란 영국의 수학자 엘런 튜링의 이름에서 따온 것으로 무한한 메모리를 갖는 유한상태기계를 말한다. 세상에 존재하는 모든 종류의 계산장치를 다 모방할 수 있을 만큼 성능이 뛰어난 컴퓨터를 보편컴퓨터라 부른다. 이것은 수행하는 일의 관점에서 보면 모든 컴퓨터들은 근본적으로 동일하다는 것이며, 단지 임의의 두 컴퓨터 사이의 성능차이는 속도와 메모리 크기, 두 가지 밖에 없음을 뜻한다. 따라서 튜링기계란 프로그램만 적절히 만들어 주면 인간의 뇌가 하는 일을 보편컴퓨터가 따라 할 수 있다는 것이다. 한편, 카오스 시스템은 말 그대로 초기조건이 아주 조금만 변해도 시스템의 출력상태에 아주 큰 변화가 생기는 시스템을 말한다. 디지털 컴퓨터의 작동방식은, 설계된 대로 입력만 받아들여서 작업을 수행하기 때문에 무작위성을 나타낼 수 없다는, 결정론적인 법칙을 따르지만, 이 법칙들이 만들어내는 결과는 너무나 복잡하여 예측하기가 어려운 카오스 시스템의 특성들을 갖는다고 한다. 이것은 만약 양자컴퓨터가 가능하다면 기계로 인간의 뇌를 시뮬레이션 하는 것이 가능할지도 모른다는 우려를 낳게 만든다. 이처럼 컴퓨터의 한계가 어디까지 발전할지 모른다는 우려가 논쟁을 불러 일으키고 있는 것이다. 저자는 이에 대해 아무리 그렇다고 해도 인간 사고의 가치가 손상되지는 않을 것이라고 조심스레 말하고 있다.

튜링기계에서 보듯이 일반적으로 컴퓨터의 성능은 메모리와 속도로 결정된다. 메모리의 필요량은 컴퓨터의 성능과 처리시간을 판단할 때 중요한 기준이 되는 것이다. 그러나 이상적인 보편 컴퓨터는 메모리가 무한대이지만, 실제 컴퓨터는 비용문제로 인해 메모리가 제한적이다. 또한 컴퓨터의 속도는 메모리에 데이터를 넣고 빼내는 시간에 따라 결정된다. 지금까지 컴퓨터 기술의 발달로 메모리 방식 등 다른 것은 다 바뀌었어도, 프로세서와 메모리의 연결이라는 단순한 설계방식은 바뀌지 않았다. 즉, 프로세서와 메모리가 두 부분으로 나뉘어 데이터의 흐름이 순차적인 순차적 컴퓨터이다. 그리고 이것이 컴퓨터 속도를 한계에 봉착하게 만들었다고 한다. 이 문제를 해결할 수 있는 방식이 병렬컴퓨터 혹은 네트워크컴퓨터 라고 한다. 둘 사이의 차이는 명확하게 구별되지 않지만, 일반적으로 병렬컴퓨터는 한 장소에 모여있고, 네트워크컴퓨터는 지리적으로 여러 곳에 분산되어 있는 것 정도이다. 이는 실제 세계가 병렬로 작동하듯, 물리법칙에 근거한 연산도 병렬로 작동할 수 있음을 뜻한다. 인터넷은 순차적 컴퓨터들을 네트워크로 연결하다가 우연히 만들어진 것이라고 한다.

그렇다면 인공지능은 가능할까? 저자는 그 가능성을 열어두고 있다. 지금까지의 컴퓨터는 프로그래머가 제공하는 고정된 규칙에 따라 작동하는 것들이었다. 그러나 우리는 목표를 달성하기 위해서, 발생하는 오류에 따라 적절히 반응을 조절하는 피드백시스템과, 훈련신호가 그 시스템 내에서 자체적으로 만들어지는 자기조직화 시스템을 갖춘 컴퓨터가 머지않아 출현될 것 임을 쉽게 예상할 수 있다. 이미 온도제어 시스템과 같은 피드백시스템을, 그리고 자동항법장치나 복구메커니즘과 같은 자기조직화 시스템을 갖춘 기계들을 사용하고 있기 때문이다. 앞으로 컴퓨터가 어디까지 진화할지를 가늠케 하는 부분들이다. 그러나 기능적 추상화라는 계층구조는 오작동에 의한 시스템 붕괴를 일으킬 가능성이 항상 상존한다. 이는 각 부분이 다른 부분과 어떻게 상호작용 해야 할지 구체적 설계기준을 충족시켜야 하고, 또 각 부분이 제대로 작동함에도 불구하고 상호작용 시 예상 밖 행동이 나타나지 않도록 해야 하지만, 지금까지 이것들은 공학적인 설계과정의 약점으로 지적되고 있다. 인간의 뇌는 컴퓨터보다 훨씬 더 복잡하지만, 치명적인 오작동을 일으킬 우려는 훨씬 적은데 말이다.

저자는 이것을 시뮬레이션 진화로 해결할 수 있다고 생각한다. 컴퓨터가 생물학적 진화과정을 흉내 내게 하는 것이다. 특정목표를 실패 없이 달성할 수 있는 보장된 절차를 알고리듬이라고 한다. 이는 더 이상 빠른 해가 존재하지 않음을 증명하는 것으로 컴퓨터과학 최대의 미해결과제 이기도 하다. 또 정답을 낼 가능성은 크지만 완전히 100퍼센트 보장한다고는 할 수 없는 규칙을 휴리스틱이라고 하며, 이런 휴리스틱은 학습을 통해서 추측을 한다. 계층구조적 설계가 갖는 복잡성 대신, 초점을 컴퓨터의 조합능력으로 옮겨서, 설계방법을 경우의 수로 갖는 검색공간에서의 휴리스틱 탐색법을 사용한다면 그것이 가능하리라 저자는 생각한다. 수많은 검색을 통하여 휴리스틱은 강화되고, 결국은 알고리듬에 도달할 수 있다는 것이다. 컴퓨터가 스스로 알아서 진화하게 만드는 것이다.

오늘날 우리는 일상생활에서 컴퓨터의 존재를 무시하고서는 거의 아무것도 할 수가 없다. 그리고 지금보다 더 많은 것을 컴퓨터에 의존하려고 한다. 이러한 우리의 습관은 컴퓨터가 보다 더 똑똑해지기를 바라고, 마침내 인간의 기술로 진화한 컴퓨터는 스스로 생물학적 진화를 할지도 모른다. 그것은 우리가 공상소설에서 보아 온 지능을 가진, 생각하는 기계가 탄생될지도 모른다는 것이다. 이런 컴퓨터에 대해 우리 일반인들이 아는 것은 사실 아무것도 없다. 그렇기 때문에 이 책을 통해서 컴퓨터의 근본원리를 알아가는 시간은 책을 읽는 즐거움을 배가시켜 준 것 같다. 그러나 이 책을 내가 제대로 이해를 했는지는 자신이 없다. 이 글을 쓰고 난 후, 내가 다시 읽어보아도 아인슈타인의 말만 생각나기 때문이다.