이 책은 미국 전 국무장관 헨리 키신저, 구글 전 회장 에릭 슈밋과 인공지능 전문가인 대니얼 허튼로커 3인의 공저로 쓰인 책이다. 원제는 'The age of AI and our human future' 라고 되어 있다. '챗GPT는 시작일 뿐이다. 세계질서 대전환에 대비하라.' 라는 부제를 달고 있다. 이 책에서는 인공지능이 상용화되면 정치, 경제, 사회적으로 어떻게 변화할지 펼쳐 보인다. 또한 인공지능이 국제 관계와 전쟁가능성에 불러올 변화와 위험을 진단하고 있다. 내 자신을 나름대로의 낙관주의자라고 생각해왔다. 그러나 이 책을 다 읽고 나니 과연 우리 인류는 인공지능을 현명하게 지배할 수 있을 것인지 걱정이 되지 않을 수 없었다.

인류는 새로운 변화를 맞을 때마다 위협을 느끼고 저항했다. 대표적으로 산업혁명의 선두를 이끈 영국에서 방직기계가 발명되었을 때 많은 노동자들이 일자리를 잃을 것을 두려워했다. 기술혁명으로 산업현장에서 획기적인 발전을 가져온 신기술을 파괴하려는 '러다이트' 운동이 일어났다. 지금의 시대에는 인공지능이 단순한 업무를 대체할 것이고 많은 노동자들이 실업자가 될 것을 우려하고 있다. 단순작업이나 육체노동자 뿐만 아니라 법관이나 의사마저도 인공지능이나 로봇에 의해서 대체될 것이며 연예인이나 정치인도 인공지능 로봇이 더 우세할 것이라고 한다. 이런 소식만으로도 청소년들은 장래에 어떤 직업을 선택해야 할 지 고민이 많을 것이다. 기성세대마저도 당장은 아닐지라도 조만간 내 일자리가 인공지능에게 빼앗기지 않을까 조금식은 걱정하고 있을 것이다.

지금까지의 인공지능은 주어진 문장을 번역하고 이미지를 분류하고 신약 후보 발견과 체스 경기에서의 승리에 이르기까지 인간을 능가하고 있다. '생성형 신경망'은 창조가 가능하므로 기존의 텍스트나 이미지로 훈련된 후 새로운 문장과 이미지를 생성할 수 있다. 인공지능이 코딩이나 작문을 할 수 있으며 딥페이크 제작에 악용될 수 있다. 생성형 인공지능이 머신러닝의 단순한 학습 차원을 넘어서서 스스로 코드를 짜는 단계가 온다면 인간이 만들어 놓은 시스템을 벗어나 스스로 사고하려는 단계로 넘어갈 수 있을지도 모른다.

사이버 무기를 통한 침투나 정보전에 의한 사이버 공격은 예측이 불가능하고 통제가 어렵다. 더 중요한 것은 인공지능의 학습능력과 목표물 설정 능력을 제한하지 않으면 사이버 무기나 자율살상무기에 의한 분쟁의 위험을 배제할 수 없다는 것이다. 저자는 적대국 간의 위기 상황에서 첨단 무기를 사용할 때에는 반드시 인간의 최종적 승인이 있어야 한다고 강조한다. 인공지능이 핵무기 사용을 승인하는 결정을 인간의 최종적 승인 없이 스스로 해버린다면 이른다면 인류는 파멸을 면하지 못할 수도 있다.

인간은 진화과정에서 가능하면 뇌를 덜 사용하는 쪽을 선호했다. 가능하면 생각하는 것을 줄임으로써 뇌의 에너지 소모를 최소화하려는 경향으로 발달한 것이다. 이러한 인간의 습성때문에 인공지능에게 더 의지하고 비판적인 사고 과정마저도 인공지능에게 의존하게 될 가능성을 배제할 수 없다. 따라서 인공지능 기술을 개발하는 단계에서 과학자들의 책임의식과 도덕성이 절실하게 요구된다. 정치인과 관료들은 인공지능을 규제하고 안전하게 이용할 수 있는 제도를 마련해야 할 것이다. 위기라는 한자가 위험과 기회라는 두 가지의 의미를 내포하고 있는 것처럼 인공지능이 인류에게 풍요로운 미래를 가져다 줄지, 인류의 파멸을 앞당길지는 지금 이시대의 인류의 선택과 규제에 달려있다.