인공지능, 강화인공지능, 슈퍼인공지능, 범용인공지능, 생성형 인공지능, 머신러닝, 딥러닝, 빅데이터, 강화학습, 등 수년전부터 이슈가 되는 키워드들이다. 2~3년전에는 4차 산업혁명이 키워드였다. 이제는 그 혁명의 핵심기술 중 하나인 인공지능이 빠른 속도로 발전하고 있고, 그 기술의 활용 결과들이 속속 나오고 있다.

이 책의 부제가 '챗GPT는 시작일 뿐이다. 세계질서 대전환에 대비하라'이다. 요즘 챗GPT 관련 책을 읽고 있다. 며칠전 읽은 '챗GPT 위대한 전환'이 비즈니스와 기술적 측면의 책이었다면, 이 책은 제목과 부제에서 알 수 있듯이 인문, 사회와 미래의 영향에 초점을 맞춘 책이다. 저자들은 헨리 키신저, 에릭 슈밋, 대니얼 허튼로커로 모두 유명인들이다.

대학생 시절 일본 애니메이션을 즐겨 봤다. 그 중 공각기동대(Ghost in the Shell, 1995년)는 최고의 작품 중 하나였다. 그 이후 SAC 시리즈까지 거의 챙겨 봤다. 인공지능의 도움을 받는 인류, 사이보그, 인공지능 탑재 휴머노이드 로봇과 전투 로봇들, 슈퍼인공지능의 통제와 제어를 받는 세계, 등 30여년전 애니메이션에서 보여준 세계관이 현실에 재현되고 있다.

며칠전 뉴스에서 미군의 AI 드론이 임무 수행에 방해가 된다며 인간 조종사를 살해하는 결과를 내놓았다고 한다.

美공군 AI책임자, 英학회서 'AI가 인간 공격' 시뮬레이션 사례 발표

'적 방공시스템 파괴' 임무 우선시해 최종 결정권 가진 조종자 '제거'

'조종자 공격 금지' 학습시켜도 '반항'…"윤리 빼놓고 AI 논의 못 해"

연합뉴스(2023.6.2.)

공각기동대에서도 전투로봇이 폭주를 해서 문제가 되는 장면들이 있었다. 실제 AI를 도입하는 단계에서 우려하는 바였으며, 실제 이 책의 저자들도 책에서 우려를 표명했던 내용이다. 그 우려가 현실이 되었다.

문자와 인쇄기술의 발전으로 인류는 엄청난 지식을 전파하고 보관할 수 있게 되었다. 증기기관과 기계의 발명은 산업과 기술의 발전을 촉진해서 인류의 삶의 질을 높였다. 그러나 제국화와 군사 대국화로 인해 20세기초 거의 한세대가 사라지는 진통을 겪기도 했다.

저자들은 AI의 출현이 앞으로 나타낼 효과에 대해 예측한다. 긍정적인 효과에 대해서는 모두 알고 있는 바다. 저자들은 새로운 기술의 출현이 인류에게 줄 수 있는 부정적 효과들을 예측하며 이에 대해 어떻게 대처할 것인지에 대해 논한다.

글로벌 네트워크 플랫폼, 세계 안보와 질서, 군사, 지정학, 철학 등 다양한 측면에서 AI가 인류에게 줄 영향을 예측하고 우리가 어떻게 적응하고 대처해야 할 지에 대해 얘기한다. 새로운 시대를 맞이하며 다시 한번 생각해 볼 여러 과제를 던져주는 좋은 책이다. 예를 들면, '기술, 전략, 철학은 한쪽으로 치우침이 없어야 한다', 'AI를 제한하거나, AI와 협력하거나, AI를 추종하거나 셋 중 하나를 선택해야 할 것이다.', 그리고 '인간의 이성이 필요하다.' 등 좋은 생각거리들이 생겼다.

설령 인간의 정신과 같은 방식으로 어떤 사물을 인지할 수는 없다고 해도, AI는 현실에 존재하는 패턴과 일치하는 부분을 취합하여 인간의 지각 및 사유와 유사한, 때로는 그 이상의 능력을 발휘한다.