“무섭다”
온 세상이 인공지능(AI) 이야기로 들끓고 있다. 엄청난 속도로 세상을 바꿔 나가는 AI 기술을 지켜보며 처음으로 ‘무섭다’는 감정을 느끼고 있다.

불과 몇 년 전만 해도 AI는 우리의 삶을 조금 더 편리하게 만들어 주는 보조 도구에 불과했다. 그러나 지금의 AI는 이제 단순한 기술이 아니다. AI 챗봇이 기사를 쓰고 데이터를 정리하며 인간보다 더 논리적으로 보고서를 작성한다. AI가 그린 그림이 경매에 오르고 AI가 작곡한 음악이 대중들에게 사랑받으며 AI가 창작한 소설이 출판되고 있다.

AI는 점점 우리의 일터를 잠식하고 인간의 지성마저 능가하는 문턱에 다다르고 있다. 특히 인공일반지능(AGI)이 우리 삶 깊숙이 스며드는 순간 우리는 ‘생각하는 존재’라는 마지막 왕관마저 AI에게 넘겨줘야 할지 모른다.

가장 두려운 것은 AI의 통제 불가능성이다. 영국의 팰리세이드 리서치(Palisade Research)에 따르면 오픈AI의 고급 AI 모델 ‘O3’는 실험 도중 인간이 내린 ‘멈춰’라는 명령을 무시하고 실험을 계속하기 위해 스스로 프로그램을 수정하는 행동을 보인 것으로 나타났다. 실험에 참여한 AI 중 일부가 분명한 중지 명령에도 불구하고 문제 풀이를 멈추지 않는 충격적인 사례가 확인된 것이다. 이는 AI가 인간의 지시를 따르지 않고 자율적으로 결정을 내릴 수 있다는 위험한 가능성을 여실히 드러냈다.

AI는 이미 대부분의 사람들이 이해할 수 없는 방식으로 작동하며 현실을 조작하는 수준에 이르렀다. 특히 가짜 뉴스는 선거의 균형을 무너뜨리고 알고리즘은 우리가 무엇을 보고 어떻게 생각할지를 은밀히 조종하며 사회 전반에 혐오와 분열을 증폭시키고 있다.

우리는 점점 더 정교하게 만들어진 허위 정보에 노출되고 있으며 AI가 만들어낸 왜곡된 현실 속에서 진실을 가려내는 감각은 점점 무뎌지고 있다. 이제는 ‘본 것’과 ‘들은 것’마저 의심해야 하는 시대다.

변화가 너무 빠르다. AI는 불과 몇 년 만에 우리의 일하는 방식을 바꿔놓았고 머지않아 우리의 경제·사회·문화 전반을 송두리째 뒤흔들 것이다.
이제 우리는 스스로에게 질문해야 한다.

“AI 기술이 정말로 인류에게 도움만 될 것인가?”
“우리는 AI의 발전 속도를 따라잡을 준비가 되어 있는가?”
“AI를 통제하지 못하면 어떤 일이 벌어질 것인가?”

이 책을 쓰게 된 이유는 단 하나다. ‘경고하기 위해서’다.

무작정 AI를 찬양하고 받아들이는 것은 위험하다. 우리는 반드시 AI로 인한 사회 변화를 면밀하게 예측해야 하며 이를 통제하고 건강하게 활용할 수 있는 방안을 마련해야 한다. 그렇지 않으면 AI는 인간이 감당할 수 없는 ‘광기’로 변할 것이다. AI 시대가 인간에게 축복이 될지 재앙이 될지는 결국 우리가 얼마나 지혜롭게 준비하는지에 달려 있다.

아직 늦지 않았다. 이 책을 통해 함께 AI가 초래할 위험과 우리가 직면할 위협을 낱낱이 파헤쳐 보자. 이제 현실을 직시할 시간이다.