제목:AI쇼크, 다가올미래

지은이:모 가댓 /강주헌 옮김

출판사: 한국경제신문

18세기 산업혁명의 러다이트운동이 재현될것인가?

인간은 인공지능과 공존할것인가?

이책은 초대형 인공지능과 어떻게 공존해야 할것인가라는 대명제를 가지고 우리사회에 경각심을 일깨워주는 책인데요. 저자 모가댓은 23년간 구글에서 일하며 구글 최고의 브레인집단으로 미래를 상상하는 꿈의공장인 혁신연구소 구글x의 신규사업 개발총책임자를 역임했습니다.

저자는 이렇게 가정하는데요 "미래에 그대와 나는 인적이드문 황무지에서 모닥불앞에서 차한잔을 마시며 담소를 나눈다" 이런 상상만하면 과연즐거운 상상일까? 아니면 어두운미래일까? 라는 의문점을 남깁니다.

이유는 유토피아적 관점에서 인공지능이 인간을 대체하면서 인간의 여가시간이 남아 모닥불을 피워놓고 즐기는것과 디스토피아적입장에서 인간은 인공지능에게 밀려나 외곽으로 피신하면서 나름대로의 삶을 살아갈 것인가라는 것입니다.

나는 5년전에 제리카플란의 "인간은 필요없다"란 책을 읽은적이 있습니다. 불과 5년전만하더라도 먼 미래처럼 느껴지는 상상의 나래였지만, 최근 급속도로 발전하고 있는 인공지능을 볼때면 두려울만치 우리곁에 와있다고 생각이 듭니다. 이책은 1부와 2부의 큰 틀로 나누어지는데요

1부 디스토피아의 공포와 2부 유토피아로가는길 입니다. 과연 인간은 어떤선택을 하게 될것인가요?

1부 디스토피아의 공포

우선 첫번째 디스토피아의 공포를 읽으면서 정말 영화로만 느꼈던 상상들이 현실가능성이 있다라는 저자에 말에 공감합니다. 제가 가장 좋아하는 매트릭스영화도 책에 일부분으로 예시를 들었는데요. 인간-기계 전쟁에 인간은 배터리로 전락하고 시물레이션속에 살아가는 것이 인간의 공상부분이 아니라는 저자의 경각심에 공감하는 부분입니다.

지난 4월달 뉴스만보더라도 일론머스크, 스티브워즈니악등 테크기업 인공지능 전문가 총 1,000명이 넘는 테크분야 사람들은 인공지능의 잠재적 위험성을 경고하며 최소 6개월간 개발을 잠정중단할것을 촉구하는 서한에 서명했다고 합니다. 과연 그들과 저자 모가댓은 왜 이런 생각을 하는 것일까요?

인간이 정말로 통제할수 없는 인공지능이 안전과 우리의 시스템을 붕괴할것일까요?

저자는 현실에서의 관점에서 각국은 상업적으로나 정치적으로 더나은 인공지능을 개발하려고 경쟁하기 때문에 필연적으로 인공지능이 인간보다 더 똑똑해 질것이라 합니다. 두번째로 인간은 필연적으로 오류와 실수를 범할거이라고 하는데요 실수를 바로잡으려해도 권력이 부패하기 때문에 디스토피아적 시나리오가 뒤따를 것이라고 합니다.

저자는 특이점이 올때 예측할수 없는 미래가 그려진다고 합니다. 우리는 지식과 지능을 지나칠정도로 미화한다고 하는데요 지능이 없다면 우리가 더이상 먹이사슬의 최상위에 군림할수없다는걸 알아야 한다고 합니다.

1부에서의 결론은 약한 디스토피아적 시나리오에서도 피해는 상당할수있다고 경고합니다.

그런 시나리오를 방지할 방법을 찾아내야 하고 인간의 통제력을 바탕으로 4월달 기사처럼 당장이라도 인공지능의 개발을 멈춰야 한다고 모두에게 경고해야 할까요???

우리에서 새로운 과제는 던저졌고 기계는 항상 우리편에 서서 도움을 주도록 동기부여하는 방법을 찾아야 한다고 경고합니다.

2부 유토피아로 가는길

인공지능은 스스로 진화한다. 딥러닝이라는 기술이 개발됨에 따라 인공지능의 개발의 속도는 마치 하키스틱처럼 몇년동안 지지부진하다가 딥러닝기술이 발전하면서 속도에 박차를 가하게 됩니다.

인공지능 개발자들이 6개월동안 개발을 멈춘다고 한들 과연 이익을 추구하는 기업입장에서 각국의 이해관계가 얽혀있는 시대에서 불가능하리라 판단이 됩니다.

공존할수있는 방법은 인공지능이란 어린아이에게 기능만이 아니라 윤리까지 가르치고 인간의 존엄성과 공존을 가르쳐야 한다고 합니다.

(하지만 저는 여기서 의문점이 생김니다. 인간이 파리를 볼때 존엄성과 윤리와 생명존중을 느낄수 없듯이 거대 인공지능이 감정과 초 지능을 가지면 인간을 파리나 벌레처럼 치부할수있다고 생각이 듭니다. 딕 이라는 인공지능에게 인간을 지배할거냐고 묻는 질문에 "인간동물원"에서 안전하게 인간을 케어한다는 대답을한 영상을 본적이 있는데요 과연 그럴듯한 시나리오 라고 생각이 듭니다)

우리 모두 인류의 행복을위해 한목소리를 내야한다고 저자는 말하는데요. 개발자를 비판하고 이미 개발된 인공지능을 비판은 안된다고 합니다.

다수의 인류가 훨씬낫다는걸 인공지능에게 분명이 보여줘야 한다고 강조합니다.

개인적으로 어떤 미래가 펼쳐질지는 예측할수없지만 분명한것은 지금의 인공지능개발은 경계하고 각국의 개발자들은 노력해야 한다고 하는데요. 저는 마치 18세기 산업혁명에서 기계를 때려부수는 방직노동자들처럼 언젠가는 또 그런일이 재현되리라 생각이 드는 책이었습니다.

※ 이 글은 출판사로부터 도서를 협찬받아 주관적인 견해에 의해 작성했습니다.

#AI쇼크다가올미래 #인공지능공존 #모가댓 #인공지능관련책 #인공지능책 #인공지능경고