우리는 종종 내 것이 아닌 간섭된 생각에 속곤 한다. 인간의 자유의지는 행위에 책임을 지고, 그 결과를 예측하고, 그 의미를 이해할 수 있도록 한다. 또한 다른 사람과 인지적 소통으로 협력하며, 공동의 세계를 만들어가는 데 필수적인 요소이기도 하다. 하지만 자유의지는 종종 모순적 편향에 의해 위협받는다.

모순적 편향이란 인간이 자신의 사유나 판단에 일관성이 없거나, 자신의 행위와 신념이 모순되는 경우를 말한다. 예를 들어, 인간은 평화와 인권을 지지한다고 주장하면서도, 전쟁이나 차별에 동참하거나 묵인하는 이중적 모순을 의도적으로 행한다. 이러한 모순적 편향은 문제가 되는데, 이는 우리의 생각과 판단력을 종종 약화시키기 때문이다.

우리는 자신의 행위에 대한 근거나 동기를 명백히 제시할 수 있어야 한다. 그렇지 않으면, 자신의 정당성을 상대방에게 합리적으로 제시할 수 없기 때문이다. 그리고 또한 다른 이와 원활한 의사소통을 위해 단순히 습관이나 원색적 감정에 휘둘리지 않는 합리적 자유를 갖춰야 비로소 명백한 내가 될 수 있다. 이를 망각하면 인간은 정치성을 잃게 된다.

또한 인간의 책임감과 도덕성은 모순적 편향에 의해 손상 당한다. 다시 한번 말하지만 인간은 자기 행위에 책임을 져야 하며, 그 결과 행위로 인해 파생된 결과 이해할 수 있어야 한다. 만약 이를 어긴다면 스스로 자신에게는 낯선, 하지만 익숙한 모습을 발견하게 된다. 그동안 유지해왔던 윤리관에 어긋나는 행동으로, 타인의 비난을 고스란히 뒤집어쓰게 된다. 관계적 자유가 망가진 파편을 제대로 수습하지 못할 경우, 결국 '나'는 도덕적인 존재로의 기준을 잃게 된다.

따라서, 모순적 편향은 인간의 자유의지를 저해하고, 인간의 정치적이고 도덕적인 삶을 파괴한다. 이를 방지하기 위해서는 인간이 자신에게 주어진 규범화된 자유 안에서 사유와 판단력 진전으로, 자신의 행위와 신념을 일치시키고, 다른 인간과 소통하고 협력하는 노력을 해야 한다. 즉, 적극적이고 능동적인 존재로 거듭나야만 퇴보하지 않는 자아를 완성할 수 있다.

그러나 현대 사회에서는 인공지능(AI)라는 새로운 도구적 자아가 등장하면서, 인간의 자유와 관계 즉, 정치에 대한 문제가 더욱 복잡해지고 있다. AI는 인간의 의사 결정, 조작, 영향력 등에 어떤 역할을 하고 있는지, 그리고 그로 인해 인간의 자유, 정의, 민주주의 등에 어떤 영향을 미치고 있는지를 탐구하며 우리의 생각에 막대한 영향을 끼치고 있다.

AI는 단순히 기술이나 지능의 문제가 아니라 정치와 권력의 문제이기도 하며, 중립적이지 않고 정치적이라고 주장하는 사람들이 있다. 그리고 또한 새로운 형태의 편향, 차별, 조작, 거짓을 만들어내고, 진실과 사실을 왜곡하거나 무시하며, 인간의 사유와 판단력을 약화시키고, 책임감과 도덕성을 손상시킨다고 지적하는 사람들도 있다.

이러한 문제를 담론화한 책이 있다. 이 책은 "인공지능은 왜 정치적일 수밖에 없는가"라는 제목으로 마코 코켈버그라는 벨기에 출신의 기술 철학자가 쓴 책이다. AI가 인간과 사회에 미치는 영향과 위험에 대해 깊이 있게 탐구하고, 현실적이고 실천적인 대안을 제시하는 책이다. 저자 마코 코켈버그는 AI가 탈진실 시대(the age of post-truth)를 낳았다고 말한다.

탈진실 시대란 진실과 사실이 중요하지 않고, 감정과 신념이 우선하는 시대를 말한다. 저자는 이런 시대가 어떻게 형성이 되었는지, 그리고 어떻게 대응해야 하는지를 설명한다. 또한 AI가 인간의 의사 결정, 조작, 영향력 등에 어떤 역할을 하고 있는지, 그리고 그로 인해 인간의 자유, 정의, 민주주의 등에 어떤 영향을 미치고 있는지를 분석한다.

저자는 AI가 인간의 자유 의지와 사고력을 저해하고, 탈진실 시대를 낳을 수 있으며, 인간의 책임감과 도덕성을 잃게 하고, 무의식적으로 조작되거나 영향을 받을 수 있으며, 인간의 평등과 차별 금지의 원칙을 위반하고, 사회적 분열과 갈등을 야기할 수 있다고 주장한다.

그는 인공지능을 다음과 같은 네 가지 주제로 나누어 다룬다.

첫 번째는 자유와 인공지능이다. 인공지능은 우리의 자유를 확장하거나 제한할 수 있다. 설정된 AI는 우리에게 맞춤형 정보와 서비스를 제공하거나, 우리의 선택과 표현을 감시하고 조작할 수 있다. 그리고 창의성과 독립성을 증진하는 반면, 능동적 자아를 약화시키게 한다. 편리를 강화해서 의지를 약화시킨다. 코켈버그는 자유를 보호하기 위해서는 인공지능의 투명성과 공정성, 책임과 규제가 필요하다고 주장하며 여러 정치철학자들의 의견으로 이러한 현상을 뒷받침한다.

두 번째는 참여와 인공지능이다. 인공지능은 우리의 참여를 유도하거나, 혹은 방해할 수 있다. 우리의 의사소통과 협력, 학습과 교육을 돕거나, 잠재돼 있던 갈등과 분열, 편견과 편향을 자극해 원활한 관계를 악화시킨다. 긍정적으로는 민주주의와 시민권, 공동체와 정체성을 강화할 수 있지만, 독주와 소외를 부추기는 부정적 문제를 야기할 수 있다. 코켈버그는 참여를 활성화하기 위해서는 인공지능의 다양성과 포용성, 대화와 협력이 필요하다고 강조한다.

세 번째는 정치와 인공지능이다. 인공지능은 우리의 정치를 개선하거나 악화할 수 있다. 정부와 법률, 정책과 제도를 효율화하거나 혹은 권력과 권위, 이익과 특권을 비대칭적으로 이끌 수 있기 때문이다. 또한 정의와 평등, 인권과 복지를 실현하거나, 불의와 불평등, 차별과 고통의 증폭. 코켈버그는 정치를 개혁하기 위해서는 인공지능의 참여와 대표성, 검증과 감시가 필요하다고 주장한다.

네 번째는 계급과 인공지능이다. 인공지능은 우리의 계급을 재구성하거나 재생산할 수 있다. 노동과 취업, 소득과 부를 의도되지 않은 설계로 편향적으로 변화시키거나, 계층과 계급, 지위와 권력을 고정시킬 수 있다. 이러한 문제는 우리의 본래적인 기회와 자유, 꿈과 희망을 불합리하게 제한하고, 산재해 있는 억압과 제한, 공포와 절망을 유발할 수 있다. 코켈버그는 계급을 극복하기 위해서는 인공지능의 공유와 분배, 그리고 철저한 교육과 훈련이 필요하다고 강조한다.

그는 "인공지능은 왜 정치적일 수밖에 없는가"에서 인공지능이 단순한 진보된 신기술이 아니라 정치와 권력과 관련된 현상과 연결돼 있다고 주장한다. 인공지능은 기존의 시스템의 구조적 불의와 불평등을 악화시킬 수 있으며, 중립적이지 않으므로 사회적으로 조정이 필요하다. 코켈버그는 인공지능 시대에 걸맞은 정치적 상상력을 제시하며, 인간의 보다 효율적인 인공지능 사용이 아닌 본래적인 자유와 평등이 공존하기 위해서 어떤 가치와 원칙이 필요한지 탐구한다. 단지 다른 이가 우선시 된 정형화된 규율과 감시가 아닌 아직도 수많은 담론이 오가는 자유와 평등의 회장에 새로운 화두를 제시하고 있다.

※출판사에서 제공한 도서를 제 주관대로 작성한 리뷰입니다.