인공지능 자체가 권력이 된 시대, 우리에게 기회는 남아 있는가?

* 우리는 지금, 인공지능(AI)이라는 문명사적 전환점 앞에 서 있다. 이는 단순한 기술 혁신이 아니라, 권력의 본질을 다시 쓰는 사건이다. AI 시대의 권력은 이전 어느 시대보다도 더 미묘하고, 더 깊숙이 인간 내면에 침투한다. 그것은 인식과 행동을 설계하는 알고리즘의 힘이며, 때로는 인간의 인지 능력을 넘어서는 결정 능력이다. 특히 주목할 점은, 권력의 작동 방식이 점점 더 예측적(Predictive) 성격을 띠고 있다는 사실이다. 과거 권력이 사후적 통제와 처벌을 통해 작동했다면, 이제는 빅데이터와 예측 알고리즘이 선제적으로 우리의 행동을 조형한다. 넷플릭스는 우리의 취향을 예측하고, 아마존은 우리의 소비를 유도하며, 소셜 미디어는 우리의 관심사를 선제적으로 형성한다. 이러한 방식은 AI 시대 권력의 새로운 메커니즘을 단적으로 보여준다.

* 더욱 근본적인 변화는 권력의 비인격화(Depersonalization)이다. 알고리즘은 점점 더 시스템화되고, 그 결정은 종종 “시스템이 그렇게 정했다”는 말로 요약된다. 이는 근대 이전 시대에서 “신이 명령했다”는 말과 유사한 위상으로 작동한다. 그 결과, 권력의 주체를 특정하기 어려워지고, 저항하거나 질문하기도 더욱 까다로워진다. AI의 판단은 종종 인간의 인지를 초월한다. 2023년 말, 한 AI 신용 평가 시스템이 특정 고객의 대출을 거절했을 때, 그 이유를 시스템 개발자조차 명확히 설명하지 못했다. 이 사례는 예측적 권력이 어떤 방식으로 작동하며, 우리가 얼마나 그것을 이해하지 못할 수 있는지를 단적으로 보여준다.

* 역사는 반복되지는 않지만, 유사한 구조로 운율을 가진다. 권력의 외관은 달라져 왔지만, 정보의 비대칭성, 자원의 불균형, 의사결정의 불투명성은 과거나 지금이나 권력과 부, 소득의 지형에서 여전히 핵심적인 쟁점이다. 이 책은 그런 점에서, 기술과 권력이 어떻게 얽혀왔는지를 역사적으로 고찰하고, 그 위에 본격적으로 펼쳐질 AI 시대의 미래에 대한 통찰을 구축하고자 한다.