이 책을 읽는 동안 버벅거리는 포털 사이트, 쇼핑 사이트를 만날 때마다 이 사이트가 나를 필터링하고 있구나 싶어 무서워지고, 트위터 글을 볼 때마다 이제는 내 의견과 비슷한 트친들만 남아서 점점 편협해져가는 내 시야를 의식하게 되었다. 검색 추천 태그나 광고들을 보면서 '이 사이트가 나를 어떤 사람이라고 생각하기에 이런 것들을 보여주지??' 생각하며 돌아보게 되었다. 열심히 관리하는 미니홈피, 블로그, 트위터를 통해 불특정 다수가 나의 생활을 훔쳐보며 단편적인 인상들을 만들어가겠구나 싶어졌다. 영화 "김씨 표류기"에 나오는 여자 김씨의 이중 생활처럼. 지금까지는 '숨길 것이 뭐 있겠어, 이게 다 내 모습인데' 싶어서 거의 완전히 모든 자료를 전체공개 했었는데, 이 책을 읽으면서 미니홈피 폐쇄 내지는 일촌공개로의 전환을 심각하게 고려했다. 아무 생각 없이 즐기던 인터넷, 스마트폰 생활에 경고등이 들어왔다.

"세계 전역에서 정보 브로커들은 당신의 온라인 생활을 자신들에게 맡기면 더 좋아질 것이라는 생각을 강요하고 있다. 그들은 공짜 도구를 사용하는 대가로 소비자가 얻는 기회가 개인 데이터의 가치보다 크다고 주장한다. 그러나 소비자는 이 계산을 따져볼 방법이 전혀 없다. 얻는 통제는 보이지만, 잃는 통제는 보이지 않는다."p. 328

처음 싸이월드 미니홈피가 나왔을 때, 무료로 퍼주는 인터넷 공간에 대해 미심쩍어했다. 이렇게 적응하고 자료 쌓아두게 만든 다음에 언젠가 유료화 하겠지라고 추측했었다. 하지만 이 책에 의하면 그들은 처음부터 유료화보다 더 얍삽한 돈벌이를 준비하고 있었을지도 모르겠다. 미니홈피에 쌓여갈 엄청나게 많은 사람들의 개인정보와 함께 그들의 생활과 선호에 관련된 정보들을 상업적으로 이용할 수 있는 가능성이 그들에게 주어져 있기 때문이다. 이번 싸이월드 개인정보 유출 사태는 개인정보 해킹 자체에 대한 경각심도 일깨워주었지만, 우리가 더 무서워해야 할 것은 그러한 드러난 범죄가 아니라 우리도 모르게 당하고 있는 정보 수집이다. 필터링을 통해 나타난 개인의 선호는 그 자신도 알아채지 못하는 사이에 자본주의 사회에서 개별화된 광고에 활용될 가능성이 충분하다. 은행은 신용불량자인 친구가 있는 사람의 신용도도 평가 절하할지도 모른다. SF영화처럼 유전자 정보가 보험회사의 손에 들어가 보험료를 높게 책정할지도 모른다. 단편적인 정보로 인간을 평가하는 알고리즘 때문에 자기도 모르는 사이에 부당한 평가를 당하게 된다는 것이다.

"이 서비스는 기업 고객들에게는 상당히 유용하다. 그러나 링크드인이 기업 고객에게 앞으로 해고할 사람들을 골라내기 위해 데이터를 제공하는 것을 상상해보라. 이러한 일은 당신이 전혀 알지 못하는 가운데 일어날 수 있기 때문에 항의하거나 그 예측이 잘못되었음을 입증할 기회조차 없다.

당신의 고교 동창이 빚을 갚지 않는다거나, 많은 채무 불이행자들이 좋아하는 것을 당신도 좋아한다는 이유로 은행에서 차별을 받는다면 이는 부당한 것이다. 문제는 알고리즘이 어떤 데이터를 이용해 예측하느냐이다."p. 178

실제로 저자는 요즘 유행하는 페이스북의 '좋아요'나 구글의 개별화 검색 시스템을 예로 들어 우리 인터넷 생활에 필터 버블이 만연해 있음을 보여준다. 책의 원제이기도 한 필터 버블("The Filter Bubble")은 인간의 시야를 좁게 만든다. 인간은 자신이 익숙하고 선호하는 것을 더욱 좋아하는 성향이 있기 때문이다. 인간의 뇌와 몸은 세상의 정보를 무한정 받아들일 수 없기 때문에 가장 중요하고 유용하게 여겨져 선호할 만한 것부터 선택적으로 받아들인다. 인간의 이러한 성향을 이용해 필터 버블은 우연성을 배제하고 관련성을 극대화시킨다. 인터넷에 만연한 개별화 필터는 구글 검색창에 평소에 내가 입력했던 것들을 토대로 나에게 최적화된 결과를 보여주려고 노력한다. 지금까지 모두가 똑같은 검색 결과를 본다고 알고 있었는데 충격적이었다. 페이스북의 '좋아요'를 비롯한 마음에 드는 글 추천 시스템 역시 단순히 나의 선호를 표현하는데 목적이 있는 것이 아니었다. 내가 '좋아요'를 한 번 클릭할 때마다 인터넷 창 구석 어딘가에 자리잡은 광고와 추천 동영상은 내가 추천한 글과 관련된 내용으로 변한다. 태그를 달도록 부추기는 이유도 이와 일맥상통할 것이다.

검색 사이트 첫 화면의 자극적인 제목을 단 뉴스와, 인기검색어들은 우리가 무엇을 클릭할지 결정한다. 이제는 인터넷에서 아무 것이나 마구 클릭할 수 없게 되었다. 개별화 필터의 성격 때문에 이 필터 버블에 걸려든 사람은 새로운 것을 배우거나 새로운 의견 접하기, 새로운 사람 만나기와 같은 다양한 경험을 할 기회를 놓치게 된다. 선호하는 것을 추천하거나 검색하고, 다시 선호하는 것에 대한 결과물을 보고, 또 그것을 추천한다. 결국 필터 버블의 이러한 메커니즘이 인간의 생각과 행동을 조종할 수 있다는 것이 이 책의 주제라고 할 수 있다.

"필터를 거친 환경은 호기심에 영향을 줄 수 있다. 행동경제학자 조지 로웬스타인은 호기심은 우리가 기존에 가졌던 지식과 정보가 새로운 개념과 차이가 날 때, 즉 '정보 갭'이 있을 때 생긴다고 말한다. 정보 갭은 박탈의 감정이다. 선물 포장은 그 안에 무엇이 있는지 알아차릴 기회를 박탈한다. 그러면 우리는 안에 뭐가 있는지 호기심을 느낀다. 그러나 호기심을 느끼기 위해 우리는 무언가가 숨겨져 있다는 것을 의식해야 한다. 필터 버블은 우리가 의식하지 못하는 가운데 숨기기 때문에 우리는 알지 못하는 것을 배울 생각조차 들지 않게 된다."p. 121

처음 인터넷이 나왔을 때 사람들은 모든 시민이 정부와 같은 권력이 제대로 작동하도록 감시하고 의견을 표출해서 영향력을 미칠 수 있는 좋은 도구가 될 수 있으리라고 기대했다. 그러나 이제는 필터 버블 때문에 우리가 우리도 모르는 사이에 정부나 기업의 감시를 당하고 있을지도 모른다는 경각심을 가져야할 판이다. 필터를 통해 생각을 조종당하는지도 모르고 조종당하는 것, 인터넷에서 네티즌들이 서로 연결되지 못하게 조장하고 공공담론을 형성하지 못하게 만드는 개별화 필터와 함께 위험한 또 한 가지는 인터넷에서 알고리즘을 만지고 시스템을 만드는 사람들의 영향력이 커졌을 때의 위험성이다. 그들이 바른 생각을 갖지 않으면 그들이 움직이는 시스템은 무서운 도구로 변할 수 있다. 마치 인간학의 오래된 논쟁인 '자유의지와 결정론'의 문제처럼, 시스템과 그것을 움직이는 사람들은 관련성과 우연성의 균형에 대해서 고민해야만 한다.

"시스템화는 기능적인 소프트웨어를 개발하는 데 아주 좋은 방법이다. 사회 조사에서 정량적이고 과학적인 접근 방법은 인간 현상에 대단한 통찰력을 제공하기도 한다... 그러나 이 방법을 너무 과신하면 상당한 위험에 빠질 수 있다. 가장 인간적인 행동은 가장 예상할 수 없는 행동이다. 시스템화는 대부분의 경우 효과가 있기 때문에 대충하면 시스템을 통제할 수 있다고 믿기 쉽다. 그렇게 되면 사람들을 스스로 창조한 우주의 주인으로서 혹은 호흡하고 사고하는 존재로서가 아니라, 목적을 달성하기 위하나 수단 또는 정신적인 스프레드시트에서 조작되는 변수로 보게 되기 쉽다. 인간의 삶에는 예측 불가능성, 특별한 정서, 놀랍고 기이한 일들이 존재하기 때문에 삶을 시스템화할 경우 삶의 충만함에 호소력을 갖기는 어려워진다... 규칙은 통제할 수 있는 힘을 주지만, 동시에 더 깊은 연계의 감각을 상실하게 된다. 엄격한 시스템화의 감성이 전적으로 사회 공간을 형성하면, 그 결과가 항상 멋지지는 않다."p. 235