보이지 않게 차별·혐오·불평등을 생성하고 유통하는
알고리즘의 숨은 속성을 들여다보다

이 책의 저자 사피야 노블 교수는 구글의 검색 결과에서 여성, 소녀에 대한 성차별적이고 포르노그래피화된 정보가 가장 ‘인기 있는’ 자료로 표출되는 것을 지켜보며 구글이 사용하는 검색 알고리즘에 심각한 문제가 있음을 인지한다. 객관적이고 중립적인 도구라고 일컬어지는 디지털 알고리즘이 오히려 차별과 혐오를 조장하고 확대하는 현장을 포착한 것이다. 저자는 여성 차별뿐 아니라 유색인, 유대인 등을 대상으로 한 적나라한 인종차별적 가치관이 알고리즘에 삽입되어 인터넷 플랫폼을 통해 유통되고 있음을 고발한다.
또한 최근 인터넷과 SNS상에서 무분별하게 번지는 가짜 뉴스와 왜곡된 정보가 정치권은 물론 우리 삶에 직간접적인 영향력을 끼치는 위험 요소가 되었음을 지적한다. 정제되지 않은 정보들이 대형 정보 플랫폼들을 거치면서 마치 ‘믿을 만한’ ‘다른 사람들을 대표하는’ 정보로 탈바꿈되고 사람들의 인식을 뒤바꾸는 기준이 된다. 이렇게 특정 인종과 특정 성별, 특정 단체에 대한 혐오와 차별은 인터넷상에서 매우 손쉽게 이뤄진다. 저자는 별다른 규제 없이 무소부재의 권력을 누리며 사회의 중요한 의사 결정 시스템을 담당하는 거대 정보 기업들의 역할과 책임을 강도 높게 비판하고 있다.
또한 저자는 검색 순위 자체가 사회의 정치적, 사회적, 문화적 가치를 반영하는 중요한 정보라고 강조하며, 우리 시대의 지식이 어떻게 구조화되고 체계화되는지 지켜봐야 한다고 주장한다. 더불어 구글과 같은 독점적 정보기업들이 어떻게 개인과 단체의 정보를 보관 및 기록하고 있는지 비판적인 자세로 감시해야 하며, 윤리적이지 않은 인공지능이 초래할 문제로부터 우리를 보호할 공공 정책을 마련해야 한다고 주장한다.