새로운 프로그래밍 기술은 인간의 뇌를 모델로 한 신경 네트워크를 이용한다. 정보는 레이어로 처리되며 각 레이어 사이의 연결이 학습 내용을 강화한다. 이러한 방식을 딥 러닝이라고 부른다. 딥 러닝은 컴퓨터가 여러 데이터를 이용해 마치 사람처럼 스스로 학습할 수 있게 하기 위해 인공 신경망을 기반으로 한 기계 학습 기술이며, 인간의 두뇌가 수많은 데이터 속에서 패턴을 발견한 뒤 사물을 구분하는 정보처리방식을 모방해 컴퓨터가 사물을 분별하도록 기계를 학습시킨다. 딥 러닝 기술을 적용하면 사람이 모든 판단 기준을 정해주지 않아도 컴퓨터가 스스로 인지하고 추론, 판단할 수 있게 된다. 이러한 기술은 음성, 텍스트, 이미지 인식과 사진 분석 등에 광범위하게 활용된다. p.100

오늘날 AI, 즉 인공지능이라는 단어는 두 가지 의미가 있다. 첫째, 인간과 맞먹는 또는 더 나은 일반 지능을 가진 가설 상의(아직 완성되지 않았기 때문에 가설임) 컴퓨터 프로그램이나 로봇 또는 기계를 뜻한다. 이것이 우리가 AGI, 즉 인공일반지능이라 부르는 것이다. 둘째, 인공지능은 일반 지능은 부족하지만 아주 특수한 ‘지능적 행동들’(체스를 하거나, 웹페이지 상에 적절히 광고를 배치하거나, 주식 가격 동향을 예측하는 등의)을 할 수 있는 현실 속의 컴퓨터 프로그램들을 뜻한다. 이것이 우리가 ‘특화인공지능’즉 약인공지능이라 부르는 것이다. p.229

현재로서는 단지 인공지능은 두려운 면들이 있는 유일한 첨단 기술은 아니라는 점을 강조하고 싶다. 특이점을 실현시켜줄 다른 모든 첨단 기술들도 비슷하거나 더 위험을 갖고 있다. 예를 들어 합성생물학은 특히 많은 우려를 자아내는 듯하다. 일단 합성생물학이 발전될 경우, 나쁜 마음을 가진 과학자들이 인간의 면역체계를 피해 인명을 대량 살상할 수 있는 새로운 생물학 바이러스나 세균을 만드는 걸 어떻게 막을 수 있겠는가? 이 때문에 결국 강력한 기술로 무장한 정신병자 같은 인간들 때문에 생겨날 위험들로부터 우리 자신과 자기 자신을 지켜줄 착한 ‘인공지능 할머니’가 인류를 지킬 가장 좋은 방법이 될 수도 있다. p.261