도덕적인 AI

세계적인 철학자, 신경과학자, 컴퓨터과학자가 함께 쓴 균형 잡힌 'AI 윤리'  입문서!

인공지능 윤리를 위한 일곱 가지 물음에 대한 논의!!
1장 인공지능은 무엇인가?
2장 인공지능은 안전할 수 있을까?
3장 인공지능은 프라이버시를 존중할 수 있을까?
4장 인공지능은 공정할 수 있을까?
5장 인공지능에(혹은 AI 제작자와 사용자에게) 책임을 물을 수 있을까?
6장 인공지능에 인간의 도덕성을 탑재할 수 있을까?
7장 우리는 무엇을 할 수 있을까?

인공지능이 우리의 프라이버시를 침해하는 일, 편향된 정보를 바탕으로 판단, 의료처치의 우선순위 결정, 인간 판사와의 공정성 대결, 인공지능에게 책임을 묻는 일 등 인공지능과 관련한 흥미로운 사안들이 가득한 책이다. AI에 대해 느꼈던 막연한 우려감들을 구체적인 사안들로 파고드니 무슨 추리 소설을 읽는 것처럼 몰입감이 느껴졌다. 아이들과 토론도 하면 더 좋을 듯~~
무엇보다 핵심은 이러한 사안의 근저에 있는 도덕성을 AI에 탑재하여 상용할 수 있는지를 다각적으로 다룬다.

 P.190 AI 기술 도구를 올바르게 사용하려면 수많은 사회적, 조직적 과제가 해결되어야 한다. 그럼에도 AI에는 인간의 편향을 개선할 수 있는 잠재력이 있다. AI가 공정성에 미치는 위험은 심각하지만 관리하지 못할 정도는 아니며, 이는 적절하게 사용한다면 사회에 도움이 될 수 있다는 점을 시사한다.

P.246 AI 시스템을 도덕적으로 작동하게 하려면 추가적인 문제를 해결해야 한다. 그 추가적인 문제란, 인간과 동일한 도덕적 판단을 내리는 AI는 인간과 동일한 도덕적 실수 또한 저지른다는 것이다.

AI가 윤리적 가치에 부합하는 안전한 방식으로 작동할 수 있도록 인간의 도덕성을 탑재하기 위한 일반적인 전략을 설명해 준다.
또한 AI가 우리 삶에 윤리적인 영향을 미치도록 하기 위한 전략들의 여러 간극과 오류들을 꼼꼼하게 점검하며, 도덕적인 AI의 사고는 인간의 도덕적인 합의와 의사결정에 달려 있음을 이야기한다. 

그리고 AI를 윤리적으로 사용하기 위해 AI 관여자들의 소통과 정보를 공유하려는 노력, 사회적 맥락을 고려하는 여러 시스템 차원의 접근 방식이 필요함을 강조한다.

이렇게 AI에 대한 전반적인 이해에 도움이 크게 되는 책이다!
AI는 기술적 혁신의 이점과 잠재적인 위험성이 공존하니 그 이용에 더 촉각이 곤두선다. AI는 피할 수 없이 우리 삶 전반에 더 파고들 것이다. 다만 이 책에서 논의한대로 더 공정하고 민주적인 AI가 되어 인간과 조화롭게 공존하길~~ AI가 더 긍정적인 영향을 이끌 수 있도록 책임감 있게 관리되길 바란다.

#도덕적인AI#김영사#서평단#도서협찬#AI#인공지능#과학교양