얼마전 AI 챗봇 이루다 사건은 많은 논란이 되었습니다. AI 를 만들기 위해서는 많은 데이터를 학습해야 하는데 그 과정에서 개인정보나 비속어 등이 제대로 걸러지지 않아 이루다와의 대화에서 그대로 나오기도 했네요. 또, AI 가 지속적으로 학습이 된다는 점에 착안하여 유저들은 이루다와 나쁜 쪽으로 대화를 이끌어 나가면서 이에 대한 상세 방법들을 공유하기도 했습니다. AI 기술이 발달하면서 이미 많은 서비스에 적용이 되고 있는데 이루다 사건은 AI 의 기술 뿐만 아니라 윤리적인 측면에서도 고려할 요소들이 있음을 보여주었습니다.

'무자비한 알고리즘' 에서는 AI 에 있어서 데이터나 알고리즘으로 인한 문제점과 이를 해결하기 위한 방안들에 대해 설명하고 있습니다.

'인공지능' 이라는 단어를 들으면 SF 소설이나 영화에 나오는 것처럼 인간과 똑같이 생각하고 판단을 내리는 기계가 떠오릅니다. 하지만 특정 분야에 적합한 인공지능을 만들기 위해서는 실생활에서 사용된 수많은 사례들을 수집해서 이러이러한 경우에는 이러이러한 값을 내도록 수학적으로 계산하는 것이네요. 그래서 데이터가 많으면 많을수록 다양한 사례들이 있는 만큼 결과가 정확한 것처럼 보이고, 오류 데이터가 섞여 있다면 잘못된 결과를 낼 가능성도 높아집니다.

책에서 언급하고 있는 사례들을 보면 의학에 사용되는 AI 의 경우 의학 및 IT 기술이 갖춰져 있고 정확한 데이터를 확보할 수 있는 나라는 대부분 미국이나 유럽 등이기 때문에 백인 데이터가 많을 수밖에 없어서 아시안이나 흑인에 대해서는 인식률이 떨어진다고 합니다. 성별만 남녀를 다르게 하고 동일한 웹사이트들을 차례대로 방문하도록 했는데 남자와 여자에게는 각각 다른 광고를 보여주며, 그 광고에는 성 역할에 대한 고정관념이 들어가 있네요.

아마존에서는 AI 를 이용해 수많은 입사지원서를 분석해 1차로 걸러내었는데 아마존에 근무하고 있는 사람들의 개인 프로필과 성과를 학습한만큼 아마존에 적합한 인재를 찾을 수 있어 합리적으로 보입니다. 하지만 기존 직원들 구성에는 이미 특정 인종과 성별에 편항되어 있는 만큼 AI 도 동일한 기준으로 필터링해 논란이 되었고 결국 철회를 하였다고 합니다. 컴퓨터는 대규모의 데이터를 빠르게 처리할 수 있는 만큼 많은 데이터를 다루는 AI 를 업무에 활용하는 경우가 늘어나고 있는데 이제는 AI 로 인해 나타나는 윤리적인 문제에 대한 논의도 필요한것 같아요.

산업혁명은 인간의 삶을 크게 바꾸어 놓았는데 AI 가 발전할수록 변화의 속도와 범위는 훨씬 커질 것입니다. 많은 기업들이 완전 자율 주행이 가능한 자동차를 개발하는 과정에서 사고가 일어날 가능성이 있을때 자율 주행 자동차가 어떤 결정을 내리도록 할 것인지는 사람들에게 AI 에 대한 경각심을 일깨우는 좋은 사례 같아요. AI 의 긍정적인 면 외에 부정적인 측면에서 어떤 문제점들이 있는지 읽어볼 수 있어서 도움이 되었습니다.