<북리뷰>AI에 위임하면 안되는 것들

클릭하시면 더 큰이미지를 보실 수 있습니다

무자비한 알고리즘│카타리나 츠바이크 지음│유영미 옮김│니케북스

최근 인공지능(AI) 챗봇(chatter robot·사람과 자연스레 대화하는 컴퓨터 프로그램) ‘이루다’가 장애인 혐오 및 인종 차별 발언 논란으로 퇴출되면서 딥러닝(deep learning·프로그램의 자가 데이터 분석·학습)에 의존하는 AI의 위험성이 다시 한 번 관심의 대상으로 떠올랐다.

독일의 사회정보학 전문가가 쓴 ‘무자비한 알고리즘’은 딥러닝을 비롯한 AI 알고리즘의 양면성에 주목, 우리가 AI에 위임해도 될 것과 적극적으로 감시하고 개입해야 할 것에 대한 지침을 제시한다.

저자는 상관관계만으로 미래의 행동을 예측하는 AI는 성이나 인종, 소득수준, 거주지 등의 변수에 따라 편견을 보일 수 있다며 이를 통제하기 위한 문해력(data literacy)의 필요성을 역설한다. 그러면서 인간과 관련된 결정을 내리는 것을 AI에만 맡겨둬선 안 된다고 말한다. 334쪽, 1만8000원.