"AI에 편견과 차별까지 반영" 한국계 미국인 연구자 일침

美 ‘젊은 연구자상’ 수상 주목 한국계 교육학 연구자

"백인 남성이 만드는 AI 기술에 인종차별 성향" 지적



"인공지능(AI)은 그 성장 속도가 빨라서, 부정적 측면을 간과하기 쉬워요. 특히, 인종차별, 성차별, 장애인과 유색인종 이민자에 대한 편견 등이 반영돼 있다는 게 가장 큰 문제입니다."

그래픽 노블 ‘파워 온: 평등하고 공정한 AI 시대를 위하여’(한길사)의 공동저자 진 J. 류(류진선·사진) 작가는 4일 서울 중구 순화동천에서 열린 출간 기념 간담회에서 이렇게 말했다. 류 작가는 한국계 미국인으로 미국 교육학회의 ‘젊은 연구자상’을 받으며 주목받고 있는 교육학 연구자이다. 그가 또 다른 연구자 제인 마골리스가 함께 쓴 ‘파워 온’은 AI가 내포한 불평등과 불공정을 발견하고 이를 바꿔나가려는 미국 청소년들의 이야기를 다룬다. 인종차별과 같은 사회 문제를 중심으로 작업하고 있는 채리스JB가 그림을 그렸다.



류 작가는 "우리는 흔히 AI가 인간보다 객관적이고 공평할 것으로 기대하지만 실상은 그렇지 않다"고 지적했다. 그는 대표사례로 2016년 마이크로소프트(MS)가 개발한 AI 챗봇을 꼽았다. 당시 이 챗봇은 10대들과 몇 시간 동안 대화하며 학습한 후 인종·성 차별적 발언을 쏟아내 충격을 안겼다. 최근엔 얼굴 식별 AI도 논란이 됐다. 백인 남성의 오인식 비율은 1%에 미치지 않았지만, 유색인종 여성의 경우 35%에 달했기 때문이다. 류 작가는 "AI 프로그램을 만드는 사람이 대부분 백인 남성이고, 결국 이들의 시각이 섞여 들어갈 수밖에 없다"면서 "미국에서 이를 경찰 교육 등에 사용하기 때문에 무고한 흑인을 오인해 사살하는 사건도 발생하는 것이다"고 분석했다.

‘파워 온’의 등장 인물들은 작가가 실제로 만난 미국 공립학교 학생들을 모티브로 한다. 편견과 차별을 몸소 겪어온 한국계, 히스패닉계, 아프리카계 등 미국사회의 소수자 집단을 대표한다. 류 작가는 "본격 AI 시대를 살아갈 10대들이 실제 세계의 문제와 기술과의 관계를 제대로 아는 것이 중요하다"면서 "윤리적인 질문이 AI 프로그램 개발 과정의 일부가 돼야 한다"고 강조했다.

박동미 기자