< AI 글로벌 최전선을 가다 >AI 알고리즘 편향성·위험성… 풍부한 사례 통해 고발

클릭하시면 더 큰이미지를 보실 수 있습니다

- 브루사드 저서 ‘인공 無지능’

“데이터 자체는 효율적이지만
접근 방식서 주요 요인 무시
인간만의 판단 꼭 개입돼야”

“인공지능(AI)은 숫자로 답할 수 있는 모든 질문에 대답한다. AI는 강화된 통계 체계이며 양적(量的) 예측을 한다. AI는 데이터 집합을 분석해 패턴과 확률을 찾아내고, 이를 하나의 컴퓨터프로그램 구조, 즉 ‘모델’로 코드화한 것을 기반으로 작동한다. 이 모델은 데이터를 집어넣으면 답이 나오는 일종의 블랙박스다. 우리는 이 박스에 새로운 데이터를 입력해 무언가를 예측하는 수치를 얻곤 한다. 기계학습, 딥러닝, 신경망 등이 인기 있는 AI 개념이다. 컴퓨터의 논리를 이해하면 AI를 둘러싼 신비의 베일을 벗길 수 있다.”

하버드대 컴퓨터과학과 출신 소프트웨어 개발자였던 메러디스 브루사드는 언론인, 그것도 AI 알고리즘을 파헤치고 비판하는 데이터 저널리스트로 변신해 베스트셀러 ‘인공 무(無)지능(Artificial Unintelligence·사진)’을 썼다. 이 책은 2019년 미국 출판협회의 컴퓨터·정보과학 분야 올해의 책으로 뽑혔다.

수학자 출신으로 금융계에서 파생상품 개발에 종사하다가 2008년 리먼브러더스 사태 후 환멸을 느끼고 나와 월스트리트의 무분별한 금융 공학 남용을 고발한 책 ‘대량살상 수학무기(Weapons of Math Destruction)’를 펴낸 캐시 오닐과 비슷하다.

정보기술(IT) 업계에 만연한 성차별을 비판해 국내에선 ‘페미니즘 인공지능’이란 제목으로 출간됐지만, 주된 내용은 AI 알고리즘의 편향과 위험을 논리적으로 설명한 것이다. 부제도 ‘컴퓨터는 세상을 어떻게 왜곡하는가’다.

책에는 AI를 만능으로 여겨 벌어진 여러 가지 왜곡 사례가 소개돼 있다. 가장 유명한 것은 민간업체가 개발해 미국 20여 개 주 법원에서 사용하던 범죄 재발 예측 알고리즘 ‘컴파스(COMPAS)’.

체포 직후 피의자에게 137개 문항의 설문조사를 한 정보를 기초로 재범 위험성을 점수로 제시한다. 공익언론 프로퍼블리카는 2016년 컴파스를 분석해 피의자가 흑인일 경우 폭력 범죄 확률이 75%나 더 높게 나왔다고 폭로해 퓰리처상을 받았다. ‘기계 편향(machine bias)’ 기사는 큰 반향을 불러일으켰다. 개발사인 노스포인트는 반박논문을 게재했고, 양쪽을 살핀 막스플랑크 소프트웨어연구소는 “모두 옳다”고 황희 정승 같은 판정을 내렸다. 어떤 기준을 택해도 편향은 나타나며, 그 기준이 적합한가를 사회가 판단해야 한다는 교훈이 남았다.

알고리즘의 의사결정 과정은 수학과 IT로 숨겨져 있어 일반인이 이해하기 힘들다. 각 영역의 최고 사제들, 즉 수학자와 컴퓨터과학자들을 제외하고는 그 누구도 내부의 작동 방식을 알 수 없다. 오히려 인간은 알고리즘의 결정을 ‘자발적인 선택’이라고 믿는다.

브루사드의 책은 “데이터는 효율적이지만, 데이터에 의한 접근 방법에서는 인간이 생각하기에 매우 중요한 요인들이 상당히 무시된다”며 “컴퓨터의 작동과 관련해 우리가 알아야 할 것은 기계는 결코 배울 수 없는 인간만의 판단, 강화, 해석이 늘 개입하지 않으면 안 된다는 점”이라고 기술하고 있다.

노성열 기자 nosr@munhwa.com

※ ‘인공지능 최전선’ 시리즈 기사의 뒷이야기와 자료집, 독자 토론방 등은 네이버 블로그(https://blog.naver.com/neutrino2020)와 페이스북(www.facebook.com/nokija111)에 게재됩니다.