核만큼 무서운 빅데이터… 인류에게 ‘WMD’ 되나

대량살상 수학무기 / 캐시 오닐 지음, 김정혜 옮김 ／ 흐름출판

‘사피엔스’의 저자인 역사학자 유발 하라리는 최근작 ‘호모 데우스’에서 곧 도래할 미래에 인류는 ‘데이터 교’의 지배를 받을 것이라고 했다. 빅데이터와 수학, 정보기술(IT)이 결합해 만들어진 알고리즘이 ‘보이지 않는 손’이 되어 우리 삶을 지배하는 종교가 될 것이라는 예측이었다. 하라리가 데이터를 종교에 비교한 근거는 세상 모든 곳에 미치는 강력한 힘이었다.

2016년 출간돼 화제를 몰고 온 이 책‘대량살상 수학무기’의 저자인 수학자이자 데이터 전문가 캐시 오닐도 알고리즘으로 이뤄진 수학적 모형이 신과 닮았다고 했다. 그런데 오닐이 생각한 근거는 하라리와 조금 다르다. 그가 말하는 알고리즘과 신의 공통점은 이렇다.

알고리즘은 신처럼 불투명해서 이해하기 힘들다. 각 영역의 최고 사제들, 즉 수학자와 컴퓨터 과학자를 제외하고는 그 누구에게도 내부의 작동 방식을 보여주지 않는다. 그리고 아무리 잘못되거나 유해한 결정을 내려도 신의 평결처럼 반박하거나 수정해 달라고 요구할 수 없다. 전문가답게 구체적 작동 메커니즘에 주목하고 있다. 하라리가 빅히스토리를 그리는 인문학자라면, 오닐은 알고리즘에 정통한 수학자이기 때문이다.

이 책의 가장 큰 특징이자 장점은 바로 이 지점이다. 내부자의 고발, 전문가의 제안. 그가 고발하는 대상은 WMD. 하지만 사담 후세인이나 북한과 함께 떠오르는 대량살상무기(Weapons of Mass Destruction)가 아니다. 저자가 고발하는 WMD는 대량살상 수학무기(Weapons of Math Destruction)이다. 그는 정치, 경제는 물론 교육, 노동, 서비스, 행정, 보험 등 우리가 상상할 수 없는 모든 분야에까지 막대한 영향을 행사하는 빅데이터, 알고리즘, 수학적 모형이 인간의 편견, 오만, 선입견에 입각해 코드화될 경우 인종차별, 빈부 격차, 지역감정 등을 부추긴다며, 그 위험성이 ‘대량살상무기(WMD)’에 비견될 만하다며 ‘대량살상 수학무기(WMD)’라고 칭했다. 이 WMD는 개인의 삶은 물론 인류 미래를 위협한다. 당연히 민주주의도 위험해졌다.

하버드대와 매사추세츠 공대에서 수학을 전공하고 버나드 칼라지 수학과 종신교수였던 그가 이런 내부 고발자가 된 것은 2008년 금융위기가 결정적 계기가 됐다. 바로 그 전 해 그는 추상적 이론이 아닌 실질적 현장 학문으로서 수학을 하겠다며 교수직을 그만두고 헤지펀드의 퀀트(quant)가 됐다. 퀀트는 수학모형 기반의 계량 분석 기법을 활용하는 금융분석가이다. 하지만 그는 2008년 금융 현장에서 부동산 거품을 불러온 서브프라임모기지, 신용부도 스와프 등 수학, 금융기술과 인간의 욕망이 결탁해 탄생한 금융 상품들이 어떻게 대다수 선량한 시민들의 삶을 파괴했는지 지켜보게 된다. 그 뒤 그는 IT 업체 대표로 자리를 옮겨 데이터 과학자가 되지만 그곳에서 각종 알고리즘이 빅데이터와 인공지능이라는 이름으로 금융업계를 넘어 사회의 곳곳에 도입돼 어떤 부정적 결과를 낳고 있는지, 특히 힘없고 약한 사람에게 어떻게 작동하는지를 목격하게 된다. 그가 선택한 길은 내부 고발자였다.

책은 정치, 경제, 노동, 교육, 취업 등 우리 삶의 각 영역에서 WMD가 어떻게 작동하고 있는지, 또 어떻게 작동할 것인지를 보여준다. 예를 들어 상점이나 카페의 종업원이 밤늦게까지 일하다가 매장문을 닫고 퇴근한 뒤, 몇 시간 후 해가 뜨기 전에 출근해 문을 여는 ‘클로프닝(clopening)’이 대표적이다. 이는 기업이 고객의 이동정보, 날씨, 주요 사건, 구매 정보 등 다양한 데이터를 분석해 유연하게 노동자의 근무 시간을 짠 것이다. 기업 입장에선 올바른 선택이고 고객 입장에선 고객 맞춤형이지만 노동자는 더욱 불규칙한 근무 일정에 내몰리게 됐다. 클로프닝은 주로 저임금 단순업무에 적용된다. 결과적으로 저소득층일수록 불규칙한 생활 환경에 내몰리고 더 나은 일자리를 위한 교육과 훈련을 받을 수 없어 빈곤의 악순환에 빠져드는 것이다.

WMD 작동의 3원칙은 이렇다. 불투명성, 확장성, 피해의 악순환이다. 알고리즘 내부는 공개되지 않는다. 누군가 알고리즘을 들여다봐도 개발자 이외에는 숨겨진 평가 기준을 알 수 없도록 불투명하다. 하나의 모형은 다른 영역으로 계속 확장, 적용된다. 신용평가 점수만 해도, 대출이나 신용카드 발급 등 금융업계를 넘어 취업, 보험, 결혼에까지 평가 잣대로 쓰인다. 피해의 악순환이다.

물론 알고리즘이나 수학적 모형 자체가 위험한 것은 아니다. 모든 기술이 그렇듯 그 자체로는 가치 중립적이다. 착한 모형도 있다. 골다공증이나 뇌졸중 위험을 측정하는 모형, 미적분에 취약한 학생들을 도와주는 모형, 삶을 바꿔 놓을 대실패를 경험할 가능성이 큰 사람들을 예측하는 모형 등 그 종류도 다양하다. 어떤 학생은 세심하게 고안된 평가 척도로 누구도 모르는 잠재력이 인정돼 명문대에 진학할 수도 있고 좋은 직장을 구할 수도 있다. 하지만 아무리 선한 의도로 만들어진 모형도 예상치 않은 부수적 피해자를 만들 수 있고, 편견, 선입견, 최악의 경우 나쁜 의도와 결합하게 되면 인류를 디스토피아로 몰고 갈 수도 있다.

그의 대안은 이렇다. 먼저 투명성이다. 모형의 입·출력물, 모형에 입력되는 데이터와 모형이 생산한 결과를 공개함으로써 투명성이 확보돼야 한다. 감시도 받아야 한다. 강력한 힘을 가졌기에 경계의 담장을 절대 낮추어서는 안 된다. 이와 함께 저자가 제안한 WMD에 대한 근본적인 저항선은 바로 우리의 도덕이다.

그가 마지막 페이지에서 써내려간 조언은 이렇게 풀려나간다. “데이터가 사라지는 날은 오지 않는다. 수학은 말할 것도 없고 컴퓨터도 영원히 인류와 함께할 것이다. 예측 모형들은, 우리가 제도적 시스템을 운영하고 자원을 배치하고 우리의 삶을 관리하기 위해 갈수록 더욱 의지해야 하는 도구가 될 것이다. 그러나 이런 모형들은 데이터뿐 아니라 우리가 어떤 데이터에 관심을 기울이고 어떤 데이터를 배제할지에 관한 선택을 토대로 만들어진다. 당연히 물류, 이익, 효율성과 관련된 선택도 있지만 본질적으로 그런 선택은 도덕과 관련이 있다.” 허약하기 짝이 없지만 인간을 인간이게 하는 도덕. 결국 우리의 운명은 우리의 손에 달렸다는 평범한 출발점으로 다시 돌아온다. 392쪽, 1만6000원.

최현미 기자 chm@munhwa.com