“AI 통제상실 위험”… 오픈AI·구글 전현직 13인 경고

■ 엔지니어·연구자 등 성명서

“인류 멸망까지 초래할 수 있어
기업내 규제만으론 해결 못해”
구글 닐 난다 엔지니어 등 참여
‘내부고발자 보호’ 4대원칙 촉구
세계적 석학 3인도 지지 밝혀

구글과 오픈AI의 전·현직 직원 13명이 인공지능(AI)의 위험을 경고하고 나섰다. 이들은 AI가 인류 멸망까지 초래할 수 있다며 AI 위험성 우려에 대한 비방 금지 등 4대 원칙 준수를 AI 기업에 촉구했다.

4일 이들은 공동 성명을 통해 “우리는 AI 기술에 의해 야기되는 심각한 위험을 알고 있다”며 AI 기업에 △위험성 우려에 대한 비방이나 비판 금지 계약 체결 금지 △독립 기관에 위험 관련 우려 사항 제기하는 익명 절차 마련 △공개 비판 문화 지원 및 독립 조직에 우려 사항 제기 허용 △위험 관련 정보 공개 공유 현·전 직원에 대한 보복 금지 등을 요구했다.



성명에는 오픈AI에서는 다니엘 코코타일로 전 정책 및 거버넌스 연구원과 제이컵 힐튼·윌리엄 손더스·캐럴 웨인라이·다니엘 지글러 전 엔지니어 등 전직 직원 5명이 실명으로 참여했으며, 6명의 오픈AI 전·현직 직원이 익명으로 참여했다. 구글 딥마인드에서는 닐 난다 엔지니어와 라마나 쿠마르 전 연구과학자 등 전·현직 직원 2명이 실명으로 참여했다. 또 이날 성명에 딥 러닝과 AI 분야 대부로 평가받는 요슈아 벤지오와 AI의 아버지로 불리는 제프리 힌턴, 세계적인 AI 석학인 스튜어트 러셀이 지지를 밝혔다. 이들은 성명에서 “AI 위험은 기존의 불평등을 심화시키는 것부터 조작과 잘못된 정보, 잠재적으로 인간의 멸종을 초래하는 자율적인 AI 시스템의 통제 상실까지 다양하다”며 “전 세계 여러 국가의 정부와 AI 전문가들, 나아가 오픈AI나 구글, 앤트로픽 같은 AI 기업도 이를 인정했다”고 지적했다. 이들은 AI 기업이 AI의 위험성을 인지하고 있음에도 불구하고 적절한 조치를 취하지 않고 있어 정부 규제가 해결책이라고 주장했다. 이들은 “AI 기업은 다양한 종류의 위험 수준에 대한 상당한 양의 비공개 정보를 갖고 있지만, 이를 공개할 의무가 없고, 자발적으로 공유할 생각도 없다”며 “기업 내부 규제 시스템만으로는 이 문제를 해결할 수 없다”고 지적했다. 그러면서 AI 기업이 AI의 위험성을 인지하고 있음에도 불구하고 적절한 조치를 취하지 않으며, 정부 규제만이 해결책이라고 주장했다.

이들은 또 AI의 위험성에 대해 AI 기업 직원들도 목소리를 낼 수 있는 절차가 필요하다고 주장했다. 이들은 “우리는 이런 위험을 적절히 완화할 수 있기를 희망한다”면서 “AI 기업은 그러나 이윤 추구 목표로 제대로 된 감독을 하지 못하고 기업 내부의 규제 시스템만으로는 문제를 해결할 수 없다”고 지적했다. 이어 “일반적인 내부고발자 보호는 불법행위에 초점이 맞춰져 있으며, 우리 중 일부는 업계 전반에 걸쳐 이런(내부 고발) 사례의 역사를 고려할 때 다양한 형태의 보복을 두려워한다”며 위험 관련 정보를 공개적으로 공유하는 전·현직 직원에 대한 보복 금지 등을 촉구했다.

황혜진 기자 best@munhwa.com