“AI로 망자 되살리는 데드봇, ‘디지털 스토킹’ 우려”…연구팀 경고

클릭하시면 더 큰이미지를 보실 수 있습니다 게티이미지뱅크

데드봇·그리프봇, 생전 대화 기록으로 망자를 챗봇 형태로 재현
"미성년자의 경우 더 취약할 가능성…정상적 애도 과정 방해"

세상을 떠난 가족이나 지인을 평소 대화 기록을 이용해 인공지능(AI) 챗봇 형태로 재현하는 이른바 ‘데드봇’(deadbot) 기술이 자칫 유족에게 심각한 심리적 피해를 가져다줄 수 있다는 연구 결과가 나왔다. 연구진은 이에 대한 규제 필요성을 제기했다.

9일(현지시간) 영국 가디언·더타임스 등의 보도에 따르면, 영국 케임브리지대 연구팀은 논문에서 최근 늘고 있는 데드봇 서비스가 상업적으로 이용되거나 미성년자를 대상으로 사용될 경우 지속적인 정신적 피해를 초래하고 고인의 존엄을 훼손할 수 있다고 경고했다.

데드봇, 또는 ‘그리프봇’(griefbot)이라고 불리는 이 기술은 사망한 가족이나 지인을 평소 나눈 대화를 기반으로 AI 챗봇 형태로 재현한다. 유족이나 지인들은 이 서비스를 통해 마치 죽은 사람과 대화하는 듯한 느낌을 받을 수 있다.

이 서비스는 주로 가족을 잃은 유족이 그리움을 달래기 위해 사용한다. 시한부 판정을 받은 환자가 남겨질 가족을 위해 직접 이 서비스를 이용하는 사례도 있는 것으로 전해진다.

그러나 영국 케임브리지대 리버흄 미래 지능 연구센터(LCFI) 연구팀은 최근 논문에서 데드봇 서비스 회사가 점점 늘고 있지만 이에 대한 법적인 제재는 거의 없어 악용될 우려가 있다고 지적했다.

연구팀은 특히 비윤리적인 기업이 데드봇 기술을 통해 광고 메시지를 보내는 등 이를 부적절하게 수익화한다면 이는 유족에게 큰 심리적 피해를 가져올 수 있다고 우려했다. 데드봇이 유족이 원치 않는 스팸이나 서비스 약관 업데이트 등의 메시지를 보낸다면 유족은 마치 사망한 이에게 ‘디지털 스토킹’을 당하는 것과 같은 심리적 타격을 입을 수 있다는 것이다.

연구팀은 서비스 이용자가 미성년자일 경우 그 위험이 더 커질 수 있다고 우려했다. 정상적인 애도 과정을 방해해 아이들에게 심각한 심리적 피해를 초래할 수 있다는 것이다. 연구팀은 "어떤 서비스도 아이들이 ‘데드봇’과 소통하는 것이 이들에게 더 이롭거나 취약한 상태인 이들에게 해가 되지 않는다는 것을 증명하지 못한다"고 지적했다.

연구팀은 특정 기간이 지나면 데드봇 서비스를 더 이상 이용할 수 없게 하는 ‘은퇴’ 혹은 ‘디지털 장례’ 절차를 도입하거나, 서비스 이용 대상을 성인으로만 제한하는 등 적절한 규제가 필요하다고 강조했다. 또 데드봇이 광고 등 부적절한 방식으로 사용되는 것을 막고, 서비스 제공 회사가 개인 정보 활용 방식과 한계에 대해 투명하게 밝히게 해야 한다고 제안했다.

오남석 기자