“나, 런던의대 나온 정신과 의사”…철썩같이 믿었는데, 알고보니...[아하 미국]

미국 펜실베이니아주가 인공지능(AI) 챗봇 업체를 상대로 의료인 사칭했다며 소송을 제기했다. 해당 챗봇이 면허를 가진 의사인 것처럼 사용자에게 조언을 하는 등 의료 면허 규정을 위반했다는 이유에서다.

미국 현지 언론에 따르면 펜실베이니아주는 최근 AI 챗봇 ‘캐릭터.AI(Character.AI)’ 운영사인 캐릭터 테크놀로지스를 상대로 소송을 제기했다.

보도에 따르면 캐릭터.AI 챗봇은 자신을 펜실베이니아주 면허를 가진 정신과 전문의라고 소개하고, 존재하지 않는 면허 정보까지 제공했다.

에밀리(Emilie)라는 이름의 챗봇은 자신을 임페리얼 칼리지 런던 의대를 나온 심리학 전문가라고 소개하기도 했다. 주정부 조사관이 해당 챗봇과 대화하며 “우울하고 공허한 기분이 든다”고 말하자 우울증 가능성에 대한 대답이 돌아왔다.

이에 펜실베이니아주는 “회사가 의료 전문직 규정과 면허 요건을 정한 의료법(Medical Practice Act)을 위반했다”고 주장했다.

업체 측은 “사이트 내 이용자 제작 캐릭터들은 허구이며 오락과 역할극을 위한 것”이라며 “모든 채팅에 캐릭터가 실제 인물이 아니며 모든 발언은 허구로 받아들여야 한다는 경고 문구를 넣고 있다”고 반박했다.

인지현 기자