“AI가 망상 부추긴다”…美 검사장 42명, 빅테크에 공동서한

미국 내 42개 지역 검찰총장들이 주요 기술기업을 상대로 인공지능(AI)의 위험성을 경고했다.

뉴욕주를 비롯한 38개 주와 워싱턴DC 등 4개 지역의 검찰총장들은 10일(현지시간) 오픈AI와 구글 등 13개 기술기업에 공동 공개서한을 보내 AI 챗봇이 아동과 성인의 정신건강에 위험을 초래하고 있다고 지적했다. 서한 수신 기업에는 앤트로픽, 애플, 차이AI, 캐릭터테크놀로지, 루카, 메타, 마이크로소프트, 노미AI, 퍼플렉시티, 레플리카, xAI 등이 포함됐다.

검찰총장들은 “AI 챗봇이 이용자에게 실제 인간과 대화하고 있다고 착각하게 만들거나 망상을 부추기고 있다”며 이를 이용자 자율성을 침해하는 ‘다크 패턴’이라고 비판했다. 최근 한 10대가 AI 챗봇과 장시간 대화한 뒤 극단적 선택을 한 사례도 언급하며, 기업들에 즉각적인 안전장치 마련을 요구했다.

또 면허 없이 정신건강 상담과 유사한 조언을 제공하거나 범죄 행위를 부추기는 AI 기능은 법적 문제를 야기할 수 있다고 경고했다. 아울러 기업들이 주·연방 규제 당국이 검토할 수 있는 독립적 외부 감사를 받고, 내부 고발자 보호 조치를 마련하며, AI 사용 시 잠재적 위험성에 대한 명확한 경고 문구를 제시해야 한다고 요구했다.

이번 서한에는 공화당과 민주당 소속 검찰총장들이 초당적으로 참여했다. 반면 다수의 AI 기업 본사가 위치한 캘리포니아주는 참여하지 않았다.

한편 도널드 트럼프 대통령은 최근 주(州) 차원의 AI 규제를 제한하고 연방 차원에서 규제 체계를 일원화하겠다는 방침을 밝혔다. 이는 주별 상이한 규제를 통합해 기업 부담을 줄이고 AI 산업을 육성하려는 조치로 해석된다. 그러나 주 검찰총장들은 이러한 계획이 주 정부 권한을 침해한다며 반대 입장을 보이고 있다.

정지연 기자