“AI 젠더 편향성 심각…검증된 데이터 사용하고, 법에 성평등 조항 명시해야”

  • 문화일보
  • 입력 2023-11-08 09:53
프린트

photo클릭하시면 더 큰이미지를 보실 수 있습니다 게티이미지뱅크



한국여성정책연구원, 8일 제134차 양성평등정책포럼 개최
"기술이 발전할수록 AI 젠더 편향성이 심화될 것"



국내 인공지능(AI) 비서 음성 기본값이 대부분 여성으로 설정돼 있는 등 기술이 발전할수록 AI 젠더 편향성이 심화될 수 있다는 지적이 제기됐다. 이 때문에 AI 기술 개발 단계에서부터 성 평등한 데이터를 활용하도록 하고, 관련 법에 성 평등 준수 관련 조항을 포함시켜야 한다는 제언이다.

8일 한국여성정책연구원이 ‘인공지능(AI) 딥러닝의 젠더 편향성과 대응 모색’을 주제로 개최한 제134차 양성평등정책포럼에서는 AI 젠더 편향성을 극복하기 위해 다양한 장치가 마련돼야 한다는 주장이 나왔다. 이날 허유선 한밭대 AI와 가치연구소 연구원은 "AI의 젠더 편향성은 반복적으로 발생하고 있으며, 관련 이슈를 전문적으로 다루는 정책적 논의도 이루어지지 않고 있다"며 국내 AI 비서 기본값이 대부분 여성으로 설정된 것, AI가 성적 착취 및 수익화 목적과 결합한 것 등을 예로 들었다. 이어 "AI 젠더 편향성은 역사·사회적으로 누적돼 만연한 젠더 편향에 토대를 두고 있어서 주의하지 않으면 기술이 발전할 수록 심화될 것"이라고 전망했다.

문미경 한국여성정책연구원 선임연구위원은 AI 젠더 편향성이 나타난 근본 원인으로 "정제되지 않은 특정 인종·연령·성별에 대한 차별 소스가 데이터로 활용"되는 상황을 지적했다. AI 챗봇 ‘GPT-3’가 영어를 모국어로 쓰는 20∼30대 미국·영국 백인 남성이 작성한 텍스트를 데이터로 학습하면서 인종이나 성별에 따른 편향성 논란이 나온 것을 대표적인 예로 들었다. 문 선임연구위원은 이어 "국내 인공지능 관련 법령에서 성차별을 금지하거나 성 불평등을 제어하는 조항이 없다"며 지능정보화기본법에 관련 분야의 정책 전반에 걸쳐 양성평등 준수를 고려하는 조항을 명시해야 한다고 했다. 또 △경제협력개발기구(OECD)와 유럽연합(EU) 등의 ‘인공지능 윤리에 대한 권고안’과 같은 제도 마련 △인공지능 윤리 영향 평가를 수행할 심의 전담 기구 설치 △교육용이거나 미성년자를 대상으로 하는 인공지능의 경우 성 편향성이 검증된 데이터만 사용 등이 필요하다고 강조했다.

인지현 기자
인지현
주요뉴스
기사댓글
AD
count
AD
AD
AD
ADVERTISEMENT