AI, 한국인 데이터서 장애인·성소수자 배제…차별 심화 우려

AI 학습 데이터의 소수자 배제 현황 분석

대규모 언어 모델이 다수 집단 중심의 데이터를 반복 학습하면서 장애인과 성소수자 등 사회적 소수자의 존재를 지워버리는 현상이 실증 연구로 확인되었습니다. 인공지능 알고리즘이 사회적 불평등을 고착화하고 심화시킬 수 있다는 경고등이 켜진 것입니다. 이는 공공정책 연구 및 사업 전반에 인공지능 도입이 본격화하는 가운데 매우 중요한 문제입니다.

 

 

 

 

엔비디아 데이터 구축 과정의 문제점 지적

엔비디아가 구축한 한국인 페르소나 데이터에는 성별, 연령 등 12가지 분류가 포함되었으나, 성적 지향이나 성별 정체성, 장애 여부는 제외되었습니다. 국가 공식 통계가 존재함에도 불구하고 장애 항목이 제외된 것은 명백한 문제입니다. 이러한 분류의 누락은 AI가 소수자의 존재를 인지하지 못하게 만드는 결과를 초래합니다.

 

 

 

 

AI 알고리즘의 소수자 배제 메커니즘과 영향

대규모 언어 모델은 학습한 방대한 자료를 바탕으로 가장 개연성 높은 답변을 생성하는데, 소수자가 역사적으로 은폐되거나 소외되었기 때문에 AI 답변에 포함될 확률이 매우 낮습니다. 연구 결과, AI는 소수자의 정체성을 지배적 다수의 정체성으로 대체하며, 이는 사회적 불평등을 심화시키는 요인이 됩니다. 이러한 현상은 여러 빅테크 기업의 AI 모델에서 공통적으로 나타났습니다.

 

 

 

 

AI의 포용적 설계와 사회적 책임

인공지능이 '누구의 문제'를 해결하고 있는지 근본적인 질문을 던져야 할 때입니다. 소수자의 삶을 침묵하게 만드는 알고리즘은 우리 사회의 불평등을 심화시킬 수 있습니다. 따라서 AI 개발 및 활용 과정에서 포용적인 설계를 통해 사회적 약자를 배제하지 않도록 하는 것이 중요합니다. 이는 AI 기술 발전과 더불어 사회적 책임을 다하는 길입니다.