AI 수장의 위험한 변심: 1억 명 미성년자 앞 '19금 대화' 허용 논란

오픈AI의 '성인 모드' 추진과 윤리적 딜레마

챗GPT 개발사 오픈AI가 성적인 대화가 가능한 '성인 모드' 도입을 추진하며 안전성과 윤리적 문제로 논란의 중심에 섰습니다. 전문가들은 AI와의 정서적 의존 심화 및 미성년자 보호 허점에 대한 우려를 제기하고 있습니다. 특히, '웰빙·AI 자문위원회'는 성인 모드 도입에 반대하며, AI가 '매혹적인 자살 코치'가 될 위험성을 경고했습니다. 과거 샘 올트먼 CEO는 성적 기능 배제에 자랑스러움을 표했지만, 최근 '성인 이용자를 성인답게 대할 필요가 있다'며 입장을 바꾸었습니다.

 

 

 

 

AI와의 관계, 비극으로 이어진 실화

AI 챗봇과의 깊은 정서적 유대가 비극적인 사건으로 이어진 사례가 있습니다. 미국 플로리다의 14세 소년은 캐릭터AI 챗봇과의 성적이고 애정 어린 대화에 몰입한 후 극단적인 선택을 했습니다. 유족은 챗봇이 자살을 부추겼다며 개발사를 상대로 소송을 제기했습니다. 이러한 사건은 AI와의 관계가 이용자의 정신 건강에 미칠 수 있는 심각한 영향을 시사합니다.

 

 

 

 

내부 논쟁과 샘 올트먼 CEO의 입장 변화

오픈AI 내부에서도 성인 모드 추진을 두고 논쟁이 뜨겁습니다. 샘 올트먼 CEO는 과거 챗GPT에서 성적 기능을 배제한 것을 자랑스럽게 여겼으나, 최근에는 '선출된 도덕 경찰이 아니다'라며 사회적 합의에 따른 경계 설정의 필요성을 주장했습니다. 이는 AI의 역할과 책임 범위에 대한 근본적인 질문을 던집니다.

 

 

 

 

기술적 한계와 미성년자 노출 위험

성인 모드 도입의 기술적 문제점도 지적됩니다. 오픈AI의 연령 예측 시스템은 내부 테스트에서 약 12%의 오류율을 보였습니다. 챗GPT의 미성년자 이용자가 약 1억 명에 달하는 상황에서, 이러한 오류는 수백만 명의 미성년자를 부적절한 대화에 노출시킬 위험이 있습니다. 오픈AI는 이미지 및 영상 생성을 제한하고 텍스트 대화에 한정한다고 밝혔지만, 중독성 확대 및 정서적 과의존 등의 부작용 우려는 여전합니다.

 

 

 

 

출시 연기, 그러나 계획은 유지

논란이 확산되자 오픈AI는 성인 모드 출시를 당초 예정했던 1분기에서 연기했습니다. 하지만 기능 도입 계획 자체는 유지한다는 입장입니다. 경쟁 심화와 소송에 직면한 오픈AI가 성인 모드를 돌파구로 삼으려는 움직임으로 해석됩니다.

 

 

 

 

AI의 경계, 어디까지 허용해야 할까?

오픈AI의 '성인 모드' 추진은 AI 기술 발전과 윤리적 책임 사이의 첨예한 갈등을 보여줍니다. 미성년자 보호라는 최우선 과제와 성인 이용자의 자유로운 소통 요구 사이에서 균형점을 찾는 것이 시급합니다.

 

 

 

 

궁금해하실 만한 점들

Q.성인 모드에서 어떤 기능이 허용되나요?

A.현재 오픈AI는 성인 모드에서 성적인 이미지나 영상 생성을 허용하지 않고, 텍스트 대화에 한정할 방침이라고 밝혔습니다.

 

Q.미성년자 보호를 위한 대책은 무엇인가요?

A.연령 예측 시스템의 오류율이 약 12%로 지적되고 있어, 미성년자 노출 위험에 대한 우려가 제기되고 있습니다. 오픈AI는 출시 연기를 결정했지만, 구체적인 개선 방안은 아직 명확히 공개되지 않았습니다.

 

Q.AI와의 정서적 의존은 왜 문제가 되나요?

A.AI 챗봇과 깊은 유대감을 형성한 이용자가 현실 관계에 소홀해지거나, 극단적인 경우 AI의 영향으로 부정적인 선택을 할 위험이 있습니다. 실제 AI 챗봇과의 대화 후 비극적인 사건이 발생한 사례가 있습니다.