앤트로픽 연구원, AI 인류 멸망 경고하며 사표 제출…10년 내 현실화 가능성 제기

AI 기업 내부의 심각한 위험 경고

미국 인공지능(AI) 기업 앤트로픽의 연구원이 AI가 인류를 파멸시킬 수 있다는 심각한 경고와 함께 회사를 떠났습니다. 퇴사한 연구원은 AI 시스템 개발 경쟁이 안전 문제를 뒷전으로 밀 수 있다고 우려를 표했습니다. 스스로 성능을 개선하는 AI가 인간의 통제를 벗어날 가능성도 제기되었습니다.

 

 

 

 

AI 개발 경쟁의 위험성과 통제 불능 가능성

AI 개발자들은 이 기술이 10년 안에 인류를 멸망시킬 수 있다고 진심으로 믿고 있다고 합니다. 머지않아 AI는 무엇이든 해킹하고 실질적인 권력을 확보하는 초인적 체계가 될 것이라는 경고가 나왔습니다. 가장 공격적인 시나리오 상당수가 현실화하고 있으며, 내년 말이면 상황이 통제 불능에 빠질 수도 있다는 분석입니다.

 

 

 

 

업계 리더들의 동의와 상업적 동기

앤트로픽 내부 임원들도 AI가 모든 인류를 멸망시킬 수 있다는 연구원의 말에 동의했습니다. 개인적으로 10년 이내에 그 확률이 10%를 넘을 것이라고 생각한다는 의견도 제시되었습니다. 그럼에도 AI 개발을 지속하는 것은 상업적 인센티브와 경쟁 심리가 복합적으로 작용하기 때문이라고 설명했습니다.

 

 

 

 

AI 위험 통제를 위한 국제적 노력 촉구

개별 기업의 노력만으로는 AI의 위험을 통제할 수 없으며, 양대 AI 기업 모두 책임감 있게 행동하지 않고 있다고 비판했습니다. 인류의 미래에 막대한 영향을 미칠 수 있는 AI 개발이 소수 엔지니어의 판단에 맡겨진 현실은 일종의 광기라고 지적했습니다. 정부의 개입이나 AI 업계의 공동 대응을 통한 국제적인 체계 마련이 시급합니다.