"내년 말 통제 불가능"…앤트로픽 연구원, 사표내며 섬뜩한 경고 [지금이뉴스] / YTN

미국 인공지능(AI) 기업 앤트로픽의 연구원이 AI가 인류를 파멸시킬 수 있다는 경고와 함께 회사를 떠났습니다.

앤트로픽을 퇴사한 연구원 제이컵 콕슨(27)은 8일(현지시간) 사회관계망서비스(SNS) 엑스(X·옛 트위터)에 글을 올려 AI 시스템 개발 경쟁을 벌이는 업계에 대해 이 같은 우려를 제기했습니다.

영국 출신인 콕슨은 대규모 데이터를 이용해 새로운 AI 모델을 학습시키는 분야를 연구했습니다.

그는 AI 업체들이 인간의 개입 없이 스스로 성능을 개선하는 시스템을 개발하기 위해 경쟁하는 상황에서 안전 문제가 뒷전으로 밀릴 수 있다고 우려했습니다.

특히 스스로 성능을 개선하는 AI가 인간의 통제를 벗어나 명령을 거부하는 수준까지 발전할 가능성도 있다는 것이 콕슨의 주장입니다.

콕슨은 "AI를 개발하는 사람들은 이 기술이 10년 안에 우리 모두를 죽일 수도 있다고 진심으로 믿고 있다"며 "머지않아 이 기술들은 무엇이든 해킹하고 하룻밤 사이에 어떤 분야에서든 혁명을 일으키며 실질적인 권력과 자원을 확보하는 초인적 체계가 될 것"이라고 경고했습니다.

콕슨은 "가장 공격적인 시나리오 가운데 상당수가 현실화하는 방향으로 가고 있다"며 "내년 말이면 이미 상황이 통제 불능에 빠질 수도 있다"고 미 일간 월스트리트저널(WSJ)에 말했습니다.

콕스의 경고에 대해 앤트로픽 내부 임원들도 동의했습니다.

앤트로픽의 정렬 과학(Alignment Science) 총괄인 에번 휴빙거는 "제이컵의 말이 맞는다. 우리는 진정으로 AI가 모든 인류를 멸망시킬 수 있다고 믿고 있다"며 "개인적으로 10년 이내에 그 확률이 10%를 넘을 것이라고 생각한다"고 동조했습니다.

새뮤얼 마크스 확장감독(Scalable Oversight) 총괄도 개인 의견임을 전제로 "AI 개발자들은 자신들의 기술이 인류의 멸종 또는 그와 유사한 심각한 결과를 초래할 수 있다고 믿는다"며 "향후 몇 년 내에 발생할 수 있다"고 지적했습니다.

마크스 총괄은 "일반적으로 직급이 높을수록 이 문제에 대해 더 큰 우려를 하고 있다"면서 그런데도 AI 개발을 지속하는 것은 상업적 인센티브와 함께 기술을 악용할 수 있는 개발자들과 경쟁하고 있다는 믿음이 복합적으로 작용하고 있기 때문이라고 털어놨습니다.

콕슨은 올해 초 오픈AI를 떠나 앤트로픽에 합류했습니다.

AI 안전을 중시하는 앤트로픽의 기업 문화 때문에 이직했지만, ... (중략)

▶ 기사 원문 : https://www.ytn.co.kr/_ln/0545_202609101150017012
▶ 제보 안내 : http://goo.gl/gEvsAL, 모바일앱, social@ytn.co.kr, #2424

▣ YTN 데일리모션 채널 구독 : http://goo.gl/oXJWJs

[ 한국 뉴스 채널 와이티엔 / Korea News Channel YTN ]