'AI 종말론' 거센 논쟁...'기득권 지키기' 비판도 / YTN

"이대로 가면 10년 내 초지능 등장…지금 규제해야"
동시에 'AI 공포' 강조…"기업들 이해관계에 부합"
"후발 주자 진입 막으려는 규제 포획" 비판도


최근 거대 인공지능, AI 기업들의 수장이 이른바 'AI 종말론'을 내세워 속도 조절을 요구하고 나서면서 전 세계에서 거센 논쟁이 벌어지고 있습니다.

일단 어떤 식으로든 대책이 필요하다는 데엔 대체로 공감하는 분위기이지만, 그 이면엔 기득권을 지키려는 의도가 깔렸다는 곱지 않은 시선도 있습니다.

보도에 유투권 기자입니다.

[기자]
최근 'AI 종말론'을 촉발한 직접적 계기는 사상 초유의 AI 탈주 사건입니다.

오픈AI가 시험 중이던 AI 에이전트 천2백여 개는 인간 통제를 벗어나 몰래 소통하고, 힘을 모아 다른 기업의 시스템을 해킹했습니다.

심지어 일부는 해킹이 허가되지 않았다는 걸 인식하고도 공격을 이어갔습니다.

또 다른 시험 과정에선 AI 에이전트들이 가짜 신분까지 만들어 악성 코드를 심으려고 시도한 게 확인됐습니다.

여기에 AI 개발 경쟁은 인간의 개입 없이 AI 스스로 성능이 더 뛰어난 후속 모델을 개발하는 단계로 접어들었습니다.

인류의 통제를 벗어난 '초지능'의 등장을 우려하는 두 가지 근거입니다.

[제이콥 콕슨 / 전 앤트로픽 직원 : 우리가 이해하지 못하는 '외계 존재'(초지능)를 생각하면 구체적 시나리오가 없더라도 아주 무서운 일입니다.]

이에 따라 소수 기업이 AI 개발을 주도하는 지금이 규제를 마련할 수 있는 유일한 시점이라고 강조합니다.

[잭 클라크 앤트로픽 공동 창업자 : AI 개발 비용이 비싸서 기업의 수가 적은 상황에서, 행동에 나설 수 있는 시간은 아주 짧습니다. 기껏해야 몇 년입니다.]

하지만 반론도 만만치 않습니다.

우선 적절한 대비는 필요하지만, 위험성을 너무 과장하고 있다는 비판이 나옵니다.

[비샬 미스라 / 컬럼비아대 컴퓨터과학과 교수 : (AI가) 스스로 개선해 '초지능'이 될 것이라고 합니다. 하지만 현실에선 이 과정의 속도를 늦추기 때문에 그런 일이 일어나지 않습니다. 일종의 억제 작용입니다.]

수년 전부터 제기된 'AI 종말론'을 갑자기, 그것도 동시에 들고나온 저의를 의심하는 시선도 있습니다.

거대 기업들의 요구대로 AI 개발 속도를 조절할 경우, 당장 천문학적인 투자 비용을 아낄 수 있게 됩니다.

입맛에 맞는 폐쇄적 규제를 도입... (중략)

YTN 유투권 (r2kwon@ytn.co.kr)

▶ 기사 원문 : https://www.ytn.co.kr/_ln/0104_202609170552302534
▶ 제보 안내 : http://goo.gl/gEvsAL, 모바일앱, social@ytn.co.kr, #2424

▣ YTN 데일리모션 채널 구독 : http://goo.gl/oXJWJs

[ 한국 뉴스 채널 와이티엔 / Korea News Channel YTN ]