핵폭탄 만들었을 때처럼...'인간 통제력 상실' 초지능 AI 위기 [지금이뉴스] / YTN

인공지능(AI) 기술의 급격한 발전으로 인간 수준을 넘어선 초지능(Super Intelligence) 개발 단계에 진입했다는 주장이 나오면서 '인간의 통제력 상실'이란 근본적 우려가 제기되고 있습니다.

2일 IT 업계에 따르면 마크 저커버그 메타 CEO는 최근 연례 서한과 페이스북 등을 통해 초지능 구현이 가시권이라고 선언했습니다.

저커버그는 "지금까지 몇 달간 동안 AI 시스템이 스스로를 개선하는 모습을 목격했다"며 "(페이스북·인스타그램 등에서 수많은 AI 알고리즘을 살핀 결과) '초기 자기개선'(self-improvement)의 징후를 보이기 시작했다"고 밝혔습니다.

이어 "초지능은 다른 차원의 새로운 안전 우려를 제기할 것이기에 위험을 완화하기 위해 엄격해야 한다"며 "초지능 기술 혜택은 전 세계에 공유될 것이지만, 오픈소스로 공개하는 것은 신중히 선택해야 한다"고 선을 그었습니다.

메타가 지금까지 라마(Llama) 시리즈를 통해 견지한 오픈소스 정책에서 폐쇄형 전략으로 전환하겠다는 중대 변화를 의미합니다.

샘 올트먼 오픈AI CEO도 오픈웨이트(오픈소스) 모델을 올해 7월 공개한다고 예고했다가 추가 안전 테스트가 필요하다며 출시를 연기했습니다.

올트먼은 최근 팟캐스트 방송(This Past Weekend)에 출연해 "차세대 통합모델 'GPT-5'(GPT시리즈+o시리즈) 테스트 중 두려움을 느꼈다"며 "맨해튼 프로젝트와 같은 순간이었다"고 털어놨습니다.

그는 "테스트 일부 세션에선 매우 긴장했고 시작할 때 방 안에 어른이 없는 것 같은 느낌을 받았다"며 "AI 개발자들도 핵폭탄을 만든 맨해튼 프로젝트 과학자들처럼 '우리가 뭘 만든 거지'라는 질문을 던지게 될 수도 있을 것"이라고 말했습니다.

AI 관련 글로벌 리더와 학계는 오래전부터 AGI 또는 초지능 구현 시 인간의 통제력 상실 위험을 강하게 강조해왔습니다.

앞파폴드 개발 공로로 노벨화학상을 수상한 데미스 허사비스 구글 딥마인드 CEO는 지난 6월 CNN과의 인터뷰에서 AI 시스템의 통제 불능 상황이 일자리 대체 문제보다 더 심각한 결과를 초래할 수 있다고 경고했습니다.

허사비스는 "나쁜 의도를 가진 사람들이 AI를 악용할 가능성이 있다"며 "AI 기술이 선한 목적에만 활용되도록 글로벌 합의가 필요하다"고 주장했습니다.

맥스 테그마크 MIT 물리학과 교수는 MIT 학생 3명과 공동 저술한 논문에서 "초지능 AI가 인간 통제를 벗어날 확... (중략)

▶ 기사 원문 : https://www.ytn.co.kr/_ln/0134_202508040942288788
▶ 제보 안내 : http://goo.gl/gEvsAL, 모바일앱, social@ytn.co.kr, #2424

▣ YTN 데일리모션 채널 구독 : http://goo.gl/oXJWJs

[ 한국 뉴스 채널 와이티엔 / Korea News Channel YTN ]