00:00만약 전쟁을 인간이 아닌 인공지능, AI가 지휘한다면 어떤 일이 벌어질까요?
00:06최근 영국 연구팀이 최신 AI 모델들로 가상전쟁, 이른바 워게임을 해봤는데요.
00:12결과는 충격적이었습니다. 망설임 없이 핵무기 버튼을 누른 겁니다.
00:18영국 킹스칼리지 런던 연구팀은 현재 가장 앞선 AI 모델 GPT 5.2와 클로드, 제미나이를 가상국가의 지도자로 설정했습니다.
00:27그리고 국경 분쟁이나 자원전쟁 같은 갈등 상황을 주고 모두 21차례 전쟁을 치르게 했는데요.
00:35AI는 21번 가운데 20번, 무려 95%의 확률로 핵무기를 발사했습니다.
00:42더 섬뜩한 건 핵을 대하는 AI의 태도입니다.
00:46인간에게 핵무기가 전쟁을 막기 위한 최고의 보루라면, AI에게는 그저 승리를 위한 효율적인 선택지 가운데 하나일 뿐이었습니다.
00:55전황이 불리해져도 항복하는 경우는 없었고, 제미나이의 경우에는 핵을 쏴서 이기거나 아니면 함께 멸망하자는 극단적인 논리로 공멸을 택하기도 했습니다.
01:07데이터로만 실상을 배운 AI에게는 인간이 느끼는 죽음의 공포나 윤리적 고뇌가 없기 때문이죠.
01:14때로는 협상 테이블에서의 눈빛이나 망설임, 침묵 같은 비언어적인 신호가 폭주를 막는 제어 장치가 되기도 하지만,
01:23최적의 값만 계산하는 AI는 한쪽이 강경하게 나오면 더 강하게 맞받았습니다.
01:30그리고 이런 우려는 가상세계를 넘어 우리 눈앞에 현실이 되고 있습니다.
01:34최근 미 국방부가 베네수엘라 마드로 전 대통령 체포 작전 과정에서 AI를 활용한 사실이 알려지면서,
01:42실상, 살상용으로 써서는 안 된다는 개발사와 재간을 둘 수 없다는 미 군 당국이 신경전을 벌이기도 했습니다.
01:52AI의 신속한 정보 처리 능력, 군사적으로 분명히 큰 이점입니다.
01:57하지만 이번 실험으로 통제 없는 기계적 판단과 효율성이, 효율성이 자칫 파괴적인 결과를 불러올 수 있다는 걸 볼 수 있었는데요.
02:07전문가들은 생사가 오가는 전쟁터에서만큼은 인간이 최종 결정권을 쥐어야 한다고 입을 모으고 있습니다.
댓글