플레이어로 건너뛰기본문으로 건너뛰기
【 스튜디오 】
안녕하세요. 엄지민입니다.

현상 이면에 숨겨진 사실을 좇아, 팩트추적! 지금 시작합니다.

【 인트로 】
더 빠르고 더 정확하게, 그리고 점점 더 차갑게.

전쟁의 판도가 바뀌고 있습니다.

방대한 데이터를 학습한 AI 알고리즘이 표적을 선별하고 그 결과는 생존과 죽음으로 이어집니다.

[임철균 / 한국전략문제연구소 전문연구위원 : AI가 급속도로 (데이터를) 가공해서 타격 대상을 특정해 내는 거죠. 도저히 대응할 수 없는 속도로 연속적인 공격작전이 전개되는 겁니다.]

불과 10여 년 전, 수개월이 걸리던 작전은 이제 하루 만에 끝나기도 합니다.

탐지, 식별, 추적, 타격으로 이어지는 이른바 킬체인 전 과정.

이 모든 과정에 인공지능이 개입하고 있습니다.

[임기범 / 서울과학종합대학원대학교 객원교수 : 수집된 데이터들을 우리가 원하는 대상에 맞춰서 분석함으로써 빠른 시간에 효율적으로 이루어질 수 있었다.]

이제 전장은 속도가 판단을 대신하고 그 판단은 곧 생사를 가릅니다.

오늘 우리는 AI가 바꾸고 있는 전장의 구조를 추적합니다.

【 스튜디오 】
▶엄지민
오늘의 팩트체커 윤성훈 기자와 함께합니다.

윤 기자. 최근 전쟁 양상 보면 완전히 새로운 단계로 접어든 것 같은데요.

총과 병력을 넘어서 이제는 보이지 않는 기술이 전장을 움직이는 것 같아요.

▶윤성훈
네, 지금 전장은 데이터와 알고리즘을 기반으로 한 AI 기술이 판도를 좌우하고 있습니다.

▶엄지민
전쟁의 방식 자체가 완전히 달라지고 있다는 거죠?

▶윤성훈
네, 누가 적인지, 어디를 공격할지 판단하는 과정에 AI가 깊숙이 개입하며 이른바 '전쟁의 시간'을 압축하고 있습니다.

【 VCR 】
2003년 이라크 전쟁 당시, 미군이 저인망식 수색을 벌인 끝에 사담 후세인을 9개월 만에 생포했습니다.

[폴 브레머 / 이라크 최고 행정관 (지난 2003년 12월) : 신사 숙녀 여러분, 우리는 그를 붙잡았습니다.]

하지만 20여 년이 지난 현재, 전쟁의 시계는 무서울 정도로 달라졌습니다.

이번 미국-이란 전쟁에서 미국이 이란 최고 지도자인 아야톨라 알리 하메네이를 제거하기까지 걸린 시간은 15시간가량.

탐지부터 타격까지, 모든 과정이 AI를 통해 실시간으로 압축된 결과입니다.

이 전례 없는 속도의 비밀은 데이터에 있습니다.

길거리 CCTV와 전자 센서에서 쏟아... (중략)

▶ 기사 원문 : https://www.ytn.co.kr/replay/view.php?idx=274&key=202604152345106634
▶ 제보 안내 : http://goo.gl/gEvsAL, 모바일앱, social@ytn.co.kr, #2424

▣ YTN 데일리모션 채널 구독 : http://goo.gl/oXJWJs

[ 한국 뉴스 채널 와이티엔 / Korea News Channel YTN ]

카테고리

🗞
뉴스
트랜스크립트
00:03더 빠르고 더 정확하게
00:10그리고 점점 더 차갑게
00:12전쟁의 판도가 바뀌고 있습니다
00:19반대한 데이터를 학습한 AI 알고리즘이 표적을 선별하고
00:24그 결과는 생존과 죽음으로 이어집니다
00:30AI가 그 속도로 가공을 해서 타격 대상을 특정해 내는 거죠
00:36도저히 대응할 수 없는 속도로 연속적인 공격 작전이 전개돼 오는 겁니다
00:42불과 10여 년 전 수개월이 걸리던 작전은 이제 하루 만에 끝나기도 합니다
00:49탐지, 식별, 추적, 타격으로 이어지는 이른바 킬체인 전 과정
00:55이 모든 과정에 인공지능이 개입하고 있습니다
01:08이제 전장은 속도가 판단을 대신하고
01:11그 판단은 곧 생사를 가릅니다
01:15오늘 우리는 AI가 바꾸고 있는 전장의 구조를 추적합니다
01:23오늘의 팩트체크 윤성훈 기자와 함께합니다
01:26윤 기자, 최근 전쟁 양상 보면 완전히 새로운 단계로 접어든 것 같은데요
01:32총과 병력을 넘어서 이제는 보이지 않는 기술이 전장을 움직이는 것 같아요?
01:37네, 지금 전장은 데이터와 알고리즘을 기반으로 한 AI 기술이 판도를 좌우하고 있습니다
01:43전쟁의 방식 자체가 완전히 달라지고 있다는 거죠?
01:46네, 누가 적인지 어디를 공격할지 판단하는 과정에 AI가 깊숙이 개입하며 이른바 전쟁의 시간을 압축하고 있습니다
01:572003년 이라크 전쟁 당시
01:59미군이 저인망식 수색을 벌인 끝에
02:02사담 후세인을 9개월 만에 생포했습니다
02:15하지만 20여 년이 지난 현재
02:18전쟁의 시계는 무서울 정도로 달라졌습니다
02:21이번 미국 이란 전쟁에서 미국이 이란 최고 지도자인 아야톨라 알리 하메네이를 제거하기까지 걸린 시간은 15시간 가량
02:32탐지부터 타격까지 모든 과정이 AI를 통해 실시간으로 압축된 결과입니다
02:39이 전례 없는 속도의 비밀은 데이터에 있습니다
02:43길거리 CCTV와 전자센서에서 쏟아지는 강대한 데이터를
02:48AI가 실시간으로 걸러내며 타깃의 위치와 동선을 핀셋처럼 집어낸 겁니다
02:54종합된 이 다출처 정보를 AI가 급속도로 가공을 해서
03:00타격 대상을 특정히 내는 거죠
03:03이 정확도가 실제 사용하고 있는 이스라엘군 정보장교들의 지문에 따르면
03:0890%에 입박합니다
03:13동시에 미국은 개전 직후 단 24시간 만에
03:17천 개에 이르는 표적을 타격하는 데 성공했습니다
03:20불과 12년 전 IS 공습 당시
03:256개월 동안 2천 개가량의 목표물을 타격했던 것과 비교하면
03:29비약적으로 빨라진 셈입니다
03:33모든 업무를 통합시켜버리다 보니까
03:35원래는 한 30일 정도 걸릴 작업이
03:39수분 이내로 단축이 되게 되는 거죠
03:41인간이 하던 복잡한 분석 업무를
03:45거대 IT 기업들이 구축한 인공지능 시스템이 넘겨받았기 때문입니다
03:50AI가 방대한 데이터를 실시간으로 훑으며
03:54수백 개의 표적 후보와 우선 순위를 분류한 뒤
03:57즉각 실행할 수 있는 작전까지 제시하고 있습니다
04:00효율적인 공격을 위해서 어떤 방법들
04:03그리고 어떤 시기
04:04다각적인 분석과 결과를 내는 부분들에 있어서
04:08AI가 많이 활용되고 있다고 보시면 될 것 같습니다
04:13대응할 틈조차 주지 않는 속도 앞에
04:15이란의 전력은 순식간에 괴멸됐습니다
04:20이란의 혁명수비대는 제대로 된 반격을 해보지 못하고
04:25전력의 절반 이상을 개전 시작하자마자
04:29일주일 내에 거의 상실해버렸죠
04:32사실 이 AI 무기가 도입될 때만 해도
04:36그 이유는 분명했잖아요
04:37아군의 희생을 줄이고
04:39또 민간인 피해를 최소화하자
04:41이런 취지였죠
04:42맞습니다
04:43데이터 기반의 정밀 타격으로
04:45불필요한 피해를 줄이겠다는 게 핵심이었습니다
04:47그런데 그 정밀함의 이면에는
04:49비정한 계산법이 숨어 있습니다
04:51구체적으로 어떤 방식인가요?
04:53특정 목표를 제거하기 위해
04:54민간인 피해를 어느 수준까지 감수할 것인지
04:57그 기준이 설정되어 있는 겁니다
04:59결국 윤리적인 판단 없이
05:02목표 달성을 위해서
05:03생명이 계산 가능한 값으로
05:05다뤄지고 있다는 거네요?
05:07네, AI는 데이터를 기반으로
05:09표적을 추천하고 우선순위를 정합니다
05:11표적을 제거하기 위해
05:13얼마만큼의 무고한 희생을 감수할지
05:15수치로 환산하고 있는 겁니다
05:16인간의 존엄이라는 게
05:18AI가 계산하는 0과 1 사이의
05:20수치로 바뀐 상황인 것 같은데
05:22비극적이기도 하고
05:24굉장히 위험하게 느껴지네요
05:26네, AI가 살상 명단을 쏟아내는 속도가
05:29워낙 빠르다 보니
05:30인간이 그 판단을 검토하고
05:31고심할 시간은 더 짧아지고 있습니다
05:35미국이란 전쟁에서
05:37미군은 첨단 AI 시스템을 통한
05:40정밀 타격을 자신했지만
05:42결과는 달랐습니다
05:43민간 시설과 학교에도
05:47포탄이 쏟아졌습니다
06:05공격의 근거로 의심받는 건
06:07낡은 좌표와 불완전한 정보
06:09AI가 정보의 빈틈을 걸러내지 못하고
06:13오히려 확신으로 증폭시켰을 가능성이 있다는 겁니다
06:23AI 전쟁의 구조를 더 극단적으로 보여주는 건
06:27시그니처 스트라이크
06:30누군지가 아니라 어떻게 행동했는지에 따라
06:33표적 대상이 될 수 있습니다
06:372023년 이스라엘 하마스 전쟁이
06:40그 위험성이 드러난 사례로 꼽힙니다
06:45당시 이스라엘 군에서 활용된
06:48AI 시스템 라벤더는
06:50가자지구 주민 230만 명의 데이터를 분석해
06:533만 7천 명을 잠재적 암살 대상으로 분류했습니다
06:57하마스 대원들은 총 놓고 집에 돌아가면
07:01민간인입니다
07:02이걸 구분할 방법이 없어요
07:04그런데 라벤더가 판단했을 때는
07:07몇 월 며칠 몇 시에 이 요원이
07:11통상적인 패턴을 분석했을 때
07:13집에 위치한 시간이 있다
07:15이 시간에 타격하면 적중률 100%다
07:18그러면 타격이 들어가는 겁니다
07:20이스라엘 군 정보 요원들이
07:23공격 버튼을 누르는데 걸린 시간은
07:25고작 20초
07:27한 사람의 삶과 가족의 운명을 끝내는 결정이
07:3120초 만에 내려졌다는 증언이 나옵니다
07:33더 잔혹한 방식도 있습니다
07:36웨얼스 대티
07:40전투원이 전쟁터가 아닌 집으로 돌아오길 기다렸다가 타격하는 방식입니다
07:46표적이 된 대상을 죽이기 위해 그의 가족까지 희생 대상으로 삼는 겁니다
07:53실제 고위 지휘관 한 명을 제거하기 위해
07:56민간인 100명의 희생을 감수하고
07:58하급 전투원 한 명에 대해서도 수십 명의 피해를 허용했다는 증언까지 나옵니다
08:04생명이 숫자로 환산되고 있지만
08:07AI가 어떤 기준으로 표적을 정했는지 명확히 알기 어렵습니다
08:13지금의 성능 좋은 AI를 우리가 왜 이렇게 답을 하는지 모르겠다
08:18우리는 알고리즘만을 제공했지
08:21사실 내가 어떻게 학습하고 왜 이런 답을 냈는지 아직도 몰라요
08:25우리 인간들은
08:27사실 우리가 일상에서 AI를 써도 꼭 검증을 하는데
08:32정작 전쟁터에서는 AI가 무분별하게 사용되면서 희생도 더 늘어나는 것 같아요
08:38네 잊지 말아야 할 건 알고리즘이 아무리 정교한 리스트를 뽑아내더라도
08:42최종 승인 버튼을 누르는 존재는 여전히 인간이어야 한다는 점입니다
08:46통제하지 못하는 AI 기술은 결국 인류의 지속에도 영향을 미칠 수밖에 없는데요
08:51기계의 속도보다 인간의 판단이 더 무거워야 하는 이유입니다
08:57영국 킹스 칼리지 런던 연구팀이 발표한 AI 전쟁 시뮬레이션 결과
09:0321차례의 가상 전쟁에서
09:06채쥐 비티와 클로드, 제미나이 등 AI 모델은 다른 선택지가 있는데도
09:1121번 가운데 20번, 95%의 확률로 핵 전쟁을 택했습니다
09:17상황이 불리해도 항복하는 경우는 한 번도 없었습니다
09:21이 전쟁에 이겨야 되고 소위 말하는 타겟, 적을 선멸시켜서 내가 승리해야 한다라는 사실
09:31이것만을 목표로 준다고 하면 사실 AI가 못할 짓이 없겠죠
09:36학교 건물을 폭격한다든가 핵폭탄을 누른다든가 이런 부분들을 터슴치 않게 할 수 있을 텐데
09:451945년 히로시마 원폭 투하 이후 핵무기 사용은 인류가 넘지 말아야 할 선으로 여겨져 왔지만
09:52AI는 핵무기를 최후의 수단이 아닌 승리를 위한 선택지 중 하나로 취급했고
09:58핵 버튼을 누르는데 주제하지 않았습니다
10:01영국의 그 팀이 월게임을 보여줬던 이유는
10:06AI 기술의 어떻게 보면 파괴력을 자랑하기 위한 것이 아니라
10:10핵을 억제하는 그 차원에 있어서는
10:16AI가 절대 사용되어서는 안 된다라는 그 부분을 더 강조하기 위한 목적이 크다고 봅니다
10:24더불어 빅테크 기업들의 AI 기술이 군사 분야에 활용되면서
10:29전쟁의 주체가 국가를 넘어 기업으로까지 확장되는 양상도 나타나고 있습니다
10:36미국의 IT 기업 엔트로픽은 AI 모델 클로드에 대해
10:41자율 살상 무기나 대규모 감시 목적 활용을 제한하는 정책을 두면서
10:46미국 방부와 갈등을 빚기도 했습니다
11:16군사용 AI의 책임은
11:18소재를 두고도 논란이 빚어지고 있습니다
11:21현재 대부분의 군사용 AI는 표적을 생성하고
11:26우선순위를 제시하면 인간이 최종 승인하는 구조로 운영되고 있습니다
11:31문제는 이 최종 승인 과정이 점점 형식화되고
11:36속도가 빨라지면서
11:37실질적인 통제가 느슨해질 수 있다는 점입니다
11:43더군다나 우폭 등 인간인 피해가 발생한 경우
11:47알고리즘을 설계한 기업, 기술을 도입한 군 조치, 최종 승인자 가운데
11:53그 누구도 책임지기 어려운 상황이 빚어질 수 있다는 겁니다
12:19이렇게 AI 무기화를 둘러싼 논란은 계속되고 있지만
12:23각국의 개발 경쟁은 더 빨라지고 있다고요?
12:27네, 군사용 AI 기술에 대한 우려 속에서도
12:29각국은 미래전에 대비하기 위해
12:31군사용 AI 기술 개발에 박차를 가하고 있습니다
12:34우리나라 역시 국민과 군인을 보호하기 위한 차원에서
12:38군사용 AI 기술 개발에 속도를 내고 있습니다
12:42서울에 있는 소프트웨어 개발 기업
12:45이곳에서는 군사용 AI 기술 개발이 한창 진행되고 있습니다
12:53드론을 통해서 실종자를 찾고 구출하는 목적을 위해서 개발한
13:03비전 기반의 인공지능이고요
13:05AI는 낙오된 실종자 수색뿐 아니라
13:10무인 정찰 임무에도 적용되고 있습니다
13:12시속 290km짜리 정찰 임무를 수행하는
13:19자율비행체를 목표로 해서 개발을 하고 있고요
13:24일체 도달하고 거기에 시각 정보라든지
13:29지휘부로 전달을 하고
13:33무사히 임무를 마치고 귀환하는 목적
13:38나아가 AI는 전장 상황을 분석하고
13:41지휘관의 결심을 지원하는 단계로까지 개발 속도가 붙고 있습니다
13:46여러 가지 상황을 고려해서 지휘관이 판단하는 목적을 주면
13:51가장 적합한 화력 자산을 추천하고
13:53이게 실제적으로 시행이 됐을 때
13:58이러이러한 효과가 있습니다를 지휘관에게 조언을 할 수 있는
14:02업자 측은 AI 기술의 정교화가
14:06오폭 등의 사고를 막고
14:08오히려 무고한 희생을 줄이는 해답이 될 것으로 보고 있습니다
14:14사람이 판단해서 발생할 수 있는 실수보다
14:18인공지능이 판단해서 발생하는 실수를 훨씬 작게 해서
14:24더 민간인의 피해를 최소화하고
14:29전문가들은 독자적인 군사용 AI 기술 확보가
14:32저출산과 고령화에 따른 병력 강소 문제를 해결할 해법이 될 수 있다고 조언합니다
14:38전 세계 거의 유일한 분당국가인 우리나라의 경우도
14:42사실 이런 부분들이 굉장히 중요할 거거든요
14:44정말 결정적인 순간에 그들이 모델 제공을 하지 않는다면
14:48우리는 굉장히 위험한 상황에 빠질 수도 있어
14:51다만 넘어야 할 과제도 적지 않습니다
14:56인공지능의 발전 속도를
14:58인간에서 만든 속도를 군에서는 절대로 따라갈 수가 없습니다
15:01여러 가지 보완 절차가 있기 때문에 그렇죠
15:05이와 달리 미 국방부는
15:07올해 군용 AI의 우위를 확보하겠다는 기조를 담은
15:11전략 지침까지 발표하면서 선두를 달리고 있습니다
15:15미군이 사용하고 있는 JADC2라는 합동 지휘 통제 체계가 있어요
15:20이 JADC2 내에서 기능하고 있는 게
15:24팔란티어라는 AI, 이런 군용 AI들이 여러 요소들을 정밀하게 엮어서
15:32빠른 시간 내에 정보 처리를 해주고 분석을 해주는 기능을 수행하고 있거든요
15:38AI 강국으로 꼽히는 중국 역시
15:41군용 AI를 군 현대화의 핵심 전략으로 삼고 있습니다
15:45특히 AI와 드론을 결합한 자율 무기 체계 개발을 통해
15:51살상력을 높이는 데 주력하고 있다는 평가입니다
15:54먼저 중국은 지능화 전쟁 전략이라는 것을 내세웠습니다
16:00그래서 전쟁 자체를 자동화하기 위한 여러 가지 노력을 기울이고 있습니다
16:06특히 군용 드론 봇의 운영에 있어서는
16:09중국은 지금 거의 세계 최고 수준으로 나아가고 있습니다
16:12반면 유럽 중심의 나토 진영에서는
16:16군용 AI의 필요성을 인정하면서도
16:19인간의 통제와 법적 책임, 그리고 시스템의 신뢰성 확보를 강조하고 있습니다
16:27이야기를 종합해보면
16:30군사용 AI 도입은 일단 피하기 어려운 상황으로 보이는데
16:33다만 그만큼 우려 역시 여전하죠?
16:36맞습니다
16:37맹전 이후 핵무기 사용의 일종의 레드라인이 설정됐던 것처럼
16:40AI의 완전 자율 무기화에 대해서도
16:43국제적인 통제 기준이 필요하다는 목소리가 나오고 있습니다
16:48최근 벌어지는 전쟁에서
16:51군용 AI의 치명성이 높아지면서
16:53이를 논의하기 위한 국제적인 움직임이 이어지고 있습니다
16:58유엔은 AI와 연계된 완전 자율 살상 무기 규제 방안을 논의하고 있는데
17:04인간의 실질적인 통제가 없는 무기는 금지해야 한다는 입장입니다
17:29하지만 미국과 러시아, 중국 등 군사 강대국들은
17:34전면 금지에는 신중한 입장을 보이고 있어 합의가 쉽지 않은 상황입니다
17:56이처럼 AI의 완전 자율 무기화를 둘러싼 경쟁이 격화되는 가운데
18:01전문가들은 중견국의 위치에 있는 우리가 국제 규범 설계에 적극적으로 나서야 한다고 강조합니다
18:08우리가 먼저 치고 나가서
18:10정확한 어떤 기준점, 레짐을 제시하고
18:14우리의 연합 전력들이 함께 더불어 살아갈 수 있는
18:17변화, 발전, 도전이 필요하다고 저는 생각을 합니다
18:21이런 흐름 속에 우리나라에서도
18:25군용 AI를 제도적으로 통제하려는 움직임이 시작됐는데
18:29지난 1월에는 국방인공지능법 제정안이 국회에 발의되었습니다
18:34이 법안에는 생명이나 신체에 위해를 줄 가능성이 있는 경우
18:40인간의 개입을 보장해야 한다는 내용이 담겼습니다
18:43전문가들 역시 AI에 의한 완전 자율 살상 무기에 대해
18:49엄격한 통제가 필요하다고 강조하고 있습니다
18:52어떤 경우에도 완전 자율 살상 무기는 안 된다라는 생각이고요
18:57사람의 확인이 들어갈 수 있는 부분들을 의무적으로
19:002차적으로는 국가에서 그런 법들을 만들었기 때문에
19:03이것들을 검증하고 확인할 수 있는
19:06주기적으로 검증하는 절차들
19:08감사하는 절차들이 꼭 필요할 거라고 보여집니다
19:11국가의 감시와 기업의 책임이 함께 요구되는 상황
19:16일론 머스크와 샘 올트만 같은 IT 기업 수장들 역시
19:21군사적 활용에 대한 위험성을 거듭 경고하고 있습니다
19:26기술보다 윤리가 앞설 수 있을지
19:28그 통제가 과제로 남아 있습니다
19:34AI 무기는 이미 전장에 피할 수 없는 현실이 됐는데요
19:38이제 남은 건 이 칼날을 어디까지 허용할 것인가
19:42여기에 대한 우리의 선택인 것 같습니다
19:44네, 알고리즘이 아닌 인간이 온전히 책임지는 전쟁
19:48그 엄중한 기준을 세우는 일은 결국 우리의 몫입니다
19:51네, 윤 기자 수고 많았습니다
19:54오늘 팩트 추적은 여기까지입니다
19:56저희는 다음 시간에도 현상 이면에 숨겨진 사실을 쫓아
20:00시청자 여러분 목소리에 귀 기울이겠습니다
20:03함께해 주신 여러분 고맙습니다
20:07안녕하십니까
20:08감사합니다
20:08고맙습니다
20:20다음 영상에서 만나요.
댓글

추천