00:00인공지능 기술이 하루가 다르게 발전하면서 이를 악용한 이른바 딥페이크 영상도 갈수록 교묘해지고 있습니다.
00:07이런 조작 영상이 표심을 흔드는 일이 없도록 첨단 탐지 기술이 이번 지방선거부터 파수꾼 역할에 나섭니다.
00:14양일혁 기자가 보도합니다.
00:19밤거리에서 셀카봉을 손에 든 젊은 여성이 경찰과 승강이를 벌입니다.
00:24라이방송 중단하세요. 사람들 얼굴 다 찍히고 있습니다.
00:27왜요? 불법 아니잖아요. 그냥 거리 부위로 하고 있는데요.
00:30동의 없이 촬영하시면 개인정보 유출됩니다. 카메라 좀 내려놓으시죠. 협조 안 하시면 제재할 수 있습니다.
00:35무소속이라 적힌 띠를 두른 중년 남성이 전통시장 상인 손을 꼭 잡고 활짝 웃습니다.
00:42감사합니다 어머니.
00:43아닙니다 홍길동 후보님 힘내세요.
00:45네 더 열심히 하겠습니다.
00:47기대할게요.
00:48영락 없는 실제 현장 같지만 실은 인공지능 기술로 만든 가짜 영상입니다.
00:53생성형 인공지능 기술이 비약적으로 발전해 사람의 눈으로 진위를 판단하기 어려운 지경에 이르자 이를 악용하는 사례가 기하급수적으로 늘고 있습니다.
01:04특히 대표적으로 활개치는 때는 상대보다 하나라도 많은 표를 얻어 당선해야 하는 선거 국면.
01:11실제 인물을 짜깁기한 이른바 딥페이크 조작 영상을 삭제해달라는 요청이 1년 만에 무려 30배 가까이 뛰었습니다.
01:19이처럼 선거를 겨냥한 조작 범죄에 대응하기 위한 첨단 인공지능 탐지 기술이 현장에 투입됩니다.
01:28영상의 전체적인 흐름은 물론 얼굴 같은 특정 부위를 조작한 흔적까지 동시에 탐지하고
01:34어느 구간에서 몇 퍼센트 확률로 조작이 의심되는지 시간대별로 쪼개서 분석도 가능합니다.
01:41경진대회에서 뽑힌 우수 모델들의 장점만 모아 과거 76%이던 정확도가 92% 수준으로 높아졌습니다.
01:50온라인 공간에서는 조작된 영상과 거짓 정보가 서로 연결되며 일종의 망상의 네트워크를 만들어내기 쉽습니다.
02:03이러한 위협으로부터 국민의 권리와 민주주의를 지키는 것은
02:07다만 단속 범위는 실제와 혼동을 줄 수 있는 고도화된 조작 영상으로 제한됩니다.
02:14만화처럼 묘사하거나 누구나 가짜임을 알 수 있는 통장 영상은 단속 대상이 아니라는 게 정부의 설명입니다.
02:22YTN 양일혁입니다.
댓글