[자막뉴스] 지방선거 앞두고 AI 가짜뉴스 확산...정부 '망상의 네트워크' 차단 시작 / YTN

밤거리에서 셀카봉을 손에 든 젊은 여성이 경찰과 승강이를 벌입니다.

"라이브 방송 중단하세요. 사람들 얼굴 다 찍히고 있습니다."
"(왜요? 불법 아니잖아요. 거리 브이로그 하고 있는데요.)"
"동의 없이 촬영하시면 개인정보 유출됩니다. 카메라 내려놓으시죠. 협조 안 하시면 제지할 수 있습니다."

무소속이라 적힌 띠를 두른 중년 남성이 전통시장 상인 손을 꼭 잡고 활짝 웃습니다.

"감사합니다, 어머니."
"(아닙니다, 홍길동 후보님, 힘내세요!)"
"네, 더 열심히 하겠습니다."
"(기대할게요!)"

영락없는 실제 현장 같지만 실은 인공지능 기술로 만든 가짜 영상입니다.

생성형 인공지능 기술이 비약적으로 발전해 사람의 눈으로 진위를 판단하기 어려운 지경에 이르자 이를 악용하는 사례가 기하급수적으로 늘고 있습니다.

특히 대표적으로 활개 치는 때는 상대보다 하나라도 많은 표를 얻어 당선해야 하는 선거 국면.

실재인물을 짜깁기한 이른바 '딥페이크', 조작 영상을 삭제해 달라는 요청이 1년 만에 무려 30배 가까이 뛰었습니다.

이처럼 선거를 겨냥한 조작 범죄에 대응하기 위한 첨단 인공지능 탐지 기술이 현장에 투입됩니다.

영상의 전체적인 흐름은 물론, 얼굴 같은 특정 부위를 조작한 흔적까지 동시에 탐지하고, 어느 구간에서 몇 퍼센트 확률로 조작이 의심되는지 시간대별로 쪼개서 분석도 가능합니다.

경진대회에서 뽑힌 우수 모델들의 장점만 모아 과거 76%이던 정확도가 92% 수준으로 높아졌습니다.

[윤호중 / 행정안전부 장관 : 온라인 공간에서는 조작된 영상과 거짓 정보가 서로 연결되며 일종의 '망상의 네트워크'를 만들어내기 쉽습니다. 이러한 위협으로부터 국민의 권리와 민주주의를 지키는 것은 (정부의 책무입니다.)]

다만, 단속 범위는 실제와 혼동을 줄 수 있는 고도화된 조작 영상으로 제한됩니다.

만화처럼 묘사하거나 누구나 가짜임을 알 수 있는 풍자 영상은 단속 대상이 아니라는 게 정부의 설명입니다.

YTN 양일혁입니다.

영상기자ㅣ고민철
영상편집ㅣ강은지
화면제공ㅣ행정안전부
자막뉴스ㅣ송은혜 권준희

#YTN자막뉴스



※ '당신의 제보가 뉴스가 됩니다'
[카카오톡] YTN 검색해 채널 추가
[전화] 02-398-8585
[메일] social@ytn.co.kr

▶ 기사 원문 : https://www.ytn.co.kr/_ln/0134_202603111015290719
▶ 제보 안내 : http://goo.gl/gEvsAL, 모바일앱, social@ytn.co.kr, #2424

▣ YTN 데일리모션 채널 구독 : http://goo.gl/oXJWJs

[ 한국 뉴스 채널 와이티엔 / Korea News Channel YTN ]