[돌직구 강력반]유명인·뉴스 따서 ‘AI 영업’…‘허위 광고’ 최대 5배 배상금

방탄소년단·방송 뉴스까지…AI 딥페이크 영상 주의<br>손흥민이 도박 광고를?…'딥페이크' 가짜 영상 <br>'딥페이크 허위광고'에 최대 5배 징벌적 손해배상

Transcript

00:00두 번째 강의사건 풀어보겠습니다.

00:04자, 무언가 딥페이크 영상과 관련된 사건 같은데 일단 영상부터 보시죠.

00:12일주일 만에 120억 원을 벌었습니다.

00:15당신이 해야 할 일은 가짜 버전을 모두 버리고 공식 앱을 설치하는 것입니다.

00:20한국에서 온 흥미로운 소식입니다.

00:23유명 축부 선수 손흥민 선수가 새로운 공식 앱을 출시하기 위해 강원랜드 카지노에 도착했습니다.

00:30자, 여러분 지금 보신 영상들 유명인과 방송 뉴스가 추천하는 게임과 같지만 사실은 모두 가짜입니다.

00:38AI로 조작해서 만든 영상이 온라인 불법 도박 광고에 악용되고 있는 겁니다.

00:44반장님, 아니 이정재 씨도 아이유 씨도 손흥민 씨도 이렇게 얘기해서 진짜인 줄 알았는데 다 가짜였군요.

00:50그렇습니다. AI 딥페이크라고 해서 AI로 해서 목소리뿐만 아니라 얼굴을 변조를 하는데

00:56알다시피 아까 손흥민 선수가 나왔어요.

00:59뿐만 아니라 앵커라든지 아니면 유명인들이 도용되는데

01:03시제적으로 불법 온라인 도박을 하기 위해서 사람들을 유혹하기 위해서 하는 것인데

01:08그 불법 온라인 도박 앱이 있습니다.

01:10그걸 깔게 되면 돈을 벌 수 있다고 하는 것인데 시제적으로 깔으면 안 되고요.

01:13중요한 건 그 앱들이 사실은 거기에 깔고 도박을 하면, 즉 게임을 하게 되면 불법입니다.

01:19대한민국은 정선에서는 가전회에서 가서 오프라인 해도 단속을 안 합니다.

01:25도박을 해도 하지만 그 외의 업체는 다 불법일 뿐만 아니라

01:28온라인 도박은 100% 도박 행위, 처벌을 받기 때문에 저렇게 하는데 문제가 있어요.

01:35저걸 우리가 추적을 못합니다.

01:37이유가 왠지 모르시나요?

01:39서버가 어디에 있다?

01:42중국에 있다?

01:43중국, 동남아에 있다?

01:44동남아에 외국이 있기 때문에 저희가 압수수행영장을 반사로부터 발급을 받아서

01:50집행을 하질 못할 뿐만 아니라 해달라고 외국에 보내도

01:54그쪽에서 자료를 준다, 안 준다?

01:56안 주기 때문에 시제적으로 서버의 주인, 범인들을 찾아내기가 쉽지가 않은 상황인 것이죠.

02:02그러니까 자기들이 마음대로 저렇게 통은 단어 방탄소년단 RM, 저도 좋아합니다.

02:07그 목소리까지 아니면 억울까지 하면 일반인들은 소수밖에 없기 때문에

02:12그렇다 하더라도 절대로 디펙크 영상에 소녀록돼서 앱에 들어가면 절대로 안 되는 거죠.

02:18절대 안 된다.

02:20안 잡히니까 이렇게 활기를 쳤던 거군요.

02:23두 번째 강의사건이었습니다.