00:00이렇게 AI 기술이 돈을 노리는 사기에만 적용된 게 아니라요. 최근에 전 국민을 분노하게 만든 그런 사건도 있었다면서요. 맞습니다. 저도 이
00:09영상 보고 너무 화가 났었는데요. 3.1절을 앞두고요. 한 SNS 사이트에 유관순 열사의 사진을 AI 영상으로 만들어서 마치 조롱하는 듯한
00:20모습이 국민들의 공분을 샀습니다.
00:22유관순 열사가 이 영상에 등장을 하는데 로켓을 타고 우주로 날아간다거나 일본에 대해서 뭔가 좀 더 우호적인 그런 제스처를 취하는 모습들.
00:33사실 조롱을 위해 만들어졌다고밖에 볼 수 없는 그런 영상이 화제가 되었는데요.
00:40이것이 플랫폼 차원에서 이 영상이 완전히 삭제가 될 때까지 버젓이 계속해서 많은 조회수를 기록을 했습니다.
00:47경찰이 수사에 착수는 했는데 아직 어떤 진전이 없는 상황이어서 참 걱정이 됩니다.
00:54우리 주변에 이런 영상이 너무 많은데요. 제가 영상 몇 개 보여드리려고 해요.
01:00이 가운데 눈 크게 뜨고 어떤 게 AI 영상인지 한번 함께 찾아보면 좋을 것 같습니다.
01:06어렵겠다. 한번 볼까요?
01:13어 경찰인데 제압하는 거 그런 건데
01:17이거 렉션 씬이다.
01:21어? 어? 어? 그랬어?
01:22브래드 피트잖아요.
01:25우리 영화를 찍었나?
01:28뭐지?
01:29어? 둘이
01:30너무
01:30너무
01:31너무
01:34이번에는
01:34BTS의 광화문 공약이죠.
01:37눈 크게 뜨고 봐주세요.
01:40크게 뜨고 있어요.
01:42뭘 가짜를 가리라는 거예요?
01:43그렇죠. 이 중에 AI로 만든 영상은 무엇일까요?
01:48어? 홈쇼핑에 알파카가 등장했습니다.
01:51아니요.
01:52이거 AI 같은데?
01:53차도 등장하고 이래.
01:54왜 가만히 있는지 알 수 있지?
01:58이건 실제잖아요.
02:02인터넷 예커딘 이스턴
02:03아 이건 아니다.
02:05아 근데 너무 리얼하다.
02:07아니 전부 다 AI인 것 같아요.
02:09그래요?
02:10네 진짜.
02:12아 이거 어렵다.
02:13근데 너무 리얼한데요?
02:14아니 다 AI 아니에요?
02:16AI가 만들었겠지만
02:17지금 영상?
02:18다예요?
02:18근데 BTS거는 진짜인 것 같은데
02:21나머지는 다 AI 했냐?
02:23맞습니다.
02:24놀랍게도요.
02:25이 모든 영상 다 AI로 만들어진 거예요.
02:28대박.
02:29하지만 그 수준이 지난해와 또 다른 것 같아요.
02:33제가 보더라도 작년만 해도요.
02:35AI 영상은 AI 영상 티 낫는데 요즘은 교묘합니다.
02:39이게 자극적이기 때문에 조회수를 노리고 무분별하게 만들어지고 있는데
02:44특히 첫 번째 영상 같은 경우에는요.
02:46경찰이 마치 바디캠을 착용하고 촬영한 영상처럼
02:50다잉징합하는 그런 모습을 보이는 것처럼 꾸며졌죠.
02:54실제 같기도 했어요.
02:55이거 만든 사람 결국 구속됐습니다.
02:58그리고 두 번째는 중국의 한 기업이 만든 영상인데
03:02보세요.
03:03마치 영화의 한 장면 같잖아요.
03:05그런데 이 영상을 만드는데 단 두 줄의 텍스트만 필요했다고 합니다.
03:09이 톰 크루즈와 브래드 피트의 격투 장면을 마치 실제 할리우드에서 촬영한 영화처럼 만들어냈어요.
03:16이거 너무 그래.
03:17이제는 영화도 AI로서 대체해서 촬영하지 않을까 사실 이런 경계심마저 들게 했습니다.
03:23그런데 저거는 두 사람 출연율 합치면 얼마예요.
03:27저런 영상을 보게 해주는 거 정도는 애교지.
03:31그렇다고도 볼 수 있을 텐데 이제 또 BTS 영상도 함께 볼게요.
03:35우리 광화문에서 바로 지난주였죠.
03:37BTS 공연을 했는데 통제된 도로인데 차가 바뀌었거든요.
03:43이 역시도 AI 영상이었습니다.
03:45실제 AI가 이렇게 BTS 입력어를 넣고 만든 건데
03:49그리고 이순신 동상이 위치도 다릅니다.
03:54하지만 얼핏 보면 이거 실제 지금 공연 영상 촬영한 걸로 볼 수 있을 것 같아요.
04:00알파카가 등장한 홈쇼핑 영상 귀엽긴 하지만
04:02알파카 털 말리는 제품 홍보에 위한 거세요.
04:06저 알파카가 저렇게 가만히 있을 수가 없잖아요.
04:08하지만 이 털 날림 보세요.
04:10마치 정말 드라이로 털 말리고 있는 것 같죠.
04:13그리고 마지막으로 요즘 계속해서 이 전쟁 상황이 문제인데
04:17실제로 폭경을 당한 것처럼 그리고 마치 휴대폰으로 촬영한 것 같죠.
04:22좀 어설프게 휴대폰으로 촬영한 것 같이 보이는 것까지도
04:27AI 영상이 만들어놨다는 점에서 참 이제는 가짜와 진짜를 구분하기 어렵다.
04:33실제로 이 조사에 따르면 10명 중에 한 6명 정도는
04:37나 이거 AI 영상 구분 못하겠다.
04:39이렇게 답할 만큼 앞으로는 정말 가짜인지 진짜인지
04:43이것 자체가 의심이 가는 시대에 우리가 살고 있는 것 같습니다.
04:46아니 다른 영상들도 그렇지만은 아까 류관순 열사가 나온
04:51이거는 처벌해야 되지 않아요.
04:53이건 폐륜적인 영상은 처벌해야 되지 않습니까?
04:56그렇죠. 강력하게.
04:57국민적 공분이 상당하죠.
04:58그럼 이거를 무슨 죄로
05:00그러니까 형법에 규정되어 있는 어떠한 죄로 처벌할 수 있을 것이냐
05:04이게 문제가 된단 말이에요.
05:06자 어떤 거 떠오를까요 우리가
05:07모욕죄 같은 거 떠오르기
05:09명예훼손죄
05:10명예훼손죄
05:11명예훼손죄 이런 거 없지 않아
05:14명예훼손죄
05:14명예훼손죄
05:16명예훼손죄
05:16사자명예훼손죄
05:17다 좋습니다.
05:18자 사자명예훼손죄가 인정이 되려면
05:21일단은 유족들이 이 부분에 대해서 수사를 해달라고 고소를 해야 돼요.
05:26즉 신고죄란 말이죠.
05:28그런데 그게 있었다고 칠게요.
05:29자 명예훼손이 되려면 어떤 구체적인 사실이 있어야 돼요.
05:34가령 예를 들어서 강성신이 대학을 졸업을 안 했고
05:39변호사 자격증을 위조했고
05:41노무사 자격증도 훔쳐와서
05:44저 변호사 생활을 하고 있는 거다라고 있는 구체적인 어떤 사실이 있어야 된단 말이에요.
05:48자 우리 영상 보셨죠.
05:50그런 건 없어요.
05:52그냥 조롱에 가까운 그런 것들이란 말이에요.
05:56단순 조롱이고 사람들이 이걸 봤을 때
05:59국민적 공분을 사는 거와는 별개로
06:01정말 유관순 열사님이 과거에 그러셨을까 정도의 어떤 구체적인 사실이 있는 건 아니란 말이에요.
06:07그럼 이거를 사자명예훼손죄로 처벌할 수 있을까?
06:10어려워 보입니다.
06:11그러면 명예훼손이 아니라 단순한 조롱
06:13조롱에 가까운 걸 우리가 모욕으로 의유를 해볼 수 있을 텐데
06:17모욕죄.
06:18사자모욕죄는 또 없어요.
06:21죄형법정주의의 의거에서
06:22어떠한 죄가 있어야지 처벌이 가능할 텐데
06:24모욕죄는 생존한 사람만을 대상으로 하고 있는 죄란 말입니다.
06:28그래서 이런 부분을 봤을 때 또 이게 뭐겠어요?
06:31입법이 없어요.
06:33법에 규정된 게 없습니다.
06:35그래서 이런 부분도 약간 보완이 필요한 부분이 아닌가 이런 생각이 듭니다.
06:38그러면 우리 민족 영웅을 저렇게 대놓고 모욕하고 조롱하고 이러는데
06:43이거 그냥 손 놓고 있어야 돼요?
06:46손 놓고 있을 수 없어요.
06:46그렇죠. 손 놓고 있으면 안 되는데
06:48마땅한 방법이 없는 건 앞서 강선신 변호사님이 언급해 주신 것과 닿습니다.
06:53우리나라 기본 법은요.
06:54모욕이나 명예훼손을 살아있는 사람을 대상으로 하고 있습니다.
06:58그렇다 보니 이미 역사적인 인물을 모욕하고 조롱했을 때
07:02마땅히 처벌할 규정이 없는 거죠.
07:05그리고 워낙 다양한 표현 매체들이 존재하다 보니까
07:08많은 사람들이 표현의 자유라는 미명하에 법을 교묘히 피해가고 있는 것도 사실입니다.
07:15그런데 분명히 문제가 있기 때문에요.
07:17이럴 땐 국가가 나서야 한다 해서 어떤 역사 왜곡 방지법이나
07:22AI로 이렇게 누군가를 조롱하거나 AI로 누군가에게 해를 끼칠 수 있는 영상을 만들면
07:28처벌해야 된다는 움직임, 힘은 얻고 있거든요.
07:31처벌 규정이 없다고 해서 손을 놓고 있을 수는 없을 것 같고요.
07:35사회적인 합의를 통해서 빨리 이런 법들은 좀 만들어줘야 되지 않을까 생각이 됩니다.
07:40감사합니다.
댓글