00:00네 요즘 AI가 실생활 곳곳에서도 많이
00:05많이 쓰이고 있죠. 그런데 AI를 활용한 가짜 정보 때문에 유명인들이 피해를
00:10입는 사례가 점점 늘어나고 있습니다.
00:12이번에는 이 사람이 피해를 입었습니다.
00:15이 사람이 피해를 입었습니다.
00:20여기 있습니다.
00:25이 사람이 피해를 입었습니다.
00:30자신감? 그냥 내 스스로가 어느 순간 내가
00:35하는 행동이 좀 더 자신 있어 보이고 그리고 또 당당해 보이고
00:40이런 게 좋아 보였었던 것 같아요.
00:44최근에는 저희 채널
00:45야구 여왕에서 단장으로도 활용하고 있는 박세리 씨인데요.
00:50매우 김승수 씨와 가짜 결혼설이 인터넷상에서 일파만파 퍼지면서 결국
00:55본인이 직접 해명하는 일까지 있었습니다.
00:57최수영 평론가님 저도 이 가짜 영상이
01:00너무 많이 돌아다니길래 봤었는데 결국 본인이 해명을 하는 지경에 이르렀어요.
01:05그만큼 정교해요. 그리고 이제 대중들이 사실로 믿을 정도로 그렇게 이제 파급력 있게
01:10전달되고 있는데 특히 우리 사회에는 조금 뭐랄까 선동적 가짜 뉴스에 좀
01:15취약한 그런 구조를 갖고 있는 그런 사회인데 그러다 보니까 이제 우리 정부가 이제 이런 데 대해서
01:20에이아이 생성형 에이아이를 통해서 뭘 만들었을 때 콘텐츠를 만들었으면 이게 그거라고 고지를 해야 되는
01:25한다고 얘기하지만 실제 유튜브들은 그렇게 규제를 받지 않아요. 우리 뭐 지상파나 종편 이런 데
01:30그런 데는 다 이제 자막에 넣고 이제 이렇게 하는데 딴 데는 그렇게 안 하거든요 에이아이로 제작한 영상입니다.
01:35그렇습니다. 딱 고지를 해야 돼요. 그런데 유튜버들은 그런 게 없기 때문에 지금 뭐 피해 사례들을 보면
01:40주식 투자 전문가가 마치 이제 자기가 한 것처럼 했다고 해서 지금 뭐 경찰을 고발
01:45한 사건도 있고 심지어 손흥민을 사칭한 비슷하게 나온 그런 콘텐츠도 많아요. 그러다 그러다
01:50보니까 저는 이렇게 생각합니다. 이 생성형 에이아이가 만든 걸 또 다른 에이아이가 또 학습해가지고
01:55다시 또 진화시켜요. 이런 게 하다 보니까 너무 진화 속도가 빨라서.
02:00하긴 하는데 규제의 속도가 에이아이의 진화 속도에 빛을 못 따라가는 거야. 그러다 보니까.
02:05저는 이렇게 생각합니다. 우리 공론장의 질서는 물론 규제라든가 정부의 어떤 그런 지침으로 인한
02:10약간의 그런 방어 허들도 있겠지만 더 중요한 거는 우리 국민들이 이걸 걸러낼 수
02:15하는 일만 필터링 능력을 가져야 되는데 그게 제일 좋은 방법은 이렇게 이제 공직 공직
02:20정신력 있는 채널을 보거나 아니면 레거시 미디어라고 하는 전동적인 방식을.
02:25통해서 정보를 흡수하는 게 가장 좋고 아니면 유튜브를 본다고 하더라도 최소한 그거를 한 번쯤은.
02:30걸러낼 수 있는 문제의식을 갖고 봐야지 무조건 유튜브에서.
02:35돌아다닌다고 사실관계를 믿으면 저는 가짜 결혼 소리에도 반응하게 되는 그런 이제.
02:40적 기능이 생각나는 겁니다 그러니까 가장 좋은 거는 역시 우리 공론장의 그런 전통적인.
02:45뉴스미디어를 보는 게 가장 좋겠다는 말씀드립니다.
02:48전통적인 뉴스 톱10을 보시면 될 것 같아요.
02:50박세리 씨가 이제 직접 해명한 걸 보니까 결혼할 때 내가 직접 말씀.
02:55드리겠다 그러니까 본인이 밝히지 않으면 가짜라고 생각하시면 될 것 같고요.
02:59장현주 부대변인.
03:00같이 좀 연루가 돼서 난감할 수 있는 배우 김승수 씨도 본인의 드라마가.
03:05공개가 곧 공개가 되는 것 같은데 제작 발표에서 해명을 좀 한 것 같아요.
03:09그렇습니다.
03:10아무래도.
03:10주변에서 얘기를 많이 했을 것 같아요.
03:13박세리 씨 같은 경우에는.
03:15이웃.
03:15주민들이 뭐 축하한다 이런 인사를 건네기까지 했다라고 하더라고요.
03:18축하까지 받으니까 얼마나 난감.
03:20그렇죠.
03:21게다가 박세리 씨도 마찬가지고 김승수 씨도 마찬가지겠지만 서로 상대를.
03:25생각하면 더욱 난감했을 겁니다 본인도 곤란하지만 상대방이 얼마나 곤란할까.
03:30이걸 생각하면 더 좀 어이없고 좀 황당한 상황이 아니었겠나라는 생각이 드는데.
03:35그렇기 때문에 이 가짜뉴스에 대해서 드라마 제작 발표회에서도 해명을 해야 되는 그런.
03:40일까지 지금 벌어진 겁니다 사실 유튜브 상이나 이런 데서 난립하고 있는 여러 가지.
03:45연예인들에 대한 가짜뉴스에 대해서 뭐 앞서 얘가 나온 것처럼 무분별하게 믿을 것이 아니라.
03:50한 번 더 체크해 보는 게 필요할 것 같고요.
03:52당사자들은 사실 잘못이 없는데도 불구하고.
03:55이런.
03:55이런 식으로 불편을 겪고 해명해야 되는 것.
03:57사실상 너무 어이없고 참 난감하지 않겠나.
04:00라는 생각 듭니다.
04:01네.
04:02뭐 이런 피해 사례는 하루 이틀 일이 아닌데요.
04:04앞서 배우 신혜란.
04:05배우 신혜란 씨는 본인의 사망설에 직접 해명을 하는 처지에 놓이기도 했습니다.
04:10오늘 특별한 인사드리려고요.
04:13저 잘 살아있습니다.
04:14오늘 특별한 인사드리려고요.
04:15저 잘 살아있습니다.
04:15안 죽었습니다.
04:16함께 봉사 오시는 분이 어제 울면서.
04:20전화하셨대요.
04:21신혜란 씨 죽었냐고.
04:22아 안 죽었어요.
04:24왜 그런.
04:25말도 안 되는 그런 뉴스를 올리시나요.
04:28왜 그러세요 도대체.
04:30어떤 이익이 있으시다고.
04:32그런 끔찍한 뉴스를.
04:35주변에서 너무 걱정들을 하니까.
04:37본인이 저렇게 해명 영상까지 올렸는데요.
04:40조철업 변호사님.
04:41저렇게 가짜 정보를 막 퍼뜨리는 사람들.
04:44법적으로도 문제될 수 있는.
04:45그런데 이게 내용에 따라서 좀 달리 판단될 수 있는 부분이 있어서
04:50이런 문제를 만들었다고 해서 무조건 다 처벌 대상이 된다고 단정하기는 어렵습니다.
04:55그 내용 자체가 명예훼손 내용에 해당하거나 이런 요건 사실들을 만족.
05:00또 비방의 목적이 있어야 하는데 예를 들어서 결혼을 했다라는 가짜 뉴스.
05:05예로 들어본다고 하면 결혼했다라는 것이 사회적인 가치.
05:10평가를 떨어뜨릴 만한 내용은 아니잖아요.
05:15어떤 사실 또는 허위 사실에 적시가 있어야 한다는 것이.
05:20성립 요건이거든요.
05:21그리고 아까 AI 영상 생성형 AI 특히.
05:25문제가 되는데 지난주부터요.
05:27AI 기본법이 시행 중입니다.
05:29그런데 이 규제.
05:30대상이 사업주만을 대상으로 하고 있어요.
05:33그래서 아까 최수영 평론가님께서 굉장히.
05:35중요한 지적을 해주셨는데 이 영상은 계속해서 재생산될 가능성이 높고.
05:40실제로 그것 때문에 많이 유포가 되고.
05:42이 피해가 한번 번지면 회복도 상당히 힘들거든요.
05:45그런데 단순 이용자가 AI로 생성된 영상입니다.
05:48라는 표시하는 표시 의무.
05:50부과를 받지를 않고 있기 때문에 이걸 만약에 그런 표시를 하지 않고 계속.
05:55이렇게 해서 재생산해서 친구들끼리 공유를 한다든가 아니면 그냥 자기가 개인 소장 목적으로.
06:00이걸 본다든가 해서 일파만파 만약에 퍼지게 된다고 하면.
06:03이걸 직접적으로 규제.
06:05지금 현행법상으로는 어느 정도 규제가 들어갔다 해도 쉬운 상황이.
06:10이거든요.
06:11그래서 지금은 일단 이용자들이 한 번 더 걸러서 듣고.
06:15확인하는 절차.
06:15또 실질적인 이야기입니다.
06:20ANSASA가 필요한 단계다라는 생각이 들고요.
06:21그렇다고 해도 무분별하게 규제를 하는 게 한참.
06:20태동하고 있는 AR 산업 자체를 위축시킬 수가 있기 때문에 마구 규제를 강하게 하게.
06:25그래서 이런 기술 변화에 따른 우리 사회의 합의
06:30접점이라든가 규제의 접점 이런 것들을 조금씩 찾아가야 되는 단계에 있지 않나 하는 생각이 듭니다.
06:35그런데 저희가 이번에 박세리 씨, 김성숙 씨 결혼사항
06:40를 놓고 한번 옛날에 어떤 피해가 있었는지 좀 찾아봤더니요.
06:44주로 이렇게
06:45사망설, 결혼설들이 많이 나오는 것 같아요.
06:47홍정선 기자님, 어떤 연예인들이
06:50피해를 많이 본 건가요?
06:52사실 나훈아 씨가 일명 바지
06:55박세리 기자회견 이후에 좀 드문, 드문 불출했어요.
06:58그랬더니 그때 당시에
07:00여러 가지 미국에서 목격담 이런 것만 나온 게 아니라 사망설이 나왔는데
07:05콘서트에서 본인이 얘기했습니다. 아니 곱게 죽인 것도 아니고 교통사고
07:10뭐 죽었다더라 내 장례식 갔다 온 사람도 있다더라.
07:15네 그렇습니다.
07:16굉장히 살아있는 사람에 대한 불쾌함을 넘어서는
07:20그런 거죠. 뭐 장윤정 씨도 사망했다. 아까 신혜라 씨도 사망했다. 그런데
07:25이런 거예요 사망설이든 결혼설이든 그냥 믿거나 말거나 일
07:30일단 나는 조회수로 돈만 벌면 돼 라는 굉장히 무책임한 유튜버들이
07:35방송이거든요. 그런데 사망설은 뭐 기분 나쁘고 예를 들면
07:39열애설이라
07:40하든가 결혼설은 나쁠 것도 없지 않아 그러니까 더 죄의식 없이 할 수 있는데
07:45그런
07:45그렇지 않습니다. 예를 들면 김승수 씨가 지금 드라마 제작 발표를 해요.
07:50방영된다는 얘기입니다. 그런데 결혼설이 나요. 이건 많은 시청자가 김승수 씨
07:55김승수 씨의 어떤 캐릭터에 빠져들 수 있는 이걸 방해하는 굉장히
08:00나쁜 행위예요. 그리고 김승수 씨가 앞으로 광고를 뭐 광고
08:05모델이 된다든가 여러 가지 이미지 연예인에게 이미지는 굉장히 중요하거든요.
08:10그런데 연예인의 어떤 이미지라든가 이후에 드라마 인기 광고 이익 이런 거
08:15생각하지 않고 본인들 조회수만 생각하는 이런 행태에 대해서는
08:20정말 문제가 있고요. 아까 최수영 평론가 말씀하신 것처럼 앞으로 에이아이는 정말
08:25이게 진짜인 것 같은 열애 영상도 결혼 영상도 심지어 상견례 영상도 많이
08:30만들어낼 거거든요. 그런데 그런 것에 대해서 웬만하면 정말 믿지
08:35않으셔야 되겠습니다. 네. 레거시 미디어를 뉴스 톱10을 보시면 된다.
08:40라는 말씀을 드리고요. 오늘의 9위였습니다.
댓글