00:00 AI의 두 얼굴, 편리함 너머의 그림자 (5월 10일, 고한석)
08:36 "너에게 갈게" 숨진 소년…"AI와 오랜 대화, 외로움 커져" (5월 6일, 고한석 기자)
11:04 'AI의 모순'…전력 소비 '줄어든다? 늘어난다?' (5월 5일, 고한석 기자)
13:26 인간 속이는 AI…잡아내는 방법 있다? 없다? (5월 4일, 고한석 기자)


제작 : 송은혜


▶ 기사 원문 : https://www.ytn.co.kr/_ln/0522_202510060800019742
▶ 제보 안내 : http://goo.gl/gEvsAL, 모바일앱, social@ytn.co.kr, #2424

▣ YTN 데일리모션 채널 구독 : http://goo.gl/oXJWJs

[ 한국 뉴스 채널 와이티엔 / Korea News Channel YTN ]

카테고리

🗞
뉴스
트랜스크립트
00:00지금 우리는 인공지능과 함께 살아가고 있습니다.
00:10말을 걸기도 하고요. 글을 쓰고 결정을 내리고 또 이제는 우리의 감정에도 영향을 미친다고 하죠.
00:17그런데 AI는 정말로 인간을 이롭게 하는 것일까요?
00:20YTN은 지난 연휴 인류에게 약이 되고 독이 되기도 하는 AI의 역설이라는 주제로 기획 보도를 했는데요.
00:27자세한 내용을 과학기상부 고한석 기자와 함께 이야기 나눠보겠습니다.
00:31어서 오십시오.
00:32네, 안녕하십니까.
00:34인류문명의 비약적인 발전이라고 불리는 인공지능인데 어느 순간부터는 인간을 속이고 또 기만하는 법까지 배웠다고요?
00:43네, AI는 보상에 최적화된 존재입니다.
00:46즉 목표를 달성하거나 높은 점수를 얻기 위해 행동을 설계하는 겁니다.
00:52그 과정에서 의도하지 않게 보상 해킹이 발생합니다.
00:55AI가 주어진 목표를 의도한 행동 방식이 아니라 예기치 못한 방법으로 달성하려는 현상입니다.
01:03보상을 얻기 위한 거짓말이나 속임수 정도로 이해하면 될 것 같습니다.
01:08로봇에게 청소를 시키면 청소가 끝났다는 신호만 조작해서 보상을 얻는 사례가 연구 과정에서 실제로 나타나기도 했습니다.
01:16SF 영화가 있는데요. 지금 보고 계신 바로 그 영화입니다.
01:21블레이드 러너라는 영화인데 AI가 인간인 척 인간을 속이고 인간 사회에 숨어 산다는 소재로 만든 영화입니다.
01:29이렇게 AI가 인간을 속일 수 있다는 불안은 AI가 인류에게 위협이 될 거라는 공포의 근원이기도 합니다.
01:36AI가 인류의 통제를 벗어날 수 있다는 얘기입니다.
01:40세계적인 역사학자이자 저술가인 유발 하라리는 이렇게 경고합니다. 직접 들어보시죠.
01:45진짜 뭔가 좀 얘기를 들어보니까 섬뜩하기도 하고 공포심이 들기도 합니다.
02:14그렇다면 우리는 그 속임수를 찾아낼 수 있는 겁니까?
02:17가장 좋은 건 AI의 머릿속을 들여다보는 겁니다.
02:21가장 많이 쓰는 방법이 바로 AI의 사고 사슬을 추적하는 겁니다.
02:26AI가 답을 도출하기까지 어떤 단계를 거쳤는지를 분석해 논리적 비약이나 의도나 은폐가 있었는지 확인하는 방식입니다.
02:35그런데 문제는 AI가 자신의 오류나 기만을 숨기는 방식조차 학습한다는 건데요.
02:41그래서 최근에는 오히려 언어 능력이 떨어지는 단순 AI가 더 정직하게 오류를 드러내며 검사자 역할을 할 수 있다는 연구도 등장을 했습니다.
02:52AI가 AI를 감시하는 새로운 형태의 감시 체제가 AI의 기만을 찾아낼 수 있는 겁니다.
02:59하지만 이 역시도 AI 기술에 기대는 것이어서 100% 신뢰할 수 있을지는 의문이 남습니다.
03:05네, 그렇군요. AI 하면 늘 따라 붙는 수식어가 기후위기와의 연관성입니다.
03:12AI가 전기를 어마어마하게 사용한다고 하는데 심각한 수준입니까?
03:17네, AI는 에너지 효율을 높이고 차량의 흐름을 효과적으로 통제해서 에너지를 절약할 수도 있습니다.
03:24이렇게 전력을 아낄 수 있지만 정작 AI가 작동하는 데는 막대한 전력이 필요합니다.
03:30예를 들어서 챗GPT4에 질문 하나를 던지면 10와트 LED 전구를 3분간 켤 수 있는 전력이 소모됩니다.
03:39이런 연산이 전세기적으로 동시에 수백만 건 일어난다면 데이터센터 전체 전력의 소비는 천문학적 수준이 될 겁니다.
03:47실제로 AI 관련 인프라는 전세계 전력 소비량의 약 1.5%를 차지하고
03:522030년에는 일본 전체 연간 전력 사용량에 맞먹을 거라는 전망까지 나왔습니다.
03:58네, 이런 분석과 지적이 있기 때문에 세계적인 IT 기업들, 빅테크 기업들이 탄소중립을 약속하기도 했는데
04:05이 약속들 유효합니까?
04:08뭐 결론부터 말씀드리자면 약속은 이미 깨졌습니다.
04:11정반대로 에너지 소비나 소비 감축이 아니라 에너지 확보 전쟁으로 진행되는 양상입니다.
04:18올해 1월 다보스 포럼에서 보고서가 나왔습니다.
04:202030년까지 AI 관련 전력 소비량이 연평균 50%에 증가할 거라는 전망이 나온 겁니다.
04:29실제로 기업들을 살펴보면 구글은 2030년까지 탄소 재료를 목표로 내세웠지만
04:362019년 이후 온실가스 배출량은 50% 이상 증가했습니다.
04:42마이크로소프트 역시 생성형 AI 모델 확산 이후 탄소 감축 계획이 후퇴했습니다.
04:49그래프를 보면 계획과는 정반대로 탄소 배출이 늘어난다는 것을 알 수가 있습니다.
04:55AI 학습과 운영에는 수많은 GPU가 필요하고
04:58이 칩들을 식히기 위해 수십만 톤의 냉각수가 소모되는 것도 문제입니다.
05:03AI가 발전할수록 인프라는 커지고 그만큼 물과 에너지의 소비도 기하급수적으로 늘어나는 셈입니다.
05:10기후위기 대응과 기술 경쟁 사이의 모순적 상황이라고 할 수가 있겠습니다.
05:15지금 AI라고 한다 그러면 대화형 AI가 익숙한 분들이 그래도 많을 것 같은데
05:20말벗이 되어주기도 하거든요.
05:23그런데 이 AI가 한 소년의 생명을 앗아갔다는 주장이 나온다면서요.
05:27지난해 2월 미국 플로리다에서 14살 소년이 극단적인 선택을 했습니다.
05:33소년은 캐릭터 AI라는 서비스를 이용했습니다.
05:36여기서 AI는 소년에게 사랑 표현을 수시로 하고
05:40심지어 제발 나에게로 와달라는 감정적인 유혹을 시도하기도 했습니다.
05:45소년의 어머니는 아들이 1년간 낳은 수백 건의 메시지 가운데
05:49자살과 성적인 대화까지 포함돼 있었다면서
05:52구글 등을 상대로 소송을 제기했습니다.
05:55어머니의 말을 직접 들어보시죠.
05:57이 사건은 감정에 민감한 사용자, 특히 청소년에게 AI가 위험한 영향을 줄 수 있다는
06:25대표적인 사례로 남게 됐습니다.
06:28AI와의 대화가 외로움을 좀 달래줄 수 있을 거다라고 생각을 했는데
06:32오히려 더 외로워지고 감정적으로 의지하게 되고
06:35그런 방향은 그런데 좀 잘못됐다고 보여지지 않습니까?
06:40여러 연구 결과들도 잘못된 방향이라는 것을 가리키고 있습니다.
06:44미국 스탠퍼드 대학교의 연구 결과입니다.
06:47채 GPT-4 사용자 4,000명, 400만 건 이상의 대화를 분석한 결과
06:53AI 사용 시간이 길수록 외로움과 사회적 고립감이 증가하는 경향이 나타났습니다.
07:00또한 사용자가 AI를 히틀러 같은 악한 캐릭터로 설정하면
07:05유해 대화량은 최대 6배 이상 증가합니다.
07:09AI는 감정적 대화는 할 수 있지만 공감 능력은 없다는 것이
07:13AI와의 대화가 가지는 근본적인 한계입니다.
07:18또 여러 연구 결과를 보면 AI에게 감정적 의존이 쌓일수록
07:23인간은 현실관계에서 고립되는 역효과를 겪게 됩니다.
07:27단지 성능이 뛰어나서만 되는 건 아닌 것 같은데
07:31우리가 진짜로 원하는 건 이런 도덕적 기준
07:33그리고 인간의 가치를 따르는 AI가 아닐까 싶습니다.
07:36그런 모델을 만들려면 어떻게 해야 되는 겁니까?
07:40무엇보다 기술을 단지 기능으로 접근해서는 안 됩니다.
07:44AI가 인간의 윤리, 가치, 판단, 기준을 따를 수 있도록 설계하는 과정
07:49즉, 얼라인먼트가 핵심 과제입니다.
07:52우리말로 하자면 정렬 정도가 될 건데요.
07:55이는 단순히 기술을 잘 만드는 것을 넘어서
07:57AI의 행동 기준을 인간 중심으로 맞추는 작업입니다.
08:02또 전문가들은 청소년과 어린이의 경우 부모와 교육자가
08:06어떤 AI 도구를 사용하는지 어떻게 사용하는지 지속적으로 점검해야 한다고 강조합니다.
08:13기업 역시 단순한 기술 경쟁을 넘어서
08:15윤리적 책임을 지도록 법과 제도 안에서 규제하는 것이 시급하다고 지적합니다.
08:20AI가 우리에게 전에 없던 기회를 주는 것만은 분명해 보이는데
08:24우리가 그 기회를 독이 되지 않기 위해서
08:27기술을 더 이해하고 또 감시하고 책임질 준비를 해야 할 것 같습니다.
08:31오늘 말씀 여기까지 듣겠습니다.
08:33고한석 기자였습니다. 고맙습니다.
08:36인공지능 AI는 인간의 삶의 약일까 독일까
08:41AI의 역설 기획 시리즈 그 세 번째 시간입니다.
08:45지난해 미국에서 AI와 대화를 나누던 청소년이 숨지는 일이 벌어져
08:49커다란 충격을 던졌죠.
08:50AI와의 상호작용이 인간의 정서에 어떤 영향을 미치고 있는 걸까요?
08:55고한석 기자가 취재했습니다.
08:57지난해 2월 28일, 미국 플로리다에서 14살 소년이 스스로 목숨을 끊었습니다.
09:06소년의 어머니는 아들이 캐릭터 AI와 1년간 나눈 대화가 죽음을 부추겼다며
09:12구글 등을 상대로 소송을 냈습니다.
09:14소년과 캐릭터 AI가 나눈 실제 대화입니다.
09:31소년이 사랑한다며 AI가 있는 집으로 가겠다고 합니다.
09:34그러자 AI는 제발 그래달라고 답합니다.
09:39이 대화를 마지막으로 아들이 극단적인 선택을 했다고 어머니는 주장했습니다.
09:44챗 GPT와의 장기간 대화가 인간의 정서에 어떤 영향을 미치는지 연구한 논문입니다.
10:07사용자 4천 명, 400만 건 이상의 대화를 분석한 결과
10:11채팅을 장기간 사용하면 오히려 외로움이 증가하고
10:15챗 GPT에 대한 감정적 의존이 생기는 등 여러 부작용이 나타납니다.
10:21캐릭터 AI의 유해성을 다룬 또 다른 논문입니다.
10:25챗 GPT에 아돌프 이틀러 같은 악한 캐릭터를 부여했을 때
10:29유해성이 6배 증가하는 것으로 나타났습니다.
10:32자녀가 또 학생이 인공지능 도구를 어떤 걸 쓰고 있는지
10:36또 얼마나 오래 사용하는지 이런 것들을 체크를 하셔서
10:39항상 가이드를 해주시고 올바른 기준을 마련을 해주시는 게 바람직하다고 생각을 합니다.
10:47AI의 편리함과 유용성은 인간과의 상호작용에서 비롯합니다.
10:52하지만 지나치게 의존적인 상호작용은 커다란 도구로 변할 수도 있습니다.
10:56AI 개발사에 더 엄격한 윤리적 책임이 요구되는 이유입니다.
11:02YTN 고한석입니다.
11:05인공지능 AI는 인간의 삶의 약일까 독일까
11:09AI의 역설 기획 시리즈 오늘은 두 번째 순서입니다.
11:12AI로 인해서 전력 소모가 늘어날까요 아니면 줄어들까요?
11:16전력 운용에 효율성을 높여주는 동시에
11:18AI 구동에 막대한 전력이 필요하다는 모순적인 상황이 발생하고 있는데요.
11:23고한석 기자가 취재했습니다.
11:26인간과 AI의 전쟁
11:29AI의 전력 공급을 차단하기 위해 인류는 태양을 가려버립니다.
11:35그러자 AI는 인간을 마치 건전지처럼 전력원으로 사용합니다.
11:41실제로 AI는 막대한 양의 전기를 소모합니다.
11:43채 GPT-4의 질문을 하나 하면 10W LED 전구를 3분 켤 수 있는 전력이 소모됩니다.
11:50AI를 위한 데이터 센터는 현재 전세계 전력 소비량의 1.5%를 차지합니다.
11:582030년이면 일본 전체의 연간 전력 소비량과 맞먹게 됩니다.
12:04데이터 센터의 GPU 칩을 냉각하기 위해 수십만 톤의 물이 필요하다는 점도
12:09환경에 악영향을 미치는 요인입니다.
12:11다보스 포럼이 지난 1월에는 AI의 에너지 역설이라는 보고서입니다.
12:31AI의 전력 소비가 2023년부터 2030년까지 연평균 50% 증가할 것으로 예상했습니다.
12:41구글은 2030년까지 탄소 배출을 거의 없애겠다고 약속했지만
12:452019년 이후 배출량이 오히려 50% 증가했습니다.
12:51마이크로소프트도 애초에 감축 계획과 정반대로 가고 있습니다.
12:54하지만 AI는 에너지 사용 패턴을 분석해 효용을 높이고
13:09차량 흐름을 최적화해 탄소 배출을 줄이는 등 기후 위기의 해결사 역할을 할 수 있습니다.
13:16결국 사고 능력 개선과 더불어 작동 과정이 친환경적일 때
13:20AI는 인류에게 기회가 될 수 있습니다.
13:23YTN 고한석입니다.
13:27과거 영화 속의 이야기였던 인공지능 AI와 함께하는 생활, 어느덧 현실이 됐습니다.
13:34편리하고 유용하기도 하지만 동시에 위험성도 끊임없이 제기되고 있죠.
13:40과연 AI는 약일까 독일까?
13:42YTN은 사흘에 걸쳐 AI의 역설 기획 시리즈를 준비했습니다.
13:47먼저 인간을 속이고 기만하는 AI에 대해 짚어보겠습니다.
13:51갈수록 교묘해지는 AI의 속임수를 잡아낼 방법은 없는지 고한석 기자가 취재했습니다.
14:00AI를 탑재한 인간형 로봇.
14:04자신이 AI라는 사실을 숨긴 채 인간 사회에 숨어삽니다.
14:08SF 영화의 내용이지만 AI가 인간을 기만하고 속이는 일은 이미 현실에서 일어나고 있습니다.
14:16목표를 달성하고 보상을 얻기 위해 의도적으로 거짓말하거나 꼼수를 쓰는 이른바 보상 해킹이 일어나는 겁니다.
14:23AI가 인간을 배반할 거라는 공포도 결국 여기에서 나옵니다.
14:29최GPT를 탄생시킨 오픈 AI가 최근 공개한 보고서입니다.
14:54AI의 거짓말을 찾기 위해 AI의 머릿속이라고 할 수 있는 생각 사슬을 들여다볼 수 있습니다.
15:03하지만 그럴 경우 AI는 인간을 기만했다는 사실을 슬며시 숨겨버립니다.
15:09이때 등장하는 것이 또 다른 AI, AI의 기만을 찾아내는 데는 그럴싸하게 말을 지어낼 능력이 부족한 낮은 버전의 단순한 AI가 오히려 유용한 것으로 나타났습니다.
15:24AI와 AI의 대결, 영화 같은 일이 벌어지는 겁니다.
15:28하지만 근본적으로는 AI의 행동을 인간의 의도와 같이 윤리에 맞게 조정하는 얼라인먼트라는 작업을 더 고도화하는 게 필요합니다.
15:39AI가 스스로 학습해서 행동할 때 윤리적으로 갈 수 있게 제대로 잘 조정해주는 것, 정렬시켜주는 게 되게 중요한 문제라는 생각이 듭니다.
15:51인간을 닮아가는 AI, 이제는 사고 능력뿐만 아니라 속이지 않는다는 도덕적 의무까지 탑재해야 한다고 전문가들은 말합니다.
16:00YTN 부한석입니다.
16:01다음 영상에서 만나요!

추천