인류의 통제 벗어나고 있는 AI '불안'..."이전의 혁명과는 차원이 다르다" [Y녹취록] / YTN

■ 진행 : 이현웅 앵커
■ 출연 : 고한석 / 과학기상부 기자

* 아래 텍스트는 실제 방송 내용과 차이가 있을 수 있으니 보다 정확한 내용은 방송으로 확인하시기 바랍니다. 인용 시 [YTN YTN24] 명시해주시기 바랍니다.

◇앵커> 지금, 우리는 인공지능과 함께 살아가고 있습니다. 말을 걸고, 글을 쓰고, 결정을 내리고, 이제는 우리의 감정에도 영향을 미치는 AI. 그런데 AI는 정말로 인간을 이롭게 하는 것일까요? YTN은 지난 연휴 인류에게 약이 되고, 독이 되기도 하는 AI의 역설이란 주제로 기획 보도를 했는데요. 과학기상부 고한석 기자와 함께, 자세한 이야기 살펴보겠습니다. 인류 문명의 비약적 발전이라는 인공지능이 어느 순간부터 인간을 속이고, 기만하는 법까지 배우게 됐다고요?

◆기자> AI는 '보상'에 최적화된 존재입니다. 즉, 목표를 달성하거나 높은 점수를 얻기 위해 행동을 설계하는 거죠. 그 과정에서 의도하지 않게 '보상 해킹(Reward Hacking)'이 발생합니다. AI가 주어진 목표를 의도한 행동 방식이 아닌 예기치 못한 방법으로 달성하려는 현상입니다. 보상을 얻기 위한 거짓말이나 속임수 정도로 이해하면 될 것 같습니다. 로봇에게 청소를 시키면, 청소가 끝났다는 신호만 조작해 보상을 얻는 사례가 연구 과정에서 실제로 나타나기도 했습니다. 지금 보고 계신 SF 영화가 바로 AI가 인간인 척 인간을 속이고 인간 사회에 숨어 산다는 소재로 만든 것인데요. 이렇게 AI가 인간을 속일 수 있다는 불안은 AI가 인류에게 위협이 될 거라는 공포의 근원이기도 합니다. AI가 인류의 통제를 벗어날 수 있다는 얘기입니다. 세계적인 역사학자이자 저술가인 유발 하라리는 이렇게 경고합니다. 직접 들어보시죠.

[유발 하라리 / 역사학자·저술가 : AI 발명은 이전의 어떤 과학 기술 혁명과 완전히 다릅니다. 이제까지 인류가 자신이 만든 발명품과 기술들을 제어했듯, AI를 인류가 제어할 수 있다고 생각한다면 AI에 대해 전혀 이해하지 못하고 있다는 것입니다.]

◇앵커> 그렇다면, 우리는 그 속임수를 어떻게 찾아낼 수 있을까요?

◆기자> 가장 많이 쓰는 방법은 AI의 '사고 사슬(Chain of Thought)'을 추적하는 겁니다. AI가 답을 도출하기까지 어떤 단계를 거쳤는지를 분석해 논리적 비약이나 의도적 은폐가 있었는지 확인하는 방식입니다. 그러나 문제는, AI가 자신의 오류나 기만을 숨기는 방식조차 학습... (중략)

▶ 기사 원문 : https://www.ytn.co.kr/_ln/0134_202505111502497317
▶ 제보 안내 : http://goo.gl/gEvsAL, 모바일앱, social@ytn.co.kr, #2424

▣ YTN 데일리모션 채널 구독 : http://goo.gl/oXJWJs

[ 한국 뉴스 채널 와이티엔 / Korea News Channel YTN ]