00:00지금 실리콘밸리의 화두는 AI 브레이크를 밟아야 된다, 속도 조절론, 또 AI 인류 종말론 이런 얘기가 나오고 있잖아요.
00:10어느 정도 근거를 갖고 있는 얘기인가요?
00:12맞습니다. 그래서 또 이걸 가지고 트럼프 대통령이 노발대발하고 음모다, 역겨운 음모다 이렇게 얘기를 하고 있는데요.
00:20트럼프 대통령도 그렇고요. 트럼프 행정부, 또 캐비너시, 연준 의장, 트럼프가 임명을 했죠.
00:25이들은 AI를 더 발전시키고 AI를 더 개선시켜서 아까 말한 생산성 효율 뿐만이 아니라 여기에서 성장성을 얻고 싶어 합니다.
00:34미국의 새로운 동력이라고 하고 있는데 그런데 최근에 이 AI가 특히 우리가 알고 있는 LLM들, 최치, PT라든가 이런 클로드들이 조금 사고를
00:44치고 있고요.
00:45여러 가지 사건들이 좀 있었었는데 가령 오픈 AI의 최신 버전, 우리에게 출시가 되지는 않았는데
00:51훈련시키는 와중에서 자기가 멋대로 가서 허깅페이스라는 곳에 들어가서 해킹을 해서 목적을 따온 거예요.
00:59지금 훈련을 어떻게 보통 시키냐면 아주 간단하게 너 이거 이거 해와 하면 걔가 수행을 하는 거거든요.
01:06그런데 수행을 할 때 정도가 있어야 되잖아요.
01:09그런데 그 목표를 달성을 하기 위해서 과거 남의 꼴을 해킹을 해오는 이 정도가 오게 된 겁니다.
01:16그러면서 퇴사한 전직 오픈 AI 직원이 이대로 가면 3년 내에 인간이 오히려 AI에 다 집어먹힌다.
01:24이런 사건이 있었었고요.
01:26여기에 민주당 쪽에 오바마 전 대통령, 해리스 전 대선 후보였었죠.
01:33지금 빨리 AI 속도 규제를 해야 된다.
01:35AI 규제가 필요하고 이대로라면 오히려 우리 인간이 AI에 종속된다.
01:40공속된다. 여기까지 오다가 결정적으로 엔트로픽의 아까 말한 CEO가 나와서 우리 모두가 지금 모여서 AI 속도를 좀 규제해야 된다는 AI 개발
01:54속도론들이 함께 나오게 된 겁니다.
01:56그런데 그다음에 일론 머스크가 나도 그렇게 생각해.
02:00그다음에 채트 비티의 세 물트말도 나도 그렇게 생각해.
02:03그러면서 갑자기 이쪽 편이 한번 뭉치게 된 거고요.
02:06이러니까 정반대에 있는 트럼프 대통령은 누구 좋으라고 이런 거 하냐.
02:11그럼 우리끼리 미국은 속도 조절을 하고 있으면 중국만 좋으라고 하는 거냐.
02:15이거는 오히려 민주당이 자기의 발복을 잡으려는 역겨운 행동이다.
02:20정치적으로 해석을 하고 있고요.
02:22엔비디아의 젠슨왕이 컨퍼런스하고 있는데 트럼프 대통령이 전화를 겁니다.
02:27왜냐하면 지금 젠슨왕 같은 입장에서는 칩을 더 팔아야 되잖아요.
02:32우리 입장에서도 엔비디아에 들어가는 칩에 우리의 반도체가 들어가잖아요.
02:36그런데 이쪽에서는 야 좀 쉬자 이러니까 말도 안 되는 소리다.
02:40이렇게 판이 좀 나누고 있습니다.
02:42지금 저희가 영화 터미네이터 영상도 좀 보여드리고 있는데
02:45이게 그러니까 AI, 인공지능이 인간을 지배하는 그런 사회잖아요.
02:50미국에서는 10명 중에 6명, 인류가 진짜 AI에 의해서 정복될, 그렇게 될 가능성도 보고 있다.
02:57이렇게 말이 나오더라고요.
02:58지금까지의 발전 속도를 하면 정말 낯설거나 허무맹랑한 이야기는 아닙니다.
03:03저희가 영화에서 보는 장면이 아니고 현실이 될 수도 있다.
03:06가능성도 매우 매우 높죠.
03:08왜냐하면 우리가 AI를 시작했을 때의 목적이 AGI를 탄생시키는 거거든요.
03:12딱 우리 인간 같은 애, 두뇌, 이거보다 조금 더 뛰어난 친구를 하나를 만들어내는 그 AGI가 목표인데
03:20지금 AI 전문가들은 이 수준이 그리 어렵지 않다.
03:25이게 무슨 얘기냐면요.
03:26지금은 우리가 목표를 주죠.
03:29이거 해와 저거.
03:30지시하죠.
03:30지시를 하게 되는데 일정 수준을 넘어가게 되면 마치 우리의 실제 비서처럼 내가 명령하지 않았어도 입안에 혀처럼 굴어서 자기네가 활동을 한다는
03:42거고요.
03:43더 나아가면 뭐겠습니까?
03:45배신을 할 수가 있게 되는 거 아니겠습니까?
03:48그런데 이제 더 중요한 문제가 터미네이터가 엄밀히 말하면 터미네이터의 두뇌는 지금 완성형이거든요.
03:54그런데 몸이 완성이 되잖아요.
03:56그런데 이 몸을 우리가 피지컬 AI, 쉽게 말해 로봇을 좀 어렵게 그렇게 말하는데
04:00지금 보시면 이 로봇의 개선 속도도 엄청나게 빠릅니다.
04:05감속기, 액체위이터, 특히 로봇은 손이 어렵거든요. 손가락.
04:09손가락도 완성되고 있고요.
04:12발 만들기가 진짜 어려웠어요. 최초에는.
04:14그래서 자꾸만 로봇이 쓰러져요.
04:16그래서 아예 LG 같은 경우에는 발 대신에 그냥 하부팍으로 붙여놓은 이런 바퀴를 해버리고 그렇게 됐는데
04:23지금 발, 다리까지도 완벽하게 구형이 되고 있기 때문에 두뇌와 몸이 함께 가니까
04:29지금 화면에서도 자꾸 터미네이터가 나오고 있는 것 같은데
04:34그러면 어떻게 되겠습니까?
04:35그래서 속도 조절론이 좀 나온 것이다 이렇게 볼 수가 있는데
04:39또 트럼프 쪽, 또 우리 입장에선 특히 K-반도체는 어쨌거나 메모리 반도체를 팔아야 되고
04:45우리의 메모리 반도체가 많이 팔리려면 빅테크니 또 이런 소위 말하는 최치피티니 엔트로픽이 계속해서 훈련을 해야 되잖아요.
04:54칩을 써야 되기 때문에 약간 상반된 의견을 함께 존재하고 있습니다.
04:59그러니까 이것을 정말 소수의 기업들이 기득권 지키기 하는 거다라고 보는 시각도 있고
05:07그리고 진짜 지금 시점에 지금이라도 브레이크를 좀 밟아야 된다라는 시각이 공존하고 있는 거잖아요.
05:15개인적으로 보시기에는 어느 쪽에 좀 비중을 둬야 되는 거예요?
05:18저는 반반이라고 봐요.
05:19특히 저는 사다리 걷어치기 이론을 굉장히 많이 지금 맞다라고 보고 있거든요.
05:24왜냐하면 제가 그날 토요일, 일요일, 주말에 이걸 다 보고 있었는데
05:28짜고 치는 우리가 뭐라고 하잖아요.
05:31짜고 치는 작점처럼 다리오 아머데이 소위 말하는 엔트로픽 CEO가 블로그에 글을 올리자마자
05:37갑자기 일론 머스크도 동의를 하고요.
05:40샘 웰트만도 동의를 하고 구글 창업자도 동의를 하고
05:43그 외에 민주당 쪽에 해리스, 오바마도 이야기를 하고 이런 모습들이
05:48좀 무슨 너무나도 일세천리로 흘러가고 있거든요.
05:51제가 왜 이걸 사다리 걷어치기라고 얘기하냐면
05:54이들 가령 채치피테라든가 오픈 AI라든가
05:58아니면 엔트로픽은 어느 정도의 수준이 일단 온 것 같아요.
06:01하고 그들의 골방 속에서는 자기네들은 더 이거를 개선할 수 있을 것 같아요.
06:07그런데 문제는 여기에서 갑자기 우리가 속도 조절을 하고
06:10AI 규제를 만들어내요.
06:12그러면 뒤따라 오는 기업들은 어떡합니까?
06:15규제에 번번이 걸리죠.
06:17지금 이미도 뛰어넘을 수도 약간 힘들 것 같은 엄청난 격차가 있는데
06:21규제를 통해서 밑을 막아버리면
06:24이건 사다리를
06:25위에 이미 선을 넘었던 사람들만 더 발전하겠다는 취지의 목소리들이
06:30굉장히 강하지 않느냐는 것도 사실인 거고요.
06:32반면에 이제 사고를 칠 것 같거든요.
06:36AI가 이 정도까지 가서 우리가 이제는 목표도 제시를 안 해주면
06:42멋대로 행동할 수 있는 부분들이 있기 때문에
06:45얼마 전에 마이크로소프트 행동 강령도 나왔다던데
06:47이 부분에 대해서도 분명히 공감을 해야 되고
06:50그래서 제가 반반이라고 얘기를 한 겁니다.
06:52AI의 발전 속도가 우리의 상상을 뛰어넘어서 진행되고 있기 때문에
06:58인류 멸망까지 갈 수 있지 않나 이런 걱정도 나오고 있는 상황인데
07:01앞으로 좀 추후 경과를 좀 보겠습니다.
07:03정철진 경제평론가였습니다. 고맙습니다.
07:05고맙습니다.
댓글