관련기사 : https://www.dt.co.kr/article/12096011
-----------------------------------------------------------------------------------------------------------------------------------------------------------
디따 유튜브 구독하기 https://www.youtube.com/channel/UCxdgnFyzm3WcalaBn2Ya6hg
네이버TV https://tv.naver.com/ditta
데일리모션 https://www.dailymotion.com/dtwithcom
디지털타임스 홈페이지 http://www.dt.co.kr/
디지털타임스 페이스북 https://www.facebook.com/Digitaltimesnews
☏ 제보하기 photo@dt.co.kr
-----------------------------------------------------------------------------------------------------------------------------------------------------------
#디지털타임스 #미래포럼 #ESG #ai #포럼 @ditta
-----------------------------------------------------------------------------------------------------------------------------------------------------------
디따 유튜브 구독하기 https://www.youtube.com/channel/UCxdgnFyzm3WcalaBn2Ya6hg
네이버TV https://tv.naver.com/ditta
데일리모션 https://www.dailymotion.com/dtwithcom
디지털타임스 홈페이지 http://www.dt.co.kr/
디지털타임스 페이스북 https://www.facebook.com/Digitaltimesnews
☏ 제보하기 photo@dt.co.kr
-----------------------------------------------------------------------------------------------------------------------------------------------------------
#디지털타임스 #미래포럼 #ESG #ai #포럼 @ditta
카테고리
🗞
뉴스트랜스크립트
00:00제가 오늘 발표할 주제는 AI 산업의 성장 과정에 지구 환경 이와 그리고 지역사회의 가치 실험과 관련된 S
00:09두 가지가 어떻게 연계되어서 해석되어야 되는지에 대한 이야기를 좀 들려드리도록 하겠습니다.
00:15작년도 1월에 CS가 CS에서 젠순왕이 발표했던 내용이거든요.
00:21AI의 역사가 다 담겨 있습니다.
00:23젠순왕이 말했던 옛날의 AI는 퍼스펙티브 AI, 인지 AI.
00:31그런데 잘 아시는 지난 4년 동안의 AI는 생성형 AI죠.
00:36무엇인가 만들어내는 AI입니다.
00:38아는 AI에서 만들어내는 AI로 바뀌었죠.
00:42작년 1월에 그는 이렇게 말하면서 앞으로는 또 바뀔 것이다 라고 이야기하면서 에이전트라고 하는 단어를 꺼냈어요.
00:50에이전틱 AI는 실행하는 AI입니다.
00:52더 이상 무엇인가 알고 만들기만 하는 걸 넘어서서 인간 대신에 무엇인가 대신 해주는 거죠.
00:59아까 우리 교수님이 이야기했던 피클이라고 불리는 한국 스타트업이 실리콘밸리에서 런칭한 에이전트도 그런 서비스입니다.
01:07채찌피티에 다시라고 불리는 기능이 있고 메타에는 뮤즈라고 불리는 에이전트가 최근 출시됐거든요.
01:13그리고 클로드에는 듀엣이라고 있고 제가 지금 말씀드린 이런 AI 어플리케이션 서비스들은 에이전트라고 부릅니다.
01:20한마디로 에이전트의 시대가 진짜 젠스랑이 말한 것처럼 오래 오기 시작한 겁니다.
01:26그리고 그가 꺼낸 마지막 네 번째 키워드는 오른쪽 상단에 있는 피지컬 AI입니다.
01:32이제는 우리가 사는 현실계 속으로 AI가 몸체를 가지고 인바디드죠.
01:38몸체를 가지고 들어오는 거죠.
01:41더 이상 디지털 공간 속에만 숨어있는 게 아니라 우리가 사는 현실계로 튀어나오는 겁니다.
01:45로봇의 형태일 수도 있고 자동차 형태, 드론의 형태일 수가 있죠.
01:50그래서 네 가지의 키워드를 제시를 했어요.
01:52제가 여기서 주목한 건 제가 곱하기라고 써있잖아요.
01:56곱하기로 써있는 저겁니다.
01:59최근에 나온 채찌피티 6아스트라 있죠.
02:03GPT 6아스트라를 훈련시키려고 하면 GPU 10만장이 필요해요.
02:07그 GPU 10만장이면 대충 HBM도 필요하고 전력설비도 필요하고 냉각장치도 필요하니까 대충 얼마가 들을 것 같아요?
02:1710조입니다. 10조가 들어요.
02:20근데 문제는 그런 토이 말하는 라지 랭기지 모델이죠.
02:24GPT 6아스트라는 훈련시키는데 10조가 들었지만 운영하려고 하면 운영한다는 얘기는 우리가 쓰는 거죠.
02:33GPT 6아스트라는 특히나 에이전티 기능에 최적화되어 있거든요.
02:36그래서 앞서 설명드렸던 채찌피티 닷 같은 걸 우리가 막 명령을 내릴 거 아니에요.
02:41그렇게 쓰기 시작하면 1, 20조가 아니라 50조, 60조, 100조가 됩니다.
02:46왜 더 많은 지표가 필요하거든요. 수십만장의 지표가 필요하기 때문에.
02:51근데 지난 4년 동안 AI 모델은 계속 발전해 왔어요.
02:55처음에는 라지 랭기지 모델, 그 다음 모델은 라지 멀티모달 모델, 이미지를 또 영상을 생성하는 모델,
03:02그 다음 작년도에는 출원 모델이라고 해서 리즈닝 랭기지 모델로 한 단계 또 도야겠죠.
03:08그리고 앞서 설명드렸던 에이전트는 라지 액션 모델, 액션 모델이 필요합니다.
03:14여기 써있는 LMM, 그리고 RLM, 그 다음에 LAM은 곱하기로 더 많은 토큰이 들어요.
03:23사실은 에이전트가 350배의 토큰이 아니라 천배, 만배가 될 수도 있습니다.
03:29왜냐하면 우리가 내린 명령을 수행하는 과정에 회사 내에 또 필요로 하는 서드 파티 서비스에 연결을 하고
03:38그 툴을 접근을 하고 대신 사용을 하기 때문에 그 과정마다 토큰이 계속 필요하거든요.
03:45그래서 정리를 하면 AI는 진화하면 진화할수록 더 많은 AI 데이터 센터가 필요합니다.
03:52그리고 그 데이터 센터는 그런 이유로 계속 더 많이 만들어지고 있죠.
03:59지금 현재 작년도 기준으로 미국의 데이터 센터의 규모가 약 한 54기가와트 정도 돼요.
04:06중국이 32기가와트 냅니다. 한국이 아직 2기가와트가 안 돼요.
04:12그런데 앞으로 2030년도까지 한국의 목표가 대략 10기가와트예요.
04:182040년도까지는 20기가와트가 목표죠.
04:22그만큼 미국과 중국도 또 투자를 더하고 있습니다.
04:26정리를 하면 2040년도까지 수십 기가와트의 데이터 센터가 만들어지고
04:32그 안에는 어마어마하게 많은 GPU와 HBM이 필요하겠죠.
04:37왜? 아까 설명드렸던 에이전트부터 시작해서
04:40AI 어플리케이션이 본격적으로 구동하기 시작하면
04:43토큰을 엄청 많이 만들어내야 되거든요.
04:46그런데 그 토큰을 만들어내는 게 데이터 센터이기 때문에
04:491기가와트 정도의 데이터 센터를 만들려면
04:54약 75조 정도의 돈이 들어가요.
04:57물론 어느 부지에, 어느 지역에 어떤 GPU와 어떤 반도체 구성으로 만들느냐에 따라
05:02좀 다르긴 하겠지만 대충 70조 이상이 들어갑니다.
05:06그게 다가 아니죠.
05:08연간 운영비는 4조예요.
05:10그 4조 중에 2조가 전력비입니다.
05:12정리를 하면 1기가와트의 데이터 센터가 어떤 특정 지역에
05:17울산이나 전라남도나 이런 데에 들어서기 시작하면
05:20엄청나게 많은 투자비가 들어가고
05:23또 연간 운영비용이 들어간다는 거죠.
05:28그러면 비용만 들어볼까요?
05:31매출이 발생해야죠.
05:34그 정도 이상의 매출이 발생을 해야 지속 가능할 거 아니에요.
05:38데이터 센터는 그 안에 구성되는 여러 가지
05:42설비들로 인해서 지금은 반도체가 주목을 받지만
05:45갈수록 전력이 중요해질 것이고
05:48그 다음엔 냉각이 중요해지고
05:50그 다음에는 데이터가 중요해질 겁니다.
05:52한마디로 말하면 데이터 센터의 병목이에요.
05:55작년도는 GPU가 모자랐거든요.
05:57근데 올해는 메모리가 부족합니다.
06:00그 이유는 예전에는 GPU 1대에 4대 정도의 HBM이 필요했는데
06:04지금은 12개가 필요하거든요.
06:06그러니 GPU 1개에 더 많은 메모리가 필요하니까
06:09HBM이 동인한 거죠.
06:12공급은 딸리고 수요는 폭증하고 있고
06:14근데 그것도 공장이 세워지기 시작하면
06:17내년도 지금부터는 해결이 되겠죠.
06:19그럼 그 다음부터는 어떤 게 병목이냐?
06:21전력이죠. 전력.
06:23앞서 설명드렸던 것처럼
06:24데이터 센터가 본격적으로 구동되기 시작하면
06:28전문용어로 서빙이라고 합니다.
06:30사람들이 대화창에 프람트를 입력하고
06:33에이전트의 명령어창에 이거저거 주문하기 시작하면
06:36엄청나게 많은 AI 인프라가 필요하거든요.
06:40그 인프라가 데이터 센터에서 구동되는 겁니다.
06:42그 과정에 토큰이 만들어지고
06:44근데 그 토큰은 전기가 들어가서 토큰으로 바뀌는 거거든요.
06:48그래서 젠순왕은 데이터 센터를
06:51토큰 팩토리라고 표현하기도 했습니다.
06:54다시 한 번 말씀드리지만
06:55그런 1기가와트의 데이터 센터는
06:571년에 2조 정도의 전력 공급이 필요하다고요.
07:032조 정도 되는.
07:06그러니 당연히 앞으로 2030년도까지 한국만 해도
07:09지금의 6, 7배 10기가와트가 필요하다고 했잖아요.
07:13그리고 2040년도까지는 20기가와트가 필요하고
07:16그러면 그 전기가 어디서 오겠어요.
07:18인간이 쓰는 전기도 부족해 죽겠는데.
07:21그래서 지금 최근 만들어지고 있는
07:24구축되는 대부분의 데이터 센터는
07:26전기를 기존에 있었던 그리드에 물리는 게 아니라
07:30별도로 전력설비를 전력생산을 따로
07:33옆에 데이터 센터 옆에 붙입니다.
07:35때로는 화력발전으로 붙이기도 하고
07:37때로는 그린에너지.
07:40태양각이나 수력이나 풍력으로 붙이기도 하죠.
07:44더 나아가서 소형, SMR, 원자로도 고려를 하고 있고요.
07:47원자력발전.
07:49그렇게 전력이 두 번째 바틀렉이라는 거예요.
07:53전력 문제가 해결되면
07:54그 다음에는 냉각입니다.
07:56엄청나게 데이터 센터 안에 들어가는 반도체들이
08:00빠르게 작동되기 때문에 엄청 뜨겁거든요.
08:03그 뜨거운 열을 또 식혀줘야 됩니다.
08:05예전에는 선풍기면 충분했어요.
08:07공냉식이라고 하죠.
08:08지금은 순행식으로 바뀌고 있습니다.
08:10반도체 위에 파이프를 갖다 집어넣고
08:13냉각수를 흘려보내는 거죠.
08:15그러면 물이 필요하죠.
08:16앞서 설명드렸던 것처럼
08:18우리가 마실 물도 없는데
08:19데이터 센터에 또 열을 식히기 위해서
08:23물을 공급해야 된다는 거죠.
08:26자, 이러다 보니
08:27데이터 센터는
08:29반도체를 넘어, 전력을 넘어, 냉각을 넘어
08:32해야 될, 해결해야 될 문제들이 계속 터지고 있다는 거죠.
08:37물론 지금은 반도체가 가장 중요한 병목인데다
08:41전체 데이터 센터의 설비 비용이 60%가 반도체에 집중돼 있어요.
08:47하지만 앞서 설명드렸던 것처럼 반도체 공장이 만들어지면서
08:50어느 정도 해결이 되면
08:51그 다음은 앞서 설명드렸던 전력 설비, 냉각 솔루션
08:55이런 쪽으로 흘러들어가겠죠.
08:56그래서 좀 정리를 하면
08:591기가와트의 데이터 센터는
09:01캐펙스 비용이나 오펙스 비용이 어마어마하기 때문에
09:04당연히 매출도 수익도 어마어마하게 많이 발생을 시켜야 됩니다.
09:09그래야 지속가능하죠.
09:11그런데 문제가 발생하고 있죠.
09:13왜? 또 다른 병목이 등장하고 있거든요.
09:15지역 주민들의 반대입니다.
09:18지역 주민들이 데이터 센터가 들어오는 것을 반대하고 있거든요.
09:22아니 데이터 센터가 들어오면 해당 지역의 건설, 건축
09:28앞서 설명드렸던 반도체를 포함해서 수많은 전력장치
09:32이런 것들이 들어오면서 지역 세수에도 도움이 될 텐데
09:35데이터 센터가 만들어지면 앞서 설명드렸던 것처럼
09:38연간 1, 20조 이상의 매출이 발생하거든요.
09:42그 매출은 고스란히 지역 세수 효과로 가져올 텐데
09:45왜 반대할까요?
09:48세수로 들어온 돈이 지역 주민들에게 잘 분배되면 좋으련만
09:52당장 그렇게 실제 지역 주민들의 환원으로 되는 것 같지는 않고
09:58하지만 당장에 문제가 발생합니다.
10:011번 전기값이 비싸질 수 있거든요.
10:03데이터 센터에 어쨌든 옆에 붙은 전력원에서 모든 에너지를 충당하지 못하기 때문에
10:10지역 관련된 전력 설비들이 필요하고
10:13그러다 보면 자연스럽게 지역 주민의 전기값이 높아질 수 있어요.
10:17두 번째는 앞서 설명드렸던 물도 부족할 수 있죠.
10:20세 번째가 더 심각합니다.
10:23소음이 엄청 심하거든요.
10:25데이터 센터 안에 돌아가는 아까 설명드렸던 공냉식을 포함해서
10:28컴퓨팅 장비가 내는 소음들이 너무 심하다 보니까
10:31지역 주민들이 반대할 수밖에 없다는 거죠.
10:34일자리가 많이 생기지도 않아요.
10:36반도체 공장이나 이런 데는 연일 사람이 들어가서 노동을 해야 되기 때문에
10:40아무리 로봇으로 대체한다 하더라도 최소한의 인력이 필요한데
10:44데이터 센터는 모든 게 다 소프트웨어 덩어리거든요.
10:47그러다 보니 만들어질 때는 조금 건설 인력부터 시작해서
10:51일부 인력이 들어가지만 지속적이지 않을 수 있습니다.
10:54그러다 보니 지역 주민들이 반대할 수밖에 없죠.
10:57특히 미국의 민주당이 이번에 선거에 당선되면서
11:01당연히 지역 주민들이 민주당 일부 인사들이, 국회의원들이 반대하고 있거든요.
11:08테크 기업들이 저렇게 무분별하게 데이터 센터를 만들고
11:11그 지역 주민들의 원성과 아까 설명드렸던 이슈는 해결해 주지 않고
11:17그리고 그 데이터 센터는 한마디로 말하면 지역 주민들이 쓰는 게 아니거든요.
11:22저 먼 곳에 있는, 해외에 있는, 혹은 글로벌 기업들이
11:26AI를 구동하는 데 쓰이기 때문에 지역 주민 입장에서는
11:29굳이만 뺏기고 실제 본인들에게 들어오는 돈은 없다 보니까
11:33반대할 수밖에 없다는 거죠.
11:35한마디로 말해서 AI 데이터 센터가 우리 지구 환경에 남기는
11:40여러 가지 청구서들이 커지고 있다는 겁니다.
11:43그러니 해법이 필요하다는 거죠.
11:46AI 데이터 센터 중에 미국에서 구동되는 것, 구축되는 것 중에
11:50상당 부분이 멈추고 있거든요.
11:52물론 앞서 설명드렸던 지역 주민의 동의를 받고
11:55사회적 환원이 된다고 하면 다시 시작은 할 겁니다.
11:59당연히 데이터 센터가 가져다주는 효과는 명확히 있고
12:02아까 설명드렸던 것처럼 매출원도 그리고 지역 세수에도 도움은 되니까
12:06하지만 그럼에도 불구하고 극복해야 되는 건
12:09지역 주민에게 무엇을 환원할 것인가에 대한 기대는 반드시 필요하다는 겁니다.
12:14비용은 지역에 청구되는데 실제 가치는 하이퍼 스케일러들
12:19그리고 오픈 AI나 엔트로픽 같은 데이터 센터의 모델을 만드는 기업에만 주어진다고 하면
12:24지역 주민들은 좋아할 리가 없겠죠.
12:27그래서 이 지역 주민들에게 무엇을 돌려줄 것인가에 대한 고민들이 본격화될 필요가 있다는 겁니다.
12:32사실 이런 해법들을 이런 솔루션들을 고려하고 있는 곳들이 많이 있긴 합니다.
12:38첫 번째로는 앞서 설명드렸던 데이터 센터에 열이 많이 발생한다고 했잖아요.
12:42지역 난방 그 열을 고스란히 지역 주민들의 겨울 그리고 추운 날씨에 난방으로 돌리려고 하는 노력도 있고요.
12:50앞서 설명드렸던 것처럼 지역 주민들이 AI 데이터 센터를 직접 사용하진 않지만
12:56그 지역의 핵심 산업을 육성하는 데 소위 말하는 AX죠.
13:01그래서 특히 우리 한국에도 울산에 SK가 100메가와트의 데이터 센터를 현재 만들고 있고
13:08그걸 1기가와트까지 확대하는 게 목표거든요.
13:11그래서 울산 지역에 있는 조선이나 또 각종 제조업을 육성시키는 피지컬 AI
13:17소위 말하는 AX에 어떻게 하면 그 데이터 센터에 컴퓨팅 인프라를 좀 더 싸게 제공할 것인가
13:23그건 고스란히 기존에 있었던 지역에 해당 제조 산업을 육성하는 데 도움을 줄 수 있거든요.
13:29그런 측면에서 지역 주민에게 무엇을 데이터 센터가 돌려줄 것인가에 대한 고민을
13:34함께하는 것들이 최근에 많이 모색되고 있습니다.
13:38정리를 하면 데이터 센터는 AI 산업의 성장, 더 나아가서
13:43기업의 AX가 추진하는 과정에 엄청난 토큰이 필요하기 때문에
13:47데이터 센터가 무너지면 AI 인프라가 없으면 AI는 지속될 수가 없습니다.
13:52그런데 그 데이터 센터가 앞서 설명드렸던 기술적 병목 이외에도
13:57최근에는 지역 주민들의 반발로 인해서 발목이 잡히고 있다는 거죠.
14:02그 문제를 해결하지 않으면 지속 가능하지 않다는 겁니다.
14:05그리고 그 문제를 해결하기 위한 해법들은 결국은 지역 주민들에게
14:10사회에 무엇을 환원할 것인가에 대한 고민들이 함께 지속적으로 연구되지 않으면
14:16데이터 센터는 지속 가능하지 않습니다.
14:18그런 측면에서 최근에 벌어지고 있는 데이터 센터, AI 인프라에 대한
14:23중단, 지연 이런 이슈는 결국은 지역 주민들이 반발하기 때문이고
14:29지역 주민들에게 제공하지 못하는 한계 때문입니다.
14:32그 한계를 어떤 솔루션으로 제시할까에 대한 고민들이
14:35본격화할 필요가 있다는 거죠.
14:37앞서 설명드렸던 것처럼 에이전트 시대가 되면
14:40아마 내년도에는 더 많은 에이전트, AI 어플리케이션이 나올 거거든요.
14:44그렇게 되면 토큰은 더 많이 쓰이게 됩니다.
14:48토큰의 단가는 갈수록 싸지고 있는 건 맞아요.
14:50그런데 토큰을 더 많이 쓰고 있어서 문제입니다.
14:54예전에 100개의 토큰만 써서 해결이 되던 게
14:57지금은 100개가 아니라 1000개, 만개가 쓰이고 있고
15:00또 쓰는 사람만 쓰는 게 아니라 안 쓰는 사람이 쓰이고 있다 보니
15:04더 많이 폭발적으로 성장하는 겁니다.
15:06그러니 데이터 센터에 토큰들을 생산하는 게 더욱 더 과중되고 있고
15:11그러니 더 많은 데이터 센터가 필요한 게 현실적인 이유입니다.
15:15그러니 데이터 센터는 지역 주민의 동의를 받아서
15:18기존에 구축되던 걸 더 확대할 수 있어야
15:21결국은 AI 산업도 지속 가능하고
15:24기업의 AX도 지속 가능하다는 이야기죠.
15:28그런 면에서 보면 최근에 벌어지고 있는 데이터 센터를 둘러싼
15:31여러 가지 갈등은 결국은 해결 방안을 찾으리라 봅니다.
15:35그런데 그 해결 방안을 찾기 위해서는 데이터 센터를 만드는 기업
15:38또 향후에 운영하는 기업이 어떻게 지역 주민들에게
15:42무엇을 돌려줄 수 있을 것인가에 대한 구체적인 솔루션이 제시가 되어야
15:46결국은 극복 가능하다고 봅니다.
15:49이것이 제가 오늘 준비했던 데이터 센터와 관련된 전반적인 내용이고요.
15:55AI 산업은 크게 다섯 가지 레이어로 구분이 됩니다.
15:59맨 밑에가 방금 설명드렸던 데이터 센터가 있고요.
16:02그 위에가 클라우드가 있고요. 그 위가 모델이 있고
16:06그 다음 네 번째 그것이 디바이스입니다.
16:10그리고 마지막이 AI 어플리케이션이 있죠.
16:12앞서 설명드렸던 것처럼 데이터 센터는 나머지 네 개가 잘 구동되기 위해서
16:17가장 핵심적인 인프라라고 보시면 됩니다.
16:20이 인프라가 있어야 모델이 만들어지고
16:22그 모델이 있어야 좋은 AI 어플리케이션이 만들어지고
16:25그래야 앞서 설명드렸던 채찌피트나
16:27그 이후에 에이전트와 같은 AI 서비스들이 잘 구동될 수 있죠.
16:31그런데 좀 더 많은 사용자가 예전보다 더 오래 자주
16:35그리고 새로운 사용자가 유입되면서
16:37데이터 센터 인프라의 부족이 당분간은 지속될 것으로 보고 있고
16:42그 데이터 센터를 더 확충하려는 노력들에 있어서
16:45최근 병목이 결국 지역 주민들의 동의를 못 구하고 있는 부분들이 화두가 되고 있다.
16:51그걸 극복하지 못하면 AI 산업은 더 나아가서 AI를 이용하려고 하는
16:55AX를 추진하는 기업은 지속 가능하지 않다는 게
16:59현 주소라고 이해하시면 될 것 같습니다.
17:02네 오늘 제 발표는 여기까지 마무리하겠습니다.
17:05감사합니다.
17:06감사합니다.
17:06감사합니다.