00:00구글이 인공지능 성능을 좌우해온 메모리 벽목을 뚫기 위해 제시한 차세대 알고리즘 터보컨트가 메모리 반도체 시장에 충격을 주고 있습니다.
00:09이 기술이 공개되자 시장은 즉각 반응했는데 실제 삼성전자와 SK하이닉스 등 주요 기업 숙가는 단기 충격을 받기도 했습니다.
00:18터보컨트 연구에 참여한 한인수 한국과학기술원 전기 및 전자공학부 교수는
00:2327일 카이스트를 통해 AI가 고용량 중심에서 고효율 중심으로 전환되면서 AI는 더 저렴해지고 빠르게 확산하는 동시에 반도체 수요 역시 질적으로 고도화될
00:34전망이라고 밝혔습니다.
00:36터보컨트는 최대 6배까지 메모리를 줄이면서도 성능을 유지하는 차세대 양자화 알고리즘입니다.
00:43AI 모델은 입력 데이터를 벡터 형태로 바꾼 뒤 벡터 간 유사도를 계산해 작동합니다.
00:48이 과정에서 고정밀 데이터가 필요해 막대한 메모리 자원이 필요한데 터보컨트는 이를 더 적은 빛으로 압축해 표현하는 양자화 기술을 활용했습니다.
00:58소수점 데이터를 정수로 근사하는 방식으로 핵심 정보를 유지하면서도 저장 용량과 연산 부담은 크게 줄이면서도 정확도 저하는 거의 없는 것으로 나타났습니다.
01:08터보컨트는 우선 1단계에서 입력 데이터를 무작위로 회전시킨 뒤 각 요소를 개별 양자화해 데이터 내 극단값을 줄여 압축 효율을 높입니다.
01:19이 방식은 한 교수가 기존에 참여한 폴라퀀트 연구에서도 활용됐습니다.
01:24이어 2단계에서는 1단계 오차를 다시 한번 양자화해 데이터를 마이너스 1값으로만 표현하는 QJ1 기법으로 연산 효율을 극대화합니다.
01:33한 교수는 이번 기술이 반도체 메모리 시장에 중장기 활력을 불어넣을 것으로 기대했습니다.
01:38단계적으로 동일 AI 모델 구동에 필요한 메모리 용량이 줄어들어 수요 성장이 둔화하는 것으로 보이지만 AI 대중화의 기폭제가 될 수 있다는
01:48설명입니다.
01:48한 교수는 이번 연구는 AI 메모리 사용량 증가 병목을 효과적으로 줄이면서도 정확도를 유지할 수 있는 새로운 방향을 제시했다며
01:57대규모 AI 모델을 더욱 효율적으로 운영할 수 있는 핵심 기반 기술로 활용될 것으로 기대한다고 말했습니다.
02:04반도체 전문가들도 터보컨트가 반도체 시장을 키우게 될 것이라며
02:08한국 메모리 반도체도 시장 재평 과정에서 위기와 기회를 동시에 마주하게 될 것으로 보고 있습니다.
02:15감사합니다.
02:15감사합니다.
댓글