플레이어로 건너뛰기본문으로 건너뛰기
구글이 인공지능(AI) 성능을 좌우해온 `메모리 병목`을 뚫기 위해 제시한 차세대 알고리즘 `터보퀀트`가 메모리 반도체 시장에 충격을 주고 있습니다.

이 기술이 공개되자 시장은 즉각 반응했는데, 실제 삼성전자와 SK하이닉스 등 주요 기업 주가는 단기 충격을 받기도 했습니다.

터보퀀트 연구에 참여한 한인수 한국과학기술원(KAIST) 전기및전자공학부 교수는 27일 KAIST를 통해 "AI가 고용량 중심에서 고효율 중심으로 전환되면서, AI는 더 저렴해지고 빠르게 확산하는 동시에 반도체 수요 역시 질적으로 고도화될 전망"이라고 밝혔습니다.

터보퀀트는 최대 6배까지 메모리를 줄이면서도 성능을 유지하는 차세대 양자화 알고리즘입니다.

AI 모델은 입력 데이터를 벡터 형태로 바꾼 뒤 벡터 간 유사도를 계산해 작동합니다.

이 과정에서 고정밀 데이터가 필요해 막대한 메모리 자원이 필요한데, 터보퀀트는 이를 더 적은 비트로 압축해 표현하는 양자화 기술을 활용했습니다.

소수점 데이터를 정수로 근사하는 방식으로 핵심 정보를 유지하면서도 저장 용량과 연산 부담은 크게 줄이면서도 정확도 저하는 거의 없는 것으로 나타났습니다.

터보퀀트는 우선 1단계에서 입력 데이터를 무작위로 회전시킨 뒤 각 요소를 개별 양자화해 데이터 내 극단값을 줄여 압축 효율을 높입니다.

이 방식은 한 교수가 기존에 참여한 `폴라퀀트` 연구에서도 활용됐습니다.

이어 2단계에서는 1단계 오차를 다시 한번 양자화해 데이터를 -1, 1 값으로만 표현하는 QJL(Quantized Johnson-Lindenstrauss) 기법으로 연산 효율을 극대화합니다.

한 교수는 이번 기술이 반도체 메모리 시장에 중장기 활력을 불어넣을 것으로 기대했습니다.

단기적으로 동일 AI 모델 구동에 필요한 메모리 용량이 줄어들어 수요 성장이 둔화하는 것으로 보이지만 AI 대중화의 기폭제가 될 수 있다는 설명입니다.

한 교수는 "이번 연구는 AI 메모리 사용량 증가 병목을 효과적으로 줄이면서도 정확도를 유지할 수 있는 새로운 방향을 제시했다"며 "대규모 AI 모델을 더욱 효율적으로 운영할 수 있는 핵심 기반 기술로 활용될 것으로 기대한다"고 말했습니다.

반도체 전문가들도 터보퀀트가 반도체 시장을 키우게 될 것이라며, 한국 메모리 반도체도 시장 재편 과정에서 위기와 기회를 동시에 마주하게 될 것으로 보고 있습니다.


오디오ㅣ... (중략)

▶ 기사 원문 : https://www.ytn.co.kr/_ln/0134_202603281827020300
▶ 제보 안내 : http://goo.gl/gEvsAL, 모바일앱, social@ytn.co.kr, #2424

▣ YTN 데일리모션 채널 구독 : http://goo.gl/oXJWJs

[ 한국 뉴스 채널 와이티엔 / Korea News Channel YTN ]

카테고리

🗞
뉴스
트랜스크립트
00:00구글이 인공지능 성능을 좌우해온 메모리 벽목을 뚫기 위해 제시한 차세대 알고리즘 터보컨트가 메모리 반도체 시장에 충격을 주고 있습니다.
00:09이 기술이 공개되자 시장은 즉각 반응했는데 실제 삼성전자와 SK하이닉스 등 주요 기업 숙가는 단기 충격을 받기도 했습니다.
00:18터보컨트 연구에 참여한 한인수 한국과학기술원 전기 및 전자공학부 교수는
00:2327일 카이스트를 통해 AI가 고용량 중심에서 고효율 중심으로 전환되면서 AI는 더 저렴해지고 빠르게 확산하는 동시에 반도체 수요 역시 질적으로 고도화될
00:34전망이라고 밝혔습니다.
00:36터보컨트는 최대 6배까지 메모리를 줄이면서도 성능을 유지하는 차세대 양자화 알고리즘입니다.
00:43AI 모델은 입력 데이터를 벡터 형태로 바꾼 뒤 벡터 간 유사도를 계산해 작동합니다.
00:48이 과정에서 고정밀 데이터가 필요해 막대한 메모리 자원이 필요한데 터보컨트는 이를 더 적은 빛으로 압축해 표현하는 양자화 기술을 활용했습니다.
00:58소수점 데이터를 정수로 근사하는 방식으로 핵심 정보를 유지하면서도 저장 용량과 연산 부담은 크게 줄이면서도 정확도 저하는 거의 없는 것으로 나타났습니다.
01:08터보컨트는 우선 1단계에서 입력 데이터를 무작위로 회전시킨 뒤 각 요소를 개별 양자화해 데이터 내 극단값을 줄여 압축 효율을 높입니다.
01:19이 방식은 한 교수가 기존에 참여한 폴라퀀트 연구에서도 활용됐습니다.
01:24이어 2단계에서는 1단계 오차를 다시 한번 양자화해 데이터를 마이너스 1값으로만 표현하는 QJ1 기법으로 연산 효율을 극대화합니다.
01:33한 교수는 이번 기술이 반도체 메모리 시장에 중장기 활력을 불어넣을 것으로 기대했습니다.
01:38단계적으로 동일 AI 모델 구동에 필요한 메모리 용량이 줄어들어 수요 성장이 둔화하는 것으로 보이지만 AI 대중화의 기폭제가 될 수 있다는
01:48설명입니다.
01:48한 교수는 이번 연구는 AI 메모리 사용량 증가 병목을 효과적으로 줄이면서도 정확도를 유지할 수 있는 새로운 방향을 제시했다며
01:57대규모 AI 모델을 더욱 효율적으로 운영할 수 있는 핵심 기반 기술로 활용될 것으로 기대한다고 말했습니다.
02:04반도체 전문가들도 터보컨트가 반도체 시장을 키우게 될 것이라며
02:08한국 메모리 반도체도 시장 재평 과정에서 위기와 기회를 동시에 마주하게 될 것으로 보고 있습니다.
02:15감사합니다.
02:15감사합니다.
댓글

추천