7탄에서는 메모리 공급 부족이 2028년까지 지속될 수 있다는 Micron의 전망을 봤습니다

🔗 링크 첨부 - https://blog.naver.com/rottensweetpotato/224432164780

SK하이닉스 안현 개발총괄 사장은 10월 14일 SEDEX 2026에서 HBM 이후 구상을 발표했어요

SK하이닉스 로고 SK하이닉스 로고

메모리 계층 간 데이터 이동 병목

안 사장은 AI 추론 수요가 작업 복잡도, 컨텍스트 길이, 요청 수를 곱한 만큼 커진다고 설명했어요 이에 따라 2030년 AI 인프라 성능 규모가 2026년의 약 19~20배가 된다고 봤습니다

배수는 매체마다 19배, 20배로 갈려 보도됐어요

그가 지적한 병목은 메모리 계층 사이의 데이터 이동입니다

기존에는 연산기와 메모리 사이의 전송이 병목이었어요 지금은 HBM, D램, SSD에 나눠 둔 데이터가 계층 사이를 오가는 데 시간이 걸린다는 진단이에요

원인으로는 KV 캐시를 들었어요 AI가 앞서 읽은 토큰 정보를 다시 쓰려고 저장해 두는 공간으로, 컨텍스트가 길어질수록 커집니다

메모리 계층 다시 보기

2탄에서 D램과 S램의 차이를 봤어요

S램은 속도가 빠르지만 비싸고 용량이 작아 칩 안의 캐시로 써요 D램은 느린 대신 용량이 크고 저렴합니다

🔗 링크 첨부 - https://blog.naver.com/rottensweetpotato/224350430384

위치 기술 SK하이닉스 발표
연산기 안 S램 가장 빠른 메모리
S램과 HBM 사이 새 계층 3D 스택 D램
GPU 옆 HBM 커스텀 HBM 확대
HBM과 SSD 사이 HBF 용량 10배 목표
서버 간 CXL 메모리 풀드 메모리 개발

3D 스택 D램

GPU 칩 위에 D램 층을 수직으로 쌓고 미세한 관통 전극으로 잇는 구조를 표현한 개념 컷 GPU 칩 위에 D램 층을 수직으로 쌓고 미세한 관통 전극으로 잇는 구조를 표현한 개념 컷 — 출처: 개념 컷, agy 자가 생성

안 사장은 “현존하는 가장 빠른 메모리는 S램”이라며 S램과 HBM 사이에 새 계층이 필요하다고 말했어요 그 자리에 제시한 것이 3D 스택 D램입니다

GPU, NPU 같은 연산 칩 바로 위에 D램을 쌓고 TSV(실리콘 관통 전극)로 잇는 방식이에요 HBM은 연산 칩 옆에 놓이지만, 3D 스택 D램은 연산 칩 위에 적층돼 데이터 전송 거리가 짧아집니다

보도에 따르면 HBM보다 입출력 통로(I/O) 수를 수십 배 늘리는 것이 목표예요 칩을 적층할 때 발열이 집중되는 문제는 첨단 패키징으로 풀겠다고 했습니다

출시 시점이나 용량 같은 구체 수치는 발표되지 않았어요

HBF와 추가 메모리 기술

동세대 HBM 대비 HBF의 대역폭 0.5배와 용량 10배 목표 막대 차트 동세대 HBM 대비 HBF의 대역폭 0.5배와 용량 10배 목표 막대 차트 — 출처: SK하이닉스 기조연설 보도 기반 자가 렌더

HBF(고대역폭 플래시)는 6탄에서 다룬 낸드 적층 메모리예요 SK하이닉스는 동세대 HBM보다 대역폭은 절반, 용량은 약 10배를 목표로 제시했습니다

🔗 링크 첨부 - https://blog.naver.com/rottensweetpotato/224386687366

낸드는 쓰기 수명이 짧지만, AI 추론처럼 같은 데이터를 반복해서 읽는 작업에는 맞는다는 설명이에요

7월 OCP에서 규격 초안 0.7을 공개했어요 2027년 1월 최종 규격을 목표로 Sandisk 등과 협력 중이라고 보도됐습니다

🧩 그 밖의 개발 항목

  • 커스텀 HBM: HBM의 베이스 다이에 고객사 기능을 넣는 방식, 장기적으로 표준 HBM보다 비중이 커질 것으로 전망
  • CXL 풀드 메모리: 여러 서버가 메모리 자원을 공유하는 구조
  • 스토리지 넥스트: 입출력 처리 성능을 기존 대비 4~8배 향상하는 SSD 기술

국내 두 회사의 해법

삼성전자는 8월 핫칩스에서 HBM 베이스 다이에 연산 기능을 넣는 방향을 발표했어요 SK하이닉스는 계층을 세분화하고 그 사이에 새 메모리를 추가하는 방향을 강조했어요

두 접근 모두 데이터를 연산기 가까이 두려는 시도예요 안 사장은 메모리가 한국에 가장 좋은 산업이고 지금이 절호의 기회라고 말했습니다

참고 출처