에이전트의 기억이 시작되면 — 메모리 $100B 슈퍼사이클과 P/E 8배의 구조적 답

5월 12일, 이상한 일이 벌어졌음. BofA(뱅크오브아메리카)가 삼성전자, SK하이닉스, 난야테크, 파이슨, 원익IPS, 한미반도체, ASMPT — 메모리 반도체 7개 종목의 목표가를 한꺼번에 올렸음. 같은 날 Citi가 삼성전자 46만 원, SK하이닉스 310만 원을 제시했음. 다음 날 아침 KB증권이 SK하이닉스 280만 원으로 뒤따랐음.

여러 IB가 동시에 목표가를 올리는 건 트레이딩 시그널이 아님. 레짐 전환 신호임. 그 배경의 숫자들이 비상식적임. 대만 난야테크의 4월 매출은 전년 대비 717% 폭증했음. 파이슨은 237%. 한국 반도체 수출은 4월에 $319억(약 45조 원)으로 역대 최고치를 기록했고 +173% 성장했음. 그중 메모리만 따로 보면 +278%임 (관세청).

단 하나의 데이터 포인트가 이 모든 것을 설명함. Q1 2026 DRAM 계약가격이 전분기 대비 90~95% 급등했음 (TrendForce). Q2는 +58~63% 추가 상승 중임. 이건 경기순환이 아님. 메모리를 소비하는 방식 자체가 구조적으로 바뀌고 있는 것임.

Coatue Management부터 NVIDIA, Gartner까지 공통된 진단을 내리고 있음. AI 에이전트가 상태 비저장(stateless) 챗봇에서 영속적·자율적 시스템으로 전환되고 있고, 이 전환이 완전히 새로운 메모리 인프라를 요구한다는 것임. TBD가 2월에 “GPU가 일하는 시간의 70%가 데이터를 기다리는 시간”이라고 분석한 이후, 질문이 진화했음. 더 빠른 GPU 메모리가 아니라, 에이전트의 기억을 어디에 저장하느냐가 핵심 질문이 된 것임.

챗봇에서 에이전트로 — 결정적 차이는 ‘기억’

오늘날의 챗봇은 상태 비저장(stateless) 방식임. 모든 대화는 0에서 시작하고, 모든 사용자는 매번 낯선 사람임. 탭을 닫으면 AI는 전부 잊어버림.

에이전트는 정반대임. 장기 기억을 보유하고, 연중무휴(24/7) 가동되며, 사용자를 위해 선제적으로 행동함. 에이전트와 챗봇의 결정적 차이는 말 그대로 ‘메모리’임 (Coatue Management, “Memory is the New Bottleneck,” 2026년 5월).

이건 이론이 아님. 2024년 2월부터 2026년 3월까지 단 18개월 만에 3대 AI 서비스가 모두 영속적 메모리를 탑재했음. ChatGPT는 자동 프로필 구축(사용자당 40~80개 사실 저장). Claude는 24시간 주기 합성 Chat Memory + 크로스플랫폼 메모리 임포트. Gemini는 Google 계정 연동 Personal Context.

인프라 임팩트는 즉각적임. 상태 비저장 챗봇은 프롬프트를 처리하고 컨텍스트를 버림. 기억이 있는 에이전트는 수주~수개월에 걸친 누적 컨텍스트를 저장하고, 검색하고, 추론해야 함. 에이전틱 세션 1건의 토큰 소비량은 표준 추론의 20~30배임 (SambaNova). 40턴짜리 에이전트 인터랙션에서 메인 에이전트만 약 85,000 토큰의 활성 컨텍스트 + 350만 누적 입력 토큰을 처리함.

시장 규모가 이 배율을 반영하고 있음. 에이전틱 AI 시장은 $7.8B(2025) → $52.6B(2030), CAGR 46.3%로 전망됨 (MarketsandMarkets). Gartner는 2028년까지 엔터프라이즈 소프트웨어의 33%가 에이전틱 AI 기능을 탑재할 것으로 봄 (2024년 1% 미만 대비). 같은 시점 AI 에이전트가 $15조 규모의 B2B 구매 의사결정을 중재할 전망임 (Digital Commerce 360).

4월에 TBD가 “AI 경쟁력은 더 큰 모델이 아니라 하네스에서 나온다”고 분석한 맥락과 정확히 연결됨. 메모리는 그 하네스의 가장 기초적인 레이어임. 메모리 없이는 에이전트가 컨텍스트를 유지할 수도, 과거 인터랙션에서 학습할 수도, 자율적으로 행동할 수도 없음.

에이전트의 기억에는 물리적 주소가 필요함

비유로 설명하면 이렇게 됨. AI 에이전트를 며칠짜리 복잡한 프로젝트를 수행하는 지식 노동자라고 생각하면 됨. 지금 읽고 있는 문서는 HBM — GPU의 실시간 작업 메모리에 올라가 있음. 메모장과 참고 자료는 책상 위 DRAM에 놓여 있음. 지난 프로젝트의 기록은 서류함(NAND/SSD)에 보관됨. 그리고 수년간의 조직 지식은 공유 스토리지에 깊이 저장되어 있음.

NVIDIA가 이 계층구조를 2026년 CES에서 공식 제품으로 만들었음. 젠슨 황이 직접 발표한 CMX(Context Memory eXtension)임. 에이전트 메모리를 위해 명시적으로 설계된 최초의 상용 아키텍처임.

이건 리서치 데크의 다이어그램이 아님. 2026년 하반기 출시 예정인 실제 제품이고, NVIDIA BlueField-4 DPU 위에 구축됨. GPU 컴퓨트로 대부분의 매출을 올리는 NVIDIA가 전용 메모리 계층화 제품을 만들었다는 사실 자체가, 병목이 어디로 이동했는지를 말해주고 있음.

캐시 미스의 대가

2월 HBM 분석에서 TBD가 짚었던 핵심 — GPU가 일하는 시간의 70~80%가 데이터를 기다리는 시간이었음. HBM은 그 첫 번째 해답이었음. 메모리 칩을 층층이 쌓아 GPU 바로 옆에 붙여 데이터 전달 지연을 제거한 것임. 그런데 HBM만으로는 ‘실시간 추론’ 레이어만 해결됨. 지난주 대화를 떠올려야 하는 에이전트, 한 달치 데이터를 교차 참조해야 하는 에이전트, 새로 학습한 것을 저장해야 하는 에이전트는 G1부터 G4까지 전체 스택이 밀리초 단위로 유기적으로 작동해야 함.

이걸 못 맞추면 비용이 폭발함. Meta가 $2B에 인수한 Manus AI는 KV cache hit rate를 에이전틱 AI의 가장 중요한 단일 메트릭으로 지정했음. 캐시 미스 — 에이전트가 빠른 메모리에서 필요한 컨텍스트를 찾지 못하고 느린 계층에서 가져와야 하는 경우 — 의 비용은 히트의 10배임. 연속 가동되는 에이전트에게 이 미스가 누적되면 지연시간과 비용이 기하급수적으로 증가함.

컨텍스트 윈도우는 2년 만에 1,000배 이상 확대되었음. GPT-4의 8,000 토큰(2023년 3월) → Llama 4의 1,000만 토큰(2025년). 100만 토큰짜리 컨텍스트 윈도우를 16비트 정밀도로 서빙하려면 KV cache만으로 수십 GB의 GPU 메모리가 필요함. 모델 가중치를 올린 상태에서 추가로 필요한 양임. 동시 사용자가 늘어나면 선형적으로 증가함.

숫자가 증명하는 슈퍼사이클

한국 4월 반도체 수출 데이터가 섹터의 과열 정도를 보여줌. 총 반도체 수출 $319억 — 월간 역대 최고 — 전년 대비 +173%. 메모리 반도체만 $270억으로 +278% 급증 (관세청). 시스템 반도체는 +10%에 그쳤음. 이 격차가 어떤 세그먼트가 이 폭등을 주도하는지를 정확히 말해주고 있음.

가격 동향은 더 극적임. BofA는 Q2 2026 DRAM·NAND 평균판매가(ASP)가 전분기 대비 40~50% 상승해 시장 컨센서스(~30%)를 상회했다고 추정함. 그런데 TrendForce 최신 데이터에 따르면 BofA 추정이 오히려 보수적이었음. DRAM 계약가는 +58~63% QoQ, NAND는 +70~75% 급등 중임. Q1 2026에 이미 DRAM이 +90~95% QoQ 뛴 상태에서의 추가 상승임.

SK하이닉스의 Q1 2026 실적이 이 가격 동학이 기업 레벨에서 어떤 의미인지를 보여줌. 매출 52.6조 원 — 사상 처음 50조 돌파. 영업이익 37.6조 원, 영업이익률 72%. TSMC의 마진을 넘은 것임. 12개월 전만 해도 메모리 회사에서 가능하리라고 상상한 애널리스트가 거의 없었음.

PBR에서 PER로: 밸류에이션 레짐 전환

BofA가 메모리 종목의 밸류에이션 방법론을 PBR(주가순자산비율)에서 PER(주가수익비율)로 전환한 것이 개별 목표가 인상보다 의미가 큰 대목임. PBR은 경기순환적 원자재 비즈니스의 전통적 프레임워크임 — 이익이 크게 변동하니 자산을 기준으로 밸류에이션을 매기는 것임. PER은 지속 가능한 이익 성장력을 가진 성장주에 사용하는 기준임. 이 전환은 BofA가 AI 주도 메모리 사이클이 과거 사이클과 구조적으로 다르다고 판단하고 있음을 의미함.

적용된 PER 배수가 스토리를 말해줌. 삼성전자 10배, SK하이닉스 8배, 난야테크 8배. 어제 TBD가 분석했듯, KOSPI가 연초 대비 80% 폭등했는데 포워드 P/E는 8.1배에 불과함 — 코로나 저점(7.5배)에 육박하는 수준임. 이유: 이익이 주가보다 빠르게 성장하고 있기 때문임. 이익이 3배 늘고 주가가 2배 오르면 P/E는 수축하는 것임. 이것이 반도체 슈퍼사이클이 만들어낸 산수임.

업그레이드가 BofA에 국한된 게 아님. 5월 12일 하루에만 Citi가 삼성 46만 원(+75%), SK하이닉스 310만 원을 제시했음. SK증권은 이미 SK하이닉스 300만 원을 내놓은 상태였음. KB가 280만 원으로 뒤따랐음. 대만에서는 BofA의 난야 목표가 440 TWD가 외자 증권사 최고가를 경신했고, 46% 상승 여력을 시사함. Goldman Sachs는 2026년 DRAM 수급 갭을 -4.9%로 계산함 — 15년간 가장 심각한 공급 부족임.

Coatue의 “5배”는 과장인가, 보수적인가

Coatue Management의 닉 갸네(Nick Gagnet) — 반도체 섹터 헤드, 최근 Forbes 30 Under 30 선정 — 가 2026년 5월 “Memory is the New Bottleneck”이라는 프레젠테이션으로 화제를 일으켰음. 핵심 주장: 에이전틱 AI가 인프라 요구사항을 재편하면서 메모리 수요가 5년 내 5배 증가할 것임.

팩트체크 전 투명성 공지. Coatue는 AUM 약 $40B의 헤지펀드이고, 1위 보유종목이 TSMC임. “메모리 수요 5배” 내러티브는 자사 포트폴리오에 직접적으로 유리함. 이것이 테제를 틀리게 만들지는 않지만, 인센티브 구조는 인지해야 함.

GPU 메모리 궤적 팩트체크. Coatue는 “GPU당 메모리 용량이 7년 만에 10배”라고 주장했음. 실제 NVIDIA 로드맵: A100(80GB, 2020) → H200(141GB, 2024) → B200(192GB, 2025) → Vera Rubin(288GB, 2026) → Rubin Ultra(1TB, 2027). 80GB → 1,024GB = 12.8배 / 7년. Coatue의 주장이 오히려 보수적이었음.

“5배 메모리 수요” 팩트체크. 전적으로 “memory”의 정의에 달려 있음. HBM만 보면: TAM이 $17B(2024) → $100B(2028) — 약 6배/4년 (Micron, GlobeNewsWire). Coatue의 5배/5년을 초과함. 전체 DRAM 시장으로 보면: CAGR 7~8%로 9년간 약 1.8배. TBD의 평가: Coatue의 “5배”는 AI 특화 메모리(HBM + AI DRAM)에 적용하면 타당한 범위이지만, 전체 메모리 시장에 적용하면 과장됨. 프레이밍의 모호함이 주의 포인트임.

웨이퍼 카니발리즘

여기에 TBD가 ‘웨이퍼 카니발리즘’이라고 부르는 현상이 겹침. HBM이 2026년 말 기준 글로벌 DRAM 웨이퍼 용량의 23%를 점유할 전망임 (2025년 19% 대비, TrendForce). 핵심 디테일: HBM 1GB를 만드는 데 DDR5 1GB 대비 3배의 웨이퍼 면적이 필요함. AI용 메모리를 추가로 만들 때마다 일반 DRAM 공급이 기계적으로 줄어드는 구조임. 노트북의 DDR5 가격까지 올라가는 이유가 여기에 있음 — AI 메모리 수요가 전체 메모리 생태계에 구조적 인플레이션을 만들고 있는 것임.

수요의 비선형성을 만드는 것은 곱셈 효과임. GPU당 메모리가 3년 내 12.5배 성장하는 동시에, 하이퍼스케일러 클러스터가 수천 대에서 수십만 대 GPU로 확대 중임. 그리고 각 GPU가 단순 추론 대신 에이전틱 워크로드 — 지속적이고 멀티턴이고 도구 호출이 수십 개인 세션 — 로 더 집약적으로 사용되고 있음. 세 벡터가 같은 방향으로 움직이면 총 메모리 수요는 기하급수적으로 복합됨.

리스크 — “이번엔 다르다”는 금융에서 가장 위험한 문장

역사상 모든 메모리 슈퍼사이클은 공급 과잉으로 끝났음. 이번에도 언젠가는 끝남. 구조적 강세론은 정밀 검증이 필요하고, 여러 신뢰할 만한 기관이 구체적 리스크를 지적하고 있음.

Gartner의 가장 날카로운 경고: 에이전틱 AI 프로젝트의 40% 이상이 2027년 말까지 비용 초과, ROI 미증명, 리스크 통제 부족으로 취소될 전망. 기업 도입이 정체되면 메모리 수요 방정식의 수요 측이 크게 약화됨. 현재의 HBM 투자 계획은 에이전틱 AI가 파일럿에서 대규모 프로덕션으로 전환된다는 가정 위에 서 있음. 전환이 일어나지 않으면 수십조 원의 설비 투자가 유휴 설비로 남게 됨.

TechInsights는 2027년 업계 다운턴 가능성을 전망함. 시나리오: 2025~2026년 하이퍼스케일러들의 선행 주문(front-loading) → 2027년 신규 HBM/DRAM 팹 가동 시작 + 주문 둔화 → 공급 과잉 → 가격 분기별 두 자릿수 하락.

중국 변수: CXMT

CXMT — 중국 최대 DRAM 제조사 — 는 중기적 구조 리스크임. 2025년 말부터 HBM3 양산을 목표했으나 과열 문제와 TSV 적층 기술 미숙으로 현실적 타임라인은 2028년 이후로 밀렸음 (DigiTimes). 중국의 15차 5개년 계획(2026~2030)이 CXMT와 YMTC의 설비 확장 + HBM 개발을 명시적 목표로 잡고 있음. CXMT의 $4.2B 규모 IPO 추진과 생산 설비의 20%를 HBM3 라인에 배분한다는 계획은 진지한 의지를 시사함. 현재는 3사 과점(SK하이닉스 62%, 마이크론 21%, 삼성 17%)에 즉각적 위협이 안 됨. 3년 후에는 경쟁 지형이 달라질 수 있음.

모든 메모리 사이클은 같은 방식으로 끝남. 이번의 구조적 차이 — AI 수요의 비순환적 성격, HBM의 높은 기술 장벽, 장기 공급 계약 기반의 수요 가시성 — 는 실재함. 그러나 시장이 “이번엔 다르다”는 논리를 영원히 증명해 본 적은 없음.

반론도 동일하게 실재함. 세 가지 구조적 요인이 이 사이클을 구분함. (1) AI 추론 워크로드는 일시적 학습 작업이 아니라 지속적이고 성장하는 운영 워크로드임. (2) HBM 제조에는 3개 회사만 보유한 역량이 필요함 — 해자가 깊음. (3) 하이퍼스케일러들이 다년간 공급 계약을 체결하며 전례 없는 수요 가시성을 제공하고 있음. 이 요인들이 불가피한 다운턴을 지연시키는 것인지 제거하는 것인지가 $100B짜리 질문임.

그래서 무엇을 의미하는가

TBD는 지난 3개월간 이 퍼즐의 각 조각을 개별적으로 다뤄왔음. GPU의 멍때리는 시간과 HBM의 답. 1,000조 원 AI 인프라 병목. 3층 플랫폼 전쟁과 하네스 엔지니어링. AI끼리 거래하는 $5조 다크 마켓플레이스. 어제의 80% 폭등과 P/E 8배 패러독스.

이 글은 그 점들을 하나의 테제로 연결함. AI 인프라의 병목이 이동하고 있음 — 컴퓨트에서 전력으로, 전력에서 메모리로. 24/7 가동되고, 영속적 컨텍스트를 유지하고, 수십 개 도구를 넘나드는 멀티스텝 워크플로우를 실행하는 에이전트에게 필요한 것은 빠른 칩만이 아님. 나노초부터 밀리초 정밀도로 작동하는 완전한 메모리 계층구조임.

그래서 한국 반도체 수출이 메모리만 +278%인 것임. SK하이닉스가 72% 영업이익률을 찍는 것임. BofA가 순환적 PBR 프레임워크를 버리고 메모리를 구조적 성장 섹터로 재분류하는 것임. 그리고 이것이 어제 TBD가 제기한 패러독스 — 시장이 80% 올랐는데 어떻게 P/E 8배인가 — 의 구조적 답임. 에이전틱 메모리 슈퍼사이클이 만들어내는 이익 성장 곡선이 주가 상승 곡선보다 더 가팔라서, 시장이 아직 따라잡지 못한 것임.

질문은 에이전틱 AI가 더 많은 메모리를 요구할 것인가가 아님. 요구할 것임. 질문은 현재의 설비 투자가 실제 수요 궤적에 맞는 것인지, 아니면 모든 과거 사이클이 그랬듯 결국 오버슈팅하는 것인지임. Coatue는 5배라고 함. NVIDIA의 자체 로드맵은 GPU당 12.5배를 시사함. 웨이퍼 산수는 비AI 메모리까지 비싸진다고 말함. 역사는 모든 사이클이 끝난다고 말함. 숫자는 이 사이클이 아직 피크를 찍지 않았다고 말함.

FAQ

HBM은 일반 DRAM과 무엇이 다른가요? HBM(High Bandwidth Memory)은 메모리 칩을 수직으로 쌓아 GPU 바로 옆에 배치하는 기술입니다. 일반 DDR5 DRAM이 메인보드 위 프로세서와 떨어져 있는 것과 달리, HBM은 8~32 TB/s의 대역폭을 제공합니다. DDR5의 약 0.05 TB/s 대비 100배 이상 빠릅니다. 대신 1GB의 HBM을 만드는 데 DDR5 대비 3배의 웨이퍼 면적이 필요해서 제조 비용이 훨씬 높습니다.

NVIDIA CMX는 AI 에이전트에게 어떤 역할을 하나요? CMX(Context Memory eXtension)는 2026년 하반기 출시 예정인 NVIDIA의 계층형 메모리 플랫폼입니다. 실시간 추론용 HBM, 대기 컨텍스트용 시스템 DRAM, 최근 세션용 로컬 NVMe, 과거 기록용 공유 스토리지를 하나의 계층으로 구성합니다. 이 아키텍처가 없으면 에이전트는 GPU 메모리 부족으로 중단되거나, 과거 인터랙션을 호출할 때 심각한 지연이 발생합니다.

이번 메모리 슈퍼사이클은 과거와 구조적으로 다른가요? 강세론의 근거는 세 가지입니다. (1) AI 추론 워크로드가 일시적 학습이 아닌 지속적·성장하는 운영 워크로드라는 점, (2) HBM 제조가 3개 회사만 가능한 높은 기술 장벽을 가진다는 점, (3) 하이퍼스케일러들이 다년간 공급 계약을 체결해 수요 가시성이 높다는 점입니다. 반면, 모든 과거 메모리 사이클은 공급 과잉으로 끝났고, Gartner는 에이전틱 AI 프로젝트의 40% 이상이 2027년까지 취소될 수 있다고 경고합니다.

에이전틱 AI의 메모리 소비는 챗봇과 얼마나 다른가요? 표준 챗봇은 프롬프트를 처리하고 컨텍스트를 버리는 단발 추론입니다. 에이전틱 AI는 영속적 컨텍스트 유지, 멀티스텝 도구 호출, 누적 히스토리 추론 때문에 토큰 소비량이 20~30배 많습니다. 40턴짜리 에이전트 세션은 누적 350만 입력 토큰을 처리하는 반면, 동등한 챗봇 대화는 10~15만 토큰 수준입니다.

메모리 수요 테제의 주요 리스크는 무엇인가요? 세 가지 핵심 리스크가 있습니다. (1) Gartner가 에이전틱 AI 프로젝트의 40% 이상이 비용 초과로 2027년까지 취소될 것으로 전망합니다. (2) TechInsights는 2027년 신규 팹 가동 시작과 주문 둔화가 겹치면서 다운턴이 올 가능성을 지적합니다. (3) 중국 CXMT가 2028년 HBM3 양산을 목표로 하며, 장기적으로 3사 과점을 위협할 수 있습니다. 구조적 강세론은 실재하지만, 메모리 사이클이 공급 과잉으로 끝나는 역사적 패턴이 영구적으로 깨진 적은 없습니다.

참고 소스

1. Coatue Management. “Memory is the New Bottleneck.” C:\Takes, 2026년 5월. X, YouTube
2. Bank of America. 메모리 섹터 7종목 목표가 상향, 2026.05.12. via 工商時報
3. 관세청. 2026년 4월 수출 데이터: 반도체 $319억(+173% YoY), 메모리 $270억(+278%). via Korea Herald
4. TrendForce. Q2 2026 메모리 계약가 전망: DRAM +58-63% QoQ, NAND +70-75% QoQ. TrendForce
5. SK하이닉스. 1Q26 실적: 매출 52.6조 원, 영업이익 37.6조 원, OPM 72%. SK하이닉스 뉴스룸
6. NVIDIA. CMX(Context Memory eXtension) 플랫폼, CES 2026. NVIDIA CMX
7. NVIDIA. GPU 로드맵: A100(80GB) → Rubin Ultra(1TB HBM4e, 2027). Tom’s Hardware
8. MarketsandMarkets. AI 에이전트 시장: $7.8B(2025) → $52.6B(2030), CAGR 46.3%. Report
9. Gartner. “에이전틱 AI 프로젝트의 40%+가 2027년 말까지 취소될 전망.” Press release
10. Citi. 삼성전자 목표 46만 원, SK하이닉스 310만 원, 2026.05.12. via Seoul Economic Daily
11. Goldman Sachs. 2026년 DRAM 수급 갭 -4.9%, 15년 최악 공급 부족. via PC Gamer
12. 난야테크. 2026년 4월 매출 NT$254.9억(+717% YoY). MarketScreener
13. 파이슨. 2026년 4월 매출 NT$202억(+237% YoY). Yahoo Taiwan
14. Astute Group. HBM 시장 점유율 Q2 2025: SK하이닉스 62%, 마이크론 21%, 삼성 17%. Report
15. TrendForce. HBM이 2026년 DRAM 웨이퍼 용량의 23% 점유 전망. Report
16. IEA. 데이터센터 전력 소비: 485 TWh(2025) → 950 TWh(2030). Report
17. DigiTimes. CXMT HBM3 타임라인 2028년 이후로 지연. Report