오픈웨이트 추론 마진 붕괴론: GLM-5.2의 $4.40이 진짜 위협하는 것

$4.40 대 $25. 같은 일을 시켰는데 청구서는 5분의 1임. Z.ai가 2026년 6월 내놓은 GLM-5.2는 입력 100만 토큰당 $1.40, 출력 100만 토큰당 $4.40임. 그런데 이 숫자가 흔든 건 벤치마크 순위가 아니라, 프론티어 랩이 지난 2년간 조용히 챙긴 오픈웨이트 추론 마진 그 자체임.

한 유명 애널리스트는 폐쇄 API의 이 마진을 컴퓨트 대비 90%에 가깝다고 추정함. 문제는 그 90%를 아무도 감사하지 못했다는 것임. 손익계산서에서 뽑은 숫자가 아니라, 논지를 세우려는 글쓴이의 추정임.

핵심 질문은 하나임. 마진이 떨어지느냐가 아니라, ‘누구의’ 마진이 떨어지고 그 돈이 어디로 가느냐임.

병목이 이동했다: 능력에서 가격으로

지난 3년간 AI의 경쟁 질문은 단순했음. 누가 더 똑똑한 모델을 가졌는가임. 랩들은 벤치마크로 달렸고, 승자는 프리미엄을 붙였음. 아무도 같은 답을 못 내놨기 때문임.

그런데 이 경주가 조용히 끝나고 있음. 발전이 멈춰서가 아니라 프론티어가 붐볐기 때문임. GLM-5.2, DeepSeek, Qwen, Kimi가 일상 작업에서 최상위에 충분히 근접했음. 상당수 업무에서 ‘충분히 좋음’이 진짜로 충분해진 것임. 품질이 수렴하면 구매자는 능력에 돈을 내지 않고 가격을 비교하기 시작함.

반도체 쪽에서 병목이 산출에서 할당으로 옮겨간 AI 메모리세 분석과 같은 논리임. 여기서는 병목이 ‘더 똑똑한 토큰’에서 ‘더 싼 토큰’으로 이동하며, 오픈웨이트 추론 마진을 새 전장으로 재배치함. 능력은 수렴하고 가격은 발산함. 폐쇄 랩의 정가와 오픈웨이트 토큰 사이의 간극은 이제 스타트업 하나를 굴릴 만큼 벌어졌음.

DeepSeek는 2025년 초 시장에 엉뚱한 교훈을 남겼음. 그때 헤드라인은 학습 효율, $600만 미만 학습비였음. 그런데 학습비는 선불로 한 번 내는 고정비임. 수요에 비례해 늘어나는 실질 비용은 추론이고, 프론티어 API 가격에 녹아 있는 것이 바로 이 추론비임. GLM-5.2가 한 일은 그 추론 격차를 더 이상 못 본 척할 수 없게 만든 것임.

오픈웨이트 추론 마진: 90% 주장과 검증된 사실

오픈웨이트 추론 마진 논쟁은 질문 하나에서 갈라짐. 두 진영이 서로 다른 것을 재고 있어서 대화가 어긋남.

붕괴론 진영은 Martin Alderson이 이끔. 폐쇄 랩이 컴퓨트 대비 90% 안팎의 총마진을 낸다고 봄. 그의 프레임은 제프 베조스의 문장을 빌림. “당신의 마진은 나의 기회임.” 오픈웨이트가 품질의 90%를 가격의 18%에 제공한다면, 그 격차는 모든 폐쇄 API에 그려진 과녁임.

방어론 진영은 Sean Goedecke의 “AI 추론은 명백히 수익성 있다”가 대표임. 순수 추론은 저가에도 본질적으로 고마진 사업이라는 반박임. 그의 추산으로, 출력 100만 토큰을 처리하는 전력·냉각 원가는 약 13센트인데 GPT-mini급 서비스는 같은 양에 약 $4.50을 청구함. 저가 구간에서도 70~80% 마진이 남는 셈임. DeepSeek는 별도로 R1 추론에서 80% 넘는 마진을 주장했음. OpenAI 유출 재무는 매출 기준 60%에 가깝다고 시사하지만, 이 숫자는 지원·결제처리·무료 구간 보조를 포함하므로 컴퓨트 원가 수치와 직접 비교할 수 없음.

승자를 고르기 전에, 주장을 나란히 놓고 보면 됨.

참고. 90%는 Alderson의 추정이지 감사된 수치가 아님. 70~80% 반론은 Goedecke의 원가 재구성임. 둘 다 방향으로만 받아들이면 됨. 검증된 것은 가격 격차이지 마진 크기가 아님.

싸움 밑에 숨은 결정 변수는 상각임. 프론티어 랩은 막대한 학습비를 어딘가에서 회수해야 하고, 회수할 곳은 추론 가격뿐임. 반면 남의 오픈웨이트를 서빙만 하는 제공자는 상각할 학습비가 없어 한계비용 근처에 가격을 매겨도 흑자가 남음. 마진을 가르는 것은 원시 퍼센트가 아니라 바로 이 구분임.

GLM-5.2 vs Opus 4.8: 가격 격차는 실재함

위의 모든 논의는 검증된 사실 하나에 걸려 있음. 가격 격차는 마케팅 과장이 아니라 독립 트래커 전반에서 일치함.

GLM-5.2는 입력 100만 토큰당 $1.40, 출력 $4.40으로 표기되고, 캐시 입력은 $0.26까지 내려감. MIT 라이선스에 1M 토큰 컨텍스트임. OpenRouter에서 서드파티 제공자는 입력을 $0.406까지 낮춤. 반면 Claude Opus 4.8은 입력 $5, 출력 $25임. GLM 출력가는 Opus 정가의 약 18%, GPT-5.5 블렌디드가의 약 15% 수준임.

교체비용이 거의 0임

진짜 위협은 GLM의 품질이 아님. 한번 써보는 비용이 0에 가깝다는 점임. Z.ai와 Fireworks는 OpenAI·Anthropic 호환 엔드포인트를 제공함. Claude Code나 Codex 안에서 전환은 base URL과 API 키 교체뿐임. 수년짜리 lock-in을 푸는 마이그레이션이 아님.

참고. ‘상품화된 추론’은 가격 동학을 가리키는 비유이지, 프론티어 랩이 파산한다는 예측이 아님. 상품화는 마진을 압축하지, 사업 자체를 없애지는 않음.

GLM-5.2가 1:1 완전 대체재도 아님. 비전 미지원, 약한 웹검색, 느린 체감 속도, 같은 답에 더 많은 토큰 소비임. apples-to-apples로 보면 가격 격차는 정가보다 좁아짐. 이건 GLM-5.2의 신뢰성과 환각 문제를 다룬 이전 글과는 다른 축임. 경제 축과 신뢰성 축은 별개의 질문임.

누가 실제로 잃는가: 마진 소멸이 아니라 마진 이주

두 진영을 합치면 결론은 ‘마진 붕괴’가 아님. 오픈웨이트 추론 마진은 사라지지 않고 자리를 옮긴다는 것임.

취약한 쪽은 학습비를 추론 가격으로 메워야 하는 자, 즉 가장 큰 R&D 청구서를 든 프론티어 랩임. 보호받는 쪽은 오픈웨이트를 한계비용에 서빙하는 순수 추론 제공자임. 그 사이에서 마진이 모델 레이어 밖으로 빠져나가 다른 곳에 고임. 레이어별 노출도를 표로 정리하면 이렇게 됨.

어디로 가느냐임. 두 곳임. 첫째, 희소 컴퓨트를 쥔 쪽이 가격 결정력을 유지함. 실제로 AMD 추론은 일부 워크로드에서 Nvidia Blackwell보다 토큰당 약 2.75배 저렴해, 이 자체가 누가 격차를 가져가는지를 다시 뒤섞음. 둘째, 워크플로 오케스트레이터, 즉 원시 토큰을 비즈니스 성과로 바꾸는 앱·에이전트 레이어가 예전에 모델에 있던 마진을 가져감. AI 증강 제품의 총마진은 이미 50~65%로 압축되는 중임. 추론이 해자가 아니라 통과 원가가 됐기 때문임.

SemiAnalysis와 BusinessModelAnalyst의 거시 프레임도 같은 방향임. 부는 인프라에서 모델 레이어로 이동하지만, 모델 레이어 자체가 상품화되며 마진은 스택 상단으로 계속 이주함. 이 API 위에 무언가를 짓는 사람에게 남는 교훈은, 토큰이 전기로 변하고 있다는 것임. 가격이 매겨지고, 계량되고, 점점 서로 갈아 끼울 수 있게 됨.

오픈웨이트 과반: 61%가 뜻하는 것과 뜻하지 않는 것

이 이동이 이미 진행 중이라는 가장 선명한 증거는 보도자료가 아니라 라우팅 데이터에서 나옴.

2026년 5월 기준, OpenRouter를 통과한 전체 토큰의 약 61%가 중국 오픈웨이트 모델에서 발생했음. 상위 5개 중 4개가 중국산(DeepSeek·Qwen·Kimi·GLM)임. Llama는 랭킹에서 이탈했고 Claude는 약 13.3%였음. 18개월 전만 해도 오픈웨이트 점유는 2% 미만이었음. DeepSeek-V4-Flash 하나가 한 주에 3.43조 토큰을 넘겼음.

참고. 61%는 토큰 수요량 축이고, 단일 라우터(OpenRouter)의 단일 시점(2026-05) 값임. 매출 점유도, 엔터프라이즈 점유도 아니며, 중국 모델이 돈의 61%를 번다는 뜻도 아님. 싼 토큰은 정의상 물량을 끌어당김.

마지막 단서가 중요함. 싼 토큰은 무료 시식이 사람을 모으듯 물량을 끌어들임. 가격 최적화 라우터에서의 물량 1위는 흐름의 방향을 알려줄 뿐, 수익이 어디에 떨어지는지는 말해주지 않음. 두 사실이 동시에 참일 수 있음. 오픈웨이트가 토큰 개수를 지배하는 동안 폐쇄 랩은 여전히 토큰 가치의 큰 몫을 가져가는 것임.

신호인가 대체재인가: 한국 기업은 자가호스팅해야 하나

가격-성능 신호는 실재함. 그러나 모든 기업이 당장 자가호스팅해야 한다는 결론은 성립하지 않음.

물리부터 봄. GLM-5.2는 토큰당 약 40B가 활성화되는 744B MoE 모델임. 디스크에서 가중치를 스트리밍하면 소비자 하드웨어에서 돌아가긴 함. 그런데 25GB RAM 기기에서 0.05~0.1 토큰/초, 128GB M5 Max에서도 약 1.06 토큰/초임. 제품이 아니라 개념 증명임.

손익분기는 선이 아니라 범위임

다음은 경제성임. 관리형 API는 실제 규모에 도달하기 전까지 더 싸고 빠름. 트레이드오프를 한 표로 보면 됨.

자가호스팅이 이득이 되는 지점은 월 1억~5억+ 토큰 사이 어딘가임. 최소 총소유비용(TCO)은 연 약 $12.5만(약 1억 7천만 원)에 0.5~1명의 전담 엔지니어가 붙음.

참고. 이 손익분기는 고정된 선이 아니라 범위임. 워크로드 형태, 지연 요구, 루틴 대 난이도 트래픽 비중에 따라 크게 흔들림. 이 숫자는 임계선이 아니라 계획용 밴드로 다루면 됨.

한국 기업에 정직한 답은 이분법이 아니라 하이브리드임. 루틴하고 물량 많고 위험 낮은 쿼리는 싼 오픈웨이트로, 어렵거나 민감한 쿼리는 프론티어 API로 라우팅하는 것임. 이런 라우팅은 단일 제공자에 워크플로를 걸지 않고도 지출을 30~50% 줄임. 그리고 데이터 주권이 진짜 요건인 영역(규제 금융, 국방, 민감 개인정보)에서는 온프레미스 오픈웨이트 배치가 토큰 단가가 아니라 통제력으로 값을 함.

실수는 가격 신호를 대체 명령으로 읽는 것임. GLM-5.2는 프론티어급 추론이 직접 돌릴 수 있는 상품이 되고 있음을 증명함. 그러나 반드시 그래야 한다는 것을 증명하지는 않음.

결론: 마진은 희소성을 따라감

한줄 코멘트. GLM-5.2 이야기는 ‘폐쇄 랩이 끝났다’가 아님. 오픈웨이트 추론 마진은 희소성을 따라가는데, 추론이 방금 희소하지 않게 됐다는 것임. 마진은 증발하는 게 아니라, 여전히 희소한 무언가를 쥔 쪽으로 이주함. 그 무언가가 컴퓨트 용량이든, 고객이 쉽게 다시 짓지 못하는 워크플로든임.

직장인 시사점. 이 API 위에 무언가를 짓는 직장인에게 던질 질문은 더 이상 ‘어느 모델이 가장 똑똑한가’가 아님. ‘내 토큰 원가가 내일 80% 떨어져도 내 제품이 여전히 돈 낼 가치가 있는가’임. 답이 모델에 있다면 그 마진은 애초에 내 것이 아니었음. 답이 워크플로에 있다면 상품화 물결은 순풍임. 지금이 그 질문을 던져볼 시점임.

자주 묻는 질문 (FAQ)

Q. 추론 마진이 정말 붕괴하고 있나요? A. 가격 격차는 검증됐지만 마진 붕괴는 논쟁 중입니다. Martin Alderson은 폐쇄 랩이 컴퓨트 대비 90%에 가까운 총마진을 내며 이것이 잠식된다고 봅니다. Sean Goedecke는 순수 추론이 저가에도 70~80% 흑자라고 반박합니다. 근거는 마진이 사라지기보다 이주하는 쪽을 가리킵니다.

Q. GLM-5.2가 Claude Opus를 대체하나요? A. 깔끔하게 대체하지는 못합니다. 많은 작업에서 프론티어급 품질을 낮은 가격에 내지만, 비전 미지원에 웹검색이 약하고 체감이 느리며 같은 답에 토큰을 더 씁니다. 루틴한 업무엔 강력한 대체재지만, 가장 어렵거나 멀티모달 작업엔 그렇지 않습니다.

Q. 가격이 5분의 1인데 왜 폐쇄 랩이 안 망하나요? A. 결정적 비용이 정가가 아니라 상각이기 때문입니다. 오픈웨이트를 서빙하는 순수 추론 제공자는 학습비가 없어 저가에도 흑자입니다. 프론티어 랩은 학습비를 추론 가격으로 회수해야 하고, 바로 그 지점이 취약합니다.

Q. 61% 토큰 점유가 매출의 61%란 뜻인가요? A. 아닙니다. 61%는 2026년 5월 OpenRouter의 토큰 물량 축이지 매출이나 엔터프라이즈 도입이 아닙니다. 싼 모델은 정의상 물량을 끌어당기므로, 오픈웨이트가 토큰 개수를 지배해도 폐쇄 랩이 토큰 가치의 큰 몫을 가져갈 수 있습니다.

Q. 우리 회사도 오픈웨이트를 자가호스팅해야 하나요? A. 대체로 규모가 클 때만입니다. 자가호스팅은 보통 월 1억~5억+ 토큰에서 손익분기를 넘고, 연 약 1억 7천만 원의 TCO에 전담 엔지니어가 필요합니다. 대부분의 팀은 하이브리드 라우팅(루틴은 싼 오픈웨이트, 난이도는 프론티어 API)으로 운영 리스크를 낮추면서 지출을 30~50% 줄이는 편이 낫습니다.

참고 소스

• Martin Alderson, “GLM 5.2 and the coming AI margin collapse (part 1)” — martinalderson.com
• Sean Goedecke, “AI inference is obviously profitable” — seangoedecke.com
• Sylvester R. Francis, “Commodity inference is the real GLM-5.2 story” — medium.com
• GLM-5.2 가격 — pricepertoken.com
• OpenRouter GLM-5.2 — openrouter.ai
• Claude Opus 4.8 가격 — totalum.app
• OpenRouter 61% 토큰 점유 데이터 — kucoin.com
• datagravity, “China’s open-weight takeover” — datagravity.dev
• SitePoint, “Self-hosted LLM costs in 2026” — sitepoint.com
• SaaStr, “Have AI gross margins really turned the corner?” — saastr.com
• BusinessModelAnalyst, “AI bubble & margin migration” — businessmodelanalyst.com
• DevelopersDigest, “GLM-5.2 AI margin collapse thesis” — developersdigest.tech

이 분석은 정보 제공 목적이며 투자 자문이 아님. 제3자에서 인용한 마진 수치는 추정치이며 독립적으로 감사되지 않았음.