Analysis

Kimi K3는 왜 싸고, 삼성전자·SK하이닉스에는 왜 중요할까

Kimi K3의 낮은 가격과 높은 사용량이 AI 서버, HBM 수요, 삼성전자·SK하이닉스에 미칠 조건부 영향을 살펴봅니다.

2026년 7월 29일황소같은마음으로Kimi K3 · HBM · 삼성전자 · SK하이닉스 · AI 반도체 · 리바운드 효과

AI가 효율적으로 바뀌면 메모리는 덜 필요할까요? Kimi K3는 그 반대 결과가 나올 수 있는 조건을 보여 줬습니다.

Kimi K3의 토큰 가격 하락이 AI 사용량 증가를 거쳐 HBM 수요 변화로 이어지는 흐름

2026년 7월 20일, AP는 중국 인공지능 모델 Kimi K3가 신규 구독을 일시 중단했다고 보도했습니다. 출시 직후 사용자가 예상보다 많이 몰렸기 때문입니다.

개발사 Moonshot AI는 당시 상황을 이렇게 설명했습니다.

“지난 48시간 동안 수요가 현재 처리 용량의 한계에 가까워졌습니다.”

Moonshot은 기존 구독자를 먼저 지원하며 서버를 늘리기 위해 신규 가입을 잠시 막았습니다. Omdia의 리안제 수 수석분석가는 K3가 많은 연산 자원을 요구하며, Moonshot이 수요 급증을 충분히 예상하지 못했을 가능성을 제시했습니다.[1]

출시 직후 관심에는 새 모델을 시험하려는 단기 수요도 섞입니다. 이것만으로 장기 흥행을 판단할 수는 없습니다. 하지만 중요한 질문은 남습니다.

AI 모델이 효율적으로 바뀌면 서버와 메모리는 덜 필요할까요? 아니면 가격이 내려가 사용량이 더 빠르게 늘면서 서버와 메모리가 오히려 더 필요해질까요?

두 회사는 AI 가속기에 들어가는 HBM을 생산합니다. Kimi K3는 값싼 AI가 전체 메모리 수요를 어떻게 바꿀 수 있는지 보여 준 작은 사례입니다.

Kimi K3는 어느 정도 성능인가

Kimi K3는 중국 Moonshot AI가 2026년 7월 16일 공개한 대형 AI 모델입니다. 파라미터는 2조8,000억 개이며 한 번에 최대 100만 토큰의 문맥을 처리합니다. 토큰은 AI가 글을 읽고 쓸 때 사용하는 글자 조각입니다. Moonshot은 7월 27일 상세 기술 보고서와 전체 모델 가중치를 공개했습니다.[2][22][23]

모델의 정확한 위치를 보려면 여러 평가를 함께 봐야 합니다. 시험마다 측정하는 능력이 다르기 때문입니다.

Artificial Analysis의 종합 Intelligence Index에서 K3는 57점을 받았습니다. 이 기관은 K3의 성능대를 Claude Opus 4.8과 GPT-5.5에 견줄 만한 수준으로 평가했습니다.[3]

문서·표·화면 결과물을 만드는 실무형 시험 AA-Briefcase에서는 K3가 1543점으로 Fable 5의 1574점에 이어 2위였습니다. GPT-5.6 Sol은 1501점이었습니다. AP가 인용한 Arena의 프런트엔드 코딩 평가에서도 K3가 1위에 올랐습니다.[3][4]

그렇다고 K3가 모든 면에서 GPT-5.6을 앞섰다는 뜻은 아닙니다. 같은 AA-Briefcase에서 K3의 표현 품질 점수는 1471점으로 GPT-5.6 Sol의 1660점보다 낮았습니다. 모델이 강한 작업과 약한 작업이 달랐던 것입니다.[3]

한 문장으로 정리하면 이렇습니다.

K3는 Fable 5와 GPT-5.6을 바짝 뒤쫓으며, 전체적인 성능 체급은 Opus 4.8·GPT-5.5와 비슷한 모델입니다.

시장에서 K3의 자리는 단순한 보급형 모델이 아닙니다. 미국 최상위 모델에 가까운 성능을 더 낮은 가격과 공개 모델 전략으로 제공하려는 준최상위권 추격자에 가깝습니다.

Kimi는 어떻게 가격을 낮췄나

K3의 첫 번째 특징은 희소 MoE 구조입니다. MoE는 ‘전문가 혼합’이라는 뜻입니다. 질문 하나를 처리할 때 모델 전체를 똑같이 작동시키지 않고, 그 질문에 알맞은 전문가 부분만 골라서 사용합니다.

896명의 전문가가 있어도 질문 하나에 모두 답할 필요는 없습니다. K3는 질문마다 전체 896개 가운데 16개만 활성화합니다.[2]

이 방식은 큰 모델의 지식을 유지하면서 실제 계산량을 줄입니다. 그러나 전체 모델을 저장할 메모리는 여전히 필요합니다. 여러 가속기 사이에서 데이터를 옮기는 통신도 필요합니다.

두 번째는 숫자를 작은 크기로 저장하는 방식입니다. K3는 모델 가중치에 MXFP4를 사용하고, 작동 과정에는 MXFP8을 활용합니다. 숫자 하나를 표현하는 데 쓰는 공간을 줄이면 메모리 사용량과 데이터 이동량을 낮출 수 있습니다.[2]

세 번째는 이미 계산한 내용을 보관했다 다시 쓰는 캐시입니다. 같은 자료가 반복되면 처음부터 전부 계산하지 않아도 됩니다.

네 번째는 KDA와 AttnRes입니다. 두 기술은 긴 문장과 깊은 모델 안에서 정보가 더 효율적으로 흐르도록 설계됐습니다. Moonshot은 이런 구조와 학습 방법을 합쳐 K2보다 약 2.5배 높은 스케일링 효율을 얻었다고 주장합니다. 이 수치는 회사 발표입니다.[2][22]

이런 효율은 낮은 API 가격의 기술적 바탕이 됩니다. API는 다른 서비스가 K3를 불러 쓰는 통로입니다. 100만 토큰당 공식 가격은 다음과 같습니다.

모델	일반 입력	캐시 입력	출력
Kimi K3	3달러	0.30달러	15달러
GPT-5.6 Sol	5달러	0.50달러	30달러
Claude Fable 5	10달러	입력 캐시 90% 할인	50달러

K3의 일반 입력 가격은 GPT-5.6 Sol보다 40% 낮습니다. 출력 가격은 50% 낮습니다. Fable 5와 비교하면 입력과 출력 모두 70% 낮습니다.[2][5][6]

다만 가격표만 보고 “K3가 어떤 작업에서도 가장 싸다”고 결론 내리면 안 됩니다. 토큰 단가는 재료 한 개의 가격과 비슷합니다. 한 작업에서 재료를 얼마나 많이 쓰는지도 함께 봐야 합니다.

AA-Briefcase에서 K3는 한 작업에 평균 83번 반복하며 출력 토큰 12만 개를 썼습니다. 평균 56.4분과 10.57달러가 들었고, Fable 5보다 약 2.5배 오래 걸렸습니다. 값싼 토큰을 많이 쓰면서 작업당 비용은 높아졌습니다.[3]

K3의 의미는 “무조건 가장 싼 모델”이 아닙니다. 높은 수준의 AI를 사용할 때 처음 마주치는 가격 문턱을 낮췄다는 데 있습니다. 가격이 내려가면 이전에는 비용 때문에 시도하지 못했던 작업에도 AI를 붙일 수 있습니다.

싸진 AI가 왜 메모리를 더 필요로 할까

HBM은 고대역폭 메모리라는 뜻입니다. AI 가속기 옆에서 많은 데이터를 빠르게 공급합니다. 가속기가 빨라도 데이터를 제때 받지 못하면 기다려야 합니다.

AI는 답을 만들며 모델의 숫자와 앞선 대화를 계속 읽습니다. 앞에서 읽은 내용을 보관하는 임시 기억이 KV 캐시입니다. 대화가 길거나 동시 사용자가 많으면 KV 캐시가 커집니다. 답을 한 토큰씩 만드는 단계는 특히 메모리 속도에 민감합니다.[7]

따라서 전체 메모리 부담은 다음처럼 생각할 수 있습니다.

전체 메모리 부담 ≈ 작업 하나의 부담 × 작업 수 × 문맥 길이와 동시 사용량

K3 같은 기술은 ‘작업 하나의 부담’을 낮춥니다. 하지만 가격이 내려가 ‘작업 수’가 더 빠르게 늘 수 있습니다. 여러 AI를 동시에 움직이거나 긴 자료를 맡기면 문맥과 동시 사용량도 커집니다.

이런 현상을 리바운드 효과라고 합니다. 효율이 좋아져 가격이 내려갔지만 사용량이 크게 늘어 전체 자원 소비가 증가하는 현상입니다. AI에서도 작업 수가 더 빠르게 늘면 총사용량이 커집니다. 반대로 효율 개선이 더 빠르면 총수요는 줄거나 성장 속도가 느려질 수 있습니다.[8][9]

간단한 예를 들어 보겠습니다. 작업 하나에 필요한 메모리가 기존의 3분의 1로 줄었다고 가정하겠습니다. 그런데 낮아진 가격 때문에 작업 수가 20배로 늘면 전체 부담은 약 6.7배가 됩니다. 3분의 1 × 20으로 계산한 결과입니다. 조선비즈가 전한 KB증권의 예시도 같은 원리를 설명합니다. 실제 수요 전망값이 아니라 효율과 사용량의 관계를 보여 주는 계산입니다.[10]

AI 인프라의 전력 사용에서도 비슷한 움직임이 보입니다. 국제에너지기구는 AI 작업 한 건에 필요한 전력이 빠르게 줄고 있는데도 2025년 데이터센터 전력 수요가 17% 증가했다고 분석했습니다. 사용자가 늘고 에이전트형 작업이 확산됐기 때문입니다. IEA는 2030년까지 전체 데이터센터 전력이 약 2배, AI 집중형 데이터센터 전력은 약 3배가 될 것으로 전망했습니다.[11]

전력 수치가 곧 HBM 수요를 뜻하는 것은 아닙니다. 전력은 냉각장치와 저장장치 등에도 쓰입니다. 다만 데이터센터의 전체 활동과 설비가 커지는 방향은 보여 줍니다. IEA는 첨단 칩과 HBM 공급이 데이터센터 확대를 제한하는 요인이 될 수 있으며, HBM 부족이 적어도 2027년 말까지 이어질 가능성도 제시했습니다.[11]

전망 범위는 넓습니다. 미국 로런스버클리국립연구소의 2026년 보고서는 2030년 미국 데이터센터의 전력 비중을 전체 전력의 9.5~15.3%로 추정했습니다. AI 칩 설치량, 서버 가동률, 칩 수명과 냉각 효율을 어떻게 가정하느냐에 따라 결과가 달라졌습니다.[12]

결국 AI 모델의 효율 하나만 보고 HBM 수요를 판단할 수는 없습니다. 작업당 메모리가 얼마나 줄었는지와 사용량이 얼마나 늘었는지를 함께 봐야 합니다.

삼성전자와 SK하이닉스에 미치는 영향

삼성전자와 SK하이닉스가 영향을 받는 경로는 같습니다.

AI 가격 하락 → 사용량 증가 → 서버 증설 → 가속기 증가 → HBM 탑재량 증가

핵심은 Kimi 한 서비스가 아니라 전체 AI 시장의 사용량입니다. Kimi가 성능 가격을 낮추면 다른 기업도 가격을 내리거나 더 복잡한 서비스를 내놓을 수 있습니다. 동시에 돌아가는 AI가 많아지면 가속기와 HBM을 더 설치해야 할 수 있습니다.

메모리 수요의 중심도 학습에서 추론으로 넓어지고 있습니다. 학습은 AI 모델을 처음 만드는 과정입니다. 추론은 완성된 모델이 사용자의 질문에 계속 답하는 과정입니다. SK하이닉스는 2026년 1분기 실적 발표에서 AI 인프라 투자 확대로 HBM과 고용량 서버 DRAM, 기업용 SSD 판매가 늘었다고 밝혔습니다. 회사는 AI가 반복적인 실시간 추론으로 이동하면서 메모리 수요 기반이 넓어진다고 설명했습니다.[13]

삼성전자도 에이전트형 AI 확산이 서버 메모리 수요를 이끌 것으로 전망했습니다. 회사는 HBM4 양산과 상용 출하를 발표했습니다. 삼성 HBM4의 최대 대역폭은 스택당 3.3TB/s이며, 12단 제품 용량은 24~36GB입니다. 삼성전자는 2026년 HBM 매출이 전년보다 3배 이상 늘어날 것으로 예상했습니다. 모두 삼성전자의 제품 설명과 회사 전망입니다.[14][15]

앞으로 AI 가속기 한 개에 들어가는 HBM의 양도 중요합니다. NVIDIA가 공개한 Rubin GPU 설계는 GPU당 최대 288GB의 HBM4와 초당 최대 22TB의 메모리 대역폭을 제시합니다. 차세대 가속기가 더 많은 HBM을 탑재하면 가속기 판매량이 같은 수준이어도 HBM 수요는 늘 수 있습니다. 이 역시 NVIDIA가 공개한 제품 사양이라는 점은 구분해야 합니다.[16]

두 회사의 결과가 항상 같지는 않습니다. HBM4 양산 속도, 정상 제품 비율인 수율, 고객 인증 시점이 중요합니다. 요구 성능을 맞추지 못하면 시장이 커져도 매출로 연결되는 속도는 달라집니다.

반대 가능성도 있습니다. 한 공개 연구에서는 압축을 통해 가중치 메모리를 25.2%, KV 캐시 메모리를 46.9% 줄였습니다. 모든 모델에 같은 결과가 나오는 것은 아니지만, 작업당 메모리가 더 줄어들 수 있다는 근거입니다.[17]

AI 서비스가 충분한 돈을 벌지 못해 데이터센터 투자가 늦어질 가능성도 있습니다. RBC Global Asset Management는 HBM 공급 부족을 인정하면서도 추론 가격, AI 수요, GPU 사용 기간에 대한 가정이 빗나가면 투자 속도가 낮아질 수 있다고 지적했습니다. 메모리 최적화와 AI 투자수익률 악화도 하방 위험으로 제시했습니다.[18]

따라서 삼성전자와 SK하이닉스의 수혜는 조건부입니다. AI 사용량이 작업당 메모리 절감보다 빨리 늘고, 데이터센터 투자가 이어지며, 두 회사가 HBM4의 품질과 공급 능력을 확보해야 합니다.

중국산 가속기와 메모리로 대체될 가능성

중국 AI 수요가 늘어난다고 한국산 HBM 수요가 같은 비율로 늘어나는 것은 아닙니다. 중국이 자국산 가속기와 메모리를 얼마나 빠르게 확보하는지도 봐야 합니다.

미국 상무부 산업안보국은 2024년 12월 첨단 반도체 장비와 HBM에 대한 추가 수출통제를 발표했습니다. 미국산뿐 아니라 수출관리규정의 적용을 받는 일부 해외 생산 HBM도 포함됐습니다.[19]

이 규제는 중국 기업이 자국 안에서 가속기와 HBM을 개발할 유인을 키웁니다. 실제로 화웨이는 Ascend 가속기와 이를 대규모로 연결한 Atlas SuperPoD를 확대하고 있습니다. 화웨이에 따르면 2025년에 출시한 Atlas 900 A3 SuperPoD는 최대 384개의 Ascend 910C를 연결하며, 2026년 7월 기준 20곳이 넘는 고객에게 300대 이상 배치됐습니다. 이 수치는 화웨이 발표입니다.[20]

화웨이는 Ascend 950에 자체 HBM인 HiBL 1.0과 HiZQ 2.0을 붙이겠다고 발표했습니다. HiBL 1.0은 HBM3E·HBM4E보다 저렴하다고 주장합니다. HiZQ 2.0은 144GB 용량과 초당 4TB 대역폭을 목표로 하며, Ascend 950DT와 함께 2026년 4분기 출시 예정입니다.[20]

K3도 특정 가속기에만 묶이지 않으려는 방향을 보여 줍니다. Moonshot은 K3의 커널 최적화 능력을 NVIDIA Hopper와 다른 업체의 범용 GPU에서 시험했다고 밝혔습니다. 다만 이는 K3가 두 종류의 장비를 직접 최적화한 평가입니다. K3 전체를 어떤 장비로 학습하고 서비스하는지까지 보여 주는 자료는 아닙니다.[2]

중국산 가속기로 바꾸는 일은 칩 교체로 끝나지 않습니다. CUDA 중심 프로그램을 옮기려면 계산 기능, 병렬 처리, 컴파일러와 오류 추적 도구까지 맞춰야 합니다.

2026년 7월 공개된 한 현장 연구는 이 어려움을 구체적으로 보여 줍니다. 연구팀은 16개의 Huawei Ascend 910 장비에서 대형 MoE 모델과 영상·언어 모델을 실제로 구동했습니다. 작동에는 성공했지만, 공급사 추론 플러그인에 12개의 소스 수정을 해야 했습니다. 계산 오류를 피하기 위해 일부 고처리량 기능도 꺼야 했습니다. 연구진은 부족한 기능 지원, 불안정한 병렬 처리, 수치 오류, 미성숙한 컴파일러와 부족한 관측 도구를 제약으로 정리했습니다.[21]

이 연구 하나가 중국산 가속기 전체를 대표하지는 않습니다. 다만 대체에는 시간과 개발비가 든다는 점을 보여 줍니다. 현실적인 경로는 단기 전면 교체보다 단계적 부분 대체입니다. 최상위 시스템에서는 검증된 공급사의 HBM이 당분간 필요할 수 있습니다.

삼성전자와 SK하이닉스에는 두 방향의 힘이 동시에 작용합니다. 중국 AI 서비스 확대는 세계 데이터센터와 메모리 수요를 키울 수 있습니다. 그러나 중국산 가속기와 HBM이 성숙하면 중국에서 생기는 수요 가운데 한국 기업이 가져갈 몫은 줄어들 수 있습니다. 어느 힘이 더 큰지는 중국산 HBM의 실제 양산량, 외부 성능 검증과 소프트웨어 생태계의 개선 속도로 판단해야 합니다.

Kimi가 미리 보여 준 AI 메모리의 미래

K3 출시는 장기 HBM 수요의 확정적인 증거가 아닙니다. 하지만 효율 향상과 사용량 증가가 동시에 일어날 때의 변화를 보여 줬습니다.

첫 번째 경우는 사용량 증가가 더 빠른 상황입니다. 모델이 작업당 메모리를 30% 줄여도 작업 수가 2배가 되면 전체 부담은 커집니다. 가격이 내려가고 AI가 더 많은 업무에 들어가면 이 경로가 나타날 수 있습니다.

두 번째 경우는 효율 향상이 더 빠른 상황입니다. 작업당 메모리와 연산량이 빠르게 줄고 사용자 증가가 느리다면 HBM 수요의 성장 속도는 낮아질 수 있습니다. 기업의 AI 투자수익률이 낮아져 데이터센터 증설이 늦어져도 같은 결과가 나올 수 있습니다.

세 번째 경우는 병목의 위치가 바뀌는 상황입니다. MoE는 불필요한 계산을 줄입니다. 대신 여러 가속기 사이에서 필요한 전문가를 불러오는 통신이 중요해집니다. 긴 문맥과 여러 에이전트가 늘면 KV 캐시와 연결망 부담도 커집니다. 계산 효율이 높아질수록 HBM 용량과 대역폭, 가속기 사이의 연결 속도가 전체 성능을 결정할 수 있습니다.[7]

앞으로는 모델 발표 때 성능 점수만 봐서는 부족합니다. 다음 지표를 함께 확인해야 합니다.

토큰 가격이 얼마나 내려가는지
한 작업에서 실제로 몇 개의 토큰과 몇 번의 반복을 사용하는지
동시에 AI를 쓰는 사용자와 에이전트가 얼마나 늘어나는지
가속기 한 개에 들어가는 HBM 용량이 얼마나 커지는지
삼성전자와 SK하이닉스의 HBM4 양산·수율·고객 인증이 어떻게 진행되는지
중국산 가속기와 HBM이 발표를 넘어 실제로 얼마나 공급되는지

효율적인 AI가 반드시 메모리를 덜 쓰는 것은 아닙니다

Kimi의 더 큰 의미는 다른 데 있습니다. 높은 수준의 AI 가격이 내려가면 사용자가 얼마나 빠르게 늘 수 있는지 보여 줬습니다. 작업 하나는 효율적으로 바뀌어도 전체 작업 수가 더 빠르게 늘면 서버는 더 필요해집니다. 서버가 늘면 가속기와 HBM 수요도 커질 수 있습니다.

앞으로 AI가 발전할수록 확인할 질문은 같습니다.

작업 하나가 얼마나 가벼워졌는가, 전체 작업은 얼마나 빠르게 늘었는가.

AI 효율 향상이 곧 HBM 수요 감소를 뜻하지는 않습니다. 사용량 증가가 작업당 메모리 절감보다 빠르다면 삼성전자와 SK하이닉스의 HBM 수요는 오히려 커질 수 있습니다.