2026년 3월 18일 · Unknown · financial · 출처 Yahoo Finance
Nvidia Corporation는 AI 모델 훈련용 칩을 팔아 4.4조 달러(약 5,900조 원)의 제국을 건설했지만, 이전에는 대규모 훈련 작업으로 정의되던 AI 사업이 곧 동일한 양의 칩을 필요로 하지 않을 수도 있습니다.
하이퍼스케일러(대규모 클라우드 업체)들은 여전히 훈련에 막대한 비용을 지출하고 있지만, 우선순위는 실제로 최종 사용자에게 AI를 제공하는 실시간 컴퓨팅인 추론(inference)으로 이동했습니다.
젠슨 황(Jensen Huang)은 2026년을 추론이 주도하는 해라고 부르며 왔으며, 수치가 그의 주장을 뒷받침하고 있습니다.
에이전트형 AI 작업 부하가 폭발적으로 증가하면서 OpenAI와 Anthropic은 1년 전보다 수천 배 더 많은 추론 토큰을 생산하고 있습니다.
[광고 문구 생략]
그러나 Nvidia의 베스트셀러 Grace Blackwell 서버가 이 작업에 적합한 하드웨어가 아닐 수 있습니다.
사용자들은 해당 시스템이 너무 많은 에너지를 소비하고 효율적인 추론을 위한 메모리가 부족하다고 말합니다.
'추론에는 해자가 없다'
Cerebras의 CEO 앤드류 펠드먼(Andrew Feldman)이 선두에 서고 있습니다.
그는 월스트리트저널(WSJ)에 Nvidia의 독점 CUDA 소프트웨어 생태계(개발자들을 훈련 분야에 묶어둔 해자)가 단순히 추론에는 적용되지 않는다고 말했습니다.
Cerebras는 최근 아마존 웹 서비스(AWS)를 고객으로 확보했으며, 2028년까지 750메가와트의 컴퓨팅 파워를 제공하는 OpenAI와 100억 달러(약 13조 원) 이상 규모의 거래를 체결했다고 보도되었습니다.
최근 Benzinga와의 인터뷰에서 펠드먼은 200억 달러 규모의 Groq 거래를 GPU 지배력이 끝나고 있음을 전략적으로 인정한 것이라고 평가했습니다.
Cerebras는 2025년 10월 이전의 IPO 시도를 보류한 후 비공개로 재신청했으며, 공개 상장은 4월 초에 가능할 수 있습니다.
[광고 문구 생략]
Nvidia도 가만히 있지 않습니다
월요일 열린 GTC에서 황은 추론의 위협에 대한 Nvidia의 대답을 공개했습니다.
Groq 3 LPU는 훈련 하드웨어를 개조한 것이 아닌, 추론을 위해 특별히 제작된 새로운 유형의 칩입니다.
이는 200억 달러 규모의...