시작은 d-Matrix라는 낯선 이름이었다
9월 10일 NVIDIA 블로그를 보다가 d-Matrix라는 회사를 봤다.
이 회사는 AI 추론, 그러니까 이미 학습된 AI에게 질문을 넣고 답을 만들어내는 일을 위한 전용 칩을 만든다. 다음 세대 칩 이름은 Raptor다.
그런데 발표 내용이 조금 이상하게 느껴졌다.
Raptor를 NVIDIA의 NVLink Fusion에 연결한다는 것이었다.
처음 든 생각은 단순했다.
잠깐, 저 회사 칩은 NVIDIA GPU 대신 쓸 수도 있는 칩 아닌가?
그런데 NVIDIA가 왜 자기 네트워크에 직접 연결해주지?
경쟁자를 막는 대신 자기 집에 들어오라고 문을 열어준 모양이었다.
그래서 NVLink Fusion이 정확히 뭔지부터 찾아봤다.
일단 NVLink가 뭔데?
AI 서버에는 GPU 하나만 있는 경우보다 여러 개가 같이 일하는 경우가 많다.
문제는 계산을 아무리 빨리 해도 서로 데이터를 주고받는 길이 막히면 기다리는 시간이 생긴다는 것이다.
일단 이렇게 이해했다.
NVLink = 작업자 사이에 물건을 아주 빠르게 넘기는 전용 통로
NVIDIA의 NVLink는 여러 가속기가 많은 데이터를 낮은 지연시간으로 주고받도록 만든 고속 연결 기술이다.
그런데 NVLink Fusion은 여기서 한 단계 더 간다.
NVIDIA GPU끼리만 연결하는 것이 아니라, 다른 회사가 만든 맞춤형 AI 칩(XPU)이나 CPU도 NVIDIA의 NVLink 기반 시스템 안으로 들어올 수 있게 한다.
NVIDIA는 2025년 Computex에서 이 구상을 처음 공개했다. 당시 MediaTek, Marvell, Alchip, Astera Labs, Synopsys, Cadence 등이 파트너로 소개됐고 Fujitsu와 Qualcomm의 CPU도 NVIDIA GPU와 연결하는 계획이 발표됐다.
그러니까 이것은 단순히 케이블 규격 하나를 공개했다 정도의 이야기가 아니었다.
내가 처음 생각한 그림과 실제 그림이 달랐다
처음에는 이런 느낌으로 생각했다.
NVIDIA GPU ─ NVIDIA GPU ─ NVIDIA GPU
↑
다른 칩은 밖에 있음
NVIDIA가 GPU를 많이 팔려면 당연히 자기 GPU로만 꽉 채우는 것이 가장 좋을 것 같았다.
그런데 NVLink Fusion이 그리는 그림은 오히려 이쪽에 가깝다.
NVIDIA의 AI 인프라
┌──────── NVLink ────────┐
│ │
NVIDIA GPU d-Matrix XPU 다른 XPU
│ │
└──── 같은 랙 / 네트워크 ─┘
전력 / 냉각 / 관리
즉 NVIDIA가 말하는 제품의 단위가 GPU 한 장에서 AI 데이터센터 전체로 커지고 있는 것처럼 보였다.
여기서부터 질문이 바뀌었다.
NVIDIA는 GPU 시장을 지키려는 걸까?
아니면 AI 컴퓨터를 만드는 방식 자체를 자기 플랫폼으로 만들려는 걸까?
AI 칩을 만드는 것과 실제로 수천 개를 돌리는 것은 다른 문제였다
d-Matrix 발표에서 가장 흥미로웠던 부분은 칩의 연산 성능보다 주변 이야기였다.
NVIDIA 설명을 보면 새로운 AI 칩을 실제 데이터센터에 넣으려면 칩만 잘 만든다고 끝나지 않는다.
고속 네트워크도 필요하고, 랙도 설계해야 하고, 엄청난 전력을 공급해야 하고, 열을 빼내야 하고, 시스템 전체를 관리하는 소프트웨어도 있어야 한다.
심지어 부품 공급망과 검증도 필요하다.
쉽게 생각하면 이런 느낌 같다.
엄청 좋은 엔진을 만들었다고 자동차 회사가 바로 되는 것은 아니다.
엔진을 차체에 넣고, 변속기와 연결하고, 냉각하고, 브레이크를 붙이고, 공장에서 대량생산하고, 정비 체계까지 만들어야 실제 자동차가 된다.
AI 칩도 비슷했다.
좋은 AI 칩
↓
고속 연결
↓
서버와 랙
↓
전력 + 냉각
↓
수천 대 관리
↓
공급망 + 검증
↓
실제 데이터센터에서 돌아감
NVIDIA는 이 전체를 자꾸 AI factory, 즉 AI 공장이라고 부른다.
마케팅 냄새가 꽤 나는 이름이긴 하지만, 왜 그렇게 부르는지는 조금 이해됐다.
칩 하나가 제품이라기보다 전력과 데이터를 집어넣으면 계속 AI 결과를 뽑아내는 거대한 생산설비로 보는 것이다.
d-Matrix는 왜 NVIDIA 쪽으로 들어왔을까?
NVIDIA의 9월 10일 발표에 따르면 d-Matrix는 Raptor를 NVLink Fusion에 연결하고, NVIDIA의 MGX 랙 구조와 Spectrum-X 네트워크 등을 활용할 계획이다.
NVIDIA는 이 방식의 장점을 꽤 노골적으로 설명한다.
새로운 칩 회사가 랙 전체를 처음부터 만들지 않아도 된다.
이미 검증된 랙, 전력, 냉각, 네트워크, 공급망을 가져다 쓸 수 있기 때문이다.
출처: NVIDIA, d-Matrix Adopts NVIDIA NVLink Fusion
이 부분에서 조금 납득됐다.
칩 스타트업 입장에서 선택지는 대충 이런 식일 것이다.
| 선택 | 해야 하는 일 |
|---|---|
| 전부 직접 구축 | 칩 + 연결 + 랙 + 네트워크 + 전력 + 냉각 + 관리 체계 |
| NVIDIA 플랫폼 활용 | 자기 칩의 차별화에 더 집중하고 나머지 상당 부분은 기존 생태계 활용 |
물론 실제 계약이나 기술 통합은 표만큼 단순하지 않을 것이다.
그래도 작은 회사가 NVIDIA와 똑같은 데이터센터 생태계를 처음부터 다시 만드는 것보다 이미 있는 길을 타는 쪽이 훨씬 현실적으로 보인다.
그런데 NVIDIA는 왜 경쟁자를 도와주지?
여기가 제일 궁금했다.
단순하게 보면 d-Matrix 같은 추론칩이 잘 팔릴수록 NVIDIA GPU가 들어갈 자리가 줄어들 수도 있다.
그런데 시야를 조금 넓히면 다른 계산이 가능하다.
예를 들어 어떤 회사가 자체 AI 칩을 쓰기로 이미 결정했다고 해보자.
NVIDIA가 문을 닫으면:
자체 AI 칩
↓
다른 연결 기술
↓
다른 랙
↓
다른 네트워크
↓
NVIDIA 생태계 밖
반대로 문을 열면:
자체 AI 칩
↓
NVLink Fusion
↓
NVIDIA MGX
↓
NVIDIA 네트워크 / 관리 / 공급망
↓
칩은 경쟁사지만 시스템은 NVIDIA 생태계
이렇게 된다.
그렇다면 NVIDIA 입장에서는 모든 계산을 NVIDIA GPU가 해야만 이기는 게임을 할 필요가 없어진다.
다른 회사 칩이 선택되더라도 그 칩이 들어가는 데이터센터의 연결 방식과 랙, 네트워크, 운영 구조에 NVIDIA 기술이 남을 수 있다.
이건 꽤 다른 전략이다.
슈퍼마켓보다 쇼핑몰에 가까운 것 같다
비유를 하나 해봤다.
NVIDIA가 자기 GPU만 팔려고 한다면 거대한 슈퍼마켓에 가깝다.
자기 상품을 최대한 많이 파는 것이 중요하다.
그런데 NVLink Fusion의 그림은 조금 쇼핑몰처럼 보인다.
쇼핑몰에는 경쟁 브랜드도 들어온다.
A 신발 회사와 B 신발 회사가 서로 경쟁한다고 해서 쇼핑몰 주인이 B를 반드시 쫓아낼 필요는 없다.
둘 다 자기 건물에 들어와 있고, 자기 주차장과 전기와 엘리베이터와 결제 동선을 쓴다면 쇼핑몰 자체의 힘은 오히려 커질 수 있다.
GPU 회사 A ─┐
XPU 회사 B ─┼─ NVIDIA라는 'AI 공장' 플랫폼
CPU 회사 C ─┘
물론 NVIDIA가 단순한 임대업자는 아니다. 자기 GPU라는 아주 강력한 핵심 상품도 직접 판다.
그래서 더 흥미롭다.
가장 큰 입점 업체가 쇼핑몰 건물주이기도 한 셈이다.
이 비유가 모든 기술 관계를 설명하는 것은 아니지만, 왜 경쟁 칩을 받아들이는지 이해하는 데는 꽤 도움이 됐다.
실제로 NVIDIA는 'GPU만' 열어둔 게 아니었다
NVLink Fusion 공식 페이지를 보다 보니 범위가 생각보다 넓었다.
NVIDIA가 제공하려는 것은 대략 이런 것들이다.
- 가속기끼리 빠르게 연결하는 NVLink
- 칩과 칩을 직접 연결하는 NVLink-C2C
- 여러 가속기를 묶는 NVLink Switch
- MGX 랙 구조
- Spectrum 계열 네트워크
- ConnectX 네트워크 장치
- BlueField 데이터 처리 장치
- 데이터센터를 관리하는 소프트웨어
- 전력과 냉각까지 고려한 시스템 설계
이걸 보고 나니 경쟁 GPU를 허용한다는 문장만으로는 상황을 제대로 설명하지 못하는 것 같았다.
정확히는 다른 계산칩을 NVIDIA가 만든 더 큰 시스템 안에 넣을 수 있게 하는 것에 가깝다.
심지어 메모리까지 들어오기 시작했다
여기서 한 단계 더 놀라운 게 있었다.
2026년 8월 NVIDIA는 NVLink Fusion을 NVHBM이라는 맞춤형 고대역폭 메모리 기술까지 확장했다.
HBM은 AI 칩 옆에 붙어 엄청난 양의 데이터를 빠르게 공급하는 메모리다. AI에서는 계산기 자체만큼이나 이 메모리의 속도와 전력 사용량이 중요하다.
NVIDIA 설명에 따르면 NVHBM은 메모리를 제어하는 일부 회로를 AI 칩 본체가 아니라 HBM 쪽에 넣는 방식으로, 기존 HBM4E 대비 최대 30% 높은 메모리 대역폭, 15% 낮은 HBM 전력 사용량, XPU 계산 다이에서 최대 25%의 면적 절감을 목표로 한다.
이 숫자는 NVIDIA가 제시한 설계상의 비교 수치이고 실제 제품별 결과는 달라질 수 있다.
첫 협력사는 Amazon의 Annapurna Labs다. AWS의 자체 AI 칩 계열도 앞으로 NVIDIA의 NVLink와 메모리 기술을 함께 사용할 수 있는 그림이다.
출처: NVIDIA, NVLink Fusion Expands With NVHBM
여기까지 오면 범위가 꽤 커진다.
계산칩
+
메모리
+
칩 사이 연결
+
랙
+
네트워크
+
전력 / 냉각
+
운영 소프트웨어
NVIDIA가 말하는 플랫폼은 정말 이 전체에 가까웠다.
'열었다'와 '중립적이다'는 같은 말이 아니다
여기서 조심해야 할 부분도 있다.
NVLink Fusion이 다른 회사 칩을 지원한다고 해서 NVIDIA 생태계가 갑자기 완전히 중립적인 표준이 되었다는 뜻은 아니다.
오히려 반대로 볼 수도 있다.
다른 회사 칩이 NVIDIA의 연결 기술, 랙 구조, 네트워크와 관리 체계를 채택할수록 NVIDIA 방식이 사실상의 기본값이 될 가능성도 있기 때문이다.
예를 들어 USB 포트가 많은 기기를 받아준다고 해서 USB 규격의 영향력이 약해지는 것은 아니다.
오히려 더 많은 기기가 꽂힐수록 그 포트가 더 중요해진다.
NVLink Fusion도 비슷한 면이 있는 것 같다.
플랫폼의 힘: 다른 제품도 들어올 수 있지만, 들어오려면 우리 길을 지나간다.
두 번째가 반드시 더 나쁘다는 뜻은 아니다.
사용자 입장에서는 서로 다른 칩을 같은 데이터센터 구조에서 쓸 수 있다면 오히려 편해질 수 있다.
다만 개방성과 플랫폼 영향력 감소를 같은 것으로 생각하면 안 될 것 같다.
NVIDIA가 진짜 노리는 건 '기본값' 아닐까?
여기부터는 확인된 사실이라기보다 자료를 읽고 든 생각이다.
컴퓨터 산업을 보면 꼭 모든 부품을 직접 만드는 회사만 강한 것은 아니었다.
어떤 회사의 규격이나 소프트웨어가 업계의 기본값이 되면, 다른 회사 제품이 성장해도 그 생태계의 영향력은 계속 남는다.
NVIDIA도 비슷한 방향을 노리는 것 아닐까 싶었다.
AI 칩 시장에서 앞으로 Google TPU, AWS Trainium, 자체 ASIC, 여러 추론 전용 칩이 계속 늘어난다고 해보자.
NVIDIA가 그 흐름을 전부 막기는 어렵다.
그렇다면 차라리 이렇게 말할 수 있다.
좋아. 칩은 너희가 만들어.
대신 수천 개를 연결하고 랙에 넣고 식히고 관리하려면 우리 플랫폼을 쓰는 건 어때?
이렇게 되면 칩 경쟁에서 일부를 잃어도 AI 인프라 전체에서는 계속 중심에 남을 수 있다.
이게 NVLink Fusion을 보면서 가장 흥미로웠던 지점이었다.
d-Matrix 하나만의 이야기도 아니었다
처음에는 작은 추론칩 회사 하나가 NVIDIA와 협력했다는 뉴스라고 생각했다.
그런데 파트너 목록을 보면 이야기가 달라진다.
NVIDIA가 2026년 d-Matrix 발표에서 언급한 생태계에는 d-Matrix뿐 아니라 AWS, Arm, Intel, Fujitsu, SiFive, MediaTek, Samsung, Marvell 등 여러 회사가 포함돼 있다.
MediaTek도 8월 31일 발표에서 NVLink Fusion을 이용해 맞춤형 XPU를 NVIDIA의 랙 규모 AI 시스템에 연결하겠다고 밝혔다.
한두 회사의 특이한 협업이라기보다 NVIDIA가 계속 키우고 있는 하나의 방향으로 보는 편이 맞아 보였다.
그럼 GPU는 덜 중요해지는 걸까?
그렇다고 생각하기는 아직 어렵다.
NVIDIA GPU는 여전히 이 플랫폼의 핵심 구성요소이고, NVIDIA는 자기 GPU 시스템도 계속 발전시키고 있다.
NVLink Fusion은 GPU를 포기하는 전략이라기보다 GPU 밖에서 벌어지는 AI 계산까지 NVIDIA 생태계와 연결하려는 전략에 더 가까워 보인다.
예를 들어 어떤 작업은 범용성이 높은 NVIDIA GPU가 하고, 특정 추론은 전용 XPU가 하고, CPU가 또 다른 작업을 맡는 식의 혼합 구성이 가능하다.
NVIDIA는 이를 heterogeneous compute, 서로 다른 종류의 계산 장치를 섞어 쓰는 방식이라고 설명한다.
어려운 말 같지만 그냥 한 공장에 만능 작업자와 전용 기계를 같이 두는 것이라고 생각하면 편했다.
이게 성공하면 경쟁 구도도 조금 이상해진다
보통은 이렇게 생각한다.
NVIDIA GPU vs 자체 AI 칩
누가 이기고 누가 지는 식이다.
그런데 NVLink Fusion이 성공하면 이런 구조도 가능해진다.
AI 데이터센터
│
NVIDIA 인프라 플랫폼
┌─────────┼─────────┐
NVIDIA GPU XPU A XPU B
그러면 NVIDIA와 XPU 회사는 경쟁자이면서 동시에 파트너가 된다.
칩 시장에서는 싸우지만, 데이터센터를 만드는 층에서는 같은 생태계에 있을 수 있다.
처음에는 모순처럼 보였는데 플랫폼 사업에서는 오히려 흔한 그림일 수도 있겠다.
사용자에게 좋은 일일까?
여기는 아직 단정하기 어렵다.
좋은 쪽으로 보면 데이터센터 운영자는 작업에 맞는 칩을 골라 쓰면서도 랙과 네트워크를 전부 새로 만들지 않아도 된다.
칩 회사도 실제 배포까지 가는 시간이 줄어들 수 있다.
NVIDIA는 d-Matrix 발표에서 NVLink 6 기준 XPU당 3TB/s의 all-to-all 대역폭, 일반 Ethernet 대비 3배 낮은 XPU 간 지연시간과 10배 높은 패킷 처리율을 제시했다. 다만 이는 NVIDIA가 제시한 플랫폼 비교 수치이고 실제 워크로드에서 그대로 같은 차이가 난다는 뜻은 아니다.
반대쪽에서는 걱정할 지점도 있다.
AI 칩은 다양해지는데 정작 그 아래 인프라가 한 회사 기술에 더 많이 의존하게 될 수도 있다.
겉으로는 선택지가 늘었는데, 데이터센터 전체를 바꾸는 비용 때문에 나중에 다른 생태계로 옮기기는 더 어려워질 수도 있다.
아직 NVLink Fusion 생태계가 어디까지 커질지 모르기 때문에 이 부분은 더 지켜봐야겠다.
로컬 AI와는 상관없는 이야기일까?
당장은 거의 데이터센터 이야기다.
NVLink Fusion으로 집의 RTX PC와 Mac과 DGX Spark를 하나의 거대한 GPU처럼 만드는 것은 아니다. 그런 용도와는 완전히 다르다.
그래도 개인적으로 흥미로운 이유는 AI 하드웨어를 보는 기준이 바뀌는 과정이 보이기 때문이다.
예전에는 새 GPU가 나오면 보통 이런 걸 봤다.
연산 성능은?
메모리는?
전력은?
가격은?
그런데 큰 AI 시스템에서는 점점 이런 질문이 중요해지는 것 같다.
서로 어떻게 연결하지?
메모리를 얼마나 빨리 공급하지?
수백·수천 개를 어떻게 관리하지?
전기를 어떻게 먹이지?
열을 어떻게 빼지?
다른 종류의 칩과 같이 쓸 수 있나?
결국 가장 빠른 칩 하나보다 수천 개의 칩을 제대로 일하게 만드는 시스템이 더 중요해지는 구간이 있는 것이다.
이건 작은 로컬 AI 환경에서도 축소판으로 조금씩 보이는 문제라 흥미롭다. 컴퓨터가 여러 대 생기면 결국 모델 자체보다 어디에 어떤 일을 보낼지, 네트워크는 어떤지, 모델은 어디에 있는지가 신경 쓰이기 시작한다.
처음 생각 → 찾아보고 나서
| 처음 생각 | 찾아보고 나서 |
|---|---|
| NVIDIA는 경쟁 AI 칩을 막으려 할 것 같다 | 경쟁 칩도 NVIDIA 인프라 안으로 받아들이고 있다 |
| NVLink Fusion은 그냥 빠른 연결 기술 같다 | 랙·네트워크·전력·냉각·운영까지 이어지는 플랫폼 전략에 가깝다 |
| 다른 칩이 팔리면 NVIDIA는 무조건 손해다 | 그 칩이 NVIDIA 인프라를 쓰면 더 큰 층에서는 NVIDIA 영향력이 남을 수 있다 |
| 개방하면 NVIDIA 힘이 약해질 것 같다 | 오히려 더 많은 칩이 연결될수록 NVIDIA 방식이 기본값이 될 가능성도 있다 |
처음 질문은 **왜 경쟁자를 도와주지?**였다.
찾아보고 나니 질문이 조금 달라졌다.
경쟁자를 자기 밖에 두는 것과 자기 플랫폼 안에서 경쟁하게 하는 것 중 어느 쪽이 더 강한 전략일까?
아직 모르겠는 것
실제로 NVLink Fusion이 업계의 기본 연결 방식 중 하나로 자리 잡을지는 아직 모르겠다.
특히 궁금한 것은 이 정도다.
- NVIDIA GPU가 아닌 XPU가 실제 대규모 고객 환경에서 얼마나 많이 배치될지
- NVLink Fusion을 쓰는 데 드는 비용과 라이선스 조건이 어느 정도인지
- 경쟁 연결 기술과 비교했을 때 실제 총비용이 어떻게 달라지는지
- NVIDIA 소프트웨어에 대한 의존성이 어느 정도까지 따라오는지
- AWS처럼 자체 칩을 가진 대형 회사가 NVIDIA 인프라를 어디까지 받아들일지
- 여러 XPU 회사가 같은 랙 생태계에 들어왔을 때 실제 호환성이 얼마나 좋아질지
발표 자료만 보면 당연히 장점이 크게 보인다.
실제 고객 배치와 독립적인 성능·비용 자료가 쌓여야 이 전략의 진짜 힘을 알 수 있을 것 같다.
결국 NVIDIA가 파는 것은 무엇일까?
처음 NVIDIA를 알았을 때는 그래픽카드 회사였다.
AI 붐 이후에는 GPU 회사라고 생각했다.
그런데 요즘 발표를 계속 보다 보면 그 설명도 조금 좁아 보인다.
GPU를 팔고, GPU끼리 연결하는 기술을 팔고, 네트워크를 팔고, 서버와 랙 구조를 만들고, 데이터센터 운영 소프트웨어를 만들고, 이제는 다른 회사의 AI 칩까지 그 안에 넣으려 한다.
그래서 NVLink Fusion을 보고 든 생각은 이거였다.
NVIDIA가 지키려는 성은 GPU가 아니라, AI 컴퓨터를 만드는 방법 자체일 수도 있겠다.
경쟁 칩이 많아지는 것이 NVIDIA에게 무조건 나쁜 소식이 아닐 수 있는 이유도 여기에 있는 것 같다.
모두가 NVIDIA 칩을 살 필요는 없다.
대신 모두가 NVIDIA가 만든 길을 지나가게 된다면 그것도 굉장히 강한 위치다.
앞으로 자체 AI 칩 뉴스가 나올 때는 칩 성능만 보지 말고 그 칩이 누구의 메모리, 누구의 연결 기술, 누구의 랙과 네트워크 안으로 들어가는지도 같이 봐야겠다.
아마 진짜 플랫폼 경쟁은 그 아래에서 벌어지고 있을지도 모르겠다.
찾아본 순서
- NVIDIA — d-Matrix Adopts NVIDIA NVLink Fusion for Rack-Scale XPU Deployment
- NVIDIA — NVLink Fusion 공식 페이지
- NVIDIA — NVLink Fusion 최초 발표
- NVIDIA — How XPUs Meet a World-Class AI Factory
- NVIDIA — NVLink Fusion Expands With NVHBM Custom High-Bandwidth Memory
- NVIDIA·MediaTek — AI Edge to Cloud Computing Platforms