NVIDIA Grace Blackwell Ultra

NVIDIA GB300

VESSL Cloud에서 NVIDIA GB300 NVL72 물량을 예약하세요. 랙 하나에 Blackwell Ultra GPU 72장과 Grace CPU 36개가 들어가고, GPU 72장이 130 TB/s NVLink로 묶여 있어 클러스터급 학습과 동시 요청이 많은 추론 서빙까지 감당해요.

물량 예약하기 요금 및 이용 안내 보기

NVIDIA GB300 NVL72

GPU 메모리: 최대 288GB HBM3e
메모리 대역폭: 8 TB/s

기술 사양

아키텍처: Blackwell
GPU 메모리: 최대 288GB HBM3e
메모리 대역폭: 8 TB/s
NVLink: 1.8 TB/s
FP8 (텐서): 10 PFLOPS
FP4 (텐서): 20 PFLOPS
최대 TDP: 1,400W
랙당 GPU: GPU 72장 + Grace CPU 36개(NVL72)

*희소성(sparsity) 적용 시 이론상 최대 성능이며 NVIDIA 공식 사양 기준이에요. 노드 구성에 따라 달라질 수 있어요.

요금 및 이용 안내

NVIDIA GB300 NVL72예약 전용

문의하기

GB300은 어디에 쓰면 좋을까요?

클러스터급 학습

NVL72 랙 하나가 거대한 가속기 한 대처럼 움직여요. 약 20TB HBM3e와 130 TB/s NVLink 덕분에 조 단위 파라미터 모델도 느린 네트워크를 거치지 않고 메모리에 올린 채 학습해요.

랙 스케일 추론 서빙

하나로 묶인 NVLink 도메인에 큰 KV 캐시를 GPU 72장에 나눠 올려, reasoning과 agentic, 긴 문맥 워크로드의 많은 동시 요청을 서빙해요.

CPU 비중이 큰 AI 파이프라인

각 Grace CPU가 NVLink-C2C로 GPU와 직접 연결돼서, 데이터 전처리와 추론 오케스트레이션이 PCIe 병목 없이 가속기로 이어져요.

어떤 NVIDIA GPU가 맞을까요?

	A100 Ampere	H100 Hopper	H200 Hopper	B200 Blackwell	B300 Blackwell	GB300 현재 보고 있는 모델
아키텍처	Ampere	Hopper	Hopper	Blackwell	Blackwell	Blackwell
GPU 메모리	80GB HBM2e	80GB HBM3	141GB HBM3e	192GB HBM3e	최대 288GB HBM3e	최대 288GB HBM3e
메모리 대역폭	2.0 TB/s	3.35 TB/s	4.8 TB/s	8 TB/s	8 TB/s	8 TB/s
FP8 (텐서)	지원 안 함	3,958 TFLOPS	3,958 TFLOPS	9 PFLOPS	9 PFLOPS	10 PFLOPS
이용 방식	최저 $1.77/시간	최저 $3.57/시간	예약 전용	예약 전용	예약 전용	예약 전용
추천 용도	가성비 파인튜닝과 추론	가성비 학습과 추론	긴 문맥과 대형 모델 추론	FP4 최신 대형 모델 학습	초대형 모델과 동시 요청이 많은 추론	클러스터급 학습과 추론

AI 팀이 VESSL Cloud를 고르는 이유

A100부터 Blackwell Ultra까지

A100과 H100은 온디맨드로 이용할 수 있어요. 더 큰 작업에는 H200과 Blackwell GPU를 예약해서, 워크로드마다 맞는 GPU를 쓸 수 있어요.

문제를 일찍 발견해요

VM Cluster의 모든 노드는 상시 상태 점검(health check)을 받고, 노드 상태는 약 1분마다 갱신돼요. Workspace와 Job은 자원 사용량이 기준을 넘거나 실행 중 문제가 생기면 알림을 보내요.

한 노드부터 클러스터까지

한 노드에서 GPU를 최대 8장까지 써서 학습과 서빙을 하고, 한 노드로 부족하면 멀티노드 VM Cluster로 넘어가요.

엔터프라이즈 보안도 문제없어요

SOC 2 Type II 인증에 상용 AI 전담 지원까지 갖춰서, 엔터프라이즈 규모에서도 안심하고 쓸 수 있어요.

자주 묻는 질문

NVIDIA GB300은 어떻게 이용하나요?

GB300 물량은 NVL72 랙 단위 예약제로, 문의 후 배정해 드려요. 현재 가용 물량과 조건은 팀에 문의해 주세요.

GB300 NVL72는 무엇인가요?

Blackwell Ultra GPU 72장과 Grace CPU 36개를 랙 하나에 담은 랙 스케일(rack-scale) 시스템이에요. GPU 72장이 130 TB/s NVLink 하나로 묶여 있어서 랙 전체가 큰 가속기 한 대처럼 움직여요.

B300과 GB300은 뭐가 다른가요?

GPU는 같은 Blackwell Ultra예요. B300은 8장 단위 HGX 노드로 제공되고, GB300은 GPU 72장과 Grace CPU 36개를 NVL72 랙 하나에 담았고, GPU 72장은 클러스터급 워크로드를 위한 130 TB/s NVLink 도메인 하나로 연결돼요.