NVIDIA B200
VESSL Cloud에서 NVIDIA Blackwell B200 물량을 예약하세요. 192GB HBM3e와 8 TB/s 대역폭, FP4 가속으로 최신 대형 모델 학습과 실시간 추론을 할 수 있어요.
- GPU 메모리
- 192GB HBM3e
- 메모리 대역폭
- 8 TB/s
기술 사양
- 아키텍처
- Blackwell
- GPU 메모리
- 192GB HBM3e
- 메모리 대역폭
- 8 TB/s
- NVLink
- 1.8 TB/s
- FP8 (텐서)
- 9 PFLOPS
- FP4 (텐서)
- 18 PFLOPS
- 최대 TDP
- 1,000W
- 노드당 GPU
- 8 (HGX B200)
*희소성(sparsity) 적용 시 이론상 최대 성능이며 NVIDIA 공식 사양 기준이에요. 노드 구성에 따라 달라질 수 있어요.
요금 및 이용 안내
B200은 어디에 쓰면 좋을까요?
최신 대형 모델 사전학습
FP4, FP8 처리량과 1.8 TB/s NVLink로 조 단위 파라미터 모델의 사전학습을 단일 Blackwell 클러스터에서 진행할 수 있어요.
높은 처리량 추론
192GB HBM3e와 FP4 가속으로 큰 모델로 많은 요청을 동시에 처리해요.
멀티모달과 생성형 비디오
텍스트-비디오, 3D 생성, 대형 멀티모달 학습처럼 메모리와 연산이 동시에 무거운 워크로드도 HGX B200 한 노드에서 처리할 수 있어요.
어떤 NVIDIA GPU가 맞을까요?
| A100 Ampere | H100 Hopper | H200 Hopper | B200 현재 보고 있는 모델 | B300 Blackwell | GB300 Blackwell | |
|---|---|---|---|---|---|---|
| 아키텍처 | Ampere | Hopper | Hopper | Blackwell | Blackwell | Blackwell |
| GPU 메모리 | 80GB HBM2e | 80GB HBM3 | 141GB HBM3e | 192GB HBM3e | 최대 288GB HBM3e | 최대 288GB HBM3e |
| 메모리 대역폭 | 2.0 TB/s | 3.35 TB/s | 4.8 TB/s | 8 TB/s | 8 TB/s | 8 TB/s |
| FP8 (텐서) | 지원 안 함 | 3,958 TFLOPS | 3,958 TFLOPS | 9 PFLOPS | 9 PFLOPS | 10 PFLOPS |
| 이용 방식 | 최저 $1.48/시간 | 최저 $2.98/시간 | 예약 전용 | 예약 전용 | 예약 전용 | 예약 전용 |
| 추천 용도 | 가성비 파인튜닝과 추론 | 가성비 학습과 추론 | 긴 문맥과 대형 모델 추론 | FP4 최신 대형 모델 학습 | 초대형 모델과 동시 요청이 많은 추론 | 클러스터급 학습과 추론 |
AI 팀이 VESSL Cloud를 고르는 이유
A100부터 Blackwell Ultra까지
A100과 H100은 온디맨드로 이용할 수 있어요. 더 큰 작업에는 H200과 Blackwell GPU를 예약해서, 워크로드마다 맞는 GPU를 쓸 수 있어요.
문제를 일찍 발견해요
VM Cluster의 모든 노드는 상시 상태 점검(health check)을 받고, 노드 상태는 약 1분마다 갱신돼요. Workspace와 Job은 자원 사용량이 기준을 넘거나 실행 중 문제가 생기면 알림을 보내요.
한 노드부터 클러스터까지
한 노드에서 GPU를 최대 8장까지 써서 학습과 서빙을 하고, 한 노드로 부족하면 멀티노드 VM Cluster로 넘어가요.
엔터프라이즈 보안도 문제없어요
SOC 2 Type II 인증에 상용 AI 전담 지원까지 갖춰서, 엔터프라이즈 규모에서도 안심하고 쓸 수 있어요.
자주 묻는 질문
NVIDIA B200은 어떻게 이용하나요?
Blackwell 물량은 문의 후 배정해 드려요. 현재 가용 물량과 가격은 팀에 문의해 주세요.
B200 메모리는 얼마인가요?
B200은 GPU당 192GB HBM3e에 최대 8 TB/s 대역폭, 1.8 TB/s NVLink를 제공해요. H100 대비 메모리는 약 2.4배, 대역폭은 2배가 넘어요.
B200과 B300은 뭐가 다른가요?
B300(Blackwell Ultra)은 메모리가 최대 288GB HBM3e로 늘었고(B200은 192GB), 희소성 미적용(dense) 기준 FP4 연산 성능이 B200의 약 1.5배예요. 가장 큰 모델과 동시 요청이 많은 추론에 적합해요.
B200은 H200과 비교하면 어떤가요?
B200은 한 세대 앞선 Blackwell이에요. FP4 가속, 192GB HBM3e, 8 TB/s 대역폭으로 Hopper H200(141GB, 4.8 TB/s)을 뛰어넘어요. 최신 대형 모델 학습이나 FP4로 가속한 추론이 필요하다면 B200을 보세요.
B200 클러스터 전체를 예약할 수 있나요?
네. 8장 단위 HGX B200 노드를 고속 InfiniBand로 묶어, 단일 노드부터 멀티노드 클러스터까지 구성해요. 예약할 수 있는 노드 수는 공급 상황에 따라 달라서, 가용 물량은 팀에 문의해 주세요.
다른 GPU도 살펴보기
워크로드가 다르다면, 메모리, 처리량, 예산에 맞는 GPU를 골라보세요.
최대 288GB HBM3e를 갖춘 Blackwell Ultra예요. 가장 큰 모델과 동시 요청이 많은 추론 서빙을 위한 GPU예요.
자세히 보기H100과 같은 Hopper 연산에 141GB HBM3e를 더해, 여러 GPU로 쪼개지 않고 긴 문맥 LLM과 더 큰 모델을 실행할 수 있어요.
자세히 보기학습, 파인튜닝, 추론 어떤 작업에도 잘 맞는 검증된 GPU예요. 가성비도 좋고, 시간당 $2.98부터예요.
자세히 보기