NVIDIA Hopper

NVIDIA H100

Name: NVIDIA H100 SXM GPU Cloud
Brand: NVIDIA
Price: 2.98 USD

NVIDIA H100 SXM을 온디맨드로 시간당 $2.98부터 이용할 수 있어요. 대규모 학습부터 파인튜닝, 높은 처리량 추론까지 모두 소화하는 검증된 GPU예요.

최저 $2.98/시간

지금 시작하기 문의하기

NVIDIA H100 SXM

GPU 메모리: 80GB HBM3
메모리 대역폭: 3.35 TB/s

기술 사양

아키텍처: Hopper
GPU 메모리: 80GB HBM3
메모리 대역폭: 3.35 TB/s
NVLink: 900 GB/s
FP16/BF16 (텐서): 1,979 TFLOPS
FP8 (텐서): 3,958 TFLOPS
최대 TDP: 700W
노드당 GPU: 8 (HGX H100)

*희소성(sparsity) 적용 시 이론상 최대 성능이며 NVIDIA 공식 사양 기준이에요. 노드 구성에 따라 달라질 수 있어요.

요금 및 이용 안내

NVIDIA H100 SXM셀프서브

$2.98GPU당 시간당

지금 시작하기

H100은 어디에 쓰면 좋을까요?

대규모 LLM 학습과 파인튜닝

검증된 Hopper 스택과 FP8 텐서 코어, VM Cluster의 고속 InfiniBand로 70B~400B급 모델까지 멀티노드로 학습할 수 있어요.

높은 처리량 추론

H100 FP8 가속으로 토큰 처리량은 높이고 응답 지연은 낮춰요.

연구와 HPC

성숙한 CUDA, PyTorch, JAX, NeMo 생태계 위에서 H100으로 실험과 과학 계산을 온디맨드로 실행할 수 있어요.

어떤 NVIDIA GPU가 맞을까요?

	A100 Ampere	H100 현재 보고 있는 모델	H200 Hopper	B200 Blackwell	B300 Blackwell	GB300 Blackwell
아키텍처	Ampere	Hopper	Hopper	Blackwell	Blackwell	Blackwell
GPU 메모리	80GB HBM2e	80GB HBM3	141GB HBM3e	192GB HBM3e	최대 288GB HBM3e	최대 288GB HBM3e
메모리 대역폭	2.0 TB/s	3.35 TB/s	4.8 TB/s	8 TB/s	8 TB/s	8 TB/s
FP8 (텐서)	지원 안 함	3,958 TFLOPS	3,958 TFLOPS	9 PFLOPS	9 PFLOPS	10 PFLOPS
이용 방식	최저 $1.48/시간	최저 $2.98/시간	예약 전용	예약 전용	예약 전용	예약 전용
추천 용도	가성비 파인튜닝과 추론	가성비 학습과 추론	긴 문맥과 대형 모델 추론	FP4 최신 대형 모델 학습	초대형 모델과 동시 요청이 많은 추론	클러스터급 학습과 추론

AI 팀이 VESSL Cloud를 고르는 이유

A100부터 Blackwell Ultra까지

A100과 H100은 온디맨드로 이용할 수 있어요. 더 큰 작업에는 H200과 Blackwell GPU를 예약해서, 워크로드마다 맞는 GPU를 쓸 수 있어요.

문제를 일찍 발견해요

VM Cluster의 모든 노드는 상시 상태 점검(health check)을 받고, 노드 상태는 약 1분마다 갱신돼요. Workspace와 Job은 자원 사용량이 기준을 넘거나 실행 중 문제가 생기면 알림을 보내요.

한 노드부터 클러스터까지

한 노드에서 GPU를 최대 8장까지 써서 학습과 서빙을 하고, 한 노드로 부족하면 멀티노드 VM Cluster로 넘어가요.

엔터프라이즈 보안도 문제없어요

SOC 2 Type II 인증에 상용 AI 전담 지원까지 갖춰서, 엔터프라이즈 규모에서도 안심하고 쓸 수 있어요.

자주 묻는 질문

VESSL Cloud에서 NVIDIA H100 가격은 얼마인가요?

H100 SXM(80GB)은 온디맨드 시간당 $2.98부터예요. cloud.vessl.ai에서 셀프서브로 시작할 수 있어요.

H100 메모리(VRAM)는 얼마인가요?

H100 SXM은 80GB HBM3 메모리에 대역폭 3.35 TB/s예요. 더 큰 모델이나 더 긴 문맥(context)에 메모리가 더 필요하면 141GB HBM3e의 H200을 보세요.

H100과 H200은 뭐가 다른가요?

둘 다 Hopper 연산 성능은 같지만, H200은 더 빠른 HBM3e 메모리를 141GB(H100은 80GB HBM3) 탑재하고 대역폭이 4.8 TB/s예요. 더 큰 모델, 더 큰 배치(batch), 더 긴 문맥(context)에 유리해요.

H100 멀티노드 학습이 가능한가요?

가능해요. VM Cluster에서 8장 단위 HGX H100 노드를 고속 InfiniBand로 묶어 분산 학습을 하고, 모든 노드에 root SSH로 접속해요. 각 VM이 GPU를 직접 점유하는(passthrough) 방식이에요. 한 노드 안에서는 Workspace나 Job으로 H100을 최대 8장까지 쓸 수 있어요.