2027년 GPU 예산, 품의서를 통과하는 TCO 설계법: 웨비나 핵심 정리

핵심 요약

• 지금 GPU 시장은 가격 협상이 아니라 판매 가능한 물량의 존재 여부가 문제인 시장이고, 프론티어 랩과 네오 랩이 장기 선불 계약으로 공급을 선점하면서 네오클라우드에는 내년까지 신규 판매 물량이 사실상 없어요.
• NVIDIA B300 32장(HGX 8-way 서버 4대)을 5년 운영한다고 가정하면, 직접 구축 총비용은 약 133.3억 원, VESSL Cloud 이용 시 약 103.5억 원으로 동일 조건에서 약 29.8억 원(22%) 차이가 나요. (2026년 8월 산정 기준 참고값)
• 직접 구축 견적서에는 스페어 부담, 기술 진부화, 관리 포인트 증가라는 세 가지 비용이 금액으로 잡히지 않아요. 품의서를 쓸 때는 이 세 항목까지 총소유비용(TCO)에 넣고 비교해야 해요.

2026년 8월 26일, VESSL AI가 2027년 GPU 예산, 품의서를 통과하는 TCO 설계법이라는 주제로 웨비나를 진행했어요. 주다운 Sales Lead가 전세계 GPU 공급 시장 구조와 5년 TCO 비교 프레임을, 류인태 CPO가 확보한 GPU를 실제로 운영하는 방법과 고객 사례를 다뤘는데요.

이 글에서는 웨비나에서 나온 내용 중 2027년 예산을 준비하는 분들이 품의서에 바로 옮겨 쓸 수 있는 핵심만 정리해 볼게요.

왜 예산이 있어도 GPU를 못 구할까요?

지금 GPU는 전세계적으로 예산이 있어도 당장은 구할 수 없는 상황이에요. 올해 말이나 내년에 쓸 물량을 지금 계약해야 하고, 그러려면 내부 승인부터 필요하죠. 웨비나 제목이 품의서를 통과하는 TCO 설계법인 이유예요.

GPU 시장은 공급(Supply)과 수요(Demand)가 마주 보는 양면 시장이에요. 공급 쪽에는 AWS, Azure, GCP 같은 하이퍼스케일러, CoreWeave 같은 GPU 전문 네오클라우드, 국내 CSP와 데이터센터 사업자, 그리고 전력과 공간을 가진 순수 데이터센터가 있어요. 수요 쪽에는 대기업과 AI 스타트업, 그리고 시장을 실질적으로 움직이는 두 축인 프론티어 랩(OpenAI, Anthropic, Google DeepMind)과 네오 랩(스타 연구자가 창업해 대규모 투자를 받은 랩)이 있고요.

문제는 이 프론티어 랩과 네오 랩이 필요량보다 크게, 더 길게, 선불로 물량을 잡아간다는 점이에요. 네오 랩은 수천억 원 단위 투자를 받은 직후 모델 성능을 증명해야 하니 자원 선점이 곧 시간 싸움이고, 프론티어 랩은 추론 수요가 기하급수적으로 늘면서 GPU 확보 자체가 성장 전략이 됐어요. 그 결과 시장에 풀리는 물량은 나오는 즉시 이들이 리스로 가져가요.

공급 쪽 현실은 이래요.

• 네오클라우드는 기존 고객 장기 계약으로 완판 상태라 내년까지 신규 판매 가능 물량이 없어요.
• 하이퍼스케일러는 최소 1년 단위 대형 계약을 우선 배정하고, 짧은 기간의 온디맨드 수요는 사실상 받지 않아요.
• 신규 데이터센터는 착공 전에 이미 물량 선구매가 일어나요. 데이터센터를 계속 짓는다고 해도 그 물량이 우리 손에 오기까지는 오래 걸려요.

정리하면, 계약 시점이 아니라 대기열의 순번과 리드타임이 GPU 확보를 결정하는 시장이 됐어요. 이번 주, 이번 달에 쓸 GPU를 찾는 방식은 지금 시장에서 성립하지 않아요.

그럼 기업은 지금 무엇을 해야 할까요?

답은 사전 확보(사전 예약)예요. 필요 시점에 찾는 방식이 아니라, 필요 이전에 잡아두는 방식으로 전환해야 해요.

웨비나에서 권한 접근은 단순해요. 필요한 물량(예: B200 128장, 16장 등), 용도(학습 또는 추론), 필요 시점과 기간을 정의해서 공급자에게 미리 전달하는 거예요. 저희를 포함한 대부분의 공급자가 사전 계약 고객에게 우선 공급하는 게 현재 시장의 규칙이거든요. 조건을 미리 밝힌 수요가 앞으로 몇 개월 안에 풀리는 물량을 가져갈 확률이 높아요.

VESSL AI의 경우 국내 CSP와 데이터센터 사업자를 대상으로 한 장기 리스 계약으로 SKT 신규 데이터센터를 포함해 6,000장 이상의 GPU를 선확보했고, 물량을 계속 늘려가고 있어요. 최신 세대를 포함한 확보분은 대부분 계약이 채워진 상태지만, 계약 기간을 상대적으로 짧게 설계하기 때문에 만료되는 물량이 수주에서 수개월 단위로 순환해서 나와요. 그래서 지금 당장 드릴 수 있습니다가 아니라 언제, 몇 장을 드릴 수 있습니다를 시점과 함께 제시할 수 있어요.

확보 물량이 국내 리전 중심이라는 점도 중요해요. 바이오, 금융처럼 데이터가 국내에 있어야 하는 산업의 규제 요건을 그대로 충족하고요. 장기 리스로 원가가 고정되어 있어 현물 가격 급등과 무관하게 단가 흔들림이 적은 편이에요.

직접 구축 vs 클라우드, 5년 TCO는 얼마나 차이 날까요?

웨비나에서 공개한 비교 기준은 NVIDIA B300 SXM 32장(HGX 8-way 서버 4대), 5년 운영, 100% 예약(RI), 스페어 포함 24/7 운영이라는 동일 조건이에요. 양쪽 모두 실제 점유율과 무관하게 100% 사용을 전제로 계산했어요.

동일 조건에서 약 29.8억 원, 22% 차이가 나요. Workspace와 배치 Job, 전용 VM 클러스터로 GPU를 빌려 쓰는 VESSL Cloud의 이용료에는 인프라와 오케스트레이션, 24/7 엔지니어링 대응, 스페어 운영까지 포함되어 있고요. 참고로 이 수치는 2026년 8월 산정 시점 기준 참고값이에요. 시장 공급 물량의 불확실성으로 모든 클라우드 사업자의 GPU 가격이 계속 변동하고 있어서, 실제 견적은 문의 시점의 물량과 조건에 따라 달라질 수 있어요.

숫자만큼 중요한 건 직접 구축 견적서에 금액으로 잡히지 않는 세 가지예요.

스페어 부담

GPU 서버는 발열량이 커서 스페어 노드 없이는 학습 중단 리스크를 피하기 어려워요. 그런데 직접 사두면 평시에는 놀고 있는 유휴 자본이 되고, 안 사두면 장애 시 부품 수급에 수주에서 수개월이 걸려요. 일반 견적서에는 대개 빠져 있는 항목이에요.

기술 진부화

차세대 GPU가 매년 나오는데 직접 구매한 장비는 상각 종료까지 5년을 안고 가야 해요. 5년 후 잔존가치는 사실상 0에 가깝고, 수랭 전환에 따른 상면 공사까지 겹치면 기존 데이터센터가 신규 장비를 아예 받지 못하는 경우도 있어요. 클라우드는 6개월, 1년 단위의 짧은 계약이 가능해서 세대가 바뀌는 시점에 최신 GPU로 재계약하면 돼요.

관리 포인트 증가

액체냉각, 전력 밀도, InfiniBand, GPU 드라이버, 학습 잡 스케줄링까지, GPU 인프라는 기존 CPU와 스토리지 서버 운영 경험이 그대로 통하지 않는 별도의 전문 영역이에요. 네오클라우드라는 카테고리가 따로 생긴 것 자체가 그 난이도의 증거예요.

품의서에 넣을 TCO를 설계할 때는 장비 가격만 비교하지 말고, 이 세 항목을 포함한 5년 총소유비용을 동일 조건에 놓고 비교하는 게 핵심이에요.

확보한 GPU는 어떻게 운영하나요?

확보와 별개로, 수십 장에서 1,000장 이상 단일 클러스터를 어떻게 돌릴 것인가는 또 다른 문제예요. Kubernetes와 Slurm이 섞인 하이브리드 환경의 스케줄링, 대규모 학습 중 장애 복구와 체크포인트, 여러 팀 간 자원 배분과 쿼터 같은 문제들이요. VESSL AI는 지난 5년간 현대자동차, KAIST 등 대규모 조직의 GPU 클러스터를 운영해 온 경험을 VESSL Cloud 제품에 그대로 녹였어요.

VESSL Cloud는 크게 두 가지 서비스로 구성돼요.

Container Compute

Container Compute는 셀프서비스 경로예요. 회원가입 후 바로 Workspace(JupyterLab, SSH 접속이 되는 GPU 개발 환경), Job(명령을 제출하면 완료까지 실행하고 자동 종료되는 배치 작업), Storage를 쓸 수 있고, 분 단위로 과금돼요. 각 리소스를 만드는 방법은 기술 문서에 정리돼 있어요.

다만 세 가지 한계가 있어요. 컨테이너라 GPU 드라이버나 커널 수정 같은 root 권한 작업이 제한되고, 한 워크로드가 노드 한 대(GPU 최대 8장)를 넘을 수 없고, 온디맨드라 수요가 몰리면 대기가 생길 수 있어요.

최근에는 모델 하나가 노드 한 대를 넘어서는 게 문제예요. 예를 들어 Kimi K3는 2.8조 파라미터 MoE 모델인데, 4비트로 양자화해도 파라미터만 약 1.56TB라 8×H100 노드(총 640GB)는 물론 8×B200 노드(1,440GB)에도 올라가지 않아요. 강화학습 기반 post-training은 여러 모델이 동시에 상주하고 스텝마다 노드 간 동기화가 필요해서 멀티노드가 전제고요.

VM Cluster

VM Cluster는 이 지점을 위한 전용 GPU 클러스터 임대 서비스예요. 계약 기간 동안 노드 전체를 단독 점유하고, 전 노드 root 권한으로 OS부터 Slurm, Kubernetes 같은 소프트웨어 스택을 직접 구성할 수 있어요. 노드 간 InfiniBand가 기본 제공되고, GPU passthrough와 GPU 토폴로지 정보 전달을 통해 VM이지만 베어메탈급 성능을 유지해요. 지원 GPU는 H100, H200, B200, B300이고 연말이나 내년부터 Vera Rubin 세대까지 지원할 예정이에요.

운영 측면에서는 1분마다 전 노드 헬스 체크가 돌아가요. GPU 레벨(XID 오류, ECC, 온도)과 노드 레벨(InfiniBand 링크, 커널 모듈)을 분리 추적하고, 문제가 생기면 대시보드에서 사용자가 직접 노드를 리부트할 수 있어요. 하드웨어 교체가 필요한 수준이면 VESSL이 스페어 노드로 교체까지 수행하고요. 웨비나에서 류인태 CPO가 강조한 표현을 빌리면, 단순히 GPU를 파는 게 아니라 끊김 없는 워크로드를 파는 구조예요.

실제 고객은 어떤 순서로 도입하나요?

가장 흔한 패턴은 3단계예요. 먼저 셀프서비스로 가입해 Workspace에서 GPU가 실제로 잘 잡히는지 검증하고, VM Cluster로 넘어가 100장 이하 규모로 워크로드를 돌려본 뒤, 잘 돌아가면 단계적으로 확장하는 흐름이에요.

주목할 점은 속도예요. 예를 들어, Trajectory와 같은 네오랩들은 PoC부터 계약까지 일주일을 넘기지 않는 경우가 많아요. 몇백 장 단위 GPU가 1~2주 만에 계약되는 시장이라는 속도감을 인지하고, 생각보다 더 빠르게 준비하는 게 좋아요.

마무리

이번 웨비나의 결론은 하나로 모여요. 지금 GPU는 가격 협상의 문제가 아니라 존재 여부의 문제이고, 기업이 해야 할 일은 필요 물량과 시점을 정의한 사전 확보예요. 그리고 품의서를 통과시키려면 장비 가격이 아니라 스페어, 세대 교체, 운영 인력까지 포함한 5년 TCO를 동일 조건에서 비교해야 하고요.

2027년 GPU 예산을 준비하고 계시다면, 필요한 GPU 스펙과 수량, 용도, 시작 시점과 기간부터 정리해 보세요. 구체적인 견적과 TCO 비교 템플릿이 필요하시면 상담 신청을 통해 문의 주시면 돼요.

2027년 GPU 물량 상담 신청하기

자주 묻는 질문

이어 읽기

AI 팩토리, 왜 GPU를 사는 것만으론 안 될까요?

AI 팩토리는 전력, 칩, 서비스 세 가지로 구성돼요. 1메가와트에 약 700억 원, 1기가와트에 약 70조 원이 드는 유닛 이코노믹스와 GPU 파이낸싱 구조, 그리고 GPU 1,000장 이상 규모에서 드러나는 진짜 병목을 네오클라우드 관점에서 정리했어요.

VESSL AI Blog

2026년 GPU 선택 가이드 — L40S부터 B300까지

L40S, RTX Pro 6000, A100, H100, H200, B200, GB200, B300 — 어떤 GPU가 우리 워크로드에 맞을까? 스펙 비교표와 워크로드별 추천을 정리했어요.

VESSL AI Blog

정부지원사업, 연구비로 GPU 클라우드 결제하는 방법 (feat. 세금계산서)

정부 창업지원금, 대학 연구과제비, 클라우드 바우처로 GPU를 쓸 때 막히는 건 성능이 아니라 집행 요건이에요. VESSL Cloud의 크레딧·인보이스 결제 구조와 세금계산서·견적서 발행 방법, 결제 FAQ 12문답을 정리했어요.

VESSL AI Blog