
H100 8장 & Qwen3.5-35B로 금융 LLM 만들기: Full-Weight 레시피
8×H100에서 35B 모델에 시점 기준 이어학습을 돌리고 lookahead 편향(누수 프리미엄)을 측정했어요. 정직한 결과와 재현 레시피.
VESSL AI 팀의 최신 업데이트, 엔지니어링 인사이트, 제품 소식을 전합니다.

8×H100에서 35B 모델에 시점 기준 이어학습을 돌리고 lookahead 편향(누수 프리미엄)을 측정했어요. 정직한 결과와 재현 레시피.

A100·H100·B200에서 Gemma-4-31B LoRA 파인튜닝·추론을 직접 측정했어요. 튜닝하면 토큰당 비용은 약 5% 동률 — 속도와 서빙 용량에선 B 시리즈가 앞서요.

VESSL Cloud A100에서 Gemma 4 E4B를 15분 만에 파인튜닝하는 전체 과정. QLoRA + Unsloth로 VRAM 10GB, 비용 $0.38.

잠든 사이 워크스페이스가 돌며 크레딧이 빠져나가던 경험, 한 번쯤 있으시죠? 배치 잡은 제출하면 자동으로 끝나요. 실패해도 돈이 새지 않는 구조예요.

베슬AI가 ‘2026 네오클라우드 전략 발표회’에서 2028년까지 전국 8곳 AI 데이터센터 거점 확보, 2030년까지 GPU 20만 장 도입 로드맵을 발표했다. 상반기 매출 1,300억 원, 연간 매출 전망은 2,500억 원이다.

베슬AI가 오픈라우터 사용량 3위에 오른 업스테이지 솔라 프로4의 글로벌 추론 운영을 맡았어요. 출시·프로모션 수요에 맞춘 용량 설계와 캐시·양자화로 속도는 평균 2배, 토큰당 비용은 최대 절반으로 낮춘 과정을 정리했어요.

Blockwise, Medusa, Hydra, EAGLE, MTP, DFlash, DSpark. 드래프터(drafter) 아키텍처의 발전을 드래프트(draft)의 조건화(conditioning) 신호가 어디서 오는가라는 질문 하나로 읽습니다.

류인태 베슬AI 부사장이 더벨 인터뷰에서 GPU 클라우드의 차별점은 물량이 아니라 운영이라고 말했어요.
토큰 단가는 2,400배 떨어졌지만 작업 1건당 토큰은 그보다 빠르게 늘었어요. 같은 GPU에서 SLO를 지킨 처리량을 2.7배로 끌어올린 VESSL AI의 인퍼런스 최적화 방법과 실제 서비스 운영 전략을 정리했어요.

디코드(decode)는 몇 자릿수 차이로 메모리 바운드(memory-bound) 상태입니다. 닫힌 형태의 방정식 하나로 추측(speculation)이 그 낭비를 얼마나 되찾고 다른 곳에서 무엇을 치르는지 계산할 수 있습니다.

전지환 베슬AI CTO가 IT동아 인터뷰에서 네오클라우드 전환 배경과 플루이드 컴퓨팅, GPU 5만 장·APAC 1위 목표를 이야기했어요.

KT가 16개 기업과 '모두의 AI' 컨소시엄을 출범하고 10월 베타 서비스를 예고했어요. 이음 얼라이언스 운영 구조와, 베슬AI코리아가 맡은 AI 인프라 역할을 정리했어요.

네오에이아이클라우드가 포항 AI데이터센터의 GPU 플랫폼 구축·운영을 베슬AI에 맡겨요. 총사업비 6000억원·수전용량 40MW 규모의 수냉식 데이터센터 사업 전체에서 인프라와 플랫폼을 어떻게 나눠 맡는지 정리했어요.

안재만 베슬AI 대표가 삼성SDS '리얼 서밋 2026'에서 공개한 GPU 클러스터 협업 성과예요. 가동률 35%→90%, 매출 50배 성장 스토리를 정리했어요.

가족의 암 투병을 지켜보며 창업한 안재만 대표가 흩어진 GPU를 묶는 네오클라우드 전략과 2030년 글로벌 톱3 목표를 이야기했어요.

베슬AI가 SK바이오팜에 엔비디아 B200 GPU 128장 규모 컴퓨팅 자원을 공급해요. 16개 노드로 묶인 이 자원이 신약 연구개발과 의료 데이터 기반 파운데이션 모델 사전학습에 어떻게 쓰이는지 정리했어요.