AI 팩토리, AI 데이터센터, 토큰 팩토리는 뭐가 다를까요?
핵심 요약
- AI 데이터센터는 부지, 전력, 건물, 냉각처럼 AI 연산을 돌리기 위한 물리적 기반이에요.
- AI 팩토리는 GPU로 모델 학습과 추론을 수행해 토큰을 생산하는 인프라예요. 전력, 칩, 서비스 세 가지로 이뤄져요.
- 전력과 칩만으로는 토큰이 나오지 않아요. 대규모 학습과 추론을 실제로 운영하는 서비스 레이어가 있어야 AI 팩토리가 완성돼요.
- '토큰 팩토리'는 쓰는 주체마다 뜻이 달라요. 정부는 AI 데이터센터를, KT는 모델 라우팅과 통합 과금 플랫폼을, 모레는 이기종 가속기 통합 운영체제를 가리켜요.
AI 팩토리와 AI 데이터센터는 무엇이 다른가요?
AI 팩토리는 GPU로 모델 학습과 추론을 수행해 토큰을 생산하는 인프라예요. 서버와 공간을 제공하는 기존 데이터센터와 달리, 워크로드 운영과 토큰 단위 과금까지 포함해요. AI 데이터센터는 그중 부지, 전력, 건물, 냉각 같은 물리적 기반을 가리키는 좁은 개념이에요. AI 데이터센터가 '공장 건물'이라면, AI 팩토리는 생산 라인과 공정 관리까지 갖춰 실제로 제품이 나오는 '가동 중인 공장'이에요.
'AI 팩토리'는 NVIDIA CEO 젠슨 황이 GTC 키노트에서 꾸준히 써 온 표현이에요. 그는 2024년 GTC 당시 인터뷰에서 지난 산업혁명에는 물이 들어가 전기가 나왔다면, AI 시대에는 데이터와 전기가 들어가 토큰이 나온다고 비유했어요. AI 인프라를 비용이 드는 시설이 아니라 수익을 만드는 공장으로 다시 정의한 셈이에요.
두 용어를 구분해야 하는 이유는 예산과 일정 때문이에요. AI 데이터센터 구축 계획과 AI 팩토리 도입 계획을 같은 것으로 보면, 건물이 완공된 뒤 GPU가 실제로 토큰을 만들어내기까지 드는 시간과 비용을 빠뜨리기 쉬워요.
AI 팩토리는 무엇으로 이뤄져 있나요?
AI 팩토리는 전력, 칩, 서비스 세 가지로 나눠 보면 이해하기 쉬워요. 안재만 VESSL AI 대표가 AI 팩토리 구조를 설명할 때 쓰는 구분이에요.
| 구성 요소 | 무엇을 하나요 | 국내 예시 |
|---|---|---|
| 전력 | 부지, 전력 계통, 데이터센터 건물, 냉각을 갖추고 관리 (AI 데이터센터에 해당) | 네오에이아이클라우드 포항 AI데이터센터 |
| 칩 | GPU를 조달하고 배분, 대규모 자본 투자 | 네오클라우드, 통신사 등 GPU를 직접 확보하는 사업자 |
| 서비스 | 대규모 학습과 추론 운영, 장애 감지와 복구, 토큰 단위 과금 | VESSL AI(포항 AI데이터센터 GPU 플랫폼 운영 협약), 모레 토큰 팩토리 OS, KT 토큰팩토리 |
포항 AI데이터센터가 이 구조를 잘 보여줘요. 데이터센터 설계와 시공, 전력과 냉각 같은 기반 인프라는 네오에이아이클라우드가 맡고, 그 위에서 돌아가는 GPU 플랫폼의 구축과 운영, 고객 발굴은 VESSL AI가 맡기로 했어요. 같은 시설 안에서도 전력과 서비스를 맡는 주체가 나뉘는 거예요. 협약 내용은 포항 AI DC GPU 플랫폼 구축·운영 협약 글에서 볼 수 있어요.
NVIDIA가 말하는 AI 팩토리는 이 세 가지를 모두 묶은 개념에 가까워요. SK텔레콤이 2026년 6월 NVIDIA와 발표한 풀스택 AI 클라우드 협력처럼, 한 사업자가 세 가지를 한꺼번에 추진하는 경우도 있어요.
데이터센터를 지으면 바로 AI 팩토리가 되나요?
아니에요. 전력과 칩을 갖춰도 그 위에서 대규모 학습과 추론을 실제로 운영할 수 있어야 토큰이 나와요. VESSL AI는 삼성SDS와 협업하며 이 서비스 레이어를 맡아 GPU 클러스터 가동률을 35%에서 90%까지 끌어올렸어요. 자세한 과정은 AI 팩토리 완성하려면 안정성·효율성·스케일 갖춰야에 정리해 뒀어요.
1메가와트에 약 700억 원이 드는 AI 팩토리의 비용 구조와, 서비스 레이어가 진짜 병목인 이유는 AI 팩토리, 왜 GPU를 사는 것만으론 안 될까요?에서 자세히 다뤘어요.
'토큰 팩토리'는 누가 쓰느냐에 따라 뜻이 어떻게 달라지나요?
같은 '토큰 팩토리'라는 말도 쓰는 주체마다 가리키는 대상이 달라요. 기사에서 이 단어를 보면 누가 쓴 말인지부터 확인하는 게 좋아요.
| 쓰는 주체 | 가리키는 것 | 해당 구성 요소 | 발표 |
|---|---|---|---|
| 정부(과학기술정보통신부) | AI 데이터센터 자체("AI 데이터센터는 토큰 팩토리") | 전력과 칩(데이터센터 전체) | 2026년 7월 AI 데이터센터 얼라이언스 출범식. 정부는 앞서 6월 2035년까지 18.4GW 규모 AI 데이터센터 구축 계획을 발표 |
| KT 토큰팩토리 | 여러 생성형 AI 모델을 상황에 맞게 연결하고 이용료를 통합 정산하는 플랫폼 | 서비스(토큰 과금) | 2026년 7월 발표 |
| 모레 토큰 팩토리 OS | NVIDIA H100, AMD MI300X 등 서로 다른 가속기를 하나의 자원 풀처럼 운용하는 소프트웨어 | 서비스(가속기 운영 소프트웨어) | 2026년 9월 발표. H100(프리필)과 MI300X(디코드) 조합에서 동일 벤더 구성 대비 최대 1.67배 처리량(모레 발표) |
정부가 말하는 토큰 팩토리는 AI 데이터센터를 '토큰을 생산해 수출하는 공장'으로 보는 정책 프레임이에요. KT 토큰팩토리는 통신 요금 과금 경험을 AI 모델 라우팅과 토큰 과금에 가져온 플랫폼으로, 고객이 GPU를 직접 쓰는 서비스와는 성격이 달라요. 모레 토큰 팩토리 OS는 데이터센터 안의 가속기를 더 효율적으로 묶는 운영 소프트웨어예요.
정부 프레임에 대해 안재만 대표는 전자신문 기고에서 공장을 세우는 것과 그 공장의 진짜 주인이 되는 것은 다른 일이라고 짚었어요. 가속기 자산을 국내에서 보유하는지, 운영 인력이 국내에 있는지, 가동률은 어떤지, 국산 소프트웨어로 운영하는지를 함께 봐야 한다는 제안이에요. 전문은 토큰 수출국이 되려면, 토큰 공장의 진짜 주인이어야에서 읽을 수 있어요.
왜 기준이 'GPU 수'에서 '토큰 생산량'으로 옮겨가나요?
학습보다 추론이 중심이 되면서, 같은 GPU로 토큰을 얼마나 많이, 싸고 빠르게 만드는지가 더 중요한 지표가 됐기 때문이에요. 지금까지 AI 인프라 경쟁력은 흔히 '몇 장의 GPU를 확보했는가'로 말해졌어요.
토큰 생산량을 기준으로 삼는 흐름은 여러 사례에서 확인돼요.
- NVIDIA: AI 팩토리 성과 지표를 GPU 대수가 아니라 초당 토큰 수, 토큰당 비용, 가동률로 제시
- KT: 토큰 단위 과금과 정산 플랫폼(토큰팩토리) 출시
- 모레: 토큰 팩토리 OS로 동일 벤더 구성 대비 최대 1.67배 처리량을 냈다고 발표
같은 GPU라도 가동률이 낮으면 토큰 생산량은 그만큼 줄어요. 가동률 35%인 클러스터와 90%인 클러스터는 GPU 장수가 같아도 생산량이 두 배 넘게 차이 나요. 인프라 도입을 검토할 때도 'GPU를 몇 장 확보했는가'보다 'GPU 1시간으로 토큰을 얼마나 뽑아냈는가'를 함께 보는 편이 실제 비용 예측에 더 가까워요.
AI 팩토리를 직접 짓지 않으면 어떻게 하나요?
이미 가동 중인 AI 팩토리의 GPU를 클라우드로 쓰면 돼요. 모든 기업이 AI 팩토리를 직접 지을 필요는 없어요. 자체 구축에는 데이터센터 부지, 전력과 냉각 설비, GPU 확보에 큰 투자와 수년의 기간이 들고, 최신 GPU는 발주부터 납품까지 수개월에서 1년 넘게 걸리는 경우도 많아요.
VESSL Cloud는 VESSL AI가 운영하는 GPU 클라우드(GPUaaS)예요. NVIDIA GPU를 온디맨드나 전용 클러스터로 쓸 수 있고, 앞에서 본 서비스 레이어(장애 감지와 복구, 스케줄링)가 함께 들어 있어요. GPU만 빌리는 게 아니라 이미 돌아가는 공장의 생산 라인을 쓰는 것에 가까워요.
온디맨드 GPU(A100, L40S, H100)는 신청 즉시 쓸 수 있고, H200, B200, B300 같은 최신 GPU는 전용 클러스터로 물량과 기간에 맞춰 견적을 받을 수 있어요. 최신 가격은 VESSL Cloud 가격 페이지에서 확인해 보세요.
한눈에 정리
- AI 데이터센터: 부지, 전력, 건물, 냉각 같은 물리적 기반
- AI 팩토리: 전력, 칩, 서비스를 갖추고 학습과 추론을 운영해 토큰을 생산하는 인프라
- 토큰 팩토리: 정부는 AI 데이터센터, KT는 토큰 과금 플랫폼, 모레는 가속기 통합 운영체제를 가리키는 말
데이터센터가 완공되는 것과 GPU가 실제로 토큰을 만들어내는 것 사이에는 운영이라는 간극이 있어요. 뉴스나 견적에서 세 단어를 만나면 전력, 칩, 서비스 중 어느 쪽 이야기인지부터 확인해 보세요. 지금 GPU가 필요하다면 VESSL Cloud에서 바로 시작해보세요.
참고 자료
- NVIDIA – AI 팩토리 솔루션
- NVIDIA – AI Factories: The New Infrastructure of Intelligence
- 디지털데일리 – KT의 '토큰팩토리' 뭐길래…AI 팩토리와 차이는 (2026.7)
- AI타임스 – 모레, 이기종 AI 가속기 하나처럼 활용하는 '토큰 팩토리 OS' 제시 (2026.9)
- 디지털데일리 – 한국 클라우드 업계 새 변수…SKT·엔비디아 손잡고 'AI 팩토리' 추진 (2026.6)
- TechCrunch – Nvidia's Jensen Huang on the AI factory (2024.3)
- 머니투데이 – AIDC 얼라이언스 출범…"AI 데이터센터, 수출공장 돼야" (2026.7)
- 아시아경제 – 2035년까지 18.4GW 규모 AI 데이터센터 추진 (2026.6)
- VESSL AI 블로그 – AI 팩토리, 왜 GPU를 사는 것만으론 안 될까요?
- VESSL AI 블로그 – 토큰 수출국이 되려면, 토큰 공장의 진짜 주인이어야
- VESSL AI 블로그 – 베슬AI 안재만 대표 "AI 팩토리 완성하려면 안정성·효율성·스케일 갖춰야"
- VESSL AI 블로그 – 네오에이아이클라우드, 베슬AI에 포항 AI DC GPU 플랫폼 구축·운영 맡긴다
- VESSL AI – Pricing
FAQ
AI 팩토리와 AI 데이터센터는 무엇이 다른가요?
AI 데이터센터는 부지, 전력, 건물, 냉각 같은 물리적 기반이에요. AI 팩토리는 그 위에 GPU를 올리고 모델 학습과 추론을 운영해 토큰을 생산하는 인프라로, 워크로드 운영과 토큰 단위 과금까지 포함해요. AI 데이터센터가 공장 건물이라면 AI 팩토리는 생산 라인까지 돌아가는 공장이에요.
토큰 팩토리는 무슨 뜻인가요?
쓰는 주체마다 뜻이 달라요. 정부는 AI 데이터센터를 토큰을 생산하는 공장이라는 뜻으로 쓰고, KT는 여러 AI 모델을 연결하고 토큰 이용료를 통합 정산하는 플랫폼 이름으로, 모레는 서로 다른 가속기를 하나로 묶는 운영 소프트웨어 이름으로 써요.
KT 토큰팩토리는 GPU를 제공하는 서비스인가요?
KT 토큰팩토리는 여러 생성형 AI 모델을 상황에 맞게 연결하고 토큰 이용료를 한 번에 정산하는 플랫폼이에요. KT가 2026년 7월 발표했고, 통신 요금 과금 기술을 AI 토큰 관리에 가져왔어요. KT는 자체 AI 데이터센터와 연계해 운영할 계획이지만, 고객이 GPU를 직접 쓰는 서비스와는 성격이 달라요.
AI 팩토리를 직접 구축하면 얼마나 걸리나요?
부지 선정, 전력과 냉각 설비 공사, GPU 확보를 모두 거쳐야 해서 보통 수년이 걸려요. 포항 AI데이터센터도 2026년 7월 착공해 2027년 1단계 준공을 목표로 하고 있어요. 건물이 완공된 뒤에도 GPU 클러스터를 안정적으로 운영할 체계를 갖춰야 실제 토큰 생산이 시작돼요.
AI 팩토리 없이 토큰을 생산하려면 어떻게 하나요?
GPU 클라우드를 쓰면 돼요. VESSL Cloud는 VESSL AI가 운영하는 GPU 클라우드로, 자체 AI 팩토리를 짓지 않고도 H100, A100 등 NVIDIA GPU를 온디맨드로 바로 쓸 수 있어요. H200, B200 같은 최신 GPU는 전용 클러스터로 물량과 기간에 맞춰 견적을 받을 수 있고, 최신 가격은 VESSL Cloud 가격 페이지에서 확인할 수 있어요.
VESSL AI
뉴스레터 구독
AI 인프라 구축 노하우와 최신 GPU 소식을 매달 보내드려요.