AI 데이터센터 투자 확대 속 네오클라우드 부상…국내도 초기 경쟁

AI 인프라 경쟁의 무게중심이 GPU 수량 확보에서 분산된 자원을 효율적으로 운영하는 능력으로 옮겨가고 있어요. 그 한가운데 '네오클라우드'가 있어요.

ABI리서치는 네오클라우드 GPUaaS 시장이 2030년 2,500억 달러(약 360조 원) 규모로 커질 거라고 전망했어요. 호스팅어드바이스 설문에서는 기업 10곳 중 9곳이 네오클라우드를 이미 쓰고 있거나 도입을 검토 중이라고 답했고요.

배경은 크게 두 가지예요. 캐스트AI 데이터에 따르면 클라우드에서 돌아가는 AI·ML 워크로드의 평균 GPU 활용률은 5% 수준에 그쳐요. 비싸게 빌린 GPU의 대부분이 쉬고 있다는 뜻이에요. 여기에 세미애널리시스는 H100 GPU 1년 렌탈 가격이 지난해 10월 대비 올해 3월 약 40% 올랐다고 분석했어요. 가격은 오르는데 활용은 안 되는 구조예요.

네오클라우드는 이 비효율을 가격으로 보여줘요. 업타임 인스티튜트에 따르면 H100급 GPU 온디맨드 시간당 비용이 하이퍼스케일러 평균 98달러, 네오클라우드 34달러로 약 66% 저렴해요.

국내에서도 베슬AI, 엘리스그룹이 네오클라우드 사업자로 자리를 잡고 있고 네이버클라우드·NHN클라우드·카카오 같은 CSP도 GPUaaS 라인업을 확대 중이에요. 안재만 베슬AI 대표는 "AI 인프라 경쟁은 GPU 수량 확보를 넘어 분산된 자원 활용 효율이 핵심"이라고 말했어요.

원문 보기 →