kt cloud(대표이사 최지웅)가 GPUaaS(GPU as a Service)에 엔비디아 H200을 도입하며 최적화된 고성능 AI 인프라를 제공한다고 24일 밝혔다.

kt cloud는 국내 공공기관과 AI 스타트업을 주요 고객으로 하여 사용량에 따라 유연하게 GPU 자원을 활용할 수 있는 GPUaaS를 운영 중이다. 특히 ▲단기간 대용량·고사양 GPU가 필요한 학습 특화 서비스 ‘AI Train’과 ▲상시적이고 안정적인 소량 GPU 공급이 요구되는 추론 특화 서비스 ‘AI SERV’ 등 엔비디아 기반의 다양한 상품을 통해 고객 맞춤형 솔루션을 제공해왔다.

‘AI Train’은 이미 다수의 공공 및 민간 고객 사례를 통해 대규모 GPU 노드 클러스터링과 동적 할당 제어 기술의 우수성을 입증받았다. kt cloud는 기존 H100 중심의 AI Train 서비스에 최신 H200을 추가 적용함으로써 성능을 한 단계 업그레이드할 계획이다.

엔비디아 H200은 호퍼(Hopper) 아키텍처를 개선한 최신 GPU로, AI 및 고성능 컴퓨팅(HPC) 워크로드 가속에 특화됐다. H100 대비 향상된 연산 능력과 전력 효율성, 더 넓어진 메모리 대역폭을 바탕으로 학습과 추론 모두에서 최적화된 환경을 제공할 것으로 기대된다.

kt cloud는 GPU 외에도 NPU(Neural Processing Unit) 시장 공략을 위해 리벨리온과 손잡고 추론 전용 ‘AI SERV NPU’ 서비스를 선보이고 있다. 오는 5월 출시 예정인 리벨리온의 ‘아톰 맥스’를 해당 서비스에 적용, 소형언어모델(sLM) 성능 검증에 나선다. 이와 함께 미국 반도체 기업 암페어(Ampere)와 AI 반도체 사업 협력을 논의하는 등 다양한 파트너십을 통해 사업 확장을 모색 중이다.

또한, kt cloud는 올 하반기 공공기관向け 추론 전용 상품의 CSAP 인증을 추진하며 공공 분야 AI 수요에도 적극 대응할 방침이다.

kt cloud 공용준 Cloud본부장은 “엔비디아 H200 도입으로 글로벌 수준의 AI 인프라를 확보하며 AI 클라우드 사업자로서의 경쟁력을 강화했다”며 “앞으로 인프라뿐 아니라 AI Ops 등 서비스 포트폴리오를 확장하고, 기술 경쟁력을 높여 고객 니즈에 부응하겠다”고 밝혔다.