김동훈 NHN클라우드 대표가 지난 21일 광주광역시 서구 김대중컨벤션센터에서 열린 ‘NHN클라우드 2.0’ 기자간담회에서 이같이 말했다. 이날 NHN클라우드는 언론 대상으로 광주 AI 데이터센터를 투어를 진행하고, AI 전환 패러다임을 이끌 NHN클라우드의 2.0 전략에 대해 발표했다.

초고성능 AI 수요 시대에 적극 대응하는 전략이다. 핵심 기지는 '국가 AI 데이터센터'다. 

앞서 NHN클라우드는 2021년 과학기술정보통신부와 광주광역시가 추진한 ‘AI 중심 산업융합 집적단지 조성 사업’에서 클라우드 인프라 구축 및 운영 사업자로 선정돼 국가 AI데이터센터 조성에 돌입한 바있다. 광주AI데이터센터는 이미 지난해 10월 개소했으며, 11월부터 정식 운영을 시작해 현재 470여곳의 기업 및 기관이 이용하고 있다.

광주 AI 데이터센터… AI 요충지 역할?

오전 11시 NHN클라우드의 2.0 전략의 핵심 역할을 수행할 ‘광주 AI 데이터센터’를 찾았다.

안정성, 신뢰성, 보안성이 눈길을 끈다. 당장 로비에는 데이터센터 출입을 위한 통제 절차를 진행하며, 허가 받은 인원 정보를 수집하고 출입증을 교부했으며, 구역별로 모니터링 작업을 실시하고 있었다.

광주AI 데이터센터는 GPU 중심으로 돌아간다. 최고사양의 상용 GPU로 평가받는 '엔비디아 H100'을 도입했다. 초거대 AI와 같이 높은 연산처리에 최적화된 GPU는 몇개의 코어로 구성된 직렬처리에 최적화된 CPU와 달리 수천~수만개 코어로 병렬연산을 수행한다. 이 때문에 GPU는 CPU보다 발열량과 전력량이 많이 소모돼 이를 어떻게 관리하는지가 중요하다. 

데이터센터를 투어하기에 앞서 내부 주요 설비를 구분하자면 다음과 같다. 가장 작은 단위로 GPU가 탑재된 '서버', 서버를 꽂는 장비인 '렉', 렉을 2열로 배치하면 '컨테인먼트', 컨테인먼트를 수평으로 여러 개 배치하면 '전산(기계)실'이다.

지상 2층에 위치한 전산실로 이동하기 위해 5톤까지 태울 수 있는 화물 엘리베이터를 탔다.

전산실은 층고가 높았다. 7.8m 정도로, 버스 2대를 겹쳐 놓은 정도의 높이다. 발열량과 전력량을 많이 소모하는 GPU 장치들에 대한 냉각 효율을 높이기 위해서다. 광주AI데이터센터는 서버룸 자체에 냉기를 보관할 수 있는 큰 공간을 만들고 고용량 팬과 냉각 코일로 냉기를 공급해주는 방식을 택했다. 기존 서버룸에서 볼 수 있는 이중마루가 없는 점도 이 때문이다. 

운영 편의성보다 공정 효율을 우선으로 설계했다는 설명이다. 데이터센터 측은 다른 데이터센터보다 개방감 있게 설계했으며, 중요한 점은 '공기의 흐름'이라고 짚었다.

우선 냉각을 위해 '차폐 환경'을 조성했다. 공기 흐름의 간섭을 최소화하는 내부 건축을 통해 기기 냉각에 쓰이는 에너지를 절감하기 위해서다. 

서버실 내부의 서버가 내뿜는 뜨거운 공기가 차가운 공기와 섞이는 것을 방지한 것이다. 서버실 내부를 콜드 아일(냉복도)와 핫 아일(온복도)로 분리하고 서버 앞면의 공기 압력을 높여 뜨거운 공기가 다시 앞으로 나오지 못하게 하는 방식이다. 이를 위해 '렉'도 자체 설계했다. 컨테인먼트 내에서 섞이는 공기가 없도록 '렉'도 앞쪽에 구멍 하나 없이 설계해 바람이 섞이지 않도록 했다고 설명했다. 

냉각 효율을 높이기 위해 냉각 코일도 기존 데이터센터가 운영하는 설비의 2배 정도의 두께다. 찬바람을 공급하는 것은 양쪽 방향에서 콜드 아일(냉복도) 쪽으로 모두 향하도록 만들어 효율을 높였다.

이 방식은 냉각 효율이 향상되고 에너지 비용이 절감되며, 핫스팟의 위험이 줄어든다는 장점이 있다. 다만 초기 비용과 복잡성이 증가하며, 공간 활용도가 감소하는 등의 단점도 있다. 

이뿐만 아니라 GPU가 중단되지 않고 운영되기 위해 렉 당 전력밀도 15kw를 도입했다. 기존 렉당 전원을 2개 정도 공급하지만 4개까지 공급해 부하 변동에 따라 전기를 양쪽 서버룸에서 공유할 수 있도록 한 설비 구축이다. AI데이터센터 측은 국가AI데이터센터가 모든 설비가 GPU 서버 맞춤용으로 구성된 전용 데이터센터라고 설명했다. 

NHN클라우드는 판교 데이터센터를 10년 이상 운영하며 얻은 클라우드 서비스 전문 데이터센터 운영 경험을 녹였다고 했다. 

기기로는 초고사양 컴퓨터 자원을 도입했다. 기업, 연구기관, 대학 등에 AI 연구개발을 지원할 수 있는 컴퓨팅 연산능력 88.5페타플롭스(PF), 저장용량 107페타바이트(PB) 규모의 인프라를 구축했다. 이는 일반 업무용 노트북 약 50만대 규모의 연산처리량을 1초만에 수행할 수 있는 수준이며, 1TB 하드디스크 10만 7천개를 저장할 수 있는 용량 정도다.

이외에도 다양한 관리시스템과 함께 안전을 위한 인프라를 마련했다. ▲외부 공조 시설에 대한 예비 장비 ▲UPS/배터리 예비 장비 ▲비상 발전 시설 구축 ▲내진 설계 및 낙뢰 방지 시스템 ▲화재 자동 감지 소화 시설 등이다.

국가AI데이터센터는 국내 AI 산업 발전을 위한 기반을 제공할 방침이다. NHN클라우드는 ‘K-클라우드 프로젝트’, ‘AI 반도체 실증 지원 사업’ 등에 참여해 국가 AI 반도체 기업 및 AI 서비스 기업을 위한 클라우드 환경을 구축해 국내 AI 경쟁력을 강화하는데 일조한다는 계획을 밝혔다.

NHN클라우드가 걸어온 길… “풀스택 AI 통해 선두하겠다”

김동훈 NHN 클라우드 대표는 “NHN클라우드는 오픈 스택 기술로 완성한 대표적 클라우드 서비스로, 남들보다 먼저 ‘클라우드 네이티브’의 중요성을 강조해왔다”고 말했다.

NHN클라우드의 장점은 ‘오픈스택’이다. 오픈스택이란 IaaS 형태의 클라우드 컴퓨팅 오픈 소스 프로젝트로 클라우드 운영체제를 말한다. 국내 타 클라우드나 AWS, MS 등과 호환이 쉽다는 장점이 있다. 특히 멀티클라우드를 통해 ‘연계’가 필수인 공공 클라우드시장에서는 핵심적인 기술로 꼽힌다.

NHN클라우드는 이 기술을 바탕으로 공공-금융-게임 영역까지 확장해왔다. 오는 4월 1일로 출범 2주년을 맞이하는 NHN 클라우드는 공공 시장과 금융을 비롯한 민간 시장에서의 사업적 성과와 함께 200여개 클라우드 서비스와 320여개 마켓플레이스 상품을 500개 이상의 파트너와 함께 5700여 고객사를 확보했다.

실제 NHN클라우드는 공공부문 행정망 최초 연동, 온나라 시스템 구현 등 클라우드 기술을 최초로 공공영역에 활용했으며, 지난해 공공에서 진행된 네이티브 전환 사업 총 6개 중 4개 사업을 수주했다. 금융권에서는 신한 투자증권의 클라우드로 전환 사업 시작 및 규제/규정 준수를 갖춘 ‘금융 랜딩존’을 출시했으며, 민간시장에서 ‘프라이빗 클라우드’ 사업 다수 확보 등 기술 및 사업 성과를 거둔 바 있다. 

NHN클라우드, “기반과 서비스 갖췄다...협력 통해 AI 전환 패러다임 이끌 예정”

최근 딥러닝 중심의 기존 AI 시장이 생성형 AI 등장으로 AI 2.0 시대를 새롭게 맞이했다. NHN은 AI 전환 패러다임을 이끌 전략으로 ‘클라우드 2.0’을 발표하면서 기술과 협력 등을 바탕으로 AI 데이터센터 중심 초고성능 인프라 서비스를 융합한다는 계획을 밝혔다.

김동훈 NHN클라우드 대표는 “기존 구축해 온 NHN 클라우드의 공공-금융-게임 영역을 아우르는 ‘버티컬 서비스 역량’과 오픈스택 기반의 ‘클라우드 네이티브’를 바탕으로 AI 데이터센터 중심 초고성능 인프라 서비스를 융합하는 것이 2.0 전략의 핵심이다”고 말했다. 최종 목표는 ‘누구나 쉽게 AI 서비스를 개발하고 활용할 수 있는 환경을 제공하는 것’이다.

기반은 계속 만들어왔다. NHN 클라우드는 국내에서 가장 많은 GPU 팜을 구축하고 있다. 김 대표는 “GPU에 대한 자원을 확보하는지 여부가 AI 개발의 중요한 핵심으로 자리잡고 있다”며 “국내에서는 가장 큰 규모의 GPU 팜을 구성해 서비스 되고 있다”고 말했다.

또한 NHN클라우드는 국가 AI 데이터센터를 포함해 판교 데이터센터 등 자사 데이터센터에 현재 ‘엔비디아 H100’ 1000개 이상을 비롯한 엔비디아 기반 77.3페타플롭스(PF), 그래프코어 기반 11.2PF, 사피온 기반 11PF까지 총 99.5PF에 달하는 AI GPU 팜을 구축하며 AI 인프라를 선도할 수 있는 기반을 마련했다.

서비스까지 있다. NHN클라우드는 인프라부터 AI 응용 서비스까지 모두 아우르는 풀스택을 갖췄다. 실제 NHN클라우드는 네이티브 관련 쿠버네티스 서비스를 자체 구현해 글로벌 인증을 받았으며, 서비스 메쉬, 텔레메트리, 인증 ,컨설팅 등 클라우드 네이티브 관련 서비스들을 제공하고 있다.

NHN클라우드는 AI 얼라이언스를 통해 생태계를 구축하면서 풀스택 AI CSP로 진화한다는 포부를 밝혔다. 협력을 통해 AI 전환 패러다임을 주도하겠다는 의미다.

NHN클라우드는 “'국가AI데이터센터', '멀티 AI GPU팜' 등 강력한 인프라뿐만 아니라 자체 제공중인 AI 플랫폼 ‘AI 이지메이커’ 등 서비스 역량을 결집해 고객이 쉽게 AI 서비스를 개발하고 상용화할 수 있는 환경을 제공하겠다”고 밝혔다.

한편 NHN클라우드의 글로벌 파트너 유럽 CSP 지코어 지사장도 참석해 협력 의지를 공고히 했다. 정현용 지코어 지사장은 “오픈 스택 기술력 융합 협력에 이어 AI 인프라 사업에서도 긴밀하게 NHN클라우드와 협업할 것”이라고 밝혔다.

NHN클라우드는 협력을 통해 AI 생명 주기의 전방위에서 영향력을 펼칠 계획이다. 

김동훈 NHN클라우드 대표는 "NHN클라우드는 개발부터 운영, 서비스 제공까지 'AI 생명 주기' 전방위에서 영향력을 펼치며 AI 인프라 성과를 가시화하고 있다"며 "강력한 AI 데이터센터를 중심으로 AI 2.0 시대에 적극 대응하며 AI 인프라 시장을 이끌어 갈 것"이라고 강조했다.