생성형 AI 시장이 활성화되며 그에 따른 과도한 전략 소비, 나아가 환경오염에 대한 공포도 커지고 있다. AI 워크로드를 가동할 경우 인류의 삶은 더욱 진화할 수 있지만 역설적으로 삶의 보금자리 자체가 파괴되는 아이러니한 일이다. 

방법은 있다. 산업혁명과 기계혁명을 거치며 인류의 진화와 삶의 근간을 지키는 노력이 양립했던 것처럼, AI 워크로드의 근본적 개혁을 통해 다양한 가능성을 타진할 경우 의미있는 성과를 낼 수 있다는 분석이 눈길을 끈다.

아마존웹서비스(Amazon Web Services, 이하 AWS)는 4일 IT 워크로드를 온프레미스 인프라에서 AWS 클라우드 데이터센터로 이전하면 AI 활용에 따른 환경적 영향을 효과적으로 최소화할 수 있다고 주장했다.

AWS의 의뢰로 글로벌 IT 컨설팅 기업 엑센츄어(Accenture)에서 진행한 연구에 따르면, AWS의 글로벌 인프라에서 워크로드를 실행했을 때 온프레미스 대비 에너지 효율이 최대 4.1배 더 높은 것으로 나타났다. 특히 한국 기업들이 AWS상에서 AI 워크로드를 최적화할 경우 온프레미스 대비 탄소 배출을 최대 95%까지 줄일 수 있다.

AI 워크로드를 AWS 데이터센터에서 실행할 경우, 에너지 효율이 더 높은 하드웨어 사용(22%)과 향상된 전력 및 냉각 시스템(50%)을 통해 온프레미스 대비 탄소 배출량을 72%까지 줄일 수 있다. 추가로 AWS에서 최적화하고 AI 전용 실리콘을 사용할 경우 AWS로 이전하고 최적화한 국내 기업은 AI 워크로드의 총 탄소 배출량을 최대 95%까지 감축할 수 있다는 설명이다.

산제이 포더(Sanjay Podder) 엑센츄어 기술 지속가능성 혁신 글로벌 책임자는 “이번 연구는 하드웨어 및 냉각 효율성, 무탄소 에너지, AI 전용 실리콘, 최적화된 스토리지에 대한 AWS의 노력이 AI 및 머신러닝 워크로드의 탄소 발자국을 줄이는 데 도움이 될 수 있음을 보여준다”며 “AI에 대한 수요가 계속 증가함에 따라 기술을 통한 지속가능성은 기업이 환경 목표를 달성하면서 혁신을 추진하는 데 중요한 역할을 할 수 있다”고 설명했다.

후자의 경우 AWS의 자체 칩이 중요한 역할을 수행했다. 2018년 출시한 자체 개발 맞춤형 범용 프로세서인 AWS 그래비톤(Graviton)은 주요 클라우드 제공업체가 대규모로 배포한 최초의 제품이다. 

최신 그래비톤4의 성능은 기존 그래비톤보다 4배 향상되었으며, 동급의 아마존 EC2 인스턴스(데이터센터에서 컴퓨팅이 이루어지는 가상 환경) 대비 동일한 성능을 구현하는 데 60% 더 적은 에너지를 사용하는 그래비톤3보다도 더 에너지 효율적이다.

SK텔레콤 탱고(TANGO, T Advanced Next Generation OSS)가 대표적이다. AWS는 SK텔레콤의 탱고 솔루션 구축에 대규모 데이터 처리와 인공지능 및 머신러닝 워크로드에 최적화된 AWS 그래비톤(Graviton) 인스턴스를 제공함으로써, 온프레미스 대비 AWS 워크로드의 탄소배출량을 약 27% 감축하는 데 기여했다고 밝혔다.

SK텔레콤 박명순 Infra AI/DT담당은 “SK텔레콤은 2050 탄소 중립(Net-Zero) 달성을 위해 네트워크 탄소 감축과 재생 에너지 도입 등 기후변화에 선제적으로 대응해왔다.”며 “탱고 솔루션에 도입한 AWS 그래비톤은 성능, 비용절감, 에너지 효율 등 모든 면에서 뛰어난 결과를 보여주었고, SK텔레콤의 다양한 범용 컴퓨팅, 메모리 및 스토리지 집약적 니즈를 충족했다. 앞으로도 AWS와의 협력을 바탕으로 AI 기반 지속가능한 미래 구현을 위해 다각도로 노력할 계획이며, 고객에게 최상의 네트워크 서비스를 제공함과 동시에 환경 보호에도 앞장서겠다”고 말했다.

여세를 몰아 에너지 효율적인 하드웨어를 통한 실리콘 수준의 혁신이 필요하다는 것이 AWS의 설명이다. AWS 트레이니움(AWS Trainium), AWS 인퍼런시아(AWS Inferentia)와 같은 AI 전용 실리콘의 존재감이 커지는 이유다. 

AWS 트레이니움은 생성형 AI 모델의 학습 시간을 몇 달에서 몇 시간으로 단축한다. 트레이니움2는 1세대 트레이니움에 비해 최대 4배 빠른 훈련 성능과 3배 더 많은 메모리 용량을 제공하는 동시에 에너지 효율(와트당 성능)을 최대 2배까지 개선하도록 설계되었다. 한편, AWS 인퍼런시아는 AWS 칩 중 가장 전력 효율이 높은 머신러닝 추론 칩이다. AWS 인퍼런시아2는 와트당 최대 50% 더 높은 성능을 제공하며, 동급 인스턴스 대비 최대 40%까지 비용을 절감할 수 있다. 

AWS 인프라의 존재감도 눈여겨 볼 필요가 있다.

AWS는 리소스 활용을 최적화하여 유휴 용량을 최소화하고 인프라의 효율성을 지속적으로 개선하고 있다. 데이터센터 설계에서 대형 중앙 무정전전원공급장치(UPS)를 제거하는 대신 모든 랙에 통합되는 소형 배터리팩과 맞춤형 전원공급장치를 사용하여 전력 효율성을 개선하고 가용성을 높였다. 교류(AC)에서 직류(DC)로, 또는 그 반대로 전압을 변환할 때 발생하는 전력 손실을 줄이기 위해 중앙 UPS를 제거하고 랙 전원 공급 장치를 최적화하여 에너지 변환 손실을 약 35% 감소시켰다.

AWS 데이터센터의 효율성을 키우는 중요한 키워드 중 하나인 냉각 시스템도 눈길을 끈다. 효율성을 높이기 위해 AWS는 장소와 시간에 따른 프리 쿨링(free air cooling) 등 다양한 냉각 기술을 활용하고 실시간 데이터를 통해 기상 조건에 적응하는 중이다. 최적화된 공랭 솔루션과 엔비디아(NVIDIA)의 그레이스 블랙웰 슈퍼칩과 같은 가장 강력한 AI 칩셋을 위한 액체 냉각 기능을 완벽하게 통합한다. 여기에 유연한 다중 모드 냉각으로 성능과 효율성 모두 잡아내고 있다.

이를 바탕으로 종합에너지그룹 삼천리는 최근 AWS 클라우드로 주요 IT서비스의 마이그레이션을 추진하는 등 IT 운영 최적화와 탄소 감축을 위해 노력하고 있다. 

문제는 규제다. 한국은 발전사 간 경쟁으로 인해 제한된 선택지, 무탄소 에너지 확대의 더딘 속도와 높은 비용 등이 기업의 무탄소 에너지 도입을 저해하는 것으로 나타났다. 그 연장선에서 전 세계 인프라의 전력 사용량을 100% 무탄소 에너지로 빠르게 전환하고 있는 AWS의 로드맵이 큰 관심을 받는 중이다.

강수지 아시아청정에너지연합(ACEC) 프로그램 디렉터는 "아마존은 아시아 전역에서 청정에너지 전환을 가속하는 데 있어 매우 중요한 리더십을 발휘하고 있다. 이러한 글로벌 기업들의 지속가능성 노력이 더욱 힘을 받고 확산되기 위해서는 각 국가의 정책과 제도적 환경이 뒷받침되어야 한다. 한국의 경우, 현재 재생에너지 조달 환경에 어려움이 있지만, 이는 충분히 개선 가능한 상황이다. 이는 복잡한 인허가 절차 간소화, 태양광 이격거리 규제 완화, 가상 전력 구매 계약(Virtual PPA) 도입 등의 규제 개선으로 상당 부분 해결할 수 있다. 이러한 변화를 통해 한국은 지속가능발전목표 달성에 한층 더 다가설 수 있을 것이며, 나아가 에너지 전환 과정에서 새로운 일자리 창출과 경제 성장의 기회를 맞이할 수 있을 것으로 기대된다”고 말했다.

한편 아마존은 전 세계 500개 이상의 태양광 및 풍력 프로젝트에 수십억 달러를 투자하여 당초 계획보다 7년을 앞당겨 지난해 100% 재생에너지 목표를 달성했다. 아마존은 태양광 및 풍력 프로젝트에 지속적으로 투자할 예정이며, 다른 형태의 무탄소 에너지에도 투자하여 향후 수십 년간 운영 전력을 확보할 계획이다.

켄 헤이그(Ken Haig) AWS 아시아 태평양 및 일본 에너지 및 환경 정책 총괄은 “전 세계 기업의 IT 지출 중 85%가 온프레미스에 집중된 상황에서, 한국 기업이 AWS상에서 AI 워크로드 최적화를 통해 탄소 배출량을 최대 95% 줄일 수 있다는 것은 지속가능성 측면에서 의미 있는 기회”라고 강조했다. 이어 “지속가능성의 혁신은 한국이 2050년까지 탄소 중립 목표를 달성하는 데 중요한 역할을 할 것이며, 전력망에서 재생에너지 비중을 늘리려는 한국의 노력은 AI 워크로드의 탈탄소화를 앞당길 것”이라며 “AWS는 데이터센터 설계 최적화부터 AI 전용 칩에 대한 투자까지 데이터센터 전반의 지속가능성을 위해 끊임없이 혁신하여 고객의 컴퓨팅 수요를 충족하기 위해 에너지 효율성을 지속적으로 높이고 있다”고 덧붙였다.