AI 시대에 데이터 센터는 더 이상 쓸모가 없을까요? 아직은 아닙니다.

최고 기술 책임자 Chris Sharp, "PlatformDIGITAL®이 프라이빗 AI를 지원하는 방법" 

AI 혁신을 구현하는 데 필요한 AI 지원 인프라는 단순히 하나의 데이터 센터를 구축하는 것만이 아닙니다. 규모에 따라 요구 사항을 지원할 수 있는 모듈식 글로벌 데이터 센터 플랫폼이 필요한 이유를 알아보세요.

IT 인프라 요구 사항은 항상 진화하고 있습니다.

인터넷과 인터넷을 사용하는 용도와 이를 지원하는 인프라는 항상 변화하고 있습니다. 

AI는 IT 인프라 요구 사항에 영향을 미치는 최초의 새로운 기술도 아니며, 마지막도 아닐 것입니다. 

이메일, 웹 브라우징, 소셜 미디어, 스트리밍 비디오와 같은 기술의 등장과 성숙을 통해 데이터 센터와 데이터 센터 내 인프라에 대한 규모와 복잡성에 대한 요구 사항이 크게 변화했습니다. 

AI를 위해 필요한 IT 인프라 요구사항

AI는 새로운 세대의 칩, 네트워크 장비 및 기타 인프라를 데이터 센터에 상당히 추가하고 있습니다. 우리는 데이터 센터에 연결되는 네트워크의 크기와 수, 그리고 일반적인 기업에 저장되는 데이터의 양에 큰 변화가 있는 것을 목격했습니다. 그렇기 때문에 수년 동안 연결된 데이터 커뮤니티와 데이터 중력의 영향에 대한 통찰력을 공유해 왔습니다.
 
AI는 클라우드 이후 인터넷의 어떤 변화보다도 더 많은 컴퓨팅, 네트워크, 스토리지 인프라를 필요로 하고, 많은 경우에 있어서 AI는 훨씬 더 강력해질 것이라고 생각합니다. 

Digital Realty는 이러한 진화에서 적극적인 역할을 했습니다. Digital Realty의 글로벌 데이터 센터 플랫폼인 PlatformDIGITAL^®은 무엇이 가능한지 보여준 여러 획기적인 AI 학습 세트와 애플리케이션의 본거지로 선정되었습니다. 예를 들어, Atlassian은 Castle Globalⁱ , SURFsaraⁱⁱ , Graphcoreⁱⁱⁱ 같은 고객에게 혁신을 달성하기 위한 인프라를 지원했으며, 우리의 경험, 전문성 및 주요 파트너십을 활용하여 이제 곧 AI의 여정을 시작할 준비가 된 기업을 돕고 있습니다. 가장 최근에는 일본 오사카에 위치한 최신 데이터 센터인 KIX13에 대해 NVIDIA의 DGX-Ready 데이터 센터 프로그램의 일환으로 전 세계 데이터 센터 공급업체 중 NVIDIA DGX H100 지원이 가능한 최초의 데이터 센터가 되었다는 점을 발표했습니다.

시스템 복합 체계: 모듈성은 시대를 초월한 설계 접근 방식의 핵심입니다.

디지털 리얼티 데이터 센터는 랙, 층, 스위트, 건물, 캠퍼스의 냉각 기술까지 수많은 개별 시스템으로 구성되어 있습니다.

데이터 센터를 상호 연결된 모듈식 시스템으로 설계하면, 한 번에 모든 것을 다시 설계하거나 개조할 필요 없이 한 번에 한 개 또는 적은 수의 시스템만 발전시킬 수 있습니다. 이를 "시스템 복합 체계" 설계 접근법이라고 합니다. 이 접근 방식은 비용 효과적이며, 운영 효율이 높습니다. 고객이 모듈화를 통해 새로운 인프라를 지원하는 데 필요한 시간과 비용을 줄일 수 있기 때문에 고객은 이러한 이점을 누릴 수 있을 것으로 기대합니다.

모듈화로 맞춤형 AI 배포 가능

이러한 설계 접근 방식을 통해 다른 고객에게 영향을 주지 않고 고객의 맞춤형 요구 사항을 해결할 수도 있습니다. 이는 AI의 요구 사항을 충족하는 데 매우 중요하며, 새로운 배포는 신속하게 이루어져야 하는 경우가 많고, 전력 소비와 냉각과 관련하여 특수한 요구 사항이 있습니다. 

AI 애플리케이션은 PlatformDIGITAL^®에 배포된 컴퓨팅 인프라의 크기와 밀도를 변경하며, 이는 고객의 요구를 수용하기 위한 데이터 센터 시설의 설계에 직접적인 영향을 미칩니다.
 
예를 들어, 일부 AI 인프라는 업계 평균 랙당 전력의 10배를 소비하지만 여전히 에너지 사용량이 적은 다른 인프라와 동일한 물리적 공간에 배포해야 할 수도 있습니다. 고도의 모듈식 접근 방식을 통해 이러한 수준의 유연성을 쉽게 구현할 수 있습니다.

모듈화로 지속 가능한 냉각 기술 구현

Digital Realty의 모듈식 설계 철학을 실천에 옮기는 또 다른 예는 데이터 센터에 액체 냉각을 배치할 수 있는 능력입니다.
 
AI 인프라의 냉각 요구 사항으로 인해 데이터 센터에서 액체 냉각을 사용하는 것에 대한 관심이 크게 증가하고 있습니다. 이 냉각 방식은 기존 공기 냉각 방식과 다르며, 시설 주위로 펌프로 순환하는 냉각수 순환을 사용하고 이를 랙의 열 발생 칩에 연결한 다음 그 열을 대형 라디에이터로 옮겨서 빼내는 방식입니다. 

^{마더보드에서 액체 냉각 방식을 통해 냉각되는 컴퓨터 CPU}

액체 냉각은 액체가 공기보다 800배나 밀도가 높아 IT 장비에서 발생하는 과도한 열을 훨씬 쉽게 이동시킬 수 있기 때문에 AI 인프라를 냉각하는 데 매우 효율적인 방법입니다. 또한, 데이터 센터에서 유틸리티의 전력을 보다 효율적으로 사용하여 전체 전력 사용량을 줄일 수 있습니다. 

액체 냉각은 당사의 모듈식 설계 철학을 보여주는 주목할만한 예입니다. 5년 전만 해도 데이터 센터에서 액체 냉각을 사용하는 것은 엣지 케이스 외에는 어려운 일로 여겨졌는데, 당시 애플리케이션에서 사용하는 인프라는 액체 냉각을 사용할 만큼 충분한 열이 발생하지 않았기 때문입니다. 오늘날 이러한 냉각 방식은 밀도가 높은 AI 인프라 배포에 대한 엄격한 요구 사항으로 점점 더 인식되고 있습니다.

디지털 리얼티의 데이터 센터 중 상당수는 이러한 용도로 사용할 수 있는 액체 냉각 시스템을 갖추고 있습니다.  

새로운 냉각 수요를 지원하기 위해 다양한 방법을 연구, 개발 및 운영하는 데 수년을 보냈습니다. 예를 들어, 고효율 공기 냉각 방식과 기타 대체 액체 냉각 기술을 사용합니다. 바닥, 스위트룸 또는 개별 랙에 맞게 적용할 수 있습니다. Digital Realty는 모듈식 설계를 채택하고 있기 때문에 이러한 대안을 수용할 수 있습니다.

^{Digital Realty 데이터 센터 시설에서 고성능 컴퓨팅(HPC) 배포를 냉각하는 후면 도어 열교환기}

이러한 모듈식 접근 방식을 통해 고객의 전송 시간 요구 사항과 성능 목표를 충족할 수 있을 뿐만 아니라 비용 효율적이고 지속 가능성이 뛰어납니다. Digital Realty는 특정 고객의 요구 사항에 맞는 가장 효율적인 기술을 세계적인 규모로 동일한 하나의 층에서도 혼합하거나 매칭하는 것을 목표로 합니다.

모든 요구사항을 충족하는 단 하나의 솔루션은 존재하지 않으며, 유연성은 복잡성을 초래합니다.

2.4 GW 이상의 전력으로 수많은 고유 시스템을 대규모로 운영하는 것이 벅차게 느껴질 수 있지만, 이런 일이 바로 Digital Realty가 가장 잘 할 수 있는 일입니다. PlatformDIGITAL^®은 최대 규모의 멀티테넌트 데이터 센터 사업 영역을 보유한 세계 최고의 글로벌 데이터 센터 플랫폼으로, 전 세계에서 가장 크고 혁신적인 5,000곳 이상의 기업과 파트너십을 맺으며 전문성과 능력을 키워나가고 있습니다.
 
Digital Realty는 오늘 할 수 있는 일뿐만 아니라 앞으로 수십 년 동안 고객을 지원할 준비가 되어 있습니다. 2023년과 2024년에 400 MW 이상의 데이터 센터 용량을 추가로 확보할 예정이며, 다른 시설과 마찬가지로 미래 지향적인 방식으로 설계되었습니다.

IT 인프라 설계는 최종 목표를 염두에 두고 시작해야 합니다.

디지털 리얼티는 2017년부터 AI가 인터넷과 데이터 센터에 미칠 영향을 평가하기 시작했습니다. 

애플리케이션이 언제 성숙할 것인지 또는 AI 서비스가 다음 차례로 대세가 될지 예측할 수는 없지만, 성공적인 디지털 혁신의 핵심은 가능한 한 최종적인 목적을 염두에 두고 인프라 배포를 계획하는 것이라는 점을 고객과 함께 반복하여 확인했습니다. 

미래에 대비한 인프라를 지금부터 꾸준히 설계하고 배포하면 앞으로 시간과 비용을 절약할 수 있습니다. 

IT 리더를 위한 AI 백서를 활용하여 AI 혁신을 위해 IT 인프라를 최적화하는 방법을 알아보세요.

본 아티클은 인공지능 및 AI-ready 데이터 센터를 다루는 3부작 시리즈 중 두번째 글입니다.

• 1부: 디지털 리얼티와 함께 AI의 가능성을 발휘하고 변화를 이끌어보세요
• 2부: "AI 전성시대가 도래하면 데이터 센터는 쇠퇴할 것이다." 과연 그럴까요? 
• 3부: AI와 레거시 인프라의 통합 
   

^{i Digital Realty, Digital Realty 투자자의 날 프레젠테이션, 슬라이드 18, 2017년.
ii Digital Realty, Digital Realty 투자자의 날 프레젠테이션, 슬라이드 18, 2017년.
iii Digital Realty, Digital Realty, G-Core Labs 및 Graphcore와 제휴하여 PlatformDIGITA®에서 전 세계적으로 AI 배포 가속화, 2022년.}