AI가 연구실을 벗어나고 있습니다. AI에 필요한 요소는 다음과 같습니다.
통제된 환경에서 AI 애플리케이션이 작동하도록 하는 것과 기업 전반에서 안정적으로 작동하게 하는 것 사이에는 큰 차이가 있습니다.
AI가 실제 운영 단계로 전환되면 인프라에 대한 요구 사항도 달라집니다. 충분한 전력과 냉각 역량을 갖춘 적절한 위치에서 컴퓨팅 자원을 사용할 수 있어야 합니다. AI 모델은 기업 데이터 및 애플리케이션과 빠르고 안정적으로 연결되어야 합니다. 또한 기업은 전체 시스템이 대규모 환경에서도 예상대로 작동할 것이라는 확신을 가질 수 있어야 합니다.
이러한 변화는 고객들이 AI를 배포하는 방식에서도 나타나고 있습니다. 대규모 데이터 센터 캠퍼스는 학습에 필요한 컴퓨팅 자원을 집중적으로 제공하는 반면, 추론은 데이터와 최종 사용자에게 더 가까운 위치에서 실행됩니다. 따라서 여러 위치에 걸쳐 용량을 계획하고, 이 모든 환경을 하나로 연결할 수 있는 연결성을 확보해야 합니다.
이러한 전환을 성공적으로 이루는 데 있어 세 가지 요소가 두드러집니다: 전력, 연결성, 프로덕션 단계로 이어지는 명확한 경로.
전력: AI 워크로드 지원
충분한 전력을 확보하기 어렵습니다. AI에 활용할 수 있도록 하는 데에는 또 다른 과제가 따릅니다.
AI 시스템은 기존 기업용 장비보다 랙당 훨씬 많은 전력을 소비하며, 그 과정에서 발생하는 열은 기존의 공랭식 냉각 방식으로 효율적으로 관리하기 어렵습니다. 고밀도 배포 환경에서는 액체 냉각이 표준 방식으로 자리 잡고 있습니다.
Digital Realty는 현재까지 자사 데이터 센터에서 실제 운영 중인 25건 이상의 액체 냉각 배포를 통해 115MW 이상의 용량을 제공했으며, 계약된 용량은 1GW에 육박하고 있습니다. 여기에는 올해 초 진행된 200MW 규모의 배포와 이번 분기(2026년 3분기)에 진행된 78MW 규모의 추가 배포가 포함됩니다.
이러한 역량은 향후 개발될 시설에서만 제공되는 것이 아닙니다. Digital Realty의 기존 데이터 센터와 솔루션은 이미 대규모 AI 워크로드를 지원하고 있으며, 고객은 새로운 시설의 운영 개시를 기다리지 않고도 다양한 선택지를 활용할 수 있습니다.
전력 가용성은 앞으로도 AI 컴퓨팅 용량을 어디에 구축할지 결정하는 데 영향을 미칠 것입니다. 하지만 기업이 이러한 용량을 얼마나 효과적으로 활용할 수 있는지는 해당 인프라의 위치에 따라서도 달라집니다.
연결성: 단 1밀리초도 중요한 이유
AI 에이전트가 작업을 완료할 때 어떤 과정이 이루어지는지 생각해 보겠습니다. AI 에이전트는 응답을 생성하기 전에 서로 다른 소스에서 정보를 가져오기 위해 모델을 20~50회 호출할 수 있습니다.
각 호출에 걸리는 시간이 50밀리초씩 단축된다면, 순차적으로 이루어지는 호출 전체에서 1~2.5초를 절약할 수 있습니다. 이를 수천 건의 상호작용에 적용하면 네트워크는 애플리케이션 성능에 상당한 영향을 미치는 요인이 됩니다.
엔터프라이즈 AI는 서로 다른 환경에서도 작동할 수 있어야 합니다. 이를 위해서는 프라이빗 인프라에 저장된 데이터, 전용 하드웨어에서 실행되는 모델, 여러 클라우드에 분산된 애플리케이션을 연결해야 합니다.
Digital Realty의 ServiceFabric®은 이러한 환경을 연결하여 고객이 워크로드 간 통신을 개방적이고 프로그래밍 가능한 방식으로 관리할 수 있도록 합니다. ServiceFabric은 875개 이상의 데이터 센터와 375개의 클라우드 온램프를 연결하며, 2026년 6월부터 프로그래밍 가능한 기능을 제공하고 있습니다.
바르셀로나에서 진행된 Blackfuel과 Digital Realty의 배포 사례는 이러한 역량이 실제로 어떻게 활용되는지 보여줍니다. Blackfuel의 AI 인프라는 액체 냉각, Dell 시스템, AMD GPU를 결합했으며, ServiceFabric이 이들 간의 연결성을 제공합니다.
또한 고객들이 대규모 데이터 센터 캠퍼스와 여러 위치에 분산된 컴퓨팅 용량을 하나로 연결하는 사례도 확인되고 있습니다. 최근 한 배포 사례에서는 1,600개의 크로스 커넥트를 통해 64MW 규모의 데이터 센터 캠퍼스와 전 세계 여러 위치에 분산된 14MW의 용량을 연결했습니다.
전력은 AI가 실행될 환경을 제공합니다. ServiceFabric은 필요한 곳까지 이를 전달합니다.
실제 운영 단계로의 전환: 인프라 환경 테스트, 검증 및 최적화
AI 파일럿 프로젝트를 통해 특정 작업에서 모델이 좋은 성능을 발휘한다는 점을 입증할 수 있습니다. 하지만 실제 기업 데이터를 사용하거나 지속적인 수요를 처리할 때, 또는 실제 운영 환경의 전력 및 냉각 요구 사항을 충족해야 할 때 애플리케이션이 어떻게 작동하는지까지 확인할 수 있는 것은 아닙니다. 이러한 요소들은 대규모 설비 투자(CapEx)를 결정하기 전에 제가 확인하고 테스트하고자 하는 중요한 변수입니다.
Digital Realty Innovation Lab(DRIL)에서는 고객과 함께 배포를 공동 설계하고, 아키텍처를 검증하며, 경제성을 입증하고, 대규모 확장을 위한 배포를 준비합니다. 연구소는 가동 중인 데이터 센터 내에 위치하므로 실제 프로덕션 환경 조건에서 테스트가 진행됩니다.
모든 연구소는 액체 냉각을 사용하며, 공랭식 테스트 벤치는 사용하지 않습니다. ServiceFabric이 완전히 통합되어 있어 고객은 실제 운영 환경에서 사용하는 것과 동일한 방식으로 프라이빗 AI 및 하이브리드 클라우드 연결을 테스트할 수 있습니다.
파트너사들은 연구소에서 사용되는 기술의 상당 부분을 제공합니다. 고객은 AMD EPYC 프로세서와 Instinct GPU, Cisco의 풀스택 AI Pods, Lenovo의 Neptune 액체 냉각 기술, Supermicro 시스템을 활용하여 자체 워크로드를 테스트할 수 있습니다.
Vcinity는 ServiceFabric을 통한 데이터 이동 기능을 제공하고, ePlus는 AI 설계 및 통합을 지원하며, Vultr는 GPU 용량을 제공합니다. ORCA Computing도 런던에서 광자 기반 양자 시스템을 운영하고 있습니다.
컴퓨팅, 네트워킹, 냉각 및 시설을 이미 함께 검증했으므로 고객은 자체 워크로드 테스트에 집중할 수 있습니다.
현재 고객이 이용할 수 있는 DRIL 시설은 북버지니아, 런던, 도쿄(미쓰비시상사와의 합작 투자 회사인 MC Digital Realty를 통해 운영), 상파울루에 위치해 있습니다. 또한 2026년 11월에는 싱가포르에도 DRIL 시설이 추가로 문을 열 예정입니다.
Digital Realty는 400회 이상의 투어를 진행해 고객과의 교류를 촉진했으며, 이는 자사 시설에서 실제 운영을 위한 AI 배포가 이루어지는 데 기여했습니다. DRIL에서 테스트를 진행하는 많은 기업은 특정 목적에 맞춘 클러스터를 구축하고 있습니다. 이러한 기업들은 대개 여러 위치에 걸쳐 기존 시스템과 함께 특정 애플리케이션을 실행하는 방식을 검증하고 최적화하고 있습니다.
DRIL은 고객과 파트너가 실제 운영 중인 코로케이션 환경에서 솔루션을 검증할 수 있는 공간을 제공합니다. 이를 통해 실제 운영 단계의 AI를 가로막곤 하는 인프라 제약 요인에도 대응할 수 있습니다.
Digital Realty의 2026년 글로벌 데이터 인사이트 설문조사에 따르면, IT 리더의 40%가 인프라를 AI 도입의 가장 큰 제약 요인으로 꼽았습니다. 이는 2024년의 9%에서 증가한 수치입니다. 이러한 결과는 고도화된 워크로드를 배포하기 전에 여러 구성 요소를 함께 테스트해야 할 필요성을 더욱 분명하게 보여줍니다.
파일럿에서 프로덕션으로
향후 12개월 동안 수백 MW 규모의 AI 수요가 가동되기 시작하고, 해당 용량을 이용할 수 있게 해주는 연결도 구축될 것으로 예상합니다.
기업의 경우, 당면한 우선 과제는 애플리케이션에 필요한 사항을 파악하고 인프라가 이를 충족할 수 있음을 입증하는 것입니다.
AI 워크로드를 실제 운영 환경으로 전환할 준비를 하고 있다면 DRIL에서 테스트해 보세요. 실제 전력, 냉각 및 연결성 환경에서 도입을 고려 중인 파트너 기술을 활용해 워크로드를 테스트하세요.
이미 대규모 배포를 진행하고 계신가요? 인프라를 어디에 배치하고 어떻게 연결할지 논의하려면 지금 바로 문의하세요.
이 비디오를 통해 DRIL에 대해 자세히 알아보십시오.
