2024년에는 데이터 센터 인프라에서 흥미로운 변화가 목격되었습니다. 생성형 인공 지능(GenAI)의 발전은 산업별 솔루션 논의를 촉발하고 기업 내 경쟁을 불러일으켰으며, 업계 선두주자들은 눈 앞에 놓인 이러한 기회를 예리하게 포착하고 이를 활용할 준비가 되어 있습니다.

동시에, 데이터가 AI와 비즈니스 의제를 주도하는 경제에 빠르게 적응하기 위해 기업들이 전략을 변화시키면서, 급속한 데이터 증가에 대응하기 위한 인프라 문제를 해결하는 것이 매우 중요해졌습니다.

AI 및 기타 기술은 경계를 허물고 경쟁을 촉진하며 비즈니스 가치 실현을 가속화합니다. 그러나 데이터 경제에서 운영을 확장하고, 규정을 준수하며 안전하고 지속 가능한 방식으로 비즈니스 목표를 달성하고자 하는 데이터 센터와 그 고객에게는 이것이 어떤 의미가 있을까요? 미래를 준비하는 기업이 2025년 데이터센터 인프라의 발전에서 포착할 수 있는 기회는 다음과 같습니다.

AI 기회: AI 추론은 실시간 학습을 가능하게 합니다

2024년에도 기업들은 AI 모델 훈련에 많은 노력을 기울이고 있었습니다. 2025년은 더 많은 조직이 추론을 시장에 내놓는 해가 될 것입니다.

훈련이란 AI 모델을 관련 데이터에 노출시켜 특정 작업을 수행하도록 학습시키는 것입니다. 추론은 훈련된 모델을 배포하여 새로운 데이터나 보이지 않는 데이터에 대한 예측 또는 결정을 내리는 것을 의미합니다. 훈련에서 추론으로의 전환은 '솔루션을 구축하는 것'에서 '솔루션을 사용하는 것'으로의 이동을 의미합니다.

IDC는 2028년까지 조직 내 모든 AI 지출의 32%가 생성형 AI에 사용될 것으로 예측하며, 2024년부터 5년간 연평균 성장률(CAGR)이 60%에 이를 것으로 전망합니다.

조직이 훈련에서 추론으로 전환하기 시작하면 데이터 아키텍처가 변화하는 것을 보게 될 것입니다. 현재 전력 비용이 더 저렴한 2차 시장에서 훈련이 이루어지며, 많은 조직이 데이터 전송과 훈련을 독립적으로 진행하고 있습니다. 하지만, 일단 추론으로 넘어가면 더 이상 독립적으로 진행될 수 없습니다.

조직이 독립적인 공간에서 훈련하는 것에서 벗어나, 가능한 한 최종 사용자 위치에 가까운 주요 대도시 지역으로 추론을 옮기는 갑작스러운 변화가 나타날 것으로 예상합니다. 연결이 잘 되고 좋은 위치에 자리를 잡을수록, 지연 시간이 짧아지고 응답 속도가 빨라지며 AI 사용자 경험이 향상됩니다.

지속 가능성 기회: 기업은 직접 칩 냉각 및 직접 액체 냉각과 같은 혁신적인 냉각 솔루션을 도입해야 합니다.

오늘날 기업들은 데이터 인프라 관리 방법을 비롯해 운영 이니셔티브 전반에서 지속 가능성과 환경 목표의 균형을 맞추고 있습니다.

온프레미스에 일부 인프라가 있고 더 높은 밀도를 원하는 대기업이나 중견 기업의 경우, 온프레미스 또는 관리형 데이터 센터는 코로케이션만큼 효율적이지 않을 수 있습니다. 더 많은 데이터 센터가 채택하는 지속 가능성 조치 중 하나는 액체 냉각 기술입니다.

액체 냉각 기술은 칩을 냉각하여 열 방출을 완화할 수 있도록 합니다. 수요가 증가함에 따라 냉각수 설비가 미리 설계된 데이터 센터가 더 많아질 것입니다.

액체 냉각은 여러 범주로 나뉩니다. 여기에는 칩이나 활성 후면 도어 열교환기로 냉각수가 직접 순환하는 직접 액체 냉각(DLC)이 포함되며, 고밀도 워크로드의 경우 두 가지 방식을 동시에 사용할 수도 있습니다. 액침 냉각 방식도 있지만, 특히 혼합 고객 데이터 센터에서는 지원하기 어려워 널리 도입되지 않을 수 있습니다.

그러나 변화하는 냉각 시장에서는 고객의 요구를 적극적으로 수용해야 합니다. 데이터 센터 제공 업체는 워크로드의 일부 또는 전체를 수냉식 또는 공냉식으로 원하는 고객에게 옵션을 제공할 수 있어야 합니다.

냉각 외에도, 특히 새로운 AI 이니셔티브로 데이터 부하가 증가함에 따라 조직은 합리적인 가격의 에너지 옵션이 필요합니다. 이러한 이유로 전력 및 에너지 가용성을 고려한 지리적 요인에 따라 새로운 데이터 센터가 구축되고 있습니다. 미래에는 수력 발전이나 지열 에너지를 활용하기 위해 리소스에 더 가까이 이동하게 될 수도 있습니다.

거버넌스 기회: 정부가 독점 AI 모델의 이점을 깨닫기 시작하다

소버린(Sovereign) AI는 데이터가 수집되고 저장되는 지역의 법률이 데이터를 규제한다는 오늘날의 데이터 주권 개념과 밀접하게 연결되어 있습니다. EU의 일반 개인정보 보호법이나 캘리포니아주 소비자개인정보보호법과 같은 데이터 주권 이니셔티브가 지역의 데이터를 규제하는 만큼, 특정 거버넌스를 갖춘 지역 AI 모델을 상상해 보는 것도 무리가 아닙니다.

악의적인 위협 행위자와 해커의 사이버 공격이 증가함에 따라, 소버린 AI는 국가 방위에도 중요한 역할을 합니다. 어떤 국가가 AI 역량을 강화하고 독점 및 개인 데이터를 관리한다면, 이는 다른 국가에 위탁하지 않고 비밀리에 운영하고자 하는 움직임입니다.

궁극적으로 주권 AI는 아직 초기 단계에 있지만, 2025년에는 더 많은 국가들이 독점 AI 모델에 투자할 것으로 보입니다.

가장 큰 기회: 하이브리드 및 프라이빗 AI 개발

의료/제약 회사나 금융 서비스 회사와 같이 민감하고 개인적이거나 독점적인 데이터를 보유한 기업들은 퍼블릭 AI 모델을 사용해 데이터가 대중에게 노출되는 것을 원하지 않습니다. 이들은 데이터 세트를 보호하고자 하이브리드 또는 프라이빗 AI 모델을 사용할 것이며, 이는 프라이빗 AI 솔루션과 제휴를 맺거나 자체적으로 구축하는 방식으로 가능합니다.

추론 및 훈련을 위한 프라이빗 AI 설비에 많은 비용을 지출하는 것이 대기업에게는 문제가 되지 않을 수 있지만, 소규모 기업은 이를 감당하기 힘들 수 있습니다.

이것이 바로 기업이 클라우드에서 훈련을 수행한 다음 다시 돌아와 데이터 센터에서 추론을 실행하는 퍼블릭 또는 하이브리드 AI에 투자하는 이유입니다.

2025년에는 더 많은 기업이 하이브리드 AI 모델을 도입할 것으로 보입니다. 프라이빗 AI는 또한 AI 팩토리와에 주권 AI에 대한 수요에 있어 아주 중요한 역할을 할 것입니다.

Digital Realty의 PlatformDIGITAL®은 AI의 본거지입니다. Digital Realty는 생성형 AI와 고성능 컴퓨팅의 성공에 필요한 핵심적인 내용을 파악하고 있으며 전문성을 보유하고 있습니다. 2025년과 미래에도 계속해서 혁신을 지원할 수 있게 되어 기쁘고 영광입니다.

Digital Realty는 글로벌 데이터 센터 사업 영역, PlatformDIGITAL® 및 데이터 교환을 최적화하는 것으로 입증된 Pervasive Datacenter Methodology®를 통해 다양한 환경에서 AI 배포 확장을 지원합니다. 가장 자주 접하는 AI 사용 사례를 자세히 알아보고 지금 바로 문의하여 전문가와의 워크샵 일정을 잡아 보세요.

새로운 기회 포착: 데이터 센터 인프라의 다음 단계는 무엇일까요?