AI 거래소: AI 준비 디지털 인프라의 진화
올해 초에 디지털 리얼티는 AIPx(Private AI Exchange)를 소개했습니다 . AIPx를 통해 기업, 서비스 제공업체 및 기타 AI 기술 구현업체는 디지털 리얼티의 개방형 생태계에 빠르고 안전하게 통합할 수 있습니다.
우리는 인공지능(AI) 관련 트렌드와, 더 나아가 고객과 파트너들이 매일 겪는 과제를 기반으로 AIPx의 필요성을 인식했습니다.AIPx는 공급자, 서비스, 인프라를 포함하는 AI 솔루션 생태계(익스체인지)에 개인 네트워크(패브릭)와 연결성(전용)을 통합하기 위해 도입되었습니다.
이 블로그에서는 새롭게 부상하는 이 생태계의 최신 소식, 참여하는 다른 공급자들, 그리고 AIPx 내에서 종합적인 AI 솔루션을 발전시키기 위해 추진 중인 추가 노력에 대해 다룰 것입니다.구체적으로, 이 발전은 네트워크(및 그 세 가지 차원), 컴퓨팅 인프라, 애플리케이션, 데이터 서비스(Data-as-a-Service), 그리고 새로운 참조 아키텍처를 기반으로 솔루션을 구축하는 혁신적인 VAR(가치 추가 리셀러), SI(시스템 통합업체), OEM(주문자 상표 부착 생산)과 관련됩니다.
처음으로 돌아가서… 차세대 상호 연결 솔루션을 다뤄보겠습니다.
지난 4월에 말씀드린 것처럼, 생성형 AI와 같은 새로운 기술은 디지털 인프라 제공업체의 비즈니스 방식을 변화시키고 있습니다. 이러한 발전은 다음을 지원하기 위해 네트워크의 특성과 관련된 트래픽 흐름을 변화시키고 있습니다
- 데이터 수집(Data actuisition)
- 변환(Transformation)
- 훈련(Training)
- 튜닝(Tuning)
- 추론
또한, 하이브리드 프라이빗 및 퍼블릭 인프라 전반에 걸쳐 이러한 워크플로우가 설계되는 방식도 변화합니다. 이 새로운 아키텍처는 IDC와 같은 업계 분석가들이 언급한 내용을 반영하며, AI 기반 워크로드가 하이브리드 클라우드 및 멀티 클라우드 네트워킹 을 재정의하고 있다는 점을 보여줍니다.
이러한 네트워크 아키텍처와 비즈니스 모델의 발전을 이끄는 주요 요인들은 다음과 같습니다:
- 하이브리드 AI: 하이브리드 AI는 다양한 AI 기술과 모델을 통합하여 프라이빗 및 퍼블릭 환경에 배포하는 것을 의미합니다. 이 접근 방식을 통해 조직은 퍼블릭 클라우드 리소스의 확장성과 프라이빗 인프라의 보안 및 제어를 결합하여 복잡한 AI 워크플로우를 최적화할 수 있습니다. 하이브리드 AI용으로 설계된 인프라는 민감한 데이터는 안전하게 보호하고 성능에 중요한 작업은 프라이빗 환경에서 처리하면서 공용 환경에서 AI 프로세스를 유연하게 확장할 수 있도록 지원합니다.
- AI 온램프: 클라우드 온램프와 마찬가지로, AI 온램프는 기업이 전용 프라이빗 연결을 통해 프라이빗 데이터 소스와 인프라를 생태계에 연결하여 데이터 보호, 규정 준수 및 성능을 보장합니다.
- 프라이빗 네트워크와 패브릭: AI 관련 법안과 최종 사용자 개인정보 보호가 주요 이슈로 부각되면서, 지역 및 글로벌 수준에서 네트워크의 역할이 중요해질 것입니다. 이는 개인 정보 보호뿐만 아니라 성능(즉, 지연 시간) 및 확장성을 보장하기 위한 것입니다. 결과적으로, 기업들은 필요할 때 네트워크를 소비하기 위해 네트워크 온디맨드 원칙을 활용할 것입니다.
AI 시대를 위한 새로운 디지털 인프라 생태계
네트워크 아키텍처의 변화로 인해 더 많은 제공업체가 'AI 거래소 파티에 합류'하는 것을 확인했습니다.
지난 몇 달 동안 인터넷 교환 사업자, 프라이빗 패브릭을 갖춘 대형 네트워크 서비스 제공업체, 서비스형 네트워크 제공업체, 그리고 많은 대형 네트워킹 OEM 제공업체들이 우리의 선례를 따라 AI 거래소 및 네트워킹 기술의 필요성과 지원에 관한 자체 발표를 했습니다.
AIPx 발표 이후 6개월 동안, 클라우드를 통해 GPU를 온디맨드로 제공하는 AI 중심의 GPU-as-a-Service 제공업체의 증가를 목격했습니다. 또한, 대규모 GPU 처리 기능을 구축하는 'AI 네오클라우드' 제공업체가 증가하고 있습니다.
이 AI 팩토리 기업이 AI를 도입하고 통합하는 과정을 간소화하기 위한 AI 인프라 솔루션은 AI 솔루션 개발을 AI 공급자 및 소비자의 더 큰 생태계로 확장할 수 있는 더 나은 방법을 찾고 있습니다. 이와 같은 혁신적인 솔루션은 디지털 리얼티가 이러한 솔루션과 AI 온램프를 거래소에 연결할 수 있는 글로벌 플랫폼과 개방형 생태계를 제공하는 AIPx를 통해 접근할 수 있습니다.
우리는 왜 이러한 AI 팩토리 인스턴스를 중요하게 고려할까요? 디지털 리얼티는 고전력 밀집 랙과 액체 냉각 선도적으로 솔루션을 지원할 뿐만 아니라 유연하고 지연 시간이 짧은 소프트웨어 정의 네트워킹 기능을 제공하는 데이터 센터 인프라를 구축하고 있습니다. 이 접근법은 고객들이 현재 운영 중인 가장 대규모 훈련 클러스터를 배치하면서, 역사상 가장 상호 연결성이 뛰어나고전력 효율적인 데이터 센터개발을 촉진하고 있습니다. 이러한 AI 배포가 증가함에 따라 네트워크 아키텍처에 새로운 요구가 생기고 있으며, 이를 "AI 네트워크 효과"라고 부릅니다.
'AI 네트워크 효과'를 위한 새로운 아키텍처 고려사항
디지털 리얼티에서는 세 가지 인터커넥션 영역에서 'AI 네트워크 효과'를 보고 있습니다.
- 데이터 센터 내 네트워킹, 또는 인트라 데이터 센터 내 고유한 네트워킹
- 캠퍼스 내 네트워킹 또는 연결된 데이터 센터가 있는 메트로 내 네트워킹
- 캠퍼스 간, 지역 간 및 전 세계적으로 네트워킹
이러한 상호 연결 그룹은 기술적 차이가 있지만, 모두 공통된 개념과 고객 요구 사항에 의존합니다. 예를 들어:
- 높은 대역폭 용량
- 짧은 (그리고 정규화된) 지연시간
- 확장성
- 보안
또한, AI 컨트롤러(오케스트레이션)는 광범위한 AI 거래소 내에서 연결된 인프라, 서비스 및 네트워크의 실시간 탐색, 인벤토리, 가용성을 위한 지능형 기능을 제공합니다. 귀하는 대규모 광 거래소(온디맨드 및 오케스트레이션 포함)에서 교차 연결의 로봇 자동화가 중요한 역할을 하는, 저희가 'PNaaS'(또는 '물리적' 서비스형 네트워크)라고 명명한 개념의 도입을 확인할 수 있습니다.
이 모든 것이 빠르게 발전하고 있으며, 채택이 계속 가속화됨에 따라 AI 워크로드 및 관련 데이터 흐름은 지역화된 학습을 넘어 추론으로 전환되고 있습니다. 우리는 광범위한 추론 배포가 네트워크 및 서비스 제공업체의 언급된 ecosystem 전반에 걸쳐 대역폭의 극적인 증가와 분리된 네트워크 액세스에 대한 수요를 가속화할 것으로 예상합니다.
차세대 AI 생태계의 미래는 어떻게 될까요?
디지털 리얼티에서 우리는 글로벌 데이터 센터 내에서 AI 생태계 준비 및 구현의 최전선에 있습니다. 우리는 차세대 상호 연결된 (AI) 거래소 및 연결된 패브릭을 구축하고 있습니다. 우리는 네트워크, 클라우드, 서비스를 넘어서 고객이 찾는 솔루션에는 글로벌하고 중립적인 개방형 멀티 프로바이더 및 멀티 데이터센터 파트너 생태계가 필요하다고 믿습니다.
ServiceFabric®은 AIPx를 위한 개방형 글로벌 오케스트레이션 및 상호 연결 플랫폼으로 작동합니다. 120개의 파트너 생태계 참가자가 있으며, ServiceDirectory 내에서 액세스할 수 있는 220개 이상의 서비스를 제공합니다. 기업 고객용으로 액세스 가능한 AI 서비스가 제공됩니다. 또한 하이브리드 AI 생태계에 참여하는 245개 이상의 클라우드 온램프도 있습니다. AIPx는 프라이빗 패브릭 연결성을 위해 525개 위치에서 온디맨드 데이터 센터 사이트 간 연결성을 지원합니다.
우리는 도달 범위(목적지)와 서비스(AI 애플리케이션 및 인프라)를 확장하기 위해 더 많은 파트너를 영입하면서, 이 모든 것이 점점 더 빠른 속도로 확장되고 있습니다.
업계를 선도하는 VAR, SI, OEM과 협력하여 공간, 전력, 냉각을 위해 고집적 코로케이션을 활용하는 AI 솔루션을 개발하고 있습니다. 또한 ServiceFabric®을 활용하여 AIPx 액세스, 하이브리드 IT 및 멀티 클라우드 지원을 더 광범위한 번들 솔루션으로 지원할 것입니다.
프라이빗 AI 거래소(AIPx)를 처음 발표했을 때 큰 호응을 얻었습니다. 점점 더 많은 주요 서비스 제공업체들이 이를 업계 협업으로 보고, 추가적인 설계 및 아키텍처 고려 사항에 대해 저희와 협력하고 있습니다.
시장과 주요 파트너와의 진행 상황이 계속됨에 따라 더 많은 업데이트를 기대해 주시기 바랍니다. 여러분, AI 거래소 파티에 오신 것을 환영합니다.
귀하의 기업을 차세대 AI 에코시스템과 함께 미래로 이끌 준비가 되셨습니까? 오늘 AI 거래소 파티에 참석할 VIP 패스를 받으세세요. 글로벌하고 중립적이며 개방적인 파트너 생태계에 대해 자세히 알아보시려면 저희에게 연락해 주세요.
아직 결단을 내릴 준비가 되지 않았지만, 더 알아보고 싶으신가요? 당사의 colocation 솔루션이 AI의 까다로운 요구 사항을 어떻게 충족하는지 살펴보십시오. IDC 링크 해설을 여기에서 읽으십시오.
