
올해 우리는 새로운 인공 지능(AI) 기술의 기념비적인 발전을 목격하고 있으며, 이로 인해 엔터프라이즈 AI에 대한 수요가 급증할 것입니다. 이러한 새로운 발전은 엔터프라이즈 IT 환경에 대한 생각을 근본적으로 바꿀 것입니다.
디지털 리얼티의 최고 전문가 3인이 AI, HPC, 그리고 이 두 가지를 주도하는 데이터의 미래에 관한 업계의 가장 시급한 질문에 답했습니다. 아래에서 IDC FutureScape: 전 세계. 디지털 인프라의 미래 2024년 예측(Worldwide. Future of Digital Infrastructure 2024 Predictions)에 대한 세 가지 반응을 찾아볼 수 있습니다. *올해 AI에 적용
참고: 인터뷰 답변은 길이와 명확성을 위해 편집되었습니다.
예측 1: 통합된 IT 인프라의 증가
IDC FutureScape에 따르면 '생성형 AI를 촉매로 2027년까지 기업의 40%가 클라우드, 코어, 엣지 전반에 걸쳐 통합된 IT 아키텍처에 의존하여 위치에 구애받지 않는 동적 워크플로 우선순위를 지원할 것'이라고 합니다.
IT 리더가 기업의 AI 및 HPC에 대한 수요 증가를 성공적으로 관리할 수 있는 기회는 어디에 있을까요?
패트릭 라스텐넷(Patrick Lastennet), 엔터프라이즈 부문 이사
추론, 즉 훈련된 AI 모델을 배포하고 새롭고 보이지 않는 데이터에 대한 예측이나 결정을 내리는 이 단계는 2024년에 더 많이 도입될 예정입니다. 더 많은 생성형 AI(GenAI) 추론 클러스터가 코로케이션에 배포되어 기업 광역 네트워크(WAN)에 상호 연결될 것입니다.
대기업은 GenAI 기반 패턴 인식을 통해 사기 방지 및 가격 예측과 같은 GenAI 추론 사용 사례를 도입할 것입니다. GenAI 추론은 코딩, 문서 요약 및 챗봇을 지원합니다.
GenAI 추론의 이점을 얻으려면 클라우드가 아닌 강력한 WAN이 필요합니다. GenAI 추론을 활용하면 회사의 지적 재산에 대한 확장된 컬렉션과 액세스 권한을 얻을 수 있습니다. 이러한 가시성은 기업이 제품에 대한 이해의 격차를 식별하고 해소할 수 있도록 합니다. 이 기회를 최대한 활용하기 위해 기업은 정확하고 정제된 데이터를 활용하여 이러한 유형의 AI를 활용할 것입니다.
기업들은 네트워크 운영을 실행하는 코로케이트된 네트워크 데이터 허브 근처에 AI 추론을 위한 GPU 클러스터를 배포하기 시작할 예정입니다.
대니얼 옹(Daniel Ong) - 솔루션 아키텍트, 아태지역 이사
기업을 위한 AI 열반? 2024년에는 기업들이 자체 내부 정보 리소스를 위해 ChatGPT와 유사한 GenAI 시스템을 구축하는 것을 보게 될 것입니다. 많은 기업의 데이터가 사일로에 저장되어 있기 때문에 AI 수요 관리, AI 전문성 구축, 부서 간 협업을 위한 실질적인 기회가 있습니다.
데이터에 대한 이러한 접근은 기업의 핵심인 지적 재산에 타격을 줄 수 있는 실존적 보안 위험을 수반합니다. 그렇기 때문에 2024년에는 미래 지향적인 기업이 AI를 사용하여 강력한 데이터 보안 및 개인정보 보호 조치를 취해 지적 재산이 공용 인터넷에 노출되지 않도록 할 것입니다.
또한 내부 보안 위험에 집중하여 위협 환경을 축소할 수 있습니다. 여기에는 민감한 정보가 권한이 없는 내부 그룹 및 개인에게 유출되지 않도록 하는 내부 규정 개발이 포함됩니다.
개방성과 데이터 보안 및 개인정보 보호 사이에는 어려운 미세한 경계가 존재합니다. 그 경계를 잘 지키는 기업은 음성 어시스턴트, 지식 기반 챗봇, 사이버 보안 위협 탐지를 가장 잘 활용할 수 있는 위치에 있습니다.
북미 지역에서는 고객들에게 어떤 변화가 있었으며, AI 수요 증가를 처리하기 위해 인프라 아키텍처의 우선순위를 어떻게 정하고 있을까요?
스티브 스미스(Steve Smith), 미주 지역 책임자, 전무 이사
AI 및 기타 신흥 기술의 경우 비즈니스를 최적화하고 미래를 대비하는 것이 중요합니다.
많은 북미 기업들이 더 나은 의사 결정을 내리고 비즈니스 운영 방식을 최적화하며 서비스와 제품을 더 잘 제공하기 위해 AI를 도구이자 지렛대로 활용하고 있습니다.
많은 고객이 AI가 어떻게 최적화되는지 이해하려고 시도하는 초기 단계에 있지만, 초기 연구 결과는 전반적으로 극적인 효율성을 허용하는 유망한 결과와 역량을 보여 줍니다.
프런트엔드에서 고객의 위치를 파악하는 것부터 공급망 구축 방법, 서비스 최적화에 이르기까지 AI는 고객의 성과를 파악하고 운영을 개선하는 데 필요한 인사이트를 제공합니다.
Digital Realty와 파트너 관계를 맺은 고객들은 운영 효율성을 위해 이러한 대규모 학습 기능에 액세스할 수 있는 방법을 모색하고 있습니다. 성공하는 기업은 단순하게 시작하여 파트너에게 더 높은 수준의 서비스를 요구하는데, 여기에는 기업의 비즈니스 운영 방식에 대한 이해도를 높이고 기업이 AI에서 얻은 인사이트를 적용하는 방법이 포함됩니다.
예측 2: 중요 워크로드를 위한 서비스형(as-a-service for critical workloads)을 가장 중요한 위치에 배치
IDC FutureScape에 따르면 '2028년까지 IT 구매자의 80%는 IT 지출을 최적화하고 ITOps 기술을 강화하며 주요 지속 가능성 지표를 달성할 수 있도록 하는 유연성이 필요한 주요 워크로드에 서비스형 소비를 우선시할 것'이라고 합니다.
AI 이니셔티브의 글로벌 출시를 관리하는 가장 좋은 방법에는 어떤 것이 있을까요?
패트릭 라스텐넷, 엔터프라이즈 부문 이사
엔터프라이즈 리더에게 첫 번째 단계는 모든 중요한 워크로드를 식별하고 초기에 관리할 워크로드를 결정하는 것입니다. 데이터 개인정보 보호(주권 문제)와 사용자 경험(지연 시간)에 따라 중요한 워크로드의 로컬라이제이션이 결정됩니다.
다음으로, AI 지원 인프라의 글로벌 오케스트레이션을 제공할 수 있는 파트너 및 다음과 같은 파트너들과의 협력과 연결을 고려하고자 할 것입니다.
- 소프트웨어 개발 및 운영(DevOps): 여기서는 단일 창 관리를 통한 개발 오케스트레이션에 중점을 둡니다.
- 네트워크 운영(NetOps): 강력한 NetOps 체계는 환경이 분산되어 있더라도 워크플로가 안정적으로 작동하도록 보장합니다. 핵심은 보이지 않는 곳에서 인프라를 글로벌 차원으로 오케스트레이션하는 데 있습니다. (ServiceFabric®은 폭넓은 AI 파트너 네트워크에 접근하기 위한 출발점으로 적합합니다.)
스마트 워크로드 배치를 위한 옵션은 다음과 같습니다.
클라우드에서의 AI: AI의 초기 단계에 클라우드를 활용하면 민첩성과 탄력성을 확보할 수 있습니다. 점점 더 많은 훈련이 진행되면 탄력성이 떨어지고 CPU, 스토리지, 메모리, 입/출력 대역폭, 총소유비용 (TCO)의 용량을 늘리거나 줄이는 능력이 매우 중요해지기 시작합니다.
온프레미스로 확장하려면 관리형 솔루션 공급 업체로 전환하여 클라우드 외부에서 GPU를 관리하고 비용 관리 및 동일 수준의 클라우드 툴링을 제공하는 서비스형 GPU 공급 업체를 활용하세요.
대니얼 옹 - 솔루션 아키텍트, 이사
AI 이니셔티브의 초기 단계에서 기업은 기술 제공 업체와 그 파트너에게 AI 이니셔티브의 글로벌 출시에 대한 조언과 지원을 받아 의존하고 있습니다.
아시아 태평양 지역에서는 올바른 AI 클러스터를 구축하고 배포하며 이후 학습시키는 경쟁이 벌어지고 있습니다. 주요 사용 사례는 사이버 보안 위협 탐지이므로 각 사이버 보안 기술 제공 업체와 협력하는 것이 핵심입니다.
최고 수준의 기업은 GPU 애드온을 사용하여 기존 컴퓨팅 시스템 제공 업체와 파트너십을 맺습니다. Lenovo, Dell 및 HPE가 이러한 지원을 제공합니다.
북미 기업들은 파트너십과 Digital Realty의 개방형 생태계를 어떻게 활용하고 있을까요?
스티브 스미스, 미주 지역 책임자, 전무 이사
기업은 Digital Realty의 개방형 생태계를 활용할 수 있습니다. 이를 통해 우선순위가 높은 서비스형 AI 제공 업체와 전략적으로 연결하고 필요에 맞는 적절한 서비스를 선택할 수 있습니다.
기업은 또한 다음 사항을 고려해야 합니다.
- AI 워크로드의 고성능 컴퓨팅 환경 요구 사항을 지원할 수 있는 누가 지원할 수 있을까요?
- AI 활성화 파트너가 어떻게 컴퓨팅 환경에 액세스할 수 있을까요?
- 기업은 어떻게 서비스를사용하기 시작하나요?
기업은 Digital Realty가 소유하고 운영하는 것과 같은 고도로 연결된 데이터 센터 캠퍼스에서 이러한 질문에 대한 해답을 찾을 수 있습니다. 이러한 캠퍼스들은 ServiceFabric®을 사용하여 다양한 파트너를 통해 AI 워크플로 데이터를 중계하는 중심 허브 역할을 합니다.
예측 3: at-ingest 데이터 분류의 도입 확대
IDC FutureScape에 따르면, '2028년까지 IT 조직의 60%가 거버넌스, 데이터 손실 방지(DLP), 데이터 분석을 개선하여 경쟁력 있는 비즈니스 활용을 위한 데이터 물류 노력을 강화하고자 at-ingest 데이터 분류 엔진을 도입할 것'이라고 합니다.
컴퓨팅 IT 리소스 수요 증가에 대비하여 IT 리더는 분산 데이터에 어떻게 접근해야 할까요?
패트릭 라스텐넷, 엔터프라이즈 부문 이사
분산 데이터에 대한 견고한 접근 방식은 텐서(tensor) 중력을 기반으로 합니다. 데이터 수집을 최적화하려면 IT 리더는 데이터의 출처에 더 많은 노력을 기울여야 합니다. AI 워크플로를 산업화하면 어떤 결과를 얻을 수 있을지 생각해 보세요. 모든 수집 영역이 어디에 위치할지 자문한 다음, 컴퓨팅을 데이터로 가져오는 것이지, 그 반대가 아닙니다.
대니얼 옹 – 솔루션스 아키텍트, 이사
데이터의 위치는 AI 워크플로의 효율성과 효과에 영향을 미칩니다. 이는 AI 파이프라인 전반의 접근성, 보안, 지연 시간에 영향을 미칩니다.
데이터가 수집되는 곳으로 컴퓨팅을 이동하면 다음과 같은 이점이 있습니다.
- 지연 시간 단축 및 정확도 향상: AI 클러스터에 더 가까운 데이터는 결과를 개선할 수 있도록 합니다. 이를 통해 더 빠르게 예측하고 의사 결정을 내릴 수 있습니다.
- 네트워크 및 에너지 비용 절감: 데이터 위치와 각 네트워크 비용은 에너지 절감과 궁극적으로 TCO에 영향을 미칩니다.
- 데이터 개인정보 보호 및 보안 규정 준수: 글로벌 기업은 지역별 데이터 수집을 위해 컴퓨팅을 사용하여 끊임없이 진화하는 데이터 보안 규정 및 보안 제어 조치의 환경을 따릅니다.
북미의 IT 리더들은 컴퓨팅 리소스에 대한 수요 증가에 따라 분산 데이터에 어떻게 접근하고 있을까요? Digital Realty는 북미 지역에서 이러한 컴퓨팅 집약적 워크로드를 충족하기 위해 어떻게 설정되었나요?
스티브 스미스, 미주 지역 책임자, 전무 이사
과거에 AI는 대규모 컴퓨팅 블록으로, 대량의 데이터를 수집하여 기업이 모델을 실행하면서 그 데이터에서 반복할 결론을 도출하는 것이었습니다.
이제 기업은 분산된 데이터를 더 가까이에서 가져와 실시간으로 의사 결정을 내릴 수 있습니다. 경쟁이 치열한 환경에서는 어떤 조직이 대규모 언어 모델 또는 데이터 블록의 데이터를 가장 잘 보호하고 검증하며 사용해 경쟁사보다 더 나은 의사 결정을 내릴 수 있는지가 차별화 요소가 될 것입니다.
파트너십을 통해 역량을 가치로 전환
여기서 다룬 세 가지 예측을 보다 폭넓게 살펴보면 어떤 통찰력을 얻을 수 있을까요?
스티브 스미스, 미주 지역 책임자, 전무 이사
AI 효율성을 실현하기 위한 경쟁은 기업이 역량을 가치로 전환할 수 있는 파트너를 어떻게 활용하느냐에 달려 있습니다. Digital Realty의 확장과 역량을 살펴보면, Digital Realty는 탁월한 경쟁 우위를 제공할 수 있습니다. 전 세계에 걸친 광범위한 플랫폼, 연결성, 전 세계 주요 대도시를 기반으로 사람, 기업, 데이터를 통합하여 더욱 효율적으로 업무를 처리할 수 있도록 지원합니다.
Digital Realty는 현재에만 유의미한 것이 아니라 향후 수년간의 미래에도 지속 가능한 비즈니스를 지원하기 위해 설계 방식, 냉각 방식, 상호 연결 솔루션 제공 방식에 있어 엄청난 진전을 이루고 있습니다.
AI 전략의 미래에 대비하는 방법을 자세히 알아보려면 최신 백서인 IT 리더를 위한 AI를 다운로드하세요.
*IDC FutureScape: 전 세계 디지털 인프라 2024년 예측(Worldwide Digital Infrastructure 2024 Predictions), 문서 #US50401023, 2023년 10월

