미래 재편: 2024년 기업들이 AI를 확장하는 방법
챗봇부터 자율 시스템, 사기 탐지 프로그램, 공급망 경로 최적화에 이르기까지, 인공 지능(AI)은 실제 응용 분야에 힘을 실어주며 기업의 수익 성장을 견인하고 있습니다.
MIT Technology Review Insights가 임원 1,000명을 대상으로 실시한 설문조사에 따르면, 응답 기업의 거의 대부분이 생성형 AI를 기술 환경의 중대한 변화로 인식하고 있는 것으로 나타났습니다. 생성형 AI가 자사에 영향을 미치지 않을 것이라고 답한 비율은 4%에 불과했습니다.1
2023년에 일부 기업이 AI를 시험적으로 도입했다면, 2024년에 AI 활용을 본격적으로 확장하려는 기업은 AI 특유의 요구사항을 수용할 수 있어야 합니다. AI를 제대로, 그리고 확장 가능하게 도입하기 위해 무엇이 필요할까요?
확장을 고려하는 과정에서 기업 리더는 다음과 같은 요소를 함께 검토해야 합니다.
- AI의 데이터 처리 요구 사항
- 지속적인 최적화 및 제어 노력
- 미래를 대비한 전략을 위해 파트너십을 활용하는 방법
이 글에서는 지금에 이르기까지의 흐름을 되짚어 보며, AI가 어떻게 그 어느 때보다 접근 가능한 기술이 되었는지를 살펴봅니다. 또한, 2024년에 AI 워크로드가 확대됨에 따라 기업 IT 리더가 반드시 고려해야 할 AI 워크로드 특유의 인프라, 상호 연결, 그리고 에코시스템 측면의 고려 사항도 함께 다룹니다.
왜 지금일까요? AI의 대중화
AI가 지금 큰 주목을 받고 있다는 점은 부인할 수 없지만, 이 기술이 일시적인 유행이 아니라 지속적이고 판도를 바꾸는 기술로 자리 잡게 된 이유는 무엇일까요? AI 기술의 발전 과정과 이를 뒷받침해 온 인프라의 진화를 되짚어 보겠습니다.
고성능 컴퓨팅(HPC) 하드웨어는 AI 프로그램을 실행하는 데 필수적인 컴퓨팅 인프라입니다. HPC는 디지털 트윈과 같은 비즈니스 활용 사례를 포함한 시뮬레이션 및 모델링 환경을 가능하게 하여, 위험을 평가하고 의사 결정을 지원해 왔습니다.
이제 AI 애플리케이션은 HPC 하드웨어에 대한 처리 요구를 한층 더 끌어올리고 있습니다. 대규모 언어 모델(LLM) 및 추천 엔진과 같은 복잡한 AI 알고리즘은 높은 수준의 연산 성능과 집적도를 필요로 합니다. 이러한 초고집적 컴퓨팅 시스템은 기존 하드웨어에 비해 훨씬 작은 물리적 공간 안에 구현되고 있습니다.
그렇다면 AI는 왜 지금 이처럼 폭발적으로 성장하고 있을까요? 첫째, 컴퓨팅 하드웨어 시스템의 발전으로 고집적 컴퓨팅 환경이 가능해지면서, 고도화된 AI 워크플로를 가속할 수 있게 되었습니다. 이러한 발전을 토대로 AI 개발 프레임워크, 클라우드 기반 서비스, 사전 학습된 모델에 대한 접근성이 높아지면서 기업의 진입 장벽이 낮아졌고, 그 결과 실용적인 AI 개발이 더 폭넓은 대상에게 가능해졌습니다.
이러한 기술 발전으로 인해 AI를 신속하고 확장 가능하게 구현할 수 있게 되면서, 기업들은 새로운 제품, 서비스, 효율성 향상, 비용 절감을 효과를 실현하기 위해 AI 전략을 검토하고 있습니다.
2024년 AI 확장을 위해 기업 리더들은 하이브리드 멀티클라우드 인프라 도입을 가속화할 것입니다
451 Research에 따르면, 향후 3년 내 생성형 AI가 높은 영향을 미칠 것으로 예상하는 기업은 53%에 달하며, 같은 기간 동안 AI에 대한 투자 의지가 높다고 응답한 기업은 49%로 나타났습니다.2 이는 기업들이 AI를 핵심 비즈니스 운영이나 제공 서비스에서 더욱 중요한 요소로 자리 잡도록 도입 방식을 발전시켜 나갈 것임을 보여줍니다.
일부 기업은 AI 프로젝트의 최소 기능 제품(MVP)을 개발하기 위해 클라우드 서비스형 또는 AI 서비스형 옵션을 활용하고 있을 수 있습니다. 이미 고성능 컴퓨팅 프로젝트를 추진한 기업의 경우, PlatformDIGITAL®과 같은 글로벌 데이터 센터 플랫폼을 통한 코로케이션 방식이나 자체 운영 방식 등, 데이터 센터 모델을 이미 사용하고 있을 가능성이 큽니다.
모델 학습에 필요한 연산 자원을 확보하기 위해 필요할 때마다 클라우드로 확장하는 방식은 종종 유리한 선택이 될 수 있으며, 이를 통해 기업은 클라우드의 확장성을 활용하면서도 보다 비용 효율적인 운영을 유지할 수 있습니다.
기업들은 퍼블릭 클라우드와 프라이빗 클라우드 모두에 접근하기 위한 관문으로 Digital Realty를 선택하고 있습니다. ServiceFabric® Connect는 기업이 하이브리드 IT 생태계에 원활하게 연결할 수 있도록 지원합니다. 개방형 플랫폼인 ServiceFabric®을 통해 기업은 Digital Realty의 코로케이션 시설과 제3자 데이터 센터, 클라우드, 서비스 제공업체 간의 연결을 신속하게 오케스트레이션할 수 있습니다.
이처럼 서로 다른 모듈형 구성 요소들이 결합되어 퍼블릭 및 프라이빗 클라우드를 아우르는 하이브리드 멀티 클라우드 인프라를 형성하며, 이를 통해 민첩성, 확장성, 그리고 최적의 파트너와 협업할 수 있는 역량을 확보할 수 있습니다.
기업 리더들은 AI 도입과 데이터 집약적인 학습 및 추론 단계를 추진하면서 하이브리드 IT 포트폴리오의 균형을 맞추기 위해 AI 모델의 배포 위치를 검토하게 됩니다.
AI 배포를 확장할 때 기업 IT 리더는 다음과 같은 규제 및 사이버 보안 요소를 포함해 전체 하이브리드 멀티클라우드 인프라가 이를 어떻게 수용할 것인지에 대한 전략을 수립해야 합니다.
- 데이터 프라이버시 및 보안: 랜섬웨어 및 기타 보안 문제를 우려하는 기업은 인프라에 대한 통제력을 확보함으로써 성능 감독을 강화하여 위험을 줄일 수 있는 프라이빗 클라우드 환경으로 전환할 수 있습니다.
- 데이터 주권: 데이터 처리 위치와 방식에 대한 정부 규제가 강화되면서, 기업들은 데이터 처리 단위의 지리적 위치에 대해 더 많은 통제권을 요구하고 있습니다. 온프레미스 데이터 센터와 데이터 소스에 가까운 곳에서 처리하면 기업은 데이터 저장 및 처리에 따른 지리적 제약에 보다 유연하게 대응할 수 있습니다.
- 독점 정보: AI 모델과 관련 워크플로는 기업의 독점 자산인 경우가 많으며, 프라이빗 클라우드와 안전한 연결성은 악의적인 공격자로부터 발생할 수 있는 위험을 완화하는 데 도움이 됩니다.
확장된 AI 워크플로의 미래는 파트너십과 솔루션의 생태계를 열어줍니다
앞서 이 블로그에서 언급한 MIT Technology Review Insights 설문조사에 따르면, 응답한 임원 중 다수인 75%가 생성형 AI를 도입하기 위해 외부 제공업체와의 협력을 계획하고 있다고 답했습니다.3 경영진이 이사회로부터 AI 전략 도입에 대한 압박을 느끼는 경우도 많지만, 전문성을 갖춘 파트너와 협력하여 절제된 접근 방식을 취하는 것이 탄탄한 AI 전략을 구축하는 데 도움이 될 수 있습니다.
AI 인프라를 좌우하는 수많은 요소로 인해 기업 입장에서는 부담을 느낄 수 있습니다. 잠재적인 실수에 대해 우려하는 것도 무리는 아닙니다. 이런 상황에서는 매니지드 서비스 솔루션이 부담을 완화해 주는 현실적인 선택지가 될 수 있습니다.
Lenovo의 HPC & AI DACH 부문 디렉터인 안드레아스 토마슈(Andreas Thomasch)는 다음과 같이 조언합니다. “AI를 두려워할 필요는 없습니다. 대신, 과거의 경험을 바탕으로 현재 보유한 환경을 확장하도록 도와주거나 아직 준비되지 않은 경우에도 대규모로 시작할 수 있도록 지원할 수 있는 적절한 파트너를 선택하는 것이 중요합니다.”
대규모 데이터 센터를 운영해 온 깊이 있는 전문성과 HPC 분야의 축적된 경험을 갖춘 협력 파트너는 적절한 AI 인프라 구성을 설계하는 데 있어 중요한 역할을 할 수 있습니다.
“이들은 복잡한 대규모 HPC 또는 AI 시스템을 운영하는 방법을 알고 있고, AI를 실제로 배포하는 경험도 갖추고 있으며, 데이터 센터 관점에서 인프라를 소유한 주체들과 긴밀하게 협력해 온 파트너들입니다. Digital Realty와 같이 말이죠."라고 토마슈는 말합니다.
혼자서 모든 것을 해결하려 하지 마세요. 대규모 배포 환경을 이해하는 파트너와 협력하는 것은 AI 전략의 성공을 좌우하는 핵심 요소가 될 것입니다. 산업 전반에서 AI 활용 사례가 확대될수록, 관련 공급업체로 구성된 성장하는 생태계는 AI 선도 기업에게 추가적인 경쟁력이 되어 줄 것입니다.
AI 및 AI 지원 인프라 시대에 대해 더 알아보고 싶다면 웨비나 '새로운 AI 인프라 지형: 대규모 병렬 처리 시대의 코로케이션'을 시청해 보세요.
AI 역량을 위한 탄탄한 기반을 구축하는 데 Digital Realty의 전문성을 활용하는 방법을 알아보려면 지금 바로 당사 전문가에게 문의하세요.
1 MIT Technology Review Insights, 생성형 AI 도입: 원활한 확장을 위한 전략, 2023년 10월.
2 451 Research, 기업의 목소리: 디지털 펄스, 신흥 기술, 2023.
3 MIT Technology Review Insights, 생성형 AI 도입: 원활한 확장을 위한 전략, 2023년 10월.
