이전 블로그 '멈추지 않는 AI 혁신: 멀티 모델 AI가 시장 출시 속도를 높이는 방법(AI Innovation Won't Slow Down: How Multi-Model AI is Powering Speed to Market)'에 이어, 본 글은 AI에 대한 당사의 사고 리더십 시리즈를 계속 이어갑니다.

Digital Realty는 하드웨어, 소프트웨어, 네트워킹 전반에 걸쳐 AI의 발전을 면밀히 추적하여 기업의 프라이빗 AI 확장에 도움이 되는 의미 있는 인사이트를 제공하고 있습니다. AI 도입이 증가함에 따라 기업은 보안, 최적화, 상호 연결에 집중하여 비공개 데이터를 퍼블릭 AI 모델과 성공적으로 통합해야 합니다.

이 블로그는 기업이 대규모로 프라이빗 AI를 구현하기 위해 해결해야 하는 세 가지 핵심 영역을 다룹니다.

공개 AI 모델을 위한 프라이빗 데이터 활성화: 기업이 프라이빗 데이터 세트를 공개 AI 모델과 효율적으로 통합하는 방법
AI 워크플로에서의 프라이빗 데이터 보안: 기업 데이터를 보호하기 위한 주요 보안 프레임워크와 규정 준수 고려 사항
데이터 센터와 상호 연결 패브릭을 활용한 AI 성능 최적화: 워크로드 배치, 데이터 센터, 상호 연결 패브릭이 AI 성공에 결정적인 이유

퍼블릭 AI 모델에 비공개 데이터 사용

비공개 데이터 세트를 퍼블릭 AI 모델과 통합하려면 접근성과 보안 사이에서 균형을 이루어야 합니다. 기업은 개인정보 보호를 유지하면서 성능을 극대화하기 위해 데이터 액세스를 구조화하고 AI 모델 상호 작용을 제어해야 합니다. 이를 위한 주요 단계는 다음과 같습니다.

민감한 데이터에 대한 액세스를 규제하기 위한 신원 및 인증 제어
내부 데이터베이스를 퍼블릭 AI 모델과 안전하게 연결하는 API 기반 파이프라인
검색 증강 생성(RAG)을 통해 퍼블릭 AI 학습에 노출되지 않으면서 관련 비공개 데이터를 동적으로 검색

GPT, Claude, Gemini와 같은 최첨단 모델과 산업별 AI를 활용한 하이브리드 접근 방식은 일반화된 모델의 광범위한 AI 추론 능력과 맞춤형으로 학습된 산업별 AI 솔루션의 향상된 정확성을 지원합니다. 이 방법은 클라우드, 온프레미스, 엣지 환경 전반에 걸쳐 전략적인 워크로드 분배를 통해 성능을 향상합니다.

예시: 금융 서비스 분야의 산업별 AI

JPMorgan Chase와 같은 대형 금융 기관은 프라이빗 AI 모델을 활용하여 위험 평가, 사기 탐지 및 고객 서비스를 최적화합니다. 이러한 기업들은 독점적인 재무 데이터 세트를 AI와 통합하여 엄격한 규제 요구 사항을 준수하면서 의사 결정력을 향상합니다. 의료 및 제조와 같은 기타 산업 부문에서도 유사한 접근 방식을 채택하여 범용 모델의 기능을 초월하는 특화된 AI 애플리케이션을 구동할 수 있습니다.

AI 워크플로우에서 비공개 데이터 보호

AI 워크플로우에서 비공개 데이터를 안전하게 보호하려면 제로 트러스트 모델이 필요합니다. 이 모델은 위치나 자격 증명에 관계없이 어떤 사용자나 시스템도 본질적으로 신뢰할 수 없다고 가정합니다. 기업은 무단 액세스 및 데이터 유출을 방지하기 위해 모든 것을 검증하는 접근 방식을 채택해야 합니다. 기업은 엔드투엔드 암호화와 같은 제로 트러스트 원칙을 AI 워크플로우에 통합하여 민감한 데이터를 보호하고 노출 위험을 줄이며 규정 준수를 유지하면서 AI 도입을 확장할 수 있습니다.

기업은 AI 안전 가드레일과 모델 수명 주기 보안을 구현하여 모델이 의도한 대로 작동하고 개발부터 배포 및 지속적인 운영까지 보안을 유지해야 합니다. 주요 구성 요소는 다음과 같습니다.

입력 유효성 검사 – AI 모델이 부정확하거나 비윤리적인 결정으로 이어질 수 있는 악의적이거나 편향된 데이터 입력을 처리하지 않도록 방지합니다.
출력 모니터링 – AI 대응을 추적하여 이상 징후, 편향성 또는 잠재적 오용을 탐지합니다.
안전한 학습 환경 – 숨겨진 편향성이나 취약점을 유발할 수 있는 포이즈닝 공격으로부터 모델 학습 데이터를 보호합니다.

AI 트래픽을 최적화하는 것 또한 이에 못지않게 중요합니다. AI 서비스 패브릭은 성능 저하 없이 보안을 강화하여 추론 요청을 효율적으로 관리할 수 있도록 하기 때문입니다. 특히 에이전트 AI 워크플로우가 여러 모델에 걸쳐 작업을 동적으로 분할하기 때문에 Mitre Atlas 및 NIST AI Risk Management와 같은 표준을 따르면 강력한 방어를 보장할 수 있습니다.

데이터 센터와 상호 연결 패브릭을 통해 AI 성능 최적화

AI가 최고의 성능을 발휘하도록 하는 것은 단순히 강력한 모델을 갖추는 것이 아니라 적절한 환경에 워크로드를 배치하고 빠른 연결을 보장하며 비용을 통제하는 것입니다. 기업은 성능, 보안 및 효율성 간의 적절한 균형을 이루기 위해 클라우드, 엣지 및 비공개 데이터 센터를 혼합하여 배포해야 합니다.

전략적 워크로드 배치는 비용을 관리하면서 AI 성능을 향상합니다.

AI 워크로드 유형	최적의 배포	주요 이점
모델 학습	클라우드 AI 클러스터	확장 가능한 컴퓨팅 파워
배치 추론	프라이빗 데이터 센터	보안 및 비용 효율성
실시간 추론 처리	엣지 AI 배포	짧은 지연 시간 응답
RAG 쿼리 처리	AI 거래소	안전한 공개-비공개 데이터 액세스

AI 모델은 독립적으로 작동하지 않습니다. 여러 위치 사이를 매끄럽게 이동하는 방대한 양의 데이터에 의존합니다. AI가 대응하고 효율적으로 작동하도록 하려면 고속, 저지연 연결이 필수적입니다.

상호 연결 패브릭(예: Digital Realty ServiceFabric®)은 클라우드, 엣지, 엔터프라이즈 환경 전반에서 AI 워크로드를 보다 쉽게 동기화할 수 있도록 지원합니다.
Digital Realty의 Private AI Exchange와 같은 AI Exchange는 기업이 외부 AI 모델에 안전하게 접근하고 이를 처리할 수 있도록 하여, 공개 데이터와 프라이빗 데이터 세트 간의 원활한 협업이 이루어질 수 있도록 지원합니다.
통신사 중립 허브는 기업이 공급 업체 종속 없이 여러 클라우드 공급 업체의 AI 애플리케이션을 연결할 수 있도록 합니다.

AI 도입이 가속화됨에 따라 추론 워크로드에는 밀도가 높은 대도시 근처의 저지연, 고대역폭 환경이 필요합니다. Digital Realty의 핵심 시장 인프라는 클라우드, 엣지, 엔터프라이즈를 연결하여 AI 모델이 데이터 소스와 사용자 근처에서 효율적으로 실행되도록 합니다.

상호 연결된 AI 미래

AI 혁신의 다음 물결은 단순히 더 큰 모델이 아니라 더 스마트한 인프라에 관한 것입니다. 기업은 원활한 데이터 통합, 보안, 최적화된 성능에 집중하여 AI의 잠재력을 최대한 발휘해야 합니다.

Digital Realty는 AI 도입을 지원하는 것에 그치지 않고, 안전한 고성능의 상호 연결된 인프라를 제공하여 AI 기반 비즈니스의 미래를 만들어가고 있습니다. 프라이빗 AI 확장, 데이터 보호, 워크로드 최적화 등 도움이 될 수 있는 솔루션을 제공합니다.

퍼블릭 AI 모델에 비공개 데이터 사용

AI 워크플로우에서 비공개 데이터 보호

데이터 센터와 상호 연결 패브릭을 통해 AI 성능 최적화

상호 연결된 AI 미래

지금 바로 Digital Realty에 문의하여 AI 지원 인프라 구축을 시작하세요.

퍼블릭 모델로 프라이빗 AI 확장: 오늘날의 기업을 위해 AI를 안전하게 보호하고 최적화하며 상호 연결