최적의 학습 및 배포를 위한 AI 워크플로우 이해 및 구현
인공지능(AI)은 비즈니스 운영 방식을 혁신하고 산업 부문 전반 및 전 세계의 혁신 방향을 바꿀 잠재력을 가지고 있습니다.
생성형 AI가 연간 미치는 총 영향의 75% 이상은 특히 영업, 마케팅, 제품 연구 개발, 소프트웨어 엔지니어링 및 고객 운영 분야에서 발생할 것입니다. 하지만 이러한 기회는 AI를 신중하고 전략적으로 실행할 때만 실현될 수 있습니다.
AI를 구현하는 것은 체계적인 프로세스입니다. CTO, CDO, CIO 모두 새로운 기술 요구 사항을 이해하고, 현재 인프라 전략을 재검토하며, 레거시 시스템을 평가해야 합니다. AI가 진정으로 영향력을 발휘하려면 IT 리더는 오늘날 및 미래의 AI 모델 개발 및 배포 요구 사항을 충족하는 기반을 구축해야 합니다.
그러려면 IT 리더는 AI 워크플로우의 단계를 전략적으로 고려해야 합니다. 이러한 워크플로우에는 데이터 집계, 학습 및 추론의 세 가지 독립적인 방식이 포함됩니다. 각각 어떻게 작동하는지, 그리고 원활하게 실행되기 위해 필요한 주요 기본 요소가 무엇인지 등을 고려해야 합니다.
AI 워크플로우의 3단계와 이 단계가 IT 인프라에 미치는 영향
1단계: 데이터 집계
AI의 성능은 학습한 데이터에 달려 있습니다. 데이터 집계는 기업 AI 애플리케이션을 학습시키고 정보를 주는 데 사용할 수 있도록 데이터를 수집, 정제, 구성 및 저장하는 포괄적인 접근 방식에서 시작됩니다.
이 사전 처리 단계가 의도한 대로 작동하려면 IT 리더는 다음과 같은 모범 사례를 따라야 합니다.
- 데이터 소스 식별: 대규모 조직은 고객이나 직원에 관한 데이터, 운영 데이터, 재무 데이터, 네트워크 로그, 인트라넷 검색, 또는 IoT 센서 등 많은 데이터를 생성하고 수집합니다. AI가 조직에 대한 정보와 답변을 지능적으로 알기 위해서는 조직 환경에 대한 포괄적인 그림이 필요합니다. 첫 번째 단계는 그 데이터 소스가 어디에 있는지 찾는 것입니다.
- 중앙 시스템으로 데이터 수집: 그런 다음 IT 리더는 해당 데이터를 분산된 소스, 데이터베이스 및 엔드포인트에서 수집하여 중앙 허브 또는 저장소로 수집할 수 있는 시스템이 필요합니다. 이는 전사적 자원 관리(ERP) 시스템이나 다양한 소스(예: 직접 데이터베이스 연결, 애플리케이션 프로그래밍 인터페이스(API) 또는 기타 소스)에 연결된 데이터 레이크를 도입하는 것과 같은 형태를 띨 수 있습니다.
- 데이터 정리 및 구성: 데이터가 중앙화된 장소에 수집되었더라도 여전히 균일하게 형식화되지 않을 수 있으며, 구조화(데이터베이스의 특정하고 균일한 형식), 반구조화(구성되어 있지만 거버넌스에 따르지 않음) 또는 비정형(다양한 데이터 유형) 형태로 도착할 수 있습니다. IT 리더는 데이터를 표준화된 형식과 명명 규칙에 따라 정리하고, 오류를 검사하고, 오래되었거나 중복된 데이터를 제거하는 등 데이터 위생을 위한 모범 사례를 구현해야 합니다. 이 단계는 시간과 비용이 많이 소요될 수 있습니다.
- 데이터 거버넌스 확립: 마지막으로, 데이터 관리를 지배하는 반복 가능한 프로세스를 확립합니다. 여기에는 데이터를 보호하는 방법과 누가 액세스할 수 있는지가 포함됩니다. 이렇게 하면 데이터 품질이 시간이 지나도 일관성을 유지할 수 있습니다. 수집되는 데이터 크기를 고려할 때, 데이터 중력의 영향을 완화하기 위해 엣지에서 데이터를 처리하는 것이 최선의 방법입니다.
2단계: 훈련
기업은 일반적으로 자체적으로 모델을 생성하거나 훈련하기보다는 자체 데이터를 활용하여 기본 모델을 보강할 가능성이 높지만, AI 개발의 이번 단계를 이해하는 것은 중요합니다.
조직화되고 정제된 데이터 세트는 기업 AI 모델 훈련의 필수 조건입니다. 일반적으로 기업은 기본 모델(예: OpenAI의 GPT-4 모델)을 사용하고 내부 데이터를 활용하여 추가 학습 또는 '프롬프트 튜닝'을 수행하여 AI의 지식이 포괄적이면서도 도메인별로 특화되도록 합니다. 이 훈련 워크플로우는 다음처럼 진행될 수 있습니다.
- 적합한 모델 선택: 모든 AI 모델이 동일한 성능을 발휘하거나 조직의 특정 데이터에 적합하지는 않습니다. 먼저 IT 리더는 AI 도입의 사용 사례를 명확히 제시해야 합니다. 데이터 분석인지, 고객 서비스인지, 운영 효율성인지 설정하면서 비즈니스 요구 사항에 맞는 AI 아키텍처, 알고리즘 및 매개변수를 선택할 수 있습니다.
- 작업 시작: 다음으로, 데이터 집계 단계의 훈련 데이터세트를 사용하여 특정 작업을 수행하도록 새 AI 모델을 가르칩니다. 이렇게 하면 AI 모델이 데이터의 패턴과 관계를 인식하기 시작할 수 있습니다. AI 모델이 학습을 시작하면서, AI 모델을 훈련하는 사람은 매개변수를 조정하여 더 정확하고 효과적으로 만들 수 있습니다.
- 테스트 및 평가: 모델을 계속 테스트하여 지식을 강화하고 심화합니다. 테스트를 추가 데이터 세트로 확장하고 어떻게 적응하는지 살펴본 후 필요에 따라 조정하세요. 테스트 과정 전반에 걸쳐 성능을 평가하여 예상대로 작동하고 있는지, 그리고 정확도, 재현율, 정밀도 및 기타 필요한 평가 지표를 충족하는지 확인합니다.
- 성능 검증: 이제 AI의 학습 정도를 확인하기 위해 새로운 검증 데이터 세트에 대한 AI의 성능을 평가할 때입니다. 이제 매개변수를 미세 조정하고 AI 모델을 기업에서 사용할 수 있도록 준비할 때입니다.
3단계: 추론
이제 AI를 활용할 때입니다! 이 단계에서 AI 모델은 애플리케이션과 사용 사례에 걸쳐 출시될 준비가 되어 있으며, 새로운 데이터 세트에 대한 예측이나 결정을 내리기 위해 추론 기능을 사용할 것입니다.
그러나 단순히 AI를 배포하고 아무런 확인 없이 작동하도록 방치해서는 안 됩니다. 지속적인 검증 프로세스를 구축하여 AI 모델이 정확하고 실행 가능한 결과를 제공할 수 있도록 하고, 특히 비즈니스에 영향을 초래할 수 있는 '환각 현상'을 방지합니다. 이 프로세스는 운영 환경에서 알고리즘을 모니터링하는 것으로, 일반적으로 모델 관측 가능성으로 알려져 있습니다.
예를 들어, 하버드 비즈니스 리뷰에서는 Morgan Stanley가 AI 정확도 테스트를 위해 지속적으로 사용하는 "답이 알려진 400개의 '핵심 질문'" 세트를 보유하고 있다고 자세히 설명합니다. 만약 AI가 그 핵심 질문에 답하는 방식에 변화가 있다면, 모델을 재조정해야 한다는 것을 알게 될 것입니다.
AI 워크플로우 문제 해결
이상적으로 기업 AI 구현 과정은 데이터 전략에서 훈련, 출시에 이르기까지 원활하게 진행되는 것이 좋습니다. 그러나 IT 리더는 다음과 같은 문제를 인식하고 있어야 합니다.
- 열악한 데이터 품질: AI의 성능은 학습 데이터의 품질에 달려 있습니다. 비정형 데이터 또는 형식화되지 않은 데이터로 학습하거나, 조직 전반에서 데이터가 부족한 경우 AI 모델은 필요한 만큼 학습하거나 기능을 수행할 수 없습니다. IBM의 "2023년 글로벌 AI 도입 지수"에 따르면 "과도한 데이터 복잡성"이 AI 도입 성공의 두 번째로 큰 장벽입니다. 그렇기 때문에 위에서 설명한 것처럼 데이터 관리 계획을 먼저 수립하는 것이 중요합니다.
- 하드웨어 부족: AI를 빠르고 효율적으로 실행하려면 요구 사항을 충족할 수 있는 컴퓨팅 하드웨어가 필요하며, 이러한 하드웨어가 부족하면 성능과 속도에 영향을 미칩니다. 고성능 컴퓨팅(HPC) 하드웨어는 기업 AI 요구 사항, 특히 지연 시간에 민감한 추론 단계에서 충분히 지원할 수 있는 것입니다. 병렬 처리를 통해 시뮬레이션 및 모델링 환경에 전력을 공급하면 됩니다. 또한 이 하드웨어는 기존 하드웨어의 공간 중 아주 작은 부분만 차지합니다.
- 취약한 인프라: 하드웨어 외에도 AI를 지원할 적절한 인프라가 필요합니다. 여기에는 적절한 전력 밀도를 확보하는 일이 포함되는데, AI의 경우 레거시 인프라에서 관리되는 기타 시스템보다 5~10배 더 높은 전력 밀도가 필요할 수 있습니다. 이처럼 컴퓨팅이 증가함에 따라 AI 워크플로우에는 데이터 센터에 특화된 냉각 솔루션도 필요합니다.
- 급증하는 비용: AI 투자는 개발 및 기반 인프라와 하드웨어 측면 양쪽에서 조직에 비용 부담이 될 수 있습니다. AI를 비용 효율적으로 만드는 한 가지 방법은 AI 배포와 프로젝트가 비즈니스 목표에 부합하도록 하고, AI 사용 사례가 조직의 성장과 영향력에 도움이 되도록 하는 것입니다. POC는 프로젝트를 시작하기 전에 정량화할 수 있는 가치를 입증하는 데 자주 사용됩니다.
- 복잡한 IT 운영: AI 워크플로우는 데이터 관리 및 상호 연결성에 대한 전략적 접근 방식, 훈련에 필요한 시간, 그리고 그에 상응하는 하드웨어 및 인프라를 포함하여 IT 운영과 관련된 여러 새로운 사안을 고려하는 일이 필요합니다. 또한, 팀 관리에 대한 전략적 접근 방식은 물론, 새로운 AI 도입을 관리할 전문성을 직원에게 갖추도록 하는 일도 여기에 포함됩니다. 위의 IBM 보고서에 따르면 '제한된 AI 기술, 전문성 또는 지식'이 성공적인 AI 도입의 가장 큰 장벽이기 때문입니다.
기업 AI의 기반 구축
오늘날 기업 AI에는 엄청난 기회가 있으며, 이는 성공적으로 구현될 때만 실현될 수 있습니다. 효율적인 데이터 수집, 처리 및 저장을 위한 전략적 데이터 통합 프로그램 구축으로 시작합니다. 그다음, 해당 데이터를 사용하여 AI 모델을 훈련시켜 특정 분야에 대한 지식, 패턴 및 통계적 관계를 익히도록 합니다. 마지막으로, AI 배포 및 실제 사용 후 성능을 평가하고 지표를 추적하는 계획을 수립해야 합니다.
이 세 단계의 AI 워크플로우는 기업이 혁신을 구축하는 데 필요한 기반을 제공합니다.
AI를 성공적으로 도입해 조직의 미래를 앞당기고 싶으신가요?Ask ChatGPT지금 바로 "IT 리더를 위한 AI: 미래 지향적인 IT 인프라 구축하기"를 다운로드해보세요.
