search
close-icon
数据中心
PlatformDIGITAL®
合作伙伴
专业知识和资源
关于
Language
登录
banner
博客

理解和实施 AI 工作流以实现最佳训练和部署

26 July 2024
author-photo
Brian Letort

Head of Data Office and Platform AI

人工智能 (AI) 有可能彻底改变企业运营,并改变各行业及全球的创新发展方向。

生成式 AI 的年度总影响中超过 75% 将特别体现在销售、营销、产品研发、软件工程和客户运营领域。但是,只有在深思熟虑和战略性地执行 AI 的情况下,才能好好利用这些机会。

实施 AI 是一个结构化的过程;这需要 CTO、CDO 和 CIO 了解新的技术要求,重新思考他们的当前基础设施战略,并评估传统系统。为了让 AI 真正发挥影响力,IT 领导者必须建立一个基础,以满足当今和未来 AI 模型的开发和部署需求。

为此,IT 领导者需要战略性地考虑 AI 工作流的各个阶段。AI 工作流涉及三种独立的数据处理方式:数据聚合、训练和推理。考虑因素包括每个阶段的工作原理,及其顺利运行所需的关键基础要素。

AI 工作流的三个阶段及其对 IT 基础设施的影响

第 1 阶段:数据聚合

AI 的质量取决于其训练数据的质量。数据聚合始于一种收集、清理、整理和存储数据的综合方法,以便用于训练和支持企业 AI 应用。

为了使此预处理阶段按预期工作,IT 领导者应遵循以下最佳实践:

  1. 识别数据源:大型组织会产生和收集大量数据:有关客户或员工的数据、运营数据、财务数据、网络日志、内网搜索或来自物联网传感器的数据。为了让 AI 智能地了解有关组织的信息和答案,它需要对组织环境有一个全面的了解。第一步是确定这些数据源的位置。
  2. 将数据汇集到一个中央系统:然后,IT 领导者需要一个系统,通过该系统他们可以从不同的数据源、数据库和终端收集数据,并将其集中到一个中心枢纽或存储库中。这可能看起来像采用企业资源计划 (ERP) 系统或连接到各种源(如直接数据库连接、应用程序编程接口 (API) 或其他源)的数据湖。
  3. 清理和整理数据:即使数据已集中到一个中心位置,其格式可能仍不统一,可能是结构化的(来自数据库的具体和统一的数据)、半结构化的(有组织但不符合治理要求的数据)或非结构化的(数据类型多样)。IT 领导者应实施数据卫生的最佳实践,包括将数据转换为标准化格式和使其符合命名约定、扫描错误以及消除过时或重复的数据。此步骤可能既耗时又昂贵。
  4. 建立数据治理:最后,建立一个可重复的流程来治理数据管理,包括如何保护数据以及谁将有权访问这些数据。这可以确保数据质量随着时间的推移保持一致。鉴于所收集数据的规模,最佳实践是在边缘处理数据,以减轻数据引力的影响。

第 2 阶段:训练

尽管企业很可能只会使用基础模型,并用其自身的数据进行扩展(而不是创建和训练自己的模型),但了解人工智能发展阶段仍然非常重要。

有序、干净的数据集是训练企业 AI 模型的前提条件。通常情况下,企业会使用一个基础模型,例如 OpenAI 的 GPT-4 模型,然后利用内部数据对其进行进一步训练或“提示调优”,以使 AI 的知识既全面又特定于某个领域。这个训练工作流可能会是像下面这样:

  1. 选择合适的模型:并非每个 AI 模型都性能相同或适合组织的特定数据。首先,IT 领导者应概述采用 AI 的用例:数据分析?客户服务?运营效率?这将指导他们选择适合其业务需求的 AI 架构、算法和参数。
  2. 从一项任务开始:接下来,使用数据聚合阶段的训练数据集教新的 AI 模型执行特定任务。这将使 AI 模型能够开始识别数据中的模式和关系。当 AI 模型开始学习时,训练 AI 模型的人可以开始调整其参数,使其更加精确和有效。
  3. 测试和评估:继续测试模型以增强和深化其知识。开始将测试扩展到更多的数据集中,观察其适应性,并根据需要进行调整。在整个测试过程中评估其性能,以确保其按预期运行,并达到准确率、召回率、精确率和其他必要的评估指标。
  4. 验证性能:现在是时候在新的验证数据集上评估 AI 的性能,以了解其学习方式了。现在是时候微调参数并准备将 AI 模型供企业使用了。

第 3 阶段:推理

现在是让 AI 发挥作用的时候了!在这个阶段,AI 模型已准备好在各种应用和用例中推出,它将利用其推理能力对新数据集做出预测或决策。

然而,不要仅仅部署 AI 并让其不受控制地运行。建立一个持续验证的流程,以确保 AI 模型的准确率并能够提供可操作的结果,特别是防范可能导致业务影响的任何“幻觉”。这种在生产环境中监控算法的过程通常被称为模型可观测性。

例如,《哈佛商业评论》详细介绍了摩根士丹利如何拥有“一套 400 个‘黄金问题’”,其答案是已知的,他们用这套问题持续对 AI 进行准确率测试。如果 AI 回答这些黄金问题的方式有任何变化,他们就知道需要重新调整模型。

应对 AI 工作流挑战

理想情况下,实施企业 AI 的过程是顺利的,从数据策略到训练再到推出。但是,IT 领导者在这样做时应意识到以下挑战。

  • 数据质量差:AI 的优劣取决于其训练数据,然而非结构化或未格式化的数据,甚至缺乏来自整个组织的数据,都会阻碍 AI 模型按需学习或运行。根据 IBM 的“2023 年全球 AI 采用指数”, “数据复杂性过高”是成功采用 AI 的第二大障碍。这就是为什么首先采取措施制定数据管理计划如此重要(如上所述)。
  • 硬件不足:要快速高效地运行 AI ,需要能够满足要求的计算硬件,而硬件不足将影响性能和速度。高性能计算 (HPC) 硬件通过并行处理为模拟和建模环境提供动力,能够充分支持企业的 AI 需求,尤其是在对延迟敏感的推理阶段。它还只占用了传统硬件一小部分的空间。
  • 基础设施薄弱:除了硬件,AI 还需要合适的基础设施来支持它。这包括适当的功率密度,对于 AI 而言,功率密度可能比传统基础设施管理的其他系统高出五到十倍。随着计算量的增加,AI 工作流也将需要数据中心的专用冷却系统。
  • 成本上升:AI 投资对企业来说可能非常昂贵,无论是在开发还是在底层基础设施和硬件方面。使 AI 更具成本效益的方法之一是确保 AI 部署和项目与业务目标一致,并确保 AI 用例有利于组织的发展和影响力。POC 通常用于在启动项目之前展示可量化的价值。
  • 复杂的 IT 运营:AI 工作流需要许多新的 IT 运营考量,包括数据管理和互联互通的战略方法、训练所需的时间投入,以及相应的硬件和基础设施。它还包括团队管理的战略方法,并确保员工具备专业知识来管理不断推出的新版 AI——特别是根据上述 IBM 报告,“有限的 AI 技能、专业技能或知识”是成功采用 AI 的最大障碍。 
构建企业 AI 的基础

如今,企业 AI 蕴藏着巨大的机遇——只有成功实施,才能抓住这些机遇。首先,建立一个战略性的数据聚合计划,以高效地收集、处理和存储数据。然后,使用这些数据来训练 AI 模型,使其熟悉特定领域的知识、模式和统计关系。最后,确保在 AI 部署和实际使用后,有一个评估性能和跟踪指标的计划。

AI 工作流的这三个阶段为企业构建创新提供了基础。

想了解如何成功实施 AI ,将您的组织带入未来?立即下载 “面向 IT 领导者的 AI:部署面向未来的 IT 基础设施”。

Tags