Global Head of Product
智能体人工智能 (AI) 是指无需人工持续干预即可独立进行推理、规划和执行多步任务的自主智能体。这些智能体依赖推理,将训练完成的模型应用于新的、未见过的数据。
智能体 AI 可能是直通式处理 (STP) 的一次飞跃式演进,针对边缘情况整合了人类知识。这些智能体执行快速、可重复的工作流,可加速决策、优化运营,并扩大个性化规模。
企业正在构建智能体 AI 系统,以期实现这种规模化效率。据 IDC 调查,50% 的组织表示,“构建定制化 AI 智能体以实现业务流程自动化”是他们预计将增加支出的主要领域。1
为智能体 AI 提供支持的实时推理,需要处理和传输大量数据。如果数据处理未针对位置和带宽进行优化,性能和生产力都会受到影响。结果会怎样?工作流程出错,可能导致客户信任度下降和收入损失。
基于都会区的推理是一种 AI 部署模式,其中推理算力(GPU/CPU + 模型服务)部署在靠近最终用户、设备和企业数据源的都会区数据中心。随着企业扩展其智能体工作流,基于都会区的推理将需要成为 AI 基础设施根基的核心。
让我们深入探讨边缘 AI 工作负载如何驱动推理,并探索应对性能、可靠性和安全挑战的解决方案。
数据处理与延迟:IT基础设施与生产力瓶颈
数据交换是 AI 推理的基础。借助智能体 AI,模型可通过实时信息检索进行多步推理和微推理。智能体 AI 在重复循环中运行推理,这使得推理始终在线且对延迟敏感。
在金融服务领域的高频交易等行业中,连续性和一致性至关重要,即使是几毫秒的延迟也会带来显著影响。如果来自 AI 的见解耗时过长才得出,就会错失良机,生产力也会下降。集中式云端会迫使数据在处理前进行长距离传输,并增加司法管辖区内的数据隐私和主权复杂性,从而损害性能。
云端协作工具也可能给带宽带来压力。大文件和持续批处理会占挤占云处理容量,尤其对于分布式团队而言。这是数据引力的一部分,大量数据的移动可能会对性能、客户体验和安全造成挑战。这种延迟可能会阻碍协作和创造力,而为处理大量数据负载而升级基础设施的成本可能会迅速攀升。
客户服务工具也面临类似的挑战。当 AI 聊天机器人或响应系统出现延迟时,员工和客户都能感受到。随着这些工具采用率的提高,排队延迟也会随之增加,从而延后首词元输出时间。旨在提高效率的技术反而可能会损害用户体验。
延迟瓶颈问题十分显著,但现代工作场所的现状使其变得更加复杂。
分散式员工队伍挑战
混合与远程模式重新定义了保持连接的意义。视频会议现已成为关键业务,并且其中越来越多地使用 AI 助手来简化协作。
然而,延迟、缓冲和通话中断会消耗精力并降低参与度。简而言之,地理上分散分布的人员越多,与 AI 模型交互的应用和系统就越多,从而进一步影响推理性能。可靠的高带宽基础设施不再是锦上添花;而是生产力的基础。
无论员工在何处工作,都需要获得一致的体验,而这取决于能够即时同步并高效处理数据的系统。员工通常需要访问实时数据和可视化内容以更快做出决策,但这些应用程序只有在延迟极低时才能良好运行。基于都会区的推理通过在本地处理信息来提供这种响应能力,确保实时性能。
我们用于支持分散办公的工具也在不断演进。边缘处理再次成为提供他们所需能力的日益重要的平台。
智能体 AI 与低延迟协作
基于都会区的推理通过缩短数据传输距离来转变这些工具。实时更新和分析发生在用户附近,而不是遥远的数据中心,从而为分散各地的团队创造更流畅的互动。
医疗保健、建筑和物流等行业已经从智能体 AI 中看到了变革性成果。现场工程师可以从 AI 赋能的应用中获取即时诊断反馈,即使在互联受限的情况下也能快速做出周密的决策。通过在本地处理数据,企业可以保持工具平稳运行,并避免可能影响生产力的停机。
代理式 AI 在专为处理复杂工作负载而设计的专用基础设施上表现最佳。
Agentic AI 和推理工作负载推动数据中心需求演进
随着 AI 迎来关键拐点,人们日益认识到,数字基础设施需要支持不断提高的功率密度、冷却需求和连接性,才能可靠地运行图形处理单元 (GPU) 推理。
那些未针对 AI 进行配置的数据中心存在类似的局限性:
- 它们的设计仅支持每个机架 5–10 kW。
- 散热通常以风冷为主,并非针对 GPU 热负载而设计。
- 配电并非针对高密度集群而设计。
- 网络模式并非专为生产就绪型 AI 而设计。
- 它们位于电力和土地成本可能更低的地区,但延迟并非优先考虑的因素。
都会区数据中心:助力性能提升
为了实现大规模低延迟,企业正转向都会区数据中心,即在更靠近最终用户的位置处理信息的分散式设施。这缩短了数据传输距离,并大幅提升了软件即服务 (SaaS) 平台、分析工具和视频会议系统的性能。
都会区数据中心可以确保智能应用程序即使在低连接性区域也能有效运行。它们在本地处理和过滤信息,仅将必要的更新发送回云端。这可以提高速度并增强可靠性。
主要的云服务提供商正在大力投资该模式。AWS(通过 Outposts 和 Wavelength)和 Microsoft(通过 Azure Edge Zones 和 Azure Stack)现在让各类组织能够将云端能力扩展到边缘。这些混合基础设施将云端系统的可扩展性与本地计算的响应能力相结合,帮助各种规模的企业在世界各地高效运营。
Digital Realty 可以为您提供所需的规模、覆盖范围和容量,将您的 AI 工作负载部署在需要的位置。我们拥有 300 多个位置优越的数据中心,覆盖逾 55 个都会区,为您提供了将推理部署在靠近用户和工作流位置的独特机会。
但在这个高性能基础设施的新世界中,有一个重要的注意事项——互联。
互联层
边缘计算仍然依赖稳健的连接来保持一切同步。数据必须在边缘节点、数据中心与云端之间无缝流动,以确保准确性和获取实时洞察。
都会区数据中心并非孤立运行。为了获得真正的效率,每个数据中心都必须成为分布式网络或 Connected Data Communities™ 的一部分,通过高速光纤以及与多个端点的动态连接相互关联。
这种网络互联让工作负载能够在不同站点之间实现动态平衡与复制,从而确保即使某个节点发生停机,数据也能保持同步和可用。它还使这些都会区数据中心能够共享计算资源,并在全球范围内保持一致的性能。实际上,企业并非依赖单一设施,而是依赖边缘节点网格;这是一种协同网络,旨在提供本地处理的优势,同时保持云端的韧性和可扩展性。
光纤网络为这种互联提供了骨架。它们的速度和可靠性可实现极速数据传输,支持从自主系统到实时分析的各种应用。
持续同步可确保 AI 模型保持最新状态——这对于医疗保健和金融等决策依赖精准数据的行业而言至关重要。 网络冗余同样重要:如果一条链路发生故障,多条连接可以防止停机,确保混合办公团队保持连接并高效运转。
最后,安全与速度密不可分。低延迟网络还必须安全,通过加密和高级协议保护数据,同时不会减缓协作速度。这对于实时视频通话、远程培训和虚拟诊断等应用至关重要;在这些应用中,即时性和机密性都不可或缺。
基于都会区的推理赋能生产力
智能体 AI 带来了速度和可扩展性优势,这使其成为现代数字化员工队伍的基石。它代表的不仅是技术升级;它是一种全新的工作方式,能够掀起前所未有的生产力和效率浪潮。
对于希望打造面向未来的数字化员工队伍的 IT 领导者而言,他们必须优先考虑支撑其发展的 AI 基础架构。
通过将 AI 迁移至更靠近数据生成的位置,企业可以在不牺牲性能的情况下减少延迟、降低成本,并保护隐私。
这是从集中控制向共享全球 AI 智能的转变——可支持远程办公、实时决策和协作。简而言之,智能体 AI 正在为更敏捷、更互联、更高效的未来工作奠定基础。
Digital Realty 已奠定 AI 基础
智能体 AI 和推理需要战略性的工作负载部署。Digital Realty 的 300 多个全球互联数据中心位于众多企业实现 AI 业务成果所需的都会区,地理位置优越。我们的互联园区旨在支持低延迟、高能耗的工作负载,例如 AI、高性能计算 (HPC) 和高级数据分析。
我们的全球数据中心平台 PlatformDIGITAL® 提供标准化、适合 HPC 的基础设施配置,以帮助支持高密度工作负载。
立即与我们合作,构建实现更快部署和扩展所需的 AI 基础设施。
1IDC,IDC Market Glance:智能体 AI 生态系统,2026 年第二季度,2026 年 6 月

