当您向 AI 模型提问时，您的请求会传输至数据中心，经过处理后在数毫秒内返回结果。随着 AI 从模型训练转向服务数十亿次实时交互，基础设施的部署位置以及工作负载如何在基础设施上路由，正成为本世纪二十年代最具决定性的基础设施挑战。

2025 年出现了一个交汇拐点。训练和推理在工作负载曲线上互换了位置。

训练运行是一次性事件，而推理负载则是背后连接着海量用户的长效商业行为。这从根本上改变了基础设施的建设规则。

这一转变的实际影响同样巨大——在未来两年内，AI 领域消耗的大部分电能与投入的绝大部分资本都将用于“回答”问题，而非“学习”答案。德勤预测，仅到 2026 年底，推理就将占所有 AI 算力的三分之二。

AI 训练需要集中化：同一个数据中心园区、同一个互联网络、同一个统一排期，以及不计代价采购的最新硅芯片。

而 AI 推理的需求则截然相反：它需要靠近用户，在每个有效 token 成本效益最高的芯片上运行，并且必须满足 100 毫秒的往返时间预算，同时确保在数据驻留的任何地方都严格遵守当地法规。

如果说训练看起来像是一个港口，那么推理看起来就像是一个货运网络。而当通过这一视角审视推理工作负载图谱时，这一类比同样成立。

实时性业务（语音助手、增强现实、机器人技术）需要部署到相当于市中心仓库的地方。这些地方租金高、密度大，且用户就在街对面。例如，当您询问语音助手您所在城市的天气如何时，该查询必须在几毫秒内完成处理。如果将数据路由到偏远的数据中心园区，那么漫长的往返延迟会使实时性业务几乎无法实现。
交互性业务（客户服务聊天机器人、AI 智能体、生产力助手）可以部署在稍远一些的区域，相当于郊区枢纽。这些业务可以接受 100 毫秒的响应窗口；它们的运营成本较低，且工作负载具有可预测性，可以进行前置规划。
批处理业务（夜间报告生成、模型微调、大规模数据处理任务）在电力最便宜时运行，其部署位置类似于设立在偏远县城高速立交旁的仓库。另一端没有实时用户在等待；因此时间在成本方面是一种可权衡的因素。

每个推理层级都有不同的性能要求、成本概况和客户群体。它们服务于同一交付经济的不同部分。

对延迟敏感的分布式基础设施需要一套不同的投资模式。运营商不能将容量集中在单一的大型园区内，而必须支持随着需求变化而在不同区域、租户和主权区域之间移动的工作负载。

推理正在改变基础设施金融和芯片经济学。容量必须以灵活的网络形式进行部署，而不是部署在固定的园区；计算资源必须以组合（或集群）形式管理，而不是以单一硬件世代形式管理。这是一场结构上截然不同的资本对话。尚未调整其投资策略的企业，可能会面临为下一阶段构建错误资产的风险。

最新的芯片加速器可处理要求最苛刻的工作负载，而已折旧的硬件仍可通过高容量工作负载持续大规模创造价值。竞争优势已不再取决于是否独占最新和最高规格的芯片，而是取决于能否将每个工作负载精准路由至最合理的算力资源。

主权正成为 AI 基础设施的决定性制约因素。数据驻留法律、AI 治理框架和国家安全要求日益需要工作负载必须保留在特定司法管辖区内。

这使得计算资源的跨境互换性远不如训练时代那么强。正如国际货运无法跳过海关一样，来自德国用户的查询请求也未必总能合法地在美国弗吉尼亚州的服务器上进行处理。

随着主权 AI 计划在欧洲、中东和亚洲加速推进，基础设施正处于监管版图之内构建，而非在其之上构建。如果企业将主权视为一种合规行为，而不是核心设计原则，则可能被排除在全球 AI 工作负载日益增长的份额之外。

在这一向推理转变的过程中，唯有已经构建网络式部署的企业才能蓬勃发展。这些部署覆盖多个都市圈、多个区域、多个主权管辖区——这些区域均通过软件层连接起来，能够在毫秒间移动数据容量。

在本世纪二十年代的剩余时间里，AI 基础设施的核心形态并非千兆瓦级园区，而是都市枢纽、区域接入点和主权节点。这是一个通过软件定义路由互连的网络，它将计算视为一种动态的、可调度的资源，而非固定地址。

最好的货运枢纽不仅能高效地分流包裹，还能将所有合适的合作伙伴汇聚于同一屋檐下，从而提供灵活性并确保无缝交接。这就是网络互联对 AI 工作负载的作用。

Digital Realty 已经为此努力了二十年。我们的全球数据中心平台 PlatformDIGITAL® 旨在提供可扩展的主机托管和安全网络互联，助您加速部署、降低风险，并将您的 AI 基础设施转化为竞争优势。

AI 基础设施的第一个时代回答了一个问题：我们应该把最大的模型安置在哪里？下一个时代则要回答一个截然不同的问题：如何以最低的成本，在合适的时间、合适的地点，将查询请求发送至合适的芯片？

IDC 数据中心主机托管服务供应商简介：Digital Realty