Cuando realiza una pregunta a un modelo de IA, su solicitud viaja a un centro de datos, se procesa y regresa en fracciones de segundo. A medida que la IA pasa del entrenamiento de modelos a servir miles de millones de interacciones en tiempo real, dónde se ubica esa infraestructura —y cómo se enrutan las cargas de trabajo a través de ella— se está convirtiendo en el desafío de infraestructura que definirá la década.

En 2025 se produjo un cruce. El entrenamiento y la inferencia intercambiaron sus posiciones en la curva de carga de trabajo.

Una ejecución de entrenamiento es un evento único. Una carga de trabajo de inferencia es un negocio permanente con usuarios en el otro extremo. Esto cambia fundamentalmente lo que se construye.

La implicación práctica de este cambio también es significativa: en un plazo de dos años, la mayor parte de la electricidad y el capital destinados a la IA se dedicarán a «responder» preguntas, no a «aprender» respuestas. Deloitte predice que la inferencia representará dos tercios de toda la computación de IA solo para finales de 2026.

Distribución de las demandas de inferencia

El entrenamiento de IA requería concentración. Un campus de centros de datos, una estructura de conectividad, un cronograma y los chips de silicio más recientes a cualquier precio.

La inferencia de IA desea algo casi opuesto. Requiere proximidad al usuario, se ejecuta en el chip más rentable por token útil y debe cumplir con un presupuesto de ida y vuelta de 100 milisegundos, todo ello garantizando un estricto cumplimiento de las normativas locales dondequiera que residan los datos.

Donde el entrenamiento parecía un puerto, la inferencia parece una red de transporte de mercancías. Y cuando el mapa de cargas de trabajo de inferencia se observa a través de esa lente, la analogía se mantiene.

El trabajo en tiempo real (asistentes de voz, realidad aumentada, robótica) reside en el equivalente a un almacén en el centro de la ciudad. Alquiler elevado, alta densidad y el usuario está al otro lado de la calle. Por ejemplo, cuando le pregunta a su asistente de voz qué tiempo hace en su ciudad, esa consulta debe procesarse en milisegundos. La latencia de ida y vuelta a un campus remoto puede hacer que el trabajo en tiempo real sea casi imposible.
El trabajo interactivo (chatbots de atención al cliente, agentes de IA, asistentes de productividad) se sitúa más lejos, en el equivalente a un centro suburbano. Una ventana de respuesta de 100 milisegundos es aceptable; los costes operativos son menores y la carga de trabajo es lo suficientemente predecible como para planificar en torno a ella.
Trabajo por lotes (generación de informes nocturnos, ajuste de modelos, trabajos de procesamiento de datos a gran escala) se ejecuta cuando la energía es más barata, de forma similar a como los almacenes se sitúan junto a los intercambiadores de autopistas en los condados rurales. No hay ningún usuario en tiempo real esperando al otro lado; por consiguiente, el tiempo es una compensación en términos de coste.

Cada nivel de inferencia tiene un requisito de rendimiento, un perfil de costes y un conjunto de clientes diferentes. Sirven a diferentes partes de la misma economía de entrega.

Un cambio estructural en el modelo de inversión

La infraestructura distribuida y sensible a la latencia requiere un modelo de inversión diferente. En lugar de anclar la capacidad en un único megacampus, los operadores deben soportar cargas de trabajo que se desplacen entre regiones, inquilinos y zonas soberanas a medida que cambia la demanda.

La inferencia cambia tanto las finanzas de la infraestructura como la economía del silicio. La capacidad debe desplegarse como una red flexible en lugar de un campus fijo, mientras que la computación se gestiona como una cartera (o flota) en lugar de una única generación de hardware. Esta es una conversación sobre capital estructuralmente diferente. Las empresas que aún no han realineado su estrategia de inversión corren el riesgo de construir el activo equivocado para la siguiente fase.

Los aceleradores de chips más recientes manejan las cargas de trabajo más exigentes, mientras que el hardware depreciado puede seguir generando valor a escala a partir de cargas de trabajo de gran volumen. La ventaja competitiva no proviene de poseer el silicio más reciente y de mayores especificaciones, sino de dirigir cada carga de trabajo al recurso más eficiente.

La dimensión soberana que define el diseño

La soberanía se está convirtiendo en una limitación determinante para la infraestructura de IA. Las leyes de residencia de datos, los marcos de gobernanza de la IA y los requisitos de seguridad nacional exigen cada vez más que las cargas de trabajo permanezcan dentro de jurisdicciones específicas.

Esto hace que la capacidad de cálculo sea mucho menos fungible a través de las fronteras que en la era del entrenamiento. Del mismo modo que un envío internacional no puede saltarse la aduana, es posible que una consulta de datos de un usuario con sede en Alemania no siempre pueda procesarse legalmente en un servidor de Virginia, EE. UU.

A medida que las iniciativas de IA soberana se aceleran en Europa, Oriente Medio y Asia, la infraestructura se construye dentro de un mapa normativo, no sobre él. Las empresas que traten la soberanía como un ejercicio de cumplimiento normativo, en lugar de como un principio de diseño fundamental, corren el riesgo de quedar excluidas de una parte creciente de las cargas de trabajo de IA globales.

Construir las bases de la IA para la próxima década

Las empresas que prosperen en este cambio hacia la inferencia serán aquellas que ya estén estructuradas como una red. Múltiples áreas metropolitanas, múltiples regiones, múltiples jurisdicciones soberanas: todo conectado por una capa de software que puede mover la capacidad de datos en milisegundos.

La unidad dominante de la infraestructura de IA para el resto de la década no es el campus de gigavatios. Es el centro metropolitano, el punto de presencia regional y el nodo soberano. Una red interconectada mediante enrutamiento definido por software que trata la computación como un recurso dinámico y distribuible en lugar de una dirección fija.

Los mejores centros de carga no solo dirigen los paquetes de manera eficiente; reúnen a todos los socios adecuados bajo un mismo techo, proporcionando flexibilidad y garantizando transferencias fluidas. Esto es lo que la interconexión hace para las cargas de trabajo de IA.

Digital Realty lleva dos décadas construyendo esto. Nuestra plataforma global de centros de datos, PlatformDIGITAL®, está diseñada para ofrecer servicios de colocation escalables e interconexiones seguras que le ayudan a desplegar más rápido, reducir riesgos y convertir su infraestructura de IA en una ventaja competitiva.

La primera era de la infraestructura de IA respondió a una pregunta: ¿dónde ponemos el modelo más grande? La siguiente era responde a otra diferente: ¿cómo llega una consulta al chip adecuado, en el lugar adecuado, en el momento adecuado y al menor coste?

The Digital Exchange