Lorsque vous posez une question à un modèle d’IA, votre requête est transmise à un data center, traitée, puis renvoyée en quelques fractions de seconde. À mesure que l’IA passe de l’entraînement de modèles au traitement de milliards d’interactions en temps réel, l’emplacement de cette infrastructure et la manière dont les workloads y sont acheminés deviennent le défi d’infrastructure majeur de la décennie.

Un tournant s’est produit en 2025. L’entraînement et l’inférence ont échangé leurs places sur la courbe des workloads.

Une exécution d’entraînement est un événement ponctuel. Un workload d’inférence, en revanche, représente une activité permanente avec des utilisateurs à l’autre bout de la chaîne. Cela modifie fondamentalement ce qui est développé.

Les implications pratiques de cette évolution sont également considérables : d’ici deux ans, la majeure partie de l’électricité et des capitaux déployés pour l’IA sera consacrée à « répondre » aux questions, et non à « apprendre » les réponses. Deloitte prévoit que l’inférence représentera les deux tiers de la puissance de calcul consacrée à l’IA d’ici la fin de l’année 2026 seulement.

L’inférence exige une infrastructure distribuée

L’entraînement de l’IA nécessitait une concentration des ressources. Un campus de data centers, une architecture d’interconnexion, un calendrier et les puces en silicium les plus récentes, quel qu’en soit le prix.

L’inférence IA exige presque le contraire. Elle nécessite une proximité avec l’utilisateur, s’exécute sur la puce offrant le meilleur coût par token utile et doit respecter un délai aller-retour de 100 millisecondes, tout en garantissant une conformité stricte aux réglementations locales, quel que soit le lieu de stockage des données.

Alors que l’entraînement s’apparentait à un port, l’inférence s’apparente à un réseau de fret. Et lorsque l’on examine la carte des workloads d’inférence sous cet angle, l’analogie tient la route.

Le travail en temps réel (assistants vocaux, réalité augmentée, robotique) se situe dans l’équivalent d’un dépôt en centre-ville. Loyer élevé, haute densité, et l’utilisateur se trouve de l’autre côté de la rue. Par exemple, lorsque vous demandez à votre assistant vocal quel temps il fait dans votre ville, cette requête doit être traitée en quelques millisecondes. La latence aller-retour vers un campus distant peut rendre le travail en temps réel presque impossible.
Le travail interactif (chatbots de service client, agents IA, assistants de productivité) se situe plus loin, dans l’équivalent d’un hub en périphérie urbaine. Un délai de réponse de 100 millisecondes est acceptable ; les coûts d’exploitation sont moins élevés et le workload est suffisamment prévisible pour permettre une bonne planification.
Le traitement par lots (génération de rapports pendant la nuit, réglage fin des modèles, tâches de traitement de données à grande échelle) s’effectue lorsque l’électricité est la moins chère, à l’instar des entrepôts situés à proximité des échangeurs autoroutiers dans les zones rurales. Aucun utilisateur n’attend une réponse en temps réel ; par conséquent, le délai de traitement peut être arbitré en fonction des coûts.

Chaque niveau d’inférence présente des exigences de performance, un profil de coût et une clientèle différents. Ils répondent à différents besoins au sein de la même chaîne de distribution.

Une évolution structurelle du modèle d’investissement

Une infrastructure distribuée et sensible à la latence nécessite un modèle d’investissement différent. Au lieu de concentrer la capacité dans un seul méga-campus, les opérateurs doivent prendre en charge des workloads qui se déplacent entre les régions, les entreprises clientes et les zones souveraines à mesure que la demande évolue.

L’inférence modifie à la fois le financement des infrastructures et l’économie du silicium. La capacité doit être déployée sous la forme d’un réseau flexible plutôt que d’un campus fixe, tandis que la puissance de calcul est gérée comme un portefeuille (ou un parc) plutôt que comme une seule génération de matériel. Il s’agit d’une logique d’investissement fondamentalement différente. Les entreprises qui n’ont pas encore réorienté leur stratégie d’investissement risquent de se doter d’actifs inadaptés à la phase suivante.

Les tout derniers accélérateurs sur puce traitent les workloads les plus exigeants, tandis que le matériel amorti peut continuer à générer de la valeur à grande échelle grâce à des workloads à haut volume. L’avantage concurrentiel ne provient pas de la possession des puces les plus récentes et les plus performantes, mais de l’acheminement de chaque workload vers la ressource la plus efficace.

La dimension souveraine qui définit la conception

La souveraineté devient une contrainte déterminante pour les infrastructures d’IA. Les lois sur la résidence des données, les cadres de gouvernance de l’IA et les exigences de sécurité nationale imposent de plus en plus que les workloads restent au sein de juridictions spécifiques.

Cela rend la puissance de calcul beaucoup moins interchangeable au-delà des frontières qu’à l’époque de l’entraînement. Tout comme une expédition internationale ne peut contourner les douanes, une requête de données émanant d’un utilisateur basé en Allemagne ne peut pas toujours être traitée légalement sur un serveur situé en Virginie, aux États-Unis.

Alors que les initiatives d’IA souveraine s’accélèrent en Europe, au Moyen-Orient et en Asie, l’infrastructure est construite au sein d’un cadre réglementaire, et non en dehors de celui-ci. Les entreprises qui considèrent la souveraineté comme un simple exercice de conformité, plutôt que comme un principe de conception fondamental, risquent d’être exclues d’une part croissante des workloads mondiaux liés à l’IA.

Construire les fondations de l’IA pour la prochaine décennie

Les entreprises qui prospéreront dans cette transition vers l’inférence seront celles qui sont déjà structurées en réseau. Plusieurs zones métropolitaines, plusieurs régions, plusieurs juridictions souveraines, toutes reliées par une couche logicielle capable de redistribuer dynamiquement les capacités de traitement en quelques millisecondes.

L’unité dominante de l’infrastructure d’IA pour le reste de la décennie n’est pas le campus de plusieurs gigawatts. Il s’agit du hub métropolitain, du point de présence régional et du nœud souverain. Un réseau interconnecté par routage défini par logiciel qui traite le calcul comme une ressource dynamique pouvant être allouée à la demande plutôt que comme une adresse fixe.

Les meilleurs hubs de fret ne se contentent pas d’acheminer efficacement les colis ; ils rassemblent tous les partenaires adéquats sous un même toit, offrant ainsi une grande flexibilité et des relais sans rupture. C’est exactement ce que l’interconnexion apporte aux workloads d’IA.

Digital Realty travaille à la mise en place de cette infrastructure depuis deux décennies. Notre plateforme mondiale de data centers, PlatformDIGITAL®, est conçue pour offrir une colocation évolutive et une interconnexion sécurisée qui vous aident à déployer plus rapidement, à réduire les risques et à transformer votre infrastructure d’IA en un avantage concurrentiel.

La première ère de l’infrastructure d’IA répondait à une question : où placer le plus grand modèle ? La prochaine ère répond à une autre question : comment une requête parvient-elle à la bonne puce, au bon endroit, au bon moment, au moindre coût ?

IDC Datacenter Colocation Service Vendor Profile: Digital Realty