Wenn Sie einem AI-Modell eine Frage stellen, wird Ihre Anfrage an ein Rechenzentrum gesendet, dort verarbeitet und innerhalb von Sekundenbruchteilen zurückgegeben. Während sich der Schwerpunkt der AI vom Training von Modellen hin zur Bereitstellung von Milliarden von Echtzeit-Interaktionen verlagert, wird der Standort dieser Infrastruktur – und die Art und Weise, wie Workloads verteilt werden – zur entscheidenden infrastrukturellen Herausforderung des Jahrzehnts.

Im Jahr 2025 fand eine Überschneidung statt. Training und Inferenz haben auf der Workload-Kurve die Plätze getauscht.

Ein Trainingslauf ist ein einmaliges Ereignis. Ein Inferenz-Workload ist ein dauerhaftes Geschäft mit Benutzern am anderen Ende. Dies verändert grundlegend, was gebaut wird.

Die praktischen Auswirkungen dieses Wandels sind ebenfalls erheblich – innerhalb von zwei Jahren werden der Großteil der für KI eingesetzten Elektrizität und des Kapitals dafür verwendet werden, Fragen zu ‚beantworten‘, anstatt Antworten zu ‚lernen‘. Deloitte prognostiziert, dass die Inferenz bis Ende 2026 bereits zwei Drittel des gesamten AI-Computings ausmachen wird.

Verteilung des Inferenzbedarfs

AI-Training erfordert Konzentration. Ein Rechenzentrumscampus, eine Connectivity Fabric, ein Zeitplan und die neuesten Silizium-Chips zu jedem Preis.

AI-Inferenz erfordert etwas nahezu Gegenteiliges. Dies erfordert Nähe zum Benutzer, läuft auf dem kosteneffizientesten Chip pro nützlichem Token und muss ein Round-Trip-Budget von 100 Millisekunden einhalten, während gleichzeitig die strikte Einhaltung lokaler Vorschriften am jeweiligen Speicherort der Daten gewährleistet wird.

Während das Training wie ein Hafen aussieht, gleicht die Inferenz einem Frachtnetzwerk. Und wenn man die Karte der Inferenz-Workloads durch diese Linse betrachtet, bewahrheitet sich die Analogie.

Echtzeitarbeit (Sprachassistenten, Augmented Reality, Robotik) findet im Äquivalent eines Innenstadt-Depots statt. Hohe Mieten, hohe Dichte und der Benutzer befindet sich auf der anderen Straßenseite. Wenn Sie beispielsweise Ihren Sprachassistenten fragen, wie das Wetter in Ihrer Stadt ist, muss diese Abfrage innerhalb von Millisekunden verarbeitet werden. Die Round-Trip-Latenz zu einem entfernten Standort kann Echtzeitarbeit nahezu unmöglich machen.
Interaktive Arbeit (Chatbots im Kundenservice, AI-Agenten, Produktivitätsassistenten) befindet sich weiter außerhalb, vergleichbar mit einem Vorstadt-Hub. Ein Antwortfenster von 100 Millisekunden ist akzeptabel; die Betriebskosten sind niedriger und der Workload ist vorhersehbar genug, um ihn einzuplanen.
Batch-Arbeiten (nächtliche Berichterstellung, Feinabstimmung von Modellen, groß angelegte Datenverarbeitungsaufträge) werden ausgeführt, wenn der Strom am günstigsten ist – ähnlich wie Lagerhäuser, die sich in ländlichen Regionen an Autobahnkreuzen befinden. Es wartet kein Echtzeit-Benutzer am anderen Ende; folglich ist Zeit ein Kompromiss in Bezug auf die Kosten.

Jede Inferenzebene hat unterschiedliche Leistungsanforderungen, Kostenprofile und Kundengruppen. Diese Ebenen bedienen verschiedene Teile derselben Bereitstellungswirtschaft.

Eine strukturelle Veränderung des Investitionsmodells

Verteilte, latenzkritische Infrastruktur erfordert ein anderes Investitionsmodell. Anstatt Kapazitäten an einem einzigen Mega-Campus zu verankern, müssen Betreiber Workloads unterstützen, die sich je nach Nachfrage zwischen Regionen, Mandanten und souveränen Zonen bewegen.

Inferenz verändert sowohl die Infrastrukturfinanzierung als auch die Ökonomie von Silizium. Kapazitäten müssen als flexibles Netzwerk statt als fester Campus bereitgestellt werden, während Rechenleistung als Portfolio (oder Flotte) statt als einzelne Hardwaregeneration verwaltet wird. Hier geht es um eine Kapitaldebatte mit einer völlig anderen Struktur. Unternehmen, die ihre Investitionsstrategie noch nicht neu ausgerichtet haben, riskieren, für die nächste Phase die falschen Assets aufzubauen.

Die neuesten Chip-Beschleuniger bewältigen die anspruchsvollsten Workloads, während abgeschriebene Hardware weiterhin einen Mehrwert im Maßstab aus Workloads mit hohem Volumen generieren kann. Wettbewerbsvorteile entstehen nicht durch den Besitz der neuesten und leistungsstärksten Silizium-Chips, sondern durch die Zuweisung jedes Workloads an die effizienteste Ressource.

Die souveräne Dimension, die das Design bestimmt

Souveränität wird zu einer bestimmenden Einschränkung für die AI-Infrastruktur. Gesetze zur Datenresidenz, AI-Governance-Frameworks und Anforderungen der nationalen Sicherheit erfordern zunehmend, dass Workloads innerhalb spezifischer Jurisdiktionen verbleiben.

Dadurch ist Rechenkapazität grenzüberschreitend weit weniger austauschbar als im Trainingszeitalter. So wie eine internationale Sendung den Zoll nicht umgehen kann, darf eine Datenabfrage eines Nutzers mit Sitz in Deutschland rechtlich nicht immer auf einem Server in Virginia, USA, verarbeitet werden.

Während Initiativen für souveräne AI in Europa, dem Nahen Osten und Asien an Fahrt gewinnen, wird Infrastruktur innerhalb einer regulatorischen Landkarte aufgebaut und nicht darauf aufgesetzt. Unternehmen, die Souveränität als Compliance-Übung und nicht als zentrales Designprinzip betrachten, riskieren, von einem wachsenden Anteil globaler AI-Workloads ausgeschlossen zu werden.

Die Grundlage für AI im nächsten Jahrzehnt schaffen

Die Unternehmen, die bei diesem Wandel zur Inferenz erfolgreich sind, werden diejenigen sein, die bereits als Netzwerk strukturiert sind. Mehrere Metropolregionen, mehrere Regionen, mehrere souveräne Rechtsgebiete – alles verbunden durch eine Softwareebene, die Datenkapazitäten in Millisekunden verschieben kann.

Die dominierende Einheit der AI-Infrastruktur für den Rest des Jahrzehnts ist nicht der Gigawatt-Campus. Es ist der Metro-Hub, der regionale Point of Presence (POP) und der souveräne Knoten. Ein durch softwaredefiniertes Routing vernetztes Netzwerk, das Rechenleistung als dynamische, zuweisbare Ressource und nicht als feste Adresse behandelt.

Die besten Frachtzentren leiten Pakete nicht nur effizient weiter; sie bringen alle richtigen Partner unter einem Dach zusammen, sorgen für Flexibilität und gewährleisten nahtlose Übergaben. Das ist es, was Vernetzung für AI-Workloads leistet.

Digital Realty entwickelt dies seit zwei Jahrzehnten. Unsere globale Rechenzentrumsplattform, PlatformDIGITAL®, wurde entwickelt, um skalierbare Colocation und sichere Vernetzung bereitzustellen, die Ihnen helfen, schneller zu agieren, Risiken zu reduzieren und Ihre AI-Infrastruktur in einen Wettbewerbsvorteil zu verwandeln.

Die erste Ära der AI-Infrastruktur beantwortete eine Frage: Wo platzieren wir das größte Modell? Die nächste Ära beantwortet eine andere: Wie erreicht eine Abfrage den richtigen Chip, am richtigen Ort, zur richtigen Zeit, zu den niedrigsten Kosten?

Starten Sie Ihre Karriere mit den Praktikumsmöglichkeiten von Digital Realty