Conception de Data Center à l'ère de l'IA : intégrer l'IA à l'infrastructure existante

Il s'agit de la troisième partie de notre série de blogs en trois parties sur l'intelligence artificielle (IA) et l'infrastructure des data center prête pour l'IA.

• Lisez la partie 1 : Exploiter le potentiel de l’IA et naviguer dans la disruption avec Digital Realty
• Lire la partie 2 : Les data centers sont-ils obsolètes à l’heure de l’IA ? Pas selon nous !
• Poursuivez votre lecture pour la Partie 3

À l’ère de l’intelligence artificielle (IA), comment les entreprises peuvent-elles évaluer si la conception de leur Data Center existant peut pleinement répondre aux exigences modernes requises pour faire fonctionner l’IA ? Il existe des considérations majeures lorsque les responsables informatiques développent leurs stratégies d’IA et évaluent le paysage de leur infrastructure.

Ce blog examine :

• Qu’est-ce qui est considéré comme une infrastructure IT existante ?
• Comment intégrer de nouveaux équipements d’IA à l’infrastructure existante.
• Évaluer la conception du Data Center et l'infrastructure existante.
• L'art de la rénovation de Data Center.

Bien que les workflows d’IA soulèvent de nouveaux défis et interrogations concernant des besoins spécifiques en matière d’alimentation électrique et de refroidissement, les responsables informatiques devraient évaluer la conception actuelle de leur Data Center afin de l’adapter aux besoins modernes émergents et évolutifs.

Qu’est-ce qu’une infrastructure IT existante ?

Identifier les infrastructures existantes relève en partie de l’intuition, et en partie de l’expérience. Du point de vue des équipements informatiques, nous pourrions supposer que tout ce qui n’est pas à la pointe de la technologie est obsolète. Cependant, ce n’est souvent pas le cas. 

De nombreux systèmes informatiques dans le monde ne fonctionnent pas sur le matériel le plus récent et le plus performant. Cette situation va perdurer en raison des cycles habituels de budget, de dépenses, et de renouvellement des équipements, des acteurs du Cloud hyperscale aux petites entreprises.

Même à l’ère de l’IA, tous les racks ne consommeront pas 100 kW ou n’auront pas besoin d’un refroidissement liquide. Les racks remplis d’équipements réseau, d’agrégation de mémoire ou de stockage peuvent toujours être en dessous de 15 kW chacun et dépendre d’un refroidissement par air. 

Il devient difficile de classer une infrastructure IT comme héritée ou non sur la seule base de sa consommation d’énergie. Divers benchmarks sectoriels montrent que les nouvelles générations d’unités centrales de traitement (CPU), de processeurs graphiques (GPU), d’équipements réseau et d’autres composants d’infrastructure IT sont nettement plus rapides que leurs prédécesseurs, mais cela seul ne suffit souvent pas à désigner les équipements existants comme des infrastructures héritées. 

Le meilleur test consiste à déterminer si l’infrastructure actuelle freine le développement et les activités opérationnelles de l’organisation d’une manière que les nouvelles générations d’équipements ne feraient pas.

Si c’est le cas, elle doit être classée comme infrastructure existante.

Intégrer l’IA à l’infrastructure IT existante 

Dans le cas des équipements informatiques, on peut envisager l’intégration de l’IA soit comme l’utilisation des serveurs existants et de leurs équipements associés pour exécuter de nouvelles fonctions d’IA, soit comme le renforcement du matériel déployé à l’aide de nouveaux équipements spécifiques à l’IA pour exécuter de nouvelles fonctions d’IA. 

Un exemple de ce dernier cas consiste à prendre une baie existante de serveurs basés sur des CPU et à ajouter deux nouveaux serveurs basés sur des GPU pour fournir une plus grande puissance de calcul parallèle afin de déployer un chatbot auprès des utilisateurs internes d’une entreprise.

Cela peut sembler plus simple que d’accueillir un nouveau déploiement IA à haute densité, mais cela comporte trois séries de défis :

• L’ajout de serveurs équipés de GPU dans une allée par ailleurs à faible densité de racks peut créer des points chauds que le système de refroidissement du bâtiment n’a pas été initialement conçu pour prendre en charge.
• Cela peut créer des charges électriques inégales dans l’ensemble de l’installation et entraîner la nécessité de réallouer les ressources d’alimentation de secours.
• Cela peut entraîner une congestion du réseau, car le nouvel équipement multiplie les données transférées par rack. 

Ces facteurs peuvent entraîner une nouvelle pression sur le Data Center, que vous devriez considérer comme faisant partie de votre pile informatique elle-même.

Évaluer la conception du Data Center et l'infrastructure existante 

Le Data Center fait tout autant partie de votre Infrastructure IT que les serveurs que vous y déployez, et nous devrions donc examiner comment ce concept d'infrastructure existante s'applique également aux installations du Data Center.

Sur le plan technologique, le secteur des Data Centers ne date pas d’hier. À elle seule, Digital Realty prend en charge environ 2,4 gigawatts d’équipements informatiques clients à l’échelle mondiale, et cela ne s’est pas fait du jour au lendemain. 

Depuis notre création en 2004, nous avons progressivement augmenté notre capacité mondiale de data centers chaque année, et l’ensemble des équipements clients situés dans ces installations ne disparaît pas. De nombreuses organisations remplacent tous leurs serveurs tous les trois à cinq ans, mais certains serveurs peuvent être déployés pendant une durée allant jusqu’à huit ans. Lorsque les équipements sont remplacés, cela se fait par phases, afin que les applications de l’organisation fonctionnent sans véritable interruption de service.

Cela signifie que le data center est toujours opérationnel. Un opérateur de data center ne peut pas simplement retirer tous les équipements informatiques de ses clients, effectuer une mise à niveau complète de l’installation, puis les remettre en place. Avec le temps, le parc d’équipements des clients dans le data center comprendra généralement des équipements existants et des équipements plus récents. 

De plus, à mesure que l’infrastructure du data center elle-même vieillit, certaines de ses propres caractéristiques, telles que la conception de ses flux d’air, la construction des sols, et la prise en charge du refroidissement liquide, peuvent ne pas être idéalement adaptées à tous les équipements que les clients souhaitent déployer. 

Par exemple, de nombreuses installations de data centers utilisent une conception avec plancher surélevé : les équipements d’IA entraînent des densités de racks plus élevées, non seulement en termes de consommation électrique, mais aussi en raison de leur poids. Dans certains cas, ces racks peuvent nécessiter un plancher en dalle de béton solide.

Cela signifie que, pour certains cas d'usage, certains data centers peuvent correspondre à notre définition d'infrastructure existante.

Cependant, un data center bien conçu est bien plus flexible en ce qui concerne les mises à niveau au fil du temps qu’un serveur ou un ensemble d’équipements informatiques répartis sur plusieurs baies. Un data center peut durer plus de 15 à 20 ans, selon la façon dont l’opérateur le conçoit, le modernise et le modularise au fil du temps. 

L’IA a entraîné une transformation radicale de la densité par rack et d’autres exigences qui ont un impact sur le data center. Souvent, l’opérateur du data center peut moderniser certaines parties de l’installation pour répondre à ces nouveaux besoins.

L'art du rétrofit de conception de Data Center

Ce processus est appelé modernisation, et l’art de la modernisation est un élément clé de la capacité de l’opérateur de data center à concevoir des data centers efficaces pour les générations actuelles et futures de serveurs et d’autres infrastructures IT. Imaginez une ancienne installation de data center conçue à l’origine pour une moyenne de 10 kW par rack. Avec l’émergence de l’IA, cette même installation pourrait devoir prendre en charge 100 kW par rack sans avoir le luxe d’un arrêt total et d’une refonte complète.

La flexibilité permettant de prendre en charge ces types de changements apportés au Data Center au fil du temps est un élément clé de la manière dont nous concevons et exploitons nos data centers. Par exemple :

• Lorsqu'un plancher surélevé n'est plus nécessaire, il peut être comblé.
• Lorsque le refroidissement liquide est requis, nous pouvons acheminer une tuyauterie depuis une nouvelle unité de refroidissement et un réservoir jusqu'à la baie.
• Lorsque de nouvelles capacités réseau sont requises, nous pouvons apporter une connectivité supplémentaire et optimiser l'ensemble des actifs réseau au sein même de l'installation pour s'y adapter.