Un héritage d'innovation : Une longueur d'avance sur le refroidissement avancé pour l'IA et le HPC

Réflexions sur 2023 et perspectives pour 2024 

La fin de l’année est le moment idéal pour faire le point sur les réussites et les enseignements tirés, et voir comment nous nous appuyons sur le passé tout en préparant l’avenir. 

L’intelligence artificielle (IA) et le calcul haute performance (high-performance computing ; HPC) sont devenus des domaines clés propices à l’innovation et à la transformation des entreprises. 

Pour les responsables informatiques, le défi consiste à gérer ces charges de travail à haute densité avec la bonne infrastructure IT. De plus, la communauté s’intéresse de plus en plus aux technologies de refroidissement avancées, comme le refroidissement liquide.

Alors que le refroidissement liquide direct (direct liquid cooling ; DLC) est déployé en data centers aujourd’hui plus que jamais, cela vous surprend-il d’apprendre que chez Digital Realty, cela fait depuis 2015 que nous l’intégrons dans nos designs de data centers ? Saviez-vous également que le refroidissement liquide n’est pas toujours le bon choix pour chaque workload IA ou HPC à haute densité ?

Dans cet article, j’aborderai les principes fondamentaux des besoins de refroidissement des Data Centers pour les charges de travail à haute densité telles que l’IA et le HPC, et comment l’héritage d’innovation de Digital Realty nous a préparés à répondre à l’accélération de la demande de techniques de refroidissement avancé en tout genre, y compris le refroidissement liquide. 

Je présenterai également des études de cas issues de notre parcours d’innovation, qui démontrent que favoriser l’innovation consiste à disposer de la stratégie et des partenaires adaptés, plutôt que de s’appuyer sur une approche universelle.

Besoins en refroidissement des charges de travail à haute densité

La densité d’un déploiement d’IA ou de HPC détermine ses besoins uniques en matière de refroidissement. 

Les besoins en densité de puissance pour l’IA et le HPC peuvent être 5 à 10 fois supérieurs à ceux d’autres cas d’usage de Data Center. Les charges de travail traditionnelles sont généralement de l’ordre de 5 à 8 kW par rack. 

En 2024, il est probable que certains équipements informatiques permettent d’atteindre des densités de puissance supérieures à 100 kW/rack et que la densité maximale dans le Data Center puisse atteindre 150 kW/rack au cours des deux prochaines années. 

Les densités de charge de travail traditionnelles peuvent être refroidies par air, cependant, d’une manière générale, la plupart des flux de travail d’IA et de HPC nécessitent un refroidissement spécialisé tel que le refroidissement liquide direct (DLC), le refroidissement liquide assisté par air (AALC) ou un échangeur de chaleur à porte arrière.

Toutes les charges de travail d’IA & HPC ne nécessitent pas un refroidissement liquide 

Les exigences en matière de refroidissement liquide varient selon le fournisseur de matériel, le matériel spécifique lui-même et le type de charge de travail. Le refroidissement liquide n’est pas adapté à tous les matériels ni à tous les scénarios. 

Même à l’ère de l’IA, tous les racks ne consommeront pas 100 kW, et ne nécessiteront peut-être même pas de refroidissement avancé spécialisé. 

Par exemple, les déploiements d’inférence ont tendance à être moins énergivores que les déploiements d’entraînement, et peuvent être refroidis grâce à des techniques traditionnelles de refroidissement par air. L’apprentissage automatique nécessite moins de ressources, tandis que l’apprentissage profond et l’IA générative nécessitent des environnements massifs en raison de leur complexité. 

Il est important pour les responsables informatiques de comprendre que les différents workloads d’IA et de HPC ont des besoins de refroidissement distincts et que tous les partenaires de Data Center ne disposeront pas des connaissances spécialisées ou des capacités d’infrastructure nécessaires pour prendre en charge cette technologie. 

Les exigences propres à chaque déploiement étant différentes, il est essentiel de collaborer avec un partenaire capable de concevoir une solution sur mesure plutôt que de s’appuyer sur une approche universelle. C’est pourquoi l’expertise historique de Digital Realty en matière de conception de Data Center avec refroidissement avancé fait toute la différence pour nos clients.

Stratégies pour l’innovation 

La plateforme mondiale de data centers de Digital Realty, PlatformDIGITAL^®, a été choisie pour héberger de nombreuses charges de travail révolutionnaires d’IA et de HPC.

Nous avons appris que, pour favoriser l’innovation, quelques stratégies clés nous permettent non seulement de suivre le rythme de la technologie, mais aussi de garder une longueur d’avance.

Les stratégies informatiques pour soutenir les flux de travail d'IA et de HPC doivent permettre : 

• Agilité
• Échelle
• Croissance durable 

Ces études de cas issues de notre propre parcours d’innovation au cours de la dernière décennie illustrent ces stratégies en action. Elles démontrent également comment notre expertise et notre stratégie d’innovation nous aident à identifier la solution adaptée à la situation plutôt que de nous appuyer sur une approche universelle. 

Études de cas sur l'innovation 

Permettre le passage à l’échelle : un moteur de trading à haute capacité avec refroidissement liquide  

2015 a été une année de transformation pour nous chez Digital Realty ; c’était également ma première année au sein de l’entreprise. Nous avons entrepris un projet ambitieux visant à bâtir les fondations d’une entreprise mondiale de services financiers spécialisée dans le trading algorithmique à haute fréquence. 

Une part importante de cette initiative a consisté en un passage stratégique du refroidissement traditionnel par air au refroidissement liquide avancé jusqu’au niveau des puces afin de prendre en charge les clusters HPC. Cette prouesse technique a non seulement amélioré l’efficacité du système de refroidissement, mais nous a également permis de faire évoluer notre technologie afin de continuer à accompagner notre client à mesure que son déploiement atteignait près de 6 MW. 

Nous savions qu'investir dans la technologie de refroidissement liquide de nouvelle génération était une décision qui permettrait à notre client d’aller au-delà de ses besoins immédiats et de mettre en place des capacités axées sur le développement durable et l’évolutivité à long terme.   

Favoriser une croissance durable : le calcul haute performance avec une conception adaptable 

Nous nous sommes récemment associés à un client européen pour développer un environnement de supercalculateur sophistiqué comprenant jusqu’à 70 kW par rack dans un environnement mixte. Le client avait besoin d’effectuer un déploiement rapide tout en se conformant aux nouvelles réglementations en matière de développement durable. 

Il n’était pas envisageable d’attendre de 3 à 5 ans pour construire un nouveau data center ; c’est pourquoi notre capacité à moderniser des installations existantes permet à nos clients d’être opérationnels plus rapidement. En nous appuyant sur une installation économe en énergie construite en 2013, nous avons pu répondre à ses exigences strictes en matière de puissance haute densité et de connectivité avec un minimum de modifications de notre installation. Cela a permis un déploiement 400 % plus rapide.¹ 

Notre client prévoyait une amélioration de 30 % de l’efficacité énergétique en passant au refroidissement liquide.¹ Il a également bénéficié du système de refroidissement par stockage Aquifer Thermal Energy (ATES) de Digital Realty ainsi que de sources d’énergie entièrement renouvelables pour atteindre les objectifs de CO₂ fixés par les réglementations locales en matière de développement durable. 

Notre capacité à développer des conceptions de rétrofit démontre notre engagement en faveur d’une conception à la fois de pointe et agile, qui permet une croissance durable et opportune. Nos principes de conception garantissent que notre infrastructure répondra non seulement aux besoins actuels, mais aussi aux exigences des décennies à venir.

Favoriser l’agilité : un déploiement d’IA générative flexible et pérenne 

Aujourd’hui, nous jouons un rôle clé dans l’avancement de l’IA générative (GenIA). Nous travaillons avec un client qui intègre plus de 30 000 des GPU les plus avancés au sein d’une plateforme massive.

Pour permettre des performances de calcul avancées, le déploiement nécessite que chaque GPU soit connecté au sein d'un cluster de calcul unique. Ils avaient besoin d'un fournisseur de plateforme de Data Center capable de les aider à déployer rapidement pour commencer à tirer parti de leur investissement dans les GPU, ce qui était d'autant plus difficile compte tenu de leurs exigences de conception spécialisées.

Notre stratégie d’investissement vise à anticiper la demande future, ce qui nous a permis de leur proposer un site prêt pour l’aménagement avec des plans déjà prêts. Notre approche de conception agile et modulaire nous a permis de résoudre leurs défis de conception complexes tout en conservant 99 % de la conception d’origine, ce qui nous a permis de commencer la construction plus tôt.

Notre approche agile leur permettra de déployer en 12 mois seulement, au lieu des 36 mois nécessaires pour une construction sur mesure.¹ Les besoins de nos clients évoluent rapidement, tout comme les technologies et les solutions permettant d’y répondre ; c’est pourquoi l’agilité doit être une stratégie centrale pour favoriser l’innovation. 

Bien qu’il s’agisse de la définition d’une charge de travail d’IA avancée, le refroidissement liquide direct n’était pas le meilleur choix pour le refroidissement. C’est un bon exemple de la raison pour laquelle une approche universelle du refroidissement des charges de travail à haute densité ne fonctionne pas.

Au-delà de l’infrastructure : favoriser une culture de l’innovation  

Autre élément fondamental pour mettre en œuvre ces stratégies d’innovation : votre équipe. Pour tous les responsables informatiques, il est important de se rappeler que nos réalisations ne concernent pas seulement l’infrastructure ; elles concernent la culture de l’innovation que nous avons cultivée.

Chez Digital Realty, nos équipes talentueuses s’appuient sur un héritage d’innovation et d’ingénierie pour lequel nous avons reçu de nombreuses récompenses en tant que pionniers dans le secteur des datacenters.

Notre culture de l'innovation chez Digital Realty permet de nous aligner sur nos clients, garantissant ainsi à nos partenaires la certitude de pouvoir se développer aux côtés de Digital Realty sur le long terme. 

Une vision pour l'avenir  

Mon rôle en tant que Chief Technology Officer chez Digital Realty consiste à comprendre les besoins technologiques de nos clients et à veiller à ce que Digital Realty puisse répondre à ces besoins, non seulement aujourd’hui, mais aussi demain. 

Alors que nous nous tournons vers l’avenir, nous restons déterminés non seulement à participer au paysage technologique, mais aussi à le façonner activement. Notre mission est de permettre l’innovation de nos clients en favorisant l’agilité, la mise à l’échelle et une croissance durable.

La durabilité revêt une importance particulière pour nous. Nous continuons d’élargir notre couverture des sources d’énergie sans carbone et renouvelables afin de suivre le rythme de la demande des clients – nous avons plus de 1 gigawatt d’énergie solaire et éolienne sous contrat -- et avons commencé à utiliser des solutions d’alimentation électrique secondaire à carburant alternatif afin de réduire davantage le Carbon Footprint de nos data centers sur l’ensemble de leur cycle de vie.

Nous nous concentrerons sur l’application de la meilleure technologie au moment opportun pour répondre aux besoins de nos clients, plutôt que de déployer aveuglément le statu quo et de contraindre les clients de demain à accepter les limites d’hier. C’est cette approche qui a permis à Digital Realty de répondre aux exemples mis en avant tout au long de cet article, ainsi qu’à toutes sortes d’autres besoins des clients à travers le monde.

Notre adaptabilité, notre esprit d’innovation et notre riche héritage font de nous une entreprise unique et pérenne dans le monde des technologies en constante évolution.

Bâtir un héritage d’innovation ne se fait pas du jour au lendemain, mais chez Digital Realty, nous avons appris que nous allons toujours dans la bonne direction lorsque nous restons fidèles à nos valeurs et nous concentrons sur la meilleure façon de répondre aux besoins de nos clients. 

Rejoignez-nous chez Digital Realty alors que nous continuons à définir l’avenir de la technologie. Restez innovant, contactez-nous, et déployons l’IA et le HPC de manière à transformer votre organisation.  

En savoir plus sur l’infrastructure de Data Center prête pour l’IA : 

• Exploiter le potentiel de l'IA et naviguer dans la disruption avec Digital Realty
• Les data centers sont-ils obsolètes à l’heure de l’IA ? Pas selon nous
• Intégrer l’IA à l’infrastructure existante 

¹ Résultats projetés pour ce client par rapport à son infrastructure existante avant son déploiement et sa connexion sur PlatformDIGITAL®, ou par rapport aux solutions alternatives disponibles au moment de l’achat.