Un legado de innovación: a la vanguardia en refrigeración avanzada para IA y HPC

Reflexiones sobre 2023 y perspectivas para 2024 

El final del año es un buen momento para mirar hacia atrás, reflexionar sobre los logros y las lecciones aprendidas, y sobre cómo nos basamos en el pasado para planificar el futuro. 

La inteligencia artificial (IA) y la computación de alto rendimiento (HPC) han surgido como áreas clave de oportunidad para la innovación y la transformación empresarial. 

El reto para los líderes de TI es habilitar estas cargas de trabajo de alta densidad con la infraestructura IT adecuada, y cada vez más la comunidad debate sobre tecnologías avanzadas de refrigeración, como la refrigeración líquida.

Aunque la refrigeración líquida directa (DLC) se está desplegando en los centros de datos hoy más que nunca, ¿le sorprendería saber que la hemos estado implementando en nuestros diseños de centros de datos en Digital Realty desde 2015? ¿Sabía también que la refrigeración líquida no siempre es la opción correcta para todas las cargas de trabajo de IA o HPC de alta densidad?

En esta publicación, abordaré los conceptos básicos de las necesidades de refrigeración de los centros de datos para cargas de trabajo de alta densidad, como la IA y la HPC, y cómo el legado de innovación de Digital Realty nos ha preparado para apoyar la aceleración de la demanda de técnicas avanzadas de refrigeración de todo tipo, incluida la refrigeración líquida. 

También compartiré estudios de casos de nuestro viaje hacia la innovación que demuestran cómo posibilitar la innovación consiste en contar con la estrategia y los socios adecuados, en lugar de un enfoque único.

Necesidades de refrigeración de cargas de trabajo de alta densidad

La densidad de un despliegue de IA o HPC determina sus necesidades de refrigeración únicas. 

Los requisitos de densidad de potencia para la IA y la HPC pueden ser de 5 a 10 veces superiores a los de otros casos de uso de los centros de datos. Las cargas de trabajo tradicionales suelen oscilar entre 5 y 8 kW por rack. 

En 2024, es probable que algún hardware de computación permita densidades de energía superiores a 100 kW/rack y que la densidad máxima en el centro de datos alcance los 150 kW/rack en los próximos dos años. 

Las densidades de carga de trabajo tradicionales pueden ser refrigeradas por aire, sin embargo, en términos generales, la mayoría de los flujos de trabajo de IA y HPC requieren una refrigeración especializada como la refrigeración líquida directa (DLC), refrigeración líquida asistida por aire (AALC), o un intercambiador de calor de puerta trasera.

No todas las cargas de trabajo de IA y HPC requieren refrigeración líquida. 

Los requisitos para la refrigeración líquida varían según el proveedor de hardware, el propio hardware específico y el tipo de carga de trabajo. La refrigeración líquida no es adecuada para todo el hardware ni para todos los escenarios. 

Incluso en la era de la IA, no todos los racks consumirán 100 kW, y puede que ni siquiera requieran refrigeración avanzada especializada. 

Por ejemplo, los despliegues de inferencia tienden a consumir menos energía que los despliegues de entrenamiento y pueden ser enfriados con técnicas de refrigeración por aire tradicionales. El aprendizaje automático requiere menos recursos, mientras que el aprendizaje profundo y la IA generativa requieren entornos masivos debido a su complejidad. 

Es importante que los líderes de TI comprendan que diferentes cargas de trabajo de IA y HPC tienen diferentes necesidades de refrigeración y que no todos los socios de centros de datos dispondrán del conocimiento especializado o de la infraestructura necesaria para habilitar la tecnología. 

Los requisitos para cada despliegue varían, por lo que es importante trabajar con un socio que diseñe una solución personalizada y no dependa de un enfoque único para todos. Por eso, el legado de experiencia en diseño de centros de datos con refrigeración avanzada de Digital Realty marca la diferencia para nuestros clientes.

Estrategias para la innovación 

La plataforma global de centros de datos de Digital Realty, PlatformDIGITAL^®, fue elegida para ser el hogar de muchas cargas de trabajo innovadoras de IA y HPC.

Hemos aprendido que, para permitir la innovación, unas cuantas estrategias clave nos ayudan no solo a mantenernos al día con la tecnología, sino a mantenernos un paso por delante.

Las estrategias de TI para apoyar flujos de trabajo de IA y HPC deben permitir: 

• Agilidad
• Escala
• Crecimiento sostenible 

Estos casos de estudio de nuestra propia trayectoria de innovación durante la última década destacan estas estrategias en acción. También demuestran cómo nuestra experiencia y estrategia de innovación nos ayudan a identificar la solución adecuada para cada situación en lugar de basarnos en un enfoque único. 

Estudios de casos de innovación 

Habilitar escala: un motor de negociación de alta capacidad con refrigeración líquida  

2015 fue un año de transformación para nosotros en Digital Realty; también fue mi primer año en la Empresa. Nos embarcamos en un ambicioso proyecto para sentar las bases de una Empresa global de servicios financieros especializada en trading algorítmico de alta frecuencia. 

Una parte importante de esta empresa consistió en un cambio estratégico de la refrigeración por aire tradicional a la refrigeración líquida avanzada hasta el nivel de los chips para dar soporte a los clústeres de HPC. Esta hazaña de ingeniería no solo mejoró la eficiencia del sistema de refrigeración, sino que también nos permitió escalar nuestra tecnología para seguir apoyando a nuestro cliente a medida que su despliegue crecía hasta casi 6 MW. 

Invertir en tecnología de refrigeración líquida de próxima generación fue una decisión que sabíamos que permitiría a nuestro cliente superar sus necesidades inmediatas y establecer una capacidad centrada en la escalabilidad y Sostenibilidad a largo plazo.   

Permitir un crecimiento sostenible: supercomputación con un diseño adaptable 

Hace poco, nos asociamos con un cliente europeo para desarrollar un entorno de supercomputación sofisticado que incluía hasta 70 kW por rack en un entorno mixto. El cliente necesitaba desplegar rápidamente y cumplir con las nuevas normativas de Sostenibilidad. 

Esperar de 3 a 5 años para construir un nuevo centro de datos no era una opción, por lo que nuestra capacidad para modernizar las instalaciones existentes permite a los clientes ponerse en marcha más rápidamente. Al elegir una instalación energéticamente eficiente que construimos en 2013, pudimos cumplir con sus exigentes requisitos de alta densidad de potencia y conectividad con cambios mínimos en nuestra instalación. Esto ^permitió una implementación un 400% más rápida.1 

Nuestro cliente proyectó una mejora del 30% en la eficiencia energética al cambiar a la refrigeración líquida.¹ También se beneficiaron del sistema de refrigeración de almacenamiento térmico de energía acuífera (ATES) de Digital Realty y de fuentes de Energía renovable para alcanzar los objetivos de CO2 establecidos por las normativas locales de Sostenibilidad. 

Nuestra capacidad para desarrollar diseños de adaptación muestra nuestro compromiso tanto con el diseño de vanguardia como con el diseño ágil que permite un crecimiento sostenible y oportuno. Nuestros principios de diseño garantizan que nuestra infraestructura satisfaga no solo las necesidades actuales, sino también los requisitos de las próximas décadas.

Habilitar la agilidad: un despliegue de IA generativa flexible y preparado para el futuro 

Hoy, desempeñamos un papel clave en el avance de la IA generativa (GenAI). Estamos trabajando con un cliente que está integrando más de 30.000 de las GPU más avanzadas en una plataforma masiva.

Para permitir un rendimiento informático avanzado, la implementación requiere que todas las GPU estén conectadas en un único clúster informático. Necesitaban un proveedor de plataformas para centros de datos que pudiera ayudarles a desplegarlas rápidamente para empezar a obtener el valor de su inversión en GPU, lo que suponía un reto aún mayor dados sus requisitos de diseño especializados.

Nuestra estrategia de inversión tiene como objetivo anticipar la demanda futura, lo que nos ha permitido emparejarla con una instalación que estaba lista para funcionar con los diseños preparados. Nuestro enfoque de diseño ágil y modular nos permitió resolver sus complejos desafíos de diseño y, al mismo tiempo, mantener el 99% del diseño original, lo que significaba que podíamos empezar a construir antes.

Nuestro enfoque ágil les permitirá desplegar en tan solo 12 meses en lugar de los 36 meses que requerirían con una construcción personalizada.¹ Los requisitos de nuestros clientes cambian rápidamente, al igual que la tecnología y las soluciones para satisfacerlos; por eso la agilidad debe ser una estrategia fundamental para permitir la innovación. 

A pesar de que esta es la definición de carga de trabajo de IA avanzada, la refrigeración líquida directa no era la mejor opción de refrigeración. Este es un buen ejemplo de por qué un enfoque único para la refrigeración de cargas de trabajo de alta densidad no funciona.

Más allá de la infraestructura: fomentar una cultura de innovación  

Para ejecutar estas estrategias de innovación, otro elemento clave es su equipo de personas. Para todos los líderes de TI, es importante recordar que nuestros logros no tienen que ver solo con la infraestructura, sino con la cultura de la innovación que hemos cultivado.

En Digital Realty, nuestros talentosos equipos aportan un legado de innovación e ingeniería por el cual hemos recibido múltiples premios como pioneros en el espacio de centros de datos.

Nuestra cultura de innovación en Digital Realty permite alinearnos con nuestros clientes y garantizar que nuestros socios se sientan cómodos de que pueden crecer con Digital Realty en un futuro lejano. 

Una visión para el futuro  

Mi función como director de tecnología en Digital Realty consiste en entender las necesidades tecnológicas de nuestros clientes y garantizar que Digital Realty pueda satisfacer esas necesidades, no solo hoy, sino también mañana. 

Al mirar hacia el futuro, seguimos dedicados no solo a participar en el panorama tecnológico, sino a moldearlo activamente. Nuestra misión es hacer posible la innovación de nuestros clientes mediante la agilidad, la escala y el crecimiento sostenible.

La sostenibilidad es especialmente importante para nosotros. Seguimos ampliando nuestra cobertura de fuentes de energía renovables y libres de carbono para seguir el ritmo de la demanda de los clientes (tenemos más de 1 gigavatio de energía solar y eólica bajo contrato) y hemos empezado a utilizar soluciones de energía secundaria de combustibles alternativos para reducir aún más la huella de carbono del ciclo de vida de nuestros centros de datos.

Nos centraremos en aplicar la mejor tecnología a tiempo para satisfacer las necesidades de nuestros clientes, en lugar de desplegar por completo el statu quo y obligar a los clientes del mañana a aceptar las limitaciones de ayer. Este enfoque es lo que ha permitido a Digital Realty atender los ejemplos destacados a lo largo de esta publicación, así como todo tipo de necesidades de los clientes en todo el mundo.

Nuestra adaptabilidad, espíritu innovador y rica herencia son lo que nos convierte en una empresa única y duradera en el mundo en constante evolución de la tecnología.

Construir un legado de innovación no ocurre de la noche a la mañana, pero en Digital Realty hemos aprendido que siempre avanzamos en la dirección correcta cuando somos fieles a nuestros valores y centrados en cómo podemos servir mejor a las necesidades de nuestros clientes. 

Únete a nosotros en Digital Realty mientras seguimos definiendo el futuro de la tecnología. Mantente innovador, contacta con nosotros y desplieguemos IA y HPC de una manera que transforme tu organización.  

Más información sobre infraestructura de centro de datos preparada para la IA: 

• Aprovecha el potencial de la IA y navega por la disrupción desde un centro de datos especializado
• ¿Están obsoletos los centros de datos en la era de la inteligencia artificial? No desde nuestra perspectiva
• Integración de la IA con la infraestructura heredada 

¹ Resultados proyectados para este cliente en comparación con su infraestructura existente antes de ser desplegada y conectada a PlatformDIGITAL®, o en comparación con las soluciones alternativas disponibles en el momento de la compra.