Un'eredità di innovazione: all'avanguardia nel raffreddamento avanzato per AI e HPC

Riflessioni sul 2023 e uno sguardo al 2024 

La fine dell'anno è un ottimo momento per guardare indietro e riflettere sui risultati raggiunti e sulle lezioni apprese, e su come stiamo mettendo a frutto il passato mentre pianifichiamo il futuro. 

L'intelligenza artificiale (AI) e l'high-performance computing (HPC) sono emerse come aree di opportunità importantissime per l'innovazione e la trasformazione aziendale. 

La sfida per i responsabili IT è quella di supportare questi carichi di lavoro ad alta densità con l'infrastruttura IT adeguata, e sempre più spesso si parla di tecnologie di raffreddamento avanzate come il raffreddamento a liquido.

Sebbene il raffreddamento a liquido diretto (DLC) venga oggi adottato più che mai nei data center, ti sorprenderebbe sapere che lo utilizziamo nei nostri progetti per i data center di Digital Realty dal 2015? Sapevi anche che il raffreddamento a liquido non è sempre la scelta giusta per ogni carico di lavoro ad alta densità di AI o HPC?

In questo post, tratterò le basi delle esigenze di raffreddamento dei data center per carichi di lavoro ad alta densità come AI e HPC, e come l'eredità di innovazione di Digital Realty ci abbia preparato a supportare l'accelerazione della domanda per tecniche di raffreddamento avanzate di ogni tipo, incluso il raffreddamento a liquido. 

Condividerò anche alcuni casi di studio tratti dal nostro percorso di innovazione che dimostrano come, per favorire l'innovazione, sia fondamentale avere la strategia giusta e i partner giusti, piuttosto che un approccio standardizzato.

Fabbisogno di raffreddamento per carichi di lavoro ad alta densità

La densità di un'implementazione AI o HPC determina le sue esigenze di raffreddamento specifiche. 

I requisiti di densità di potenza per AI e HPC possono essere da 5 a 10 volte superiori rispetto ad altri casi d'uso dei data center. I carichi di lavoro tradizionali si attestano generalmente nella gamma di 5–8 kW per rack. 

Nel 2024, è probabile che alcuni componenti hardware per il calcolo possano raggiungere densità di potenza superiori a 100 kW/rack e che la densità di picco nei data center possa arrivare a 150 kW/rack nei prossimi due anni. 

Le densità tradizionali di carico di lavoro possono essere raffreddate ad aria, ma in generale, la maggior parte dei flussi di lavoro di AI e HPC richiede un raffreddamento specializzato come il raffreddamento a liquido diretto (DLC), il raffreddamento a liquido con assistente ad aria (AALC) o uno scambiatore di calore a porta posteriore.

Non tutti i carichi di lavoro di AI e HPC richiedono il raffreddamento a liquido 

I requisiti per il raffreddamento a liquido variano a seconda del produttore hardware, dell'hardware specifico e del tipo di carico di lavoro. Il raffreddamento a liquido non è adatto a tutti gli hardware o a ogni scenario. 

Anche nell'era dell'AI, non tutti i rack consumeranno 100 kW e potrebbero persino non richiedere un sistema di raffreddamento avanzato e specializzato. 

Ad esempio, le implementazioni di inferenza tendono a consumare meno potenza rispetto alle implementazioni di addestramento e possono essere raffreddate con tecniche tradizionali di raffreddamento ad aria. Il machine learning richiede meno risorse, mentre il deep learning e l'AI generativa richiedono ambienti di grandi dimensioni a causa della loro complessità. 

È importante che i responsabili IT comprendano che i diversi carichi di lavoro di AI e calcolo ad alte prestazioni (HPC) hanno esigenze di raffreddamento differenti e che non tutti i partner di data center dispongono delle conoscenze specializzate o delle capacità infrastrutturali necessarie per supportare tali tecnologie. 

I requisiti di ogni implementazione variano, quindi è importante collaborare con un partner che progetti una soluzione personalizzata e non si affidi a un approccio standard uguale per tutti. Ecco perché la lunga esperienza di Digital Realty nella progettazione di data center, insieme a sistemi avanzati di raffreddamento, fa la differenza per i nostri clienti.

Strategie per l'innovazione 

La piattaforma globale di data center di Digital Realty, PlatformDIGITAL^®, è stata scelta per ospitare molti carichi di lavoro innovativi di AI e HPC.

Abbiamo imparato che, per favorire l'innovazione, alcune strategie chiave ci aiutano non solo a tenere il passo con la tecnologia, ma anche a restare un passo avanti.

Le strategie IT per supportare i flussi di lavoro AI e HPC devono consentire: 

• Agilità
• Scala
• Crescita sostenibile 

Questi casi di studio, tratti dal nostro percorso di innovazione degli ultimi dieci anni, mettono in luce queste strategie in azione. Dimostrano inoltre come la nostra competenza e la nostra strategia di innovazione ci aiutino a individuare la soluzione più adatta alla situazione, invece di affidarci a un approccio standardizzato. 

Studi di caso sull'innovazione 

Abilita la scalabilità: un motore di trading ad alta capacità con raffreddamento a liquido  

Il 2015 è stato un anno di svolta per noi di Digital Realty; è stato anche il mio primo anno in azienda. Abbiamo intrapreso un ambizioso progetto per costruire le basi di una società globale di servizi finanziari specializzata nel trading algoritmico ad alta frequenza. 

Una parte importante di questo progetto è stata la svolta strategica dal tradizionale raffreddamento ad aria a un sistema avanzato di raffreddamento a liquido fino al livello dei chip, per supportare i cluster HPC. Questa impresa ingegneristica non solo ha migliorato l'efficienza del sistema di raffreddamento, ma ci ha permesso anche di scalare la nostra tecnologia per continuare a supportare il nostro cliente mentre l'implementazione cresceva fino a quasi 6 MW. 

Investire in tecnologie di raffreddamento a liquido di nuova generazione è stata una decisione che sapevamo avrebbe permesso al nostro cliente di andare oltre le sue esigenze immediate e di stabilire una capacità con un focus sulla scalabilità a lungo termine e sostenibilità.   

Abilita la crescita sostenibile: supercalcolo con design adattabile 

Di recente, abbiamo collaborato con un cliente europeo per sviluppare un sofisticato ambiente di supercomputer che includeva fino a 70 kW per rack in un ambiente misto. Il cliente doveva implementare rapidamente e allo stesso tempo rispettare le nuove normative sulla sostenibilità. 

Attendere 3-5 anni per costruire un nuovo data center non era un'opzione, motivo per cui la nostra capacità di ammodernare le strutture esistenti consente ai clienti di essere operativi più velocemente. Prendendo un impianto ad alta efficienza energetica che abbiamo costruito nel 2013, siamo riusciti a soddisfare i requisiti esigenti per l'alta densità di potenza e connettività con modifiche minime al nostro impianto. Questo ha consentito una distribuzione del 400% più veloce.¹ 

Il nostro cliente ha previsto un miglioramento del 30% nell’efficienza energetica passando al raffreddamento a liquido.¹ Ha inoltre beneficiato del sistema di raffreddamento Aquifer Thermal Energy Storage (ATES) di Digital Realty e di fonti di energia completamente rinnovabili per raggiungere gli obiettivi di CO₂ stabiliti dalle normative locali sulla sostenibilità. 

La nostra capacità di sviluppare progetti di retrofit dimostra il nostro impegno verso una progettazione all’avanguardia e flessibile, che consenta una crescita sostenibile e tempestiva. I nostri principi di progettazione garantiscono che la nostra infrastruttura soddisfi non solo le esigenze attuali, ma anche quelle richieste a distanza di decenni.

Abilita l'agilità: un'implementazione di AI generativa flessibile e a prova di futuro 

Oggi stiamo svolgendo un ruolo chiave nell'avanzamento dell'AI generativa (GenAI). Stiamo collaborando con un cliente che sta integrando oltre 30.000 delle GPU più avanzate in un’unica piattaforma di grandi dimensioni.

Per consentire prestazioni di calcolo avanzate, la distribuzione richiede che ogni GPU sia collegata in un unico cluster di calcolo. Hanno avuto bisogno di un provider di piattaforme per data center che potesse aiutarli a distribuire rapidamente per iniziare a ottenere valore dall'investimento in GPU, un passo ancora più impegnativo date le particolari esigenze di progettazione.

La nostra strategia di investimento è volta ad anticipare la domanda futura, permettendoci di abbinarla a una struttura in shell pronta, con i progetti già definiti. Il nostro approccio di progettazione agile e modulare ci ha consentito di risolvere le complesse sfide progettuali mantenendo il 99% del progetto originale, ovvero che potevamo iniziare a costruire prima del previsto.

Il nostro approccio agile permetterà di implementare in soli 12 mesi invece dei 36 mesi che richiederebbero con una costruzione personalizzata.¹ I requisiti dei nostri clienti stanno cambiando rapidamente, così come la tecnologia e le soluzioni per soddisfarli – ecco perché l'agilità deve essere una strategia fondamentale per consentire l'innovazione. 

Anche se questa è la definizione di un carico di lavoro AI avanzato, il raffreddamento a liquido diretto non è stata la scelta migliore. Questo è un buon esempio del motivo per cui un approccio unico al raffreddamento dei carichi di lavoro ad alta densità non funziona.

Oltre le infrastrutture: promuovere una cultura dell'innovazione  

Per realizzare queste strategie di innovazione, un altro elemento fondamentale è il tuo team di persone. Per tutti i leader IT, è importante ricordare che i nostri risultati non riguardano solo l’infrastruttura: sono anche legati alla cultura dell’innovazione che abbiamo coltivato.

In Digital Realty, i nostri team di talento portano con sé un'eredità di innovazione e ingegneria per la quale abbiamo ricevuto numerosi premi come pionieri nel settore dei datacenter.

La nostra cultura dell’innovazione in Digital Realty ci permette di essere in sintonia con i nostri clienti, garantendo ai nostri partner la certezza di poter crescere insieme a Digital Realty anche in un futuro lontano. 

Una visione per il futuro  

Il mio ruolo come Chief Technology Officer di Digital Realty è comprendere le esigenze tecnologiche dei nostri clienti e garantire che Digital Realty possa supportare tali esigenze, non solo per oggi, ma anche per il futuro. 

Guardando in prospettiva, confermiamo il nostro impegno non solo a partecipare al panorama tecnologico, ma anche a plasmarlo attivamente. La nostra missione è sostenere l'innovazione dei nostri clienti favorendo l'agilità, la scalabilità e una crescita sostenibile.

La sostenibilità è particolarmente importante per noi. Continuiamo ad ampliare la nostra copertura di fonti di energia a zero emissioni di carbonio e rinnovabili per tenere il passo con la domanda dei clienti – abbiamo più di 1 gigawatt di energia solare ed eolica sotto contratto – e abbiamo iniziato a utilizzare soluzioni secondarie di energia a combustibili alternativi per ridurre ulteriormente la Carbon Footprint del ciclo di vita dei nostri data center.

Ci concentreremo sull'applicare la migliore tecnologia in tempo utile per soddisfare le esigenze dei nostri clienti, piuttosto che adottare in massa lo status quo e costringere i clienti di domani ad accettare i limiti di ieri. Questo approccio ha permesso a Digital Realty di soddisfare gli esempi evidenziati in questo post, così come ogni altra esigenza dei clienti in tutto il mondo.

La nostra capacità di adattamento, il nostro spirito innovativo e il nostro ricco patrimonio sono ciò che ci rende un’azienda unica e duratura nel mondo della tecnologia, in continua evoluzione.

Costruire un'eredità di innovazione non avviene da un giorno all'altro, ma in Digital Realty abbiamo imparato che ci muoviamo sempre nella giusta direzione quando siamo fedeli ai nostri valori e concentrati su come possiamo servire al meglio le esigenze dei nostri clienti. 

Unisciti a noi presso Digital Realty mentre continuiamo a definire il futuro della tecnologia. Rimani innovativo, contattaci e implementiamo l'AI e l'HPC in modo da trasformare la tua organizzazione.  

Scopri di più sull'infrastruttura del data center pronta per l'AI: 

• Sfrutta il potenziale dell’AI e gestisci la sua capacità dirompente con Digital Realty
• I data center sono obsoleti nell'era dell'AI? Secondo noi, no.
• Integrare l'AI con l'infrastruttura legacy 

¹ Risultati previsti per questo cliente rispetto alla sua infrastruttura esistente prima di essere implementata e connessa su PlatformDIGITAL®, o rispetto alle soluzioni alternative disponibili al momento dell'acquisto.