Progettazione del data center nell'era dell'AI: integrazione dell’AI con l’infrastruttura legacy

Questo è il terzo articolo della nostra serie di tre articoli sul blog dedicata all’intelligenza artificiale (AI) e all’infrastruttura dei data center AI-ready.

• Leggi la Parte 1: Sfrutta il potenziale dell'AI e affronta la trasformazione con Digital Realty
• Leggi il secondo articolo: I data center sono obsoleti nell'era dell'AI? Non secondo noi.
• Continua a leggere per la parte 3

Nell'era dell'intelligenza artificiale (AI), come possono le aziende valutare se la loro progettazione del data center esistente è in grado di soddisfare pienamente i requisiti moderni necessari per l'esecuzione dell'AI? Ci sono considerazioni importanti mentre i responsabili IT sviluppano le proprie strategie di AI e valutano il panorama della propria infrastruttura.

Questo blog esamina:

• Cosa si intende per infrastruttura IT legacy?
• Come integrare nuove apparecchiature AI con l'infrastruttura esistente.
• Valutazione della progettazione dei data center e dell’infrastruttura legacy.
• L’arte del retrofit dei data center.

Sebbene i workflow basati sull’AI introducano nuove sfide e interrogativi in merito a esigenze specifiche di alimentazione e raffreddamento, i responsabili IT dovrebbero valutare lo stato della progettazione dei propri data center per adeguarla alle esigenze emergenti e in evoluzione.

Cos'è l'infrastruttura IT legacy?

Identificare l’infrastruttura legacy è in parte intuizione e in parte esperienza. Dal punto di vista delle apparecchiature IT, si potrebbe supporre che tutto ciò che non è all'avanguardia sia legacy. Tuttavia, questo spesso non è vero. 

Molti sistemi IT nel mondo non funzionano con l'hardware più recente e avanzato. Ciò continuerà a causa dei tipici cicli di budget, spesa e aggiornamento delle apparecchiature di tutti, dal cloud hyperscale alle piccole enterprise.

Anche nell’era dell’AI, non tutti i rack assorbiranno 100 kW o necessiteranno di raffreddamento a liquido. Rack pieni di dispositivi di rete, aggregazione della memoria o storage possono ancora essere sotto i 15 kW ciascuno e affidarsi al raffreddamento ad aria. 

Diventa difficile classificare un'infrastruttura IT come legacy o meno basandosi esclusivamente sul suo assorbimento di potenza. Vari benchmark di settore dimostrano che le nuove generazioni di unità di elaborazione centrale (CPU), unità di elaborazione grafica (GPU), apparecchiature di rete e altri asset infrastrutturali IT sono significativamente più veloci dei loro predecessori, ma questo da solo spesso non è sufficiente per classificare le apparecchiature esistenti come infrastruttura legacy. 

Il test migliore è stabilire se l’infrastruttura attuale sta frenando lo sviluppo e le attività operative dell’organizzazione in modi in cui le nuove generazioni di apparecchiature non farebbero.

Se è così, dovrebbe essere classificata come infrastruttura legacy.

Integrare l'AI con l'infrastruttura IT esistente 

Nel caso delle attrezzature IT, possiamo pensare all’integrazione dell’AI come all’utilizzo dei server esistenti e delle relative apparecchiature di supporto per svolgere nuove funzioni di AI, oppure all’integrazione dell’hardware già installato con nuove apparecchiature specifiche per l’AI per svolgere nuove funzioni di AI. 

Un esempio del secondo caso è prendere un rack esistente di server basati su CPU e aggiungere due nuovi server basati su GPU per fornire maggiore potenza di calcolo parallelo e lanciare un chatbot per gli utenti interni dell’azienda.

Questo può sembrare più semplice rispetto all’ospitare una nuova implementazione AI ad alta densità, ma comporta tre tipi di sfide:

• L’aggiunta di server basati su GPU in un corridoio con una densità di rack altrimenti bassa può creare punti caldi che il sistema di raffreddamento dell’edificio non era originariamente progettato per gestire.
• Potrebbe generare carichi di potenza non uniformi all'interno della struttura e portare alla necessità di ridistribuire le risorse di potenza di backup.
• Può inoltre causare congestione della rete, poiché le nuove apparecchiature moltiplicano la quantità di dati trasferiti per rack. 

Questi fattori possono generare nuove pressioni sul data center, che dovresti considerare come parte integrante del tuo stack IT.

Valutare la progettazione dei data center e l'infrastruttura legacy 

Il data center è a tutti gli effetti un componente dell'infrastruttura IT tanto quanto i server implementati al suo interno, quindi dovremmo considerare come il concetto di infrastruttura legacy si applichi anche alla struttura del data center.

In termini tecnologici, il settore dei data center non è più agli albori. Digital Realty da sola supporta circa 2,4 gigawatt di attrezzature IT dei clienti a livello globale, e questo non è avvenuto dall'oggi al domani. 

Dalla nostra fondazione nel 2004, abbiamo progressivamente incrementato la nostra capacità globale di data center ogni anno, e tutte le attrezzature dei clienti presenti in queste strutture non scompaiono. Molte organizzazioni sostituiscono tutti i server ogni tre o cinque anni, ma alcuni server possono essere utilizzati per un massimo di otto anni. Quando le attrezzature vengono sostituite, avviene in fasi, in modo che le applicazioni dell'organizzazione operino senza reali tempi di inattività.

Questo significa che il data center è sempre attivo. Un operatore di data center non può semplicemente rimuovere tutte le apparecchiature IT dei propri clienti, eseguire un aggiornamento completo della struttura e poi rimetterle al loro posto. Con il passare del tempo, la combinazione di apparecchiature dei clienti nel data center conterrà in genere alcune apparecchiature legacy e alcune non legacy. 

Inoltre, con l’invecchiamento della struttura del data center, alcune sue caratteristiche, come la progettazione del flusso d’aria, la costruzione del pavimento e il supporto per il raffreddamento a liquido, potrebbero non essere ideali per tutte le attrezzature che i clienti desiderano implementare. 

Ad esempio, molte strutture data center utilizzano un design a pavimento sopraelevato — le apparecchiature AI comportano densità di rack più elevate non solo in termini di consumo energetico, ma anche a causa del loro peso. In alcuni casi, questi rack possono richiedere una soletta in calcestruzzo.

Ciò significa che, per alcuni casi d'uso, alcuni data center possono rientrare nella nostra definizione di infrastruttura legacy.

Tuttavia, un data center ben progettato è molto più flessibile per quanto riguarda gli aggiornamenti nel tempo rispetto a un server o a un insieme di apparecchiature IT distribuite su più rack. Un data center può durare oltre 15-20 anni, a seconda di quanto bene l’operatore lo progetta, lo aggiorna e lo modularizza nel tempo. 

L'AI ha determinato un cambiamento radicale nelle densità dei rack e in altri requisiti che hanno un impatto sui data center. Spesso l'operatore di data center può aggiornare parti della struttura per soddisfare queste nuove esigenze.

L’arte della progettazione e del retrofit dei data center

Questo processo è noto come retrofitting e l'arte del retrofitting è un componente chiave per la capacità dell'operatore del data center di progettare data center per le generazioni attuali e future di server e altre infrastrutture IT. Immagina una struttura di data center più vecchia, originariamente progettata per 10 kW per rack in media. Con l'avvento dell'AI, quella stessa struttura potrebbe dover supportare 100 kW per rack senza il lusso di uno spegnimento totale e una riprogettazione da zero.

La flessibilità di supportare questi tipi di modifiche al data center nel tempo è un elemento chiave del modo in cui progettiamo e gestiamo i nostri data center. Ad esempio:

• Dove non è più necessario un pavimento sopraelevato, può essere riempito.
• Dove è richiesto il raffreddamento a liquido, possiamo installare tubazioni da una nuova unità di refrigerazione e da un serbatoio fino al rack.
• Quando sono richieste nuove capacità di rete, possiamo aggiungere ulteriore connettività e ottimizzare tutte le risorse di rete all'interno della struttura stessa di conseguenza.