Information Technology
HPE accelera le implementazioni AI grazie alla prima architettura AI scalabile “rack-scale” AMD "Helios", con networking “scale-up” aperto realizzato con Broadcom
- HPE annuncia la soluzione AI scalabile “rack-scale” AMD "Helios" con il primo networking Ethernet scale-up del settore creato in collaborazione con Broadcom
- HPE sarà una delle prime aziende a offrire un rack singolo chiavi in mano capace di realizzare training AI con parametri nell'ordine dei trilioni e inferenza ad alto volume, con 260 terabyte di larghezza di banda aggregata scale-up e 2,9 exaflop AI con prestazioni FP4
- L'architettura AI “rack-scale” AMD "Helios" è una piattaforma aperta e integrata per carichi di lavoro AI su larga scala, che considera gli standard di settore in primo piano nella progettazione
HPE (NYSE:HPE) accelera l'implementazione di training e inferenza di intelligenza artificiale su larga scala per i fornitori di servizi cloud (CSP), inclusi i “neocloud”, offrendo la prima architettura AI rack-scale AMD "Helios" con networking Ethernet scale-up integrato. La soluzione, che sfrutta hardware e software HPE Juniper Networking appositamente progettati insieme al chip di rete Tomahawk 6 di Broadcom, si basa sullo standard aperto Ultra Accelerator Link over Ethernet (UALoE) ed è in grado di supportare il traffico di rete che va dal training di modelli con trilioni di parametri, al throughput di inferenza elevato, al traffico generato dalla gestione di modelli di enormi dimensioni. Fornita da un team HPE Services con vasta esperienza in infrastrutture di raffreddamento a liquido diretto e installazioni exascale, la soluzione AI rack-scale AMD "Helios" offrirà ai clienti flessibilità, interoperabilità, efficienza energetica e implementazioni più rapide in un contesto di maggiore domanda di capacità di calcolo AI da parte degli utenti.
"Da oltre un decennio, HPE e AMD spingono costantemente in là i confini del supercalcolo, fornendo numerosi sistemi di classe exascale e promuovendo standard aperti che accelerano l'innovazione", ha commentato Antonio Neri, presidente e CEO di HPE. "Con l'introduzione del nuovo AMD 'Helios' e della nostra soluzione di networking scale-up HPE appositamente progettata, stiamo rendendo disponibili per i fornitori di servizi cloud la possibilità per i nostri clienti di implementazioni più rapide, maggiore flessibilità e rischi ridotti nel modo in cui scalano il calcolo AI nelle loro attività”.
“HPE è stato un partner storico eccezionale per AMD e ha lavorato con noi per ridefinire il concetto di ciò che è possibile nel calcolo ad alte prestazioni", ha commentato la Dr.ssa Lisa Su, presidente e CEO di AMD. "Con 'Helios', stiamo portando questa collaborazione ancora più avanti, unendo l'intero stack di tecnologie di calcolo AMD e l'innovazione sistemica di HPE per fornire una piattaforma AI rack-scale aperta che offre nuovi livelli di efficienza, scalabilità e prestazioni rivoluzionarie per i nostri clienti nell'era dell'AI”.
Accelerare le implementazioni AI con un singolo rack chiavi in mano con la prima soluzione del settore basata su Ethernet
Assicurando un balzo in avanti nelle prestazioni AI rack-scale, HPE sarà una delle prime aziende a offrire la soluzione rack-scale AMD “Helios”, basata su specifiche dell'Open Compute Project (OCP) ottimizzate per l'erogazione di potenza, il raffreddamento liquido avanzato e l'elevata manutenibilità necessari per i sistemi AI di nuova generazione. Alcune addizionali caratteristiche della soluzione integrata sono :
- Prestazioni rack-scale: collegando 72 GPU AMD Instinct™ MI455X per rack, la soluzione fornisce 260 terabyte/secondo di larghezza di banda aggregata e scale-up e fino a 2,9 exaflop AI di prestazioni con FP4 per accelerare i carichi di lavoro AI e supportare modelli AI massivi. Il sistema fornisce 31 terabyte di memoria ad alta larghezza di banda di quarta generazione (HBM4) e 1,4 petabyte/secondo di larghezza di banda di memoria, offrendo capacità e movimento dati senza compromessi per i carichi di lavoro AI e HPC più impegnativi.
- Primo switch e software Ethernet scale-up standards-based del settore: HPE sta ampliando le sue soluzioni "networks for AI" con uno switch e un software Ethernet scale-up progettati specificamente per l'architettura AI rack-scale AMD "Helios". La nuova soluzione è il primo switch scale-up, sviluppato in collaborazione con Broadcom, a fornire prestazioni ottimizzate per carichi di lavoro AI su standard Ethernet. Lo switch sfrutta le capacità di automazione e garanzia AI-native di HPE per semplificare le operazioni di rete per un'implementazione più rapida e garantire risparmi complessivi sui costi. La nuova soluzione HPE scale-up integra le offerte scale-out e scale-across esistenti di HPE, fornendo un portfolio completo di "networks for AI".
- Standard aperti e innovazione: costruita sulle specifiche Open Rack Wide (ORW) di OCP, il design a doppia larghezza dell'architettura AI rack-scale AMD "Helios" offre raffreddamento liquido efficiente dal punto di vista energetico e offre maggior potenza in un design pratico, ottimizzato per la manutenzione continua. L'architettura AI rack-scale AMD "Helios" sfrutta anche il software open source AMD ROCm™ e la tecnologia di rete AMD Pensando™ per accelerare l'innovazione e contribuire a ridurre il TCO. Basato su uno standard di comunicazione aperto e collaudato, lo switch HPE Juniper Networking basato su Ethernet riduce al minimo il vendor lock-in e consente aggiornamenti delle funzionalità più rapidi.
Broadcom sta lavorando con HPE per sviluppare lo switch HPE Juniper Networking scale-up per l'architettura AI rack-scale AMD "Helios", sfruttando la collaborazione di lunga data delle due aziende e l'impegno verso la tecnologia Ethernet aperta per le reti di data center AI. Questo sforzo mira a fornire soluzioni di rete scalabili, efficienti e ad alte prestazioni su misura per i carichi di lavoro AI attuali.
"Broadcom è orgogliosa di prendere parte a questa collaborazione che mira a far progredire l'infrastruttura AI aperta basata su Ethernet per lo scale-up", ha commentato Hock E. Tan, presidente e CEO di Broadcom. "I nostri chip ad alte prestazioni offrono latenza ultra-bassa leader del settore, prestazioni elevate e networking “lossless” ossia senza perdita di pacchetti e con la scalabilità e l'efficienza che i carichi di lavoro AI moderni richiedono. Insieme a HPE e AMD permettiamo ai clienti di costruire potenti data center AI con standard Ethernet, massimizzando possibilità di scelta e flessibilità ma garantendo sempre prestazioni eccezionali".
Disponibilità
HPE renderà disponibile la soluzione AMD “Helios” AI rack-scale a livello globale nel 2026.