Dell uvádí server s 144 GPU na rack: Zásadní posun pro superpočítače a umělou inteligenci
InovaceSpolečnost Dell představila nový server pro umělou inteligenci a superpočítače s vysokou hustotou, který je navržen tak, aby zvládal nejnáročnější vědecké a podnikové úlohy na světě.
Společnost Dell představila nový server pro umělou inteligenci a superpočítače s vysokou hustotou, který je navržen tak, aby zvládal nejnáročnější vědecké a podnikové úlohy na světě. Systém Dell PowerEdge XE8812 dokáže pojmout až 144 grafických procesorů (GPU) na jeden rack, což výzkumným institucím, podnikům a vládám poskytuje kompaktnější způsob, jak spouštět rozsáhlé tréninkové úlohy umělé inteligence, inferenci a vysoce výkonné výpočetní úlohy (HPC).
Tento server je určen pro organizace pracující na problémech vyžadujících extrémní výpočetní výkon. Mezi jeho klíčové aplikace patří molekulární simulace, multiphysikální modelování, genomický výzkum, průmyslový design a infrastruktura pro suverénní umělou inteligenci. Jedná se o bezventilátorový server s přímým kapalinovým chlazením, který efektivněji řídí teplo generované velkými akcelerovanými výpočetními systémy, na rozdíl od konvenčních serverů spoléhajících na vzduchové chlazení.
Dell uvádí, že přechod od NVIDIA GB200 NVL4 k NVIDIA Vera Rubin NVL4 přinesl rozšířenou hostitelskou paměť, více jader CPU, více paměti GPU a vyšší výpočetní kapacitu. To organizacím umožní spouštět větší modely umělé inteligence a simulace zcela v paměti, čímž se sníží potřeba neustále přesouvat data mezi úložištěm a výpočetními systémy. Nový server slibuje o 50 procent více paměti na socket a více paměti GPU ve srovnání s předchozí generací, což podporuje větší simulace a modely bez zbytečných prodlev.
Systém je navržen kolem racku ve stylu ORv3 s podporou více než 300 kW energie a až 144 GPU na rack, což z něj činí jednu z nejhustších platforem v oboru. Dell také zdůrazňuje snazší nasazení díky integraci Dell PowerRack a službám Dell ProDeploy. Zákazníci tak mohou obdržet továrně integrované a předem ověřené systémy, které snižují složitost nastavení a mohou být nasazeny a spuštěny s živými úlohami za něco málo přes šest hodin. Společnost Dell již eviduje více než 5 000 zákazníků, kteří po celém světě využívají Dell AI Factory. Mezi významné projekty využívající infrastrukturu Dell a NVIDIA patří superpočítač Doudna v Lawrence Berkeley National Laboratory, cluster Kyber společnosti InstaDeep ve Francii, genomická práce v Wellcome Sanger Institute ve Spojeném království a superpočítač MAVERIC Monash University v Austrálii. Dell PowerEdge XE8812 bude celosvětově dostupný počátkem příštího roku.
Interesting Engineering