Meta nasadí desítky milionů jader Amazon Graviton5: Nová éra úsporné AI pro miliardy uživatelů
InovaceSpolečnost Meta uzavřela významnou dohodu s Amazon Web Services (AWS) o nasazení desítek milionů procesorových jader Graviton. Tyto čipy budou tvořit páteř pro novou generaci systémů umělé inteligence (AI) společnosti Meta, které obsluhují miliardy lidí napříč jejími platformami.
Společnost Meta uzavřela významnou dohodu s Amazon Web Services (AWS) o nasazení desítek milionů procesorových jader Graviton. Tyto čipy budou tvořit páteř pro novou generaci systémů umělé inteligence (AI) společnosti Meta, které obsluhují miliardy lidí napříč jejími platformami. Dohoda prohlubuje dlouhodobé partnerství mezi Metou a Amazonem a signalizuje významný posun v infrastruktuře AI.
Zatímco grafické procesory (GPU) zůstávají klíčové pro trénování velkých AI modelů, roste poptávka po výkonnějších centrálních procesorových jednotkách (CPU) pro inferenci – tedy pro zpracování dat v reálném čase, vyhledávání, kódovací nástroje a komplexní agentní AI systémy. Čipy AWS Graviton jsou vlastní procesory Amazonu postavené na architektuře Arm, navržené tak, aby cloudové úlohy běžely rychleji, levněji a s nižší spotřebou energie než mnoho tradičních serverových čipů.
Nejnovější čip Graviton5 využívá 3nanometrový výrobní proces a obsahuje 192 jader. Amazon uvádí, že nabízí až o 25 procent lepší výkon než předchozí generace a pětkrát větší cache, což pomáhá snížit zpoždění v komunikaci mezi jádry až o 33 procent. To je zásadní pro AI systémy, které potřebují rychle zpracovávat data a koordinovat mnoho úloh současně. Čipy Graviton běží na systému AWS Nitro, hardwarovém a softwarovém balíčku Amazonu navrženém pro zlepšení bezpečnosti, síťového propojení a výkonu, a podporují technologii Elastic Fabric Adapter pro komunikaci s nízkou latencí napříč velkými klastry serverů.
S rozvojem AI produktů se průmysl posouvá za samotný trénink modelů. Novější agentní AI systémy se očekávají, že budou zvládat plánování, kódování, uvažování a provádění úkolů v reálném čase, což vytváří vysokou poptávku po CPU vedle GPU. Nafea Bshara, viceprezident a významný inženýr Amazonu, zdůrazňuje, že nejde jen o čipy, ale o poskytnutí infrastruktury, dat a inferenčních služeb zákazníkům pro budování AI, která rozumí, předvídá a efektivně se škáluje pro miliardy lidí po celém světě. Santosh Janardhan, vedoucí infrastruktury Meta, dodává, že diverzifikace výpočetních zdrojů je strategickou prioritou pro škálování AI ambicí společnosti.
Energetická účinnost se stává stále větším faktorem při budování AI infrastruktury. S rostoucí poptávkou po výpočetním výkonu může účinnost čipů přímo ovlivnit provozní náklady, dostupnost energie a cíle udržitelnosti. Pro Amazon tato dohoda představuje jedno z největších veřejných potvrzení úspěchu čipů Graviton, zatímco Meta získává další cestu ke škálování své AI infrastruktury nad rámec tradičních dodavatelů procesorů.
Interesting Engineering