Čip pro umělou inteligenci počítá přímo v paměti: SK hynix a TetraMem slibují obrovské úspory energie

Společnosti SK hynix a TetraMem, vývojáři čipů pro umělou inteligenci, představily nový procesor zaměřený na paměť, který provádí výpočty umělé inteligence přímo uvnitř paměti.

Společnosti SK hynix a TetraMem, vývojáři čipů pro umělou inteligenci, představily nový procesor zaměřený na paměť, který provádí výpočty umělé inteligence přímo uvnitř paměti. Tento inovativní design má za cíl výrazně snížit spotřebu energie a eliminovat úzká hrdla způsobená neustálým přesouváním dat mezi procesory a pamětí.

Obě firmy oznámily dokončení společné technologické spolupráce, jejímž výsledkem je systém na čipu (SoC) s analogovým výpočtem v paměti (A-IMC). Jejich práce ukazuje, jak může paměť převzít část výpočetní zátěže namísto pouhého ukládání dat. Prototyp využívá výpočty v paměti založené na memristorech k provádění efektivní hloubkové konvoluce, což je klíčová operace používaná v mnoha inferenčních modelech umělé inteligence. Zpracováním dat přímo tam, kde jsou uloženy váhy modelu AI, tato architektura snižuje potřebu opakovaného přenosu informací mezi pamětí a procesory.

Tento přístup řeší jednu z největších výzev, kterým čelí moderní hardware pro umělou inteligenci. Jelikož modely AI rostou z miliard na biliony parametrů, pohyb dat se stal hlavním zdrojem spotřeby energie, latence a generování tepla uvnitř výpočetních systémů. Tradiční AI čipy neustále přesouvají data mezi výpočetními jednotkami a pamětí, což spotřebovává čas i energii. Analogový výpočet v paměti tento pracovní postup mění tím, že provádí maticové výpočty přímo v paměťovém poli, čímž snižuje zbytečné přenosy dat.

Společný projekt kombinuje platformu analogového výpočtu v paměti od TetraMem s odbornými znalostmi SK hynix v oblasti pokročilých paměťových technologií. Firmy také integrovaly nově vznikající paměťová zařízení, návrh obvodů, architekturu AI, software a optimalizaci systému do jediné polovodičové platformy. Podle společností tato práce přesahuje pouhé prokázání konceptu analogového výpočtu v paměti tím, že demonstruje praktický systém na čipu pro AI, který integruje více vrstev hardwarového a softwarového inženýrství.

Projekt představuje strategický krok pro SK hynix, který se posouvá od tradiční výroby pamětí k pokročilým výpočetním architekturám. Zatímco společnost je významným producentem dynamické paměti s náhodným přístupem (DRAM) a paměti s vysokou šířkou pásma (HBM) používaných ve standardních systémech AI, tento prototyp směřuje k neuromorfnímu přístupu. Výzkumná práce byla také vybrána jako hlavní téma časopisu Advanced Intelligent Systems, což podtrhuje její technický přínos pro hardware AI nové generace. Společnosti plánují pokračovat ve spolupráci na paměťových technologiích, výpočetních architekturách a systémové integraci pro budoucí infrastrukturu AI.