Revoluce pro AI v počítačích: Phison a Intel umožní spouštět obří modely s pouhými 16 GB RAM
InovaceSpolečnost Phison ve spolupráci s Intelem představila novou technologii aiDAPTIV, která má zásadně změnit způsob, jakým jsou pokročilé AI modely provozovány na osobních počítačích.
Společnost Phison ve spolupráci s Intelem představila novou technologii aiDAPTIV, která má zásadně změnit způsob, jakým jsou pokročilé AI modely provozovány na osobních počítačích. Tato inovace umožňuje spouštět rozsáhlé jazykové modely s 26 miliardami parametrů na PC vybaveném pouhými 16 GB operační paměti (RAM), což by bez této technologie vyžadovalo 32 GB RAM.
Technologie aiDAPTIV, odhalená na veletrhu Computex 2026 v Tchaj-peji, kombinuje procesory Intel Core Ultra Series 3 s paměťovou platformou Phison založenou na úložišti. Cílem je podpořit větší modely a delší pracovní zátěž přímo na spotřebitelských počítačích. V současné době mnoho PC nemá dostatek DRAM pro efektivní zpracování náročných AI úloh, což uživatele nutí spoléhat se na cloudové služby. aiDAPTIV řeší toto omezení rozšířením pracovní paměti za hranice tradiční DRAM do vysokovýkonného NAND flash úložiště, které Phison nazývá Pascari aiDAPTIV Cache Memory.
Platforma rovněž podporuje funkce, jako je opětovné použití KV cache, což pomáhá uchovávat informace z předchozích interakcí a snižuje potřebu opakovaně zpracovávat stejná data. Spolupráce s Intelem se zaměřuje na integraci aiDAPTIV do platforem Intel AI PC a podporu nástroje OpenVINO. Na Computexu společnosti předvedly lokální chatovací rozhraní běžící na modelu Mixture-of-Experts, který by za normálních okolností překročil dostupnou systémovou paměť. Ukázaly také hybridní systém směrování velkých jazykových modelů postavený na open-source frameworku OpenClaw, který umožňuje lokální běh větších modelů a využívá cloudové zdroje pouze pro složitější požadavky.
Podle KS Pua, generálního ředitele a zakladatele Phison Electronics, se počítače s umělou inteligencí vyvíjejí v platformy pro sofistikovanější lokální AI úlohy, které kladou stále vyšší nároky na paměť. Jim Johnson, senior viceprezident Intelu, dodává, že paměť zůstává jednou z hlavních překážek pro spouštění pokročilých modelů na klientském hardwaru. Tato spolupráce tak umožňuje platformám Intel AI PC podporovat větší lokální AI úlohy s jednoduššími konfiguracemi paměti, což zákazníkům přináší možnost využívat vlastní data v užitečných aplikacích s nižšími celkovými náklady a vyšším soukromím.
Interesting Engineering