Od geniality k hlouposti: Proč AI stále chybuje v základech a jak ji naučit skutečným pravidlům našeho světa

Moderní chatboti s umělou inteligencí dokážou úžasné věci, od psaní vědeckých prací až po skládání shakespearovských sonetů o vaší kočce. Mezi záblesky geniality se však pravidelně objevují projevy naprosté hlouposti. Velké jazykové modely, které stojí za dnešními nástroji generativní AI, opakovaně dělají základní chyby – od neschopnosti vyřešit jednoduché středoškolské matematické úlohy až po tápání v pravidlech společenských her.

Tato nestabilita se v technologických kruzích označuje jako „zubatá inteligence“ (jagged intelligence). Nejde jen o drobný nedostatek, ale o kritické selhání, které je jedním z důvodů, proč se mnozí odborníci domnívají, že se nacházíme v bublině AI. Nikdo by si nenajal lékaře nebo právníka, který sice dává skvělé odborné rady, ale občas se chová, jako by vůbec netušil, jak funguje okolní svět. Podniky pociťují totéž, když mají svěřit řízení dodavatelských řetězců, personalistiku nebo finanční operace systémům s touto nevyzpytatelnou inteligencí.

Problém odhadování místo vědění

K vyřešení problému zubaté inteligence je nutné poskytnout modelům AI přístup k mocnějšímu, strukturovanějšímu a lidštějšímu fondu znalostí. Inženýrské zkušenosti z posledních třiceti let ukazují, že takové znalosti jsou nezbytnou součástí každého spolehlivého systému. Technologické inovace, které odstartovaly éru AI, totiž samy o sobě nedokážou tyto „zubaté hrany“ vyhladit. Současné modely AI nedisponují jasnými pravidly o fungování světa. Místo toho vyvozují závěry z obrovského množství dat. Jinými slovy, věci ve skutečnosti nevědí, ale jsou nuceny hádat. Když hádají špatně, výsledky mohou být komické i katastrofální.

Stačí se podívat na to, jak se učí lidé. Miminka si nejprve všímají vzorců ve svém okolí: obličeje jsou zajímavé, maminka hezky voní a kočka škrábe, když ji zatáhnete za ocas. Rozpoznávání vzorců je však brzy doplněno jasně formulovanými znalostmi. Jsou to pravidla, která se učíme, nikoliv věci, které jen pasivně vstřebáváme. Od abecedy a aritmetiky až po to, jak naplnit myčku nebo řídit auto, používáme kodifikované znalosti k efektivnímu učení a k tomu, abychom se vyhnuli nebezpečným chybám.

Cesta k nápravě: Pravidla místo odhadů

Přední laboratoře AI již s tímto přístupem experimentují. Rané modely měly potíže s matematikou pro základní školy, a tak k nim výzkumníci připojili skutečné matematické znalosti. Nešlo o mlhavé odvozeniny, ale o explicitní pravidla toho, jak matematika funguje. Výsledkem je, že nejnovější modely společnosti Google nyní dokážou spolehlivě řešit úlohy z matematických olympiád.

Pouhé přidávání dalších dat různých typů, například videí, pravděpodobně základní výzvu zubaté inteligence nepřekoná. I s dalšími daty je matematicky jisté, že modely budou nadále chybovat, protože tak funguje pravděpodobnostní AI založená na datech. Místo toho je třeba dát modelům znalosti v podobě pevně popsaných konceptů, omezení, pravidel a vztahů, které ukotví jejich chování v realitě našeho světa.

K vytvoření takového lidského fondu znalostí je zapotřebí vybudovat veřejnou databázi formálních vědomostí napříč různými obory. Zatímco pravidla matematiky jsou jasná, fungování jiných oblastí, jako je zdravotnictví, právo, ekonomie nebo vzdělávání, je v mnoha ohledech mnohem složitější. Tato výzva je však nyní na dosah. Růst společností, které poskytují vysoce kvalitní data pro trénování modelů, ukazuje na vznik nové profese. Ta překládá lidské odborné znalosti do strojově čitelné podoby a tím utváří nejen to, co AI dokáže, ale i to, co považuje za pravdivé.

Budoucnost spolehlivých partnerů

Tuto znalostní bázi by mohli vývojáři nebo agenti AI využívat na vyžádání k získání ověřitelných informací o čemkoli, od obsluhy domácích spotřebičů až po složitosti daňového zákoníku. Modely by dělaly méně absurdních chyb, protože by nemusely vše vyvozovat od nuly. Některé výzkumy navíc naznačují, že takové modely by vyžadovaly mnohem méně dat a energie.

Na rozdíl od dnešních neprůhledných modelů, jejichž znalosti jsou rozprostřeny mezi miliardy parametrů, by formálně destilovaný soubor lidských znalostí mohl být přímo zkoumán, chápán a kontrolován. Regulátoři by mohli ověřovat znalosti modelu a uživatelé by měli jistotu, že nástroje nebudou dělat nesmyslné chyby. Snaha o vytvoření takového zdroje znalostí není v oblasti AI novinkou, ale nyní je čas na nový začal. Podobně jako biologové využívají algoritmy k modelování bílkovin, mohou výzkumníci využít generativní AI k modelování znalostí.

Současné modely se sice stávají chytřejšími, ale k tomu, aby se staly důvěryhodnými partnery, je třeba změnit způsob, jakým se učí o světě. Algoritmy založené na datech nám umožnily začít mluvit se stroji. Klíčem k udržitelné budoucnosti AI jsou však znalosti, nikoliv jen data.