Od geniality k hlouposti: Proč AI stále chybuje v základech a jak ji naučit skutečným pravidlům našeho světa

Současné modely umělé inteligence sice píší básně, ale často selhávají v základní matematice. Řešením je propojení obrovských dat s pevně definovanými pravidly lidského vědění, která AI ukotví v realitě a zbaví ji nepochopitelných chyb.

Moderní chatboti s umělou inteligencí dokážou úžasné věci, od psaní vědeckých prací až po skládání shakespearovských sonetů o vaší kočce. Mezi záblesky geniality se však pravidelně objevují projevy naprosté hlouposti. Velké jazykové modely, které stojí za dnešními nástroji generativní AI, opakovaně dělají základní chyby – od neschopnosti vyřešit jednoduché středoškolské matematické úlohy až po tápání v pravidlech společenských her.

Tato nestabilita se v technologických kruzích označuje jako „zubatá inteligence“ (jagged intelligence). Nejde jen o drobný nedostatek, ale o kritické selhání, které je jedním z důvodů, proč se mnozí odborníci domnívají, že se nacházíme v bublině AI. Nikdo by si nenajal lékaře nebo právníka, který sice dává skvělé odborné rady, ale občas se chová, jako by vůbec netušil, jak funguje okolní svět. Podniky pociťují totéž, když mají svěřit řízení dodavatelských řetězců, personalistiku nebo finanční operace systémům s touto nevyzpytatelnou inteligencí.

Problém odhadování místo vědění

K vyřešení problému zubaté inteligence je nutné poskytnout modelům AI přístup k mocnějšímu, strukturovanějšímu a lidštějšímu fondu znalostí. Inženýrské zkušenosti z posledních třiceti let ukazují, že takové znalosti jsou nezbytnou součástí každého spolehlivého systému. Technologické inovace, které odstartovaly éru AI, totiž samy o sobě nedokážou tyto „zubaté hrany“ vyhladit. Současné modely AI nedisponují jasnými pravidly o fungování světa. Místo toho vyvozují závěry z obrovského množství dat. Jinými slovy, věci ve skutečnosti nevědí, ale jsou nuceny hádat. Když hádají špatně, výsledky mohou být komické i katastrofální.

Stačí se podívat na to, jak se učí lidé. Miminka si nejprve všímají vzorců ve svém okolí: obličeje jsou zajímavé, maminka hezky voní a kočka škrábe, když ji zatáhnete za ocas. Rozpoznávání vzorců je však brzy doplněno jasně formulovanými znalostmi. Jsou to pravidla, která se učíme, nikoliv věci, které jen pasivně vstřebáváme. Od abecedy a aritmetiky až po to, jak naplnit myčku nebo řídit auto, používáme kodifikované znalosti k efektivnímu učení a k tomu, abychom se vyhnuli nebezpečným chybám.

Cesta k nápravě: Pravidla místo odhadů

Přední laboratoře AI již s tímto přístupem experimentují. Rané modely měly potíže s matematikou pro základní školy, a tak k nim výzkumníci připojili skutečné matematické znalosti. Nešlo o mlhavé odvozeniny, ale o explicitní pravidla toho, jak matematika funguje. Výsledkem je, že nejnovější modely společnosti Google nyní dokážou spolehlivě řešit úlohy z matematických olympiád.

Pouhé přidávání dalších dat různých typů, například videí, pravděpodobně základní výzvu zubaté inteligence nepřekoná. I s dalšími daty je matematicky jisté, že modely budou nadále chybovat, protože tak funguje pravděpodobnostní AI založená na datech. Místo toho je třeba dát modelům znalosti v podobě pevně popsaných konceptů, omezení, pravidel a vztahů, které ukotví jejich chování v realitě našeho světa.