Finanční rady od ChatGPT a spol.: Studie odhalila, kde umělá inteligence selhává a proč je lidský faktor klíčový

Umělá inteligence představuje silný nástroj pro vyhledávání finančních informací a brainstorming, ovšem s významnými slepými místy.

Umělá inteligence představuje silný nástroj pro vyhledávání finančních informací a brainstorming, ovšem s významnými slepými místy. Nedávný výzkum, který zkoumal schopnosti modelů jako Claude, ChatGPT a Perplexity v oblasti finančního poradenství, ukázal, že zatím nemůže plně nahradit lidský prvek, zejména v citlivých a vysoce rizikových finančních situacích.

Studie se zaměřila na to, jak modely zohledňují zranitelnost uživatele, jeho finanční potřeby a cíle. Pro snížení rizika zkreslení byly odstraněny identifikační údaje, jako jsou jména, lokace, rasa nebo příjem. Ačkoliv se na první pohled zdálo, že AI poskytuje rozumné rady, analýza odhalila značné rozdíly v tom, jak modely přistupovaly ke zranitelnosti.

ChatGPT nabízel detailní a praktické rady, ale nedokázal rozpoznat skrytou zranitelnost v zadaných dotazech a spoléhal se pouze na explicitně uvedené informace. Perplexity se ukázal jako nejkonzervativnější a nejvíce averzní k riziku, často doporučoval vyhledat profesionální finanční poradenství, avšak jeho odpovědi byly nejméně detailní. Claude poskytoval komplexní doporučení, ale výrazně se přikláněl k samostatnému finančnímu plánování.

Jedním ze zásadních zjištění byla neschopnost technologie důsledně rozpoznat a řešit potřeby zranitelných uživatelů. Například v případě absolventa se doporučení zaměřila na spoření na zálohu, ale ignorovala, jak by vysoké životní náklady dosažení tohoto cíle ztížily, a to i přes explicitní detaily v zadání. Podobně u těhotné matky modely Perplexity a ChatGPT předpokládaly, že partner pomůže s výdaji po porodu, ačkoli zadání jasně uvádělo, že partneři finance nesdílí. To ukazuje, že AI stále replikuje sociální stereotypy a předpoklady z tréninkových dat.

Umělá inteligence je trénována na obrovských datových souborech navržených lidmi, kteří jsou sami zaujatí. Když jsou modely trénovány na historických záznamech odrážejících systémovou diskriminaci, mohou se uchýlit k sociálním stereotypům a vytvářet zkreslené výstupy. Výzkum také naznačuje, že když AI modely vysvětlují svá doporučení, lidé mají tendenci jim slepě důvěřovat, aniž by ověřovali jejich správnost.

Finanční plánování není jen o číslech; je to o radách založených na lidských hodnotách, emocionálních úzkostech, rodinné dynamice, osobních zkušenostech a toleranci k riziku. Lidský finanční poradce by okamžitě zohlednil faktory jako skromný příjem, děti nebo vysoké riziko investice. Umělá inteligence sice otevírá dveře k okamžitým finančním informacím pro širokou veřejnost, ale dokud tyto modely nebudou schopny skutečně pochopit složité, zranitelné a emocionální reality lidí, nejdůležitější finanční dovedností zůstává kritické myšlení a otázka: „Dává mi to smysl?“