Miliardy tečou do AI v medicíně: Proč je lidský úsudek lékařů důležitější než kdy dřív a jak ho posílit?

Miliardy dolarů z rizikového kapitálu proudí do jediné sázky: pokud dokážete dostatečně rychle generovat medicínsky sofistikovanou odpověď, vyřešili jste něco smysluplného ve zdravotnictví.

Miliardy dolarů z rizikového kapitálu proudí do jediné sázky: pokud dokážete dostatečně rychle generovat medicínsky sofistikovanou odpověď, vyřešili jste něco smysluplného ve zdravotnictví. Tato představa je lákavá, protože lékaři jsou pod extrémním časovým tlakem, pacienti čekají měsíce a velké jazykové modely (LLM) nyní dokážou v sekundách produkovat uhlazené, empatické a klinicky věrohodné odpovědi za zlomek nákladů. Problém je, že tato sázka je postavena na chybné kategorizaci, za kterou může medicína platit celé příští desetiletí.

Tvrdá část medicíny nikdy nespočívala v získávání informací. Jde o to vědět, které informace jsou důležité pro konkrétního pacienta, v daném okamžiku, za podmínek nejistoty, s neúplnými daty, reálnými důsledky a omezeními, se kterými se žádný algoritmus dosud nemusel potýkat. Jde o rozdíl mezi „jsem unavený“ a „něco je velmi špatně“, o pocit tkáně během operace nebo o úsudek, kdy se pokyn uplatní, kdy ne, a kdy je samotný pokyn již za praxí. Žádná z těchto informací nebyla nikdy čistě zachycena v databázi a velká část z nich nikdy nebude. Odvětví si plete lékařské informace s lékařským úsudkem.

LLM jsou mimořádně dobré v syntéze toho, co bylo napsáno, ale velká část toho, co dělá medicínu důvěryhodnou, spočívá jinde: ve zkušenostech, v kontextu, v rozpoznávání vzorců vybudovaném na tisících případů a v kolegiálním klinickém uvažování, které probíhá mezi lékaři. Právě tato poslední část je obzvláště důležitá a je to ta, kterou Silicon Valley nejvíce ignorovalo. Klinický úsudek se buduje v diskuzích po obtížném případu, při rychlých konzultacích nebo při výměně názorů mezi kardiologem a intenzivistou, kteří by se jinak nikdy nesetkali.

Na krátký a nepravděpodobný okamžik to změnil MedTwitter. Navzdory všem jeho dysfunkcím – útokům, hierarchickým hrám a předstírané jistotě – dal MedTwitter lékařům něco, co medicína nikdy záměrně nevybudovala: globální klinickou komunitu v reálném čase napříč specializacemi. Venkovský lékař z pohotovosti mohl zveřejnit obtížné EKG a během několika minut získat názor odborníka. Nová studie mohla být zpochybněna, upřesněna, kontextualizována a prověřena lidmi, kteří se museli o pacienty starat hned následující ráno. To byla skutečná hodnota MedTwitteru pro medicínu. Krátce rozšířil neformální vrstvu klinického uvažování, než se zhroutil pod vlivem pobídek platformy, která jej hostila.

Selhání bylo také strukturální. Platforma postavená na maximalizaci pozornosti nemůže udržet komunitu, která závisí na promyšlenosti, důvěře, pokoře a profesních normách. Medicína potřebuje prostory, kde může lékař říci „nevím“ nebo „takhle to děláme v mé instituci“, aniž by byl potrestán algoritmem optimalizovaným pro vyvolávání rozhořčení a jistoty. Lékaři potřebují místa, kde je nesouhlas produktivní, nejistota je upřímná a kde jejich odbornost nemusí být prezentována pacientům, novinářům, zaměstnavatelům, trollům a cizincům najednou.