Generativní AI může „vymýšlet“ biologické objevy: Vědci radí, jak se vyhnout omylům

Generativní umělá inteligence (AI), známá především tvorbou textů a obrázků, se stále více uplatňuje i v biologickém výzkumu. Vědci ji zkoumají pro navrhování proteinů, simulaci buněk, doplňování chybějících experimentálních dat a generování syntetických biologických informací.

Generativní umělá inteligence (AI), známá především tvorbou textů a obrázků, se stále více uplatňuje i v biologickém výzkumu. Vědci ji zkoumají pro navrhování proteinů, simulaci buněk, doplňování chybějících experimentálních dat a generování syntetických biologických informací. Tato technologie však nese riziko „halucinací“, kdy AI vytváří zdánlivě věrohodné, ale neexistující biologické vzorce nebo závěry.

Takové chyby by mohly mít závažné důsledky. AI by mohla například zamítnout slibného kandidáta na lék, nasměrovat výzkumníky k neúčinné léčbě, zastřít skutečný biologický efekt nebo prezentovat neexistující mechanismus nemoci jako objev. Thomas Burger, počítačový biolog z Grenobleské univerzity v Alpách, se tomuto problému věnuje ve svém článku v časopise Patterns, kde analyzuje deset potenciálních využití generativní AI.

Burger rozlišuje mezi různými úrovněmi rizika. Nižší riziko představují aplikace, kde AI slouží jako generátor nápadů, například při screeningu potenciálních léků nebo proteinů. V takovém případě AI rychle vyhodnotí velké množství kandidátů a vybere menší skupinu pro laboratorní testování. Pokud AI udělá chybu, výzkumníci sice mohou ztratit čas a peníze, ale vybraný kandidát musí své účinky prokázat v reálném experimentu, než bude přijat jako objev.

Nebezpečí se výrazně zvyšuje, když AI-generovaná data začnou nahrazovat experimentální měření. Syntetická biologická data mohou pomoci doplnit chybějící měření, chránit soukromí pacientů, vytvářet srovnávací skupiny nebo snižovat náklady na výzkum. Pokud však AI vloží do dat prvek, který nikdy neexistoval, vědci by mohli uvěřit v biologický efekt, který se nikdy neobjevil. Systém by pak již nevytvářel jen nesprávnou předpověď, ale jeho fabulace by se stala součástí důkazů podporujících vědecké tvrzení.

Burger upozorňuje, že problém často nespočívá v přímém srovnání halucinace se skutečným objevem, ale spíše v tom, že reálná data mohou být „narušena“ halucinací v průběhu složitého počítačového procesu. AI by mohla zkreslit, zesílit nebo změnit signály způsobem, který je obtížně detekovatelný a který by mohl vést k odlišným biologickým závěrům. Příkladem jsou „halucinované struktury“ v neuspořádaných proteinových oblastech, které generoval model AlphaFold 3, ačkoli nízké skóre spolehlivosti na problém upozorňuje. AI může také přidat tolik zkreslení, že vědci přehlédnou skutečný efekt.

Zajímavostí je, že Burger nevylučuje, že by halucinace AI mohla vést ke skutečnému objevu, podobně jako nečekané objevy vznikají z laboratorních chyb. Klíčové je, jak výzkumníci s výstupy AI pracují. Pokud je výsledek AI považován za pouhou myšlenku k otestování, halucinace zůstane jen neúspěšnou hypotézou. Pokud je však považován za skutečné pozorování, přesvědčivá fabulace by se mohla stát součástí důkazů a být mylně považována za biologickou realitu. I ten nejúžasnější výsledek navržený AI není objevem, dokud není nezávisle ověřen v reálném experimentu.