Biologové by měli jasně definovat svůj postoj k umělé inteligenci: Proč je to pro ně klíčové?
InovaceV červnu vydala komunita převážně matematiků Leidenská deklaraci o umělé inteligenci a matematice, která formuluje hodnoty, jež si přejí zachovat při integraci automatizovaných systémů do praxe vývoje matematických důkazů.
V červnu vydala komunita převážně matematiků Leidenská deklaraci o umělé inteligenci a matematice, která formuluje hodnoty, jež si přejí zachovat při integraci automatizovaných systémů do praxe vývoje matematických důkazů. Tento krok je nezbytný, protože některé špičkové systémy umělé inteligence prokázaly pozoruhodné schopnosti při řešení pokročilých matematických problémů, ačkoli nezávislé testy stále ukazují důležité limity AI. Ačkoli autor článku není členem komunity čisté matematiky v přísném slova smyslu, poselství deklarace s ním rezonovalo a bylo relevantní pro jeho vlastní výzkumné zájmy jakožto výpočetního biologa.
Matematická komunita se k této otázce postavila čelem a úspěšně zorganizovala velké množství významných matematiků k podpisu dokumentu. Leidenská deklarace, která vznikla na konferenci v nizozemském Leidenu, by měla inspirovat podobné iniciativy, neboť to, co platí pro matematiku, platí prakticky pro každé vědecké odvětví. Matematické objevy se promítají do algoritmů a statistických metod, které pomáhají vědcům navrhovat experimenty, vytvářet simulace a analyzovat data, od sociologie po statistickou fyziku a dál. Biologické obory by měly zvážit něco podobného, protože typy znalostí, které biologie generuje a předpovídá, jsou jedinečně zranitelné vůči podvracení a zkreslení umělou inteligencí.
Konverzace v matematické komunitě byla poučná, neboť deklarace je koordinovanou reakcí na sílu a rizika umělé inteligence, jejíž akcelerace působí jako lusknutí Thanosem, měnící vesmír v okamžiku. Částečně je to dáno způsobem, jakým se provádí matematický výzkum: matematický důkaz je v zásadě transparentní a nezávisle ověřitelný a k jeho ověření (obecně) není potřeba žádné proprietární vybavení. Jak Leidenská deklarace poznamenává, automatizované techniky nyní představují pro matematiku nový problém s paděláním: protože matematické pravdy jsou pevné a ověřitelné, lze padělaný formalismus identifikovat porovnáním s pravým důkazem. Biologie však takovou záruku nenabízí; naše takzvané „pravdy“ jsou často zatížené šumem a závislé na kontextu, což téměř znemožňuje definovat, jak by měla autentická verze vůbec vypadat. Některé z nejvíce ceněných biologických principů (jako jsou Mendelovy zákony dědičnosti) jsou lépe popsány jako silné, ale omezené v rozsahu, s dobře charakterizovanými výjimkami, které zákony nepodkopávají, ale upřesňují jejich aplikaci. To platí pro mnoho biologických teorií. Okrajové podmínky, hraniční případy a šum nejsou chyby, ale rysy fungování přírodního světa.
Například mutace, která propůjčuje viru rezistenci vůči lékům v jednom genetickém pozadí, může mít mnohem slabší, neutrální nebo dokonce škodlivý účinek v jiném, protože její dopad silně závisí na okolním genetickém kontextu. Tento jev, který biologové nazývají epistáze, není exotickým okrajovým případem, ale silnou silou napříč biosférou, která formuje vztah mezi geny organismu a jeho projevenými charakteristikami. A epistáze je jen jedním z mnoha příkladů závislosti na kontextu v biologických systémech, kdy zjištění, které platí v Petriho misce, se rozpadne v těle nebo má účinek u myšího modelu, ale ne u primáta. Zatímco matematik se obává vytvoření padělaného řešení, biolog často nemůže, ani v nejlepší víře, říci, jak má autentická verze vypadat.