Prestižní právní firma z Wall Street čelila ostudě: Umělá inteligence jí v soudních dokumentech vymýšlela fakta

Prestižní právní firma Sullivan & Cromwell, která se pyšní klienty jako Donald Trump, se nedávno ocitla v nepříjemné situaci, když se u soudu ukázalo, že její podání v důležitém případě bylo plné smyšlených citací vytvořených umělou inteligencí.

Prestižní právní firma Sullivan & Cromwell, která se pyšní klienty jako Donald Trump, se nedávno ocitla v nepříjemné situaci, když se u soudu ukázalo, že její podání v důležitém případě bylo plné smyšlených citací vytvořených umělou inteligencí. Andrew Dietderich, spoluvůdce restrukturalizační skupiny firmy, se omluvil federálnímu soudci Martinu Glennovi poté, co vyšlo najevo, že dokument obsahoval chybné odkazy.

Chyby odhalila konkurenční firma Boies Schiller Flexner v podání, které S&C předložila federálnímu bankrotovému soudu na Manhattanu. V některých pasážích dokument přímo zkresloval americký bankrotový zákon a citoval rozhodnutí z jiných případů, která byla nepřesně shrnuta nebo chybně identifikována. Právníci Boies Schiller Flexner dokonce zjistili, že jeden z citovaných případů vůbec neexistoval.

Dietderich ve svém omluvném dopise vyjádřil hlubokou lítost nad událostí a zdůraznil přísné postupy a bezpečnostní opatření firmy S&C týkající se používání umělé inteligence, včetně požadavků na školení pro používání nástrojů AI v právní práci. Připustil však, že interní zásady pro AI nebyly při přípravě dotčeného podání dodrženy. Uvedl také, že firma okamžitě přijala nápravná opatření, včetně zahájení interního přezkumu, jak se chyby způsobené AI dostaly do dokumentu. Opravená verze podání byla následně předložena soudu.

Nebylo specifikováno, který model nebo modely umělé inteligence byly do chyby zapojeny. Zdroje blízké firmě však deníku Financial Times prozradily, že firma má podnikovou licenci na ChatGPT od OpenAI. Tento incident je dalším z řady vysoce profilovaných příkladů, kdy se právníci potýkají s problémy způsobenými halucinujícími nástroji umělé inteligence. AI může nesprávně citovat nebo zkreslovat judikaturu a dokonce si vymýšlet neexistující případy, což jsou závažné chyby, které právníci často přehlížejí. Podobné trapné situace již zažily i další významné firmy, například Morgan & Morgan.

Soudci aktivně reagují na právníky, kteří předkládají dokumenty s chybnými citacemi generovanými AI, a to včetně ukládání sankcí nebo hrozby postoupení případu státní advokátní komoře. Někteří volí i kreativnější tresty: když byli dva právníci z firmy Cozen O’Connor přistiženi při použití chybných materiálů od AI, soudce jim dal na výběr mezi sankcí nebo napsáním dopisu děkanům jejich právnických fakult s vysvětlením, jak pochybili. Tato událost podtrhuje rostoucí potřebu pečlivého dohledu a odpovědnosti při integraci umělé inteligence do právní praxe, aby se předešlo vážným profesním a reputačním dopadům.