Když AI píše projevy: Kanadský politik omylem přečetl instrukce chatbota v parlamentu

Kanadský zákonodárce Bill Oliver se nedávno stal terčem kritiky poté, co během projevu v parlamentu provincie Nový Brunšvik omylem přečetl instrukce určené pro chatbot s umělou inteligencí.

Kanadský zákonodárce Bill Oliver se nedávno stal terčem kritiky poté, co během projevu v parlamentu provincie Nový Brunšvik omylem přečetl instrukce určené pro chatbot s umělou inteligencí. Místo plynulého projevu zazněla věta: „Zde je přirozenější, plynulejší verze této sekce, která zní jako legislativní projev, spíše než série krátkých bodů.“ Oliver přečetl tuto poznámku bez zaváhání, což naznačuje buď značnou sebekontrolu, nebo to, že si chyby vůbec nevšiml, jak zněl ospale při mumlání strojově složeného textu.

Incident rychle vyvolal reakce na sociálních sítích, kde mnoho uživatelů vyjádřilo své rozhořčení. Komentáře se pohybovaly od srovnávání s nižšími standardy pro studenty středních škol až po požadavky na rezignaci. Jeden z komentujících trefně poznamenal, že pokud by podobnou chybu udělal právník, čelil by sankcím, a ptal se, proč by to u voleného zástupce mělo být jiné.

Tato událost poukazuje na rostoucí problém s nekritickým používáním umělé inteligence, zejména v profesích vyžadujících vysokou míru odpovědnosti. V právnickém světě již došlo k několika případům, kdy právníci čelili postihům za to, že do soudních dokumentů zahrnuli text generovaný AI, včetně smyšlených citací a precedentů. Někteří byli pouze pokáráni, jiní však obdrželi přísnější tresty. Například minulý měsíc byli dva právníci sankcionováni americkým odvolacím soudem za podání dokumentů plných AI halucinací. Tentýž týden byli za podobnou chybu potrestáni čtyři právníci z obou stran soudního sporu v Mississippi, přičemž všichni čtyři dostali pokuty a dva byli na dva roky vyloučeni z vystupování před americkým okresním soudem.

Případ Billa Olivera je tak nejen kritikou laxního přístupu některých politiků, ale také důležitým varováním před důsledky bezmyšlenkovitého spoléhání se na umělou inteligenci. Obsah generovaný AI sice může znít přijatelně a obsahovat správná klíčová slova, ale často postrádá hloubku, inspiraci a skutečnou péči o publikum. Ukazuje se, že lidské úsilí a kritické myšlení jsou stále nezbytné, a jejich nahrazení nástrojem, který pouze chladně napodobuje lidskou řeč, může mít vážné dopady na důvěryhodnost a odpovědnost.