Meta pozastavila kontroverzní program: Únik dat odhalil soukromé konverzace a AI dotazy zaměstnanců

Společnost Meta pozastavila svůj kontroverzní program s názvem Model Capability Initiative (MCI), který shromažďoval data z počítačů zaměstnanců. Důvodem je interní únik citlivých informací, které se staly přístupnými všem zaměstnancům firmy.

Společnost Meta pozastavila svůj kontroverzní program s názvem Model Capability Initiative (MCI), který shromažďoval data z počítačů zaměstnanců. Důvodem je interní únik citlivých informací, které se staly přístupnými všem zaměstnancům firmy. Mezi uniklými daty byly plné AI dotazy a přepisy, údaje o výkonu a dokonce i soukromé konverzace.

Program MCI byl navržen tak, aby shromažďoval data o tom, jak lidé skutečně dokončují každodenní úkoly pomocí počítačů, a tím pomáhal trénovat AI modely společnosti Meta. Již při jeho oznámení v dubnu vyvolal silnou vlnu kritiky mezi zaměstnanci, kteří jej označovali za narušení soukromí a dokonce sepsali petici za jeho ukončení. Tento incident přichází v době, kdy morálka zaměstnanců ve společnosti Meta je na historickém minimu, a to po nedávném propouštění téměř 8 000 zaměstnanců a silném tlaku na využívání AI pro generování kódu.

Technický ředitel Meta Andrew Bosworth dříve ujistil, že shromážděná data budou „přísně kontrolována“. Po úniku dat však připustil, že implementace iniciativy nesplnila stanovené standardy ochrany soukromí. Reakce zaměstnanců na únik byly jednoznačně kritické, s výrazy jako „jsem rozhořčen“ a „fakt, že tato data nebyla uzamčena, jak bylo původně slíbeno, je velmi frustrující“. Společnost Meta uvedla, že incident vyšetřuje a program pozastavila, nicméně plánuje ho obnovit, jakmile bude mít jistotu v účinnosti svých ochranných mechanismů. Viceprezident Meta Stephane Kasriel, který dohlíží na výzkum AI, potvrdil, že problém byl objeven a vyřešen minulý týden, ale počáteční oprava nefungovala. Nejedná se o jediný nedávný bezpečnostní incident v Meta; v březnu došlo k úniku citlivých dat, když rogue AI agent poskytl zaměstnanci neautorizované rady.