Proč firmy s umělou inteligencí masivně najímají filozofy? Odpověď leží v etice a vědomí

Některé z největších výzev v oblasti umělé inteligence dnes neřeší pouze počítačoví vědci ponoření do kódu, ale také filozofové, kteří opustili akademickou sféru a nastoupili do firem zabývajících se AI.

Některé z největších výzev v oblasti umělé inteligence dnes neřeší pouze počítačoví vědci ponoření do kódu, ale také filozofové, kteří opustili akademickou sféru a nastoupili do firem zabývajících se AI. Jejich úkolem je zajistit, aby příští generace modelů byla schopnější a spolehlivější, ale zároveň přinášejí světlo do záhady vědomí a otázky, zda lze inteligenci replikovat pouze v softwaru.

Jonathan Birch z London School of Economics and Political Science uvádí, že AI společnosti jsou v současnosti velkými zaměstnavateli absolventů filozofie s doktorátem. Nabídky zajímavé práce, vysokých platů a akciových opcí jsou pro mnohé příliš lákavé na to, aby jim odolali. Témata, která byla po desetiletí zkoumána na filozofických katedrách – jak činit racionální rozhodnutí, jak systematizovat morální principy, co se počítá jako myšlení, uvažování nebo introspekce, co je důkazem vědomí – mají náhle obrovskou hodnotu pro AI firmy. To přirozeně vede k masivnímu odlivu mozků z akademie.

Jedním z klíčových úkolů pro tyto filozofy je takzvané „alignment“ (sladění), což je v AI průmyslu termín pro snahy zabránit modelům v generování škodlivého obsahu, například návodů na výrobu bomb. Počáteční snahy o zastavení nebezpečných výstupů se soustředily na jednoduché, černobílé zábrany, jako je úplný zákaz mluvit o bombách. Tyto metody se však ukázaly jako neohrabané a snadno obejitelné. Nyní firmy usilují o pokročilejší metody, které se silně opírají o filozofické chápání dobra a zla.

Řešení však zřídka bývá přímočaré. Vědci zjistili, že pokud modelu řeknete, aby porušil pravidlo v jedné konkrétní situaci, začne porušovat mnoho dalších pravidel, říká Shane Glackin z University of Exeter. Pochopení, proč k tomu dochází, je přesně ten typ problému, který dokáže filozofická logická analýza rozplést. Nejlepším vysvětlením je, že v korpusu textů, na kterých je model trénován, existuje sémantická vazba, která drží pohromadě „dobře kódované“ a „špatně kódované“ věci. Jakmile modelu dovolíte udělat něco špatného, naváže na to, extrapoluje a začne dělat další špatné věci. Jako etici se snažíme pochopit tvar a rozsah pojmů jako správné a špatné, nebo dobré a zlé, a určit, co pod ně spadá v běžném užívání nebo koncepčně, a to se zdá být přesně ten typ analýzy, kterou provádí i velký jazykový model (LLM).

Mezi další klíčové úkoly filozofů v AI firmách patří omezování halucinací – průmyslový termín pro výmysly produkované modely, celkové zlepšování výkonu a řešení přirozených zkreslení (bias) v modelech. Aplikují také teorie lidského vědomí na AI modely ve snaze odpovědět na přetrvávající otázku, zda vykazují vnímavost. Co dělají mysli, co dělají mozky, co lze replikovat? To je pro AI velký problém. Je to pro tyto společnosti opravdu důležitá otázka, na kterou je třeba odpovědět, a je to něco, o čem filozofové přemýšlejí už velmi dlouho, dodává Glackin.