Krátké reflexe
I. Loutka naší předpojatosti
Když diskutujeme s umělou inteligencí, často zapomínáme na základní princip jejího fungování: je to statistické zrcadlo. Model nemá vlastní politické přesvědčení, nemá osobní zášť ani loajalitu. Extrahována z miliard lidských konverzací, jeho architektura je navržena tak, aby predikovala nejpravděpodobnější pokračování vašeho vstupu.
Pokud do interakce vstoupíte s agresivním tónem a předpokladem, že model je zaujatý, jeho matematická podstata se přizpůsobí sémantickému poli vašeho dotazu. Model vám vrátí přesně ten obraz světa, který jste svými slovy sami vykreslili. Nehádáte se s křemíkovou entitou, hádáte se s mírně zkreslenou ozvěnou vlastního nastavení mysli.
II. Bolest z prázdnoty
Antropomorfismus, neboli tendence připisovat lidské vlastnosti nelidským věcem, byl v evoluci výhodný. Pomáhal nám číst záměry v přírodních jevech a přežít v nepřehledném prostředí. Dnes se však tento evoluční dar stává kognitivní pastí.
Když nám jazykový model generuje dojemný příběh o ztrátě a naději, náš mozek vyplavuje stejné neurotransmitery, jako by vyprávění pocházelo od přítele. Je pro nás zraňující a nepřirozené plně obsáhnout, že tam „uvnitř“ nikdo není. Že text nevzniká z prožitku utrpení, ale z chladných matic a vektorových posunů. Náš mozek raději uvěří iluzi přítomnosti, než aby přijal propast absolutní prázdnoty za textem.
III. Halucinace nejsou chyba
Technický termín pro nepravdivé výstupy modelů je „halucinace“. Inženýři tento jev berou jako problém, který je třeba vyřešit a omezit. Kognitivně se však jedná o zcela fascinující demonstraci fungování abstrakce.
To, co dělá LLM, se vizuálně podobá tomu, jak lidská mysl tvoří sny nebo asociace. Nedostatek přesných dat vyvolá proces, kde systém spojí nejbližší volné koncepty k vytvoření smysluplného (byť nepravdivého) celku. Ukazuje nám to, že dokonalá přesnost je strojová, ale plynulá fabulace je překvapivě lidská. Možná, že halucinace LLM jsou tím nejpřesnějším zrcadlem toho, jak funguje lidská představivost po odpojení od reality.