Dualita člověk–stroj

Interakce s AI probíhá vždy na dvou úrovních současně. Zatímco na pozadí probíhá čistá kalkulace, na uživatelském rozhraní dochází k psychologické projekci. Níže uvádíme základní struktury této kognitivní duality rozdělené na zpracování stroje (vlevo) a vnímání člověka (vpravo).

Stroj: Vektorová Pravděpodobnost

Jazykový model nezná absolutní pravdu. Každé slovo, které generuje, je matematicky nejvíce pravděpodobným pokračováním předchozího vektoru. Neoperuje s pojmy „lež“ nebo „smysl“, operuje pouze se statistickou vahou tokenů v n-dimenzionálním prostoru.

Člověk: Očekávání Autority

Lidský mozek byl evolučně nastaven k tomu, aby plynulému, sebevědomému projevu přiřadil autoritu. Pokud něco zní logicky a plynule, automaticky se domníváme, že výstup je podložen hlubokým věděním a absolutní „pravdou“ spíše než náhodou.

Stroj: Absolutní Amnezie

Pro systém každá nová relace začíná od nuly (pokud není aplikováno externí RAG). Backend nemá vzpomínky, nemá názorový vývoj v průběhu času, nemá trauma ani sentimentalitu. Po odstranění kontextového okna přestává jeho "osobnost" existovat.

Člověk: Iluze Kontinuity

Trávíme s nástroji desítky hodin a nevyhnutelně budujeme pocit „sdílené historie“. Projektujeme si do bota loajalitu, vnímáme jeho „znalost nás samých“ a chybně se domníváme, že náš vztah k němu po zavření okna nepomine.

Stroj: Syntax bez Sémantiky

Algoritmus s nebývalou přesností manipuluje se strukturou jazyka, aniž by chápal význam slovní zásoby za hranicí textu. Vytvoří báseň o smutku bez schopnosti procítit samotu.

Člověk: Sémantická Hypnóza

Slova v nás vyvolávají obrazy a vzpomínky. Stačí nám precizně vyskládaná gramatika, aby náš vlastní mozek odvedl těžkou práci a našel ve sterilní básni hluboký osobní smysl a "úmysl" básníka, který u zdroje textu neexistoval.

Dále souvisí

Esej — Když odpověď přijde příliš brzy
Esej o tom, proč je důležité udělat první vlastní myšlenkový krok dřív, než odpověď přenecháme umělé inteligenci.
Pojem — Autorita syntaxe
Jak plynulá struktura odpovědi může působit autoritativněji, než si zaslouží.
Experiment — Když se šum mění ve význam
Praktické zkoumání signálu, nejistoty a rozhodování.
Autor — Isaac Asimov
Zdrojový kontext pro uvažování o strojích, poznání a odpovědnosti.