7.36 Searle: Čínský pokoj a kritika silné AI🔗

John Searle ve své známé eseji Minds, Brains, and Programs (Behavioral and Brain Sciences, 1980) formuluje Argument čínského pokoje (Chinese Room Argument) — myšlenkový experiment proti silné AI (silver AI: počítač rozumí) ve prospěch slabé AI (počítač simuluje rozumění).

Pro kompendium EA poskytuje Searleho argument nástroj pro kritickou analýzu nároků velkých jazykových modelů (LLMs) a algoritmické EA — proti naivní inflaci AI rozumění.

1. Argument čínského pokoje🔗

Představte si, že jste uzavřeni v pokoji s:

• Knihou pravidel (algoritmus) v angličtině, jež říká, jak transformovat čínské znaky
• Vstupem: papír s čínskými znaky vstupuje
• Výstupem: vy, podle pravidel, vyplníte odpovídající znaky a posíláte ven

Z vnějšku to vypadá, jako byste rozuměli čínsky — vstupní otázky a výstupní odpovědi jsou smysluplné. Ale vy čínsky nerozumíte — manipulujete pouze syntaktickými symboly.

Searleho závěr: počítač je v této strukturní pozici vždy. Manipulace symbolů (syntaxe) není rozumění (sémantika).

Pro EA má tento argument klíčovou diagnostickou hodnotu:

• LLMs jako čínský pokoj: GPT, Claude, Gemini operují strukturálně skrze syntaktickou manipulaci — nerozumí ve searleovském smyslu.
• Riziko antropomorfizace: zacházení s LLM jako s rozumějícím subjektem je strukturálně chybná inference.
• Manipulativní zneužití antropomorfizace: marketing AI systémů strukturálně explouje lidskou tendenci antropomorfizovat — strukturální technika EA.

2. Slabá vs. silná AI🔗

Searle rozlišuje:

• Slabá AI (weak AI) — počítače jsou užitečnými nástroji pro studium mysli, simulují kognitivní procesy
• Silná AI (strong AI) — počítače mají mysl, doslova rozumí, mají subjektivní zkušenost

Searleho argument: slabá AI je legitimní vědecký program; silná AI je strukturálně mylná.

Pro EA z toho plyne:

• Marketing silné AI: tvrzení "AI rozumí", "AI cítí", "AI uvažuje" jsou strukturálně manipulativní — buď nepodložená hypotéza, nebo metafora maskovaná jako tvrzení.
• Klinická aplikace: AI nemůže substituovat terapeuta — terapeutický vztah strukturálně vyžaduje rozumění, jež AI strukturálně nemá.
• Edukační aplikace: spoléhání na LLM jako autoritu je strukturálně nebezpečné — model nerozumí, pouze syntakticky transformuje.

3. Background a Network🔗

V The Construction of Social Reality (1995) Searle rozvíjí pojmy:

• Background — pre-intencionální kapacity, jež umožňují intencionální stavy
• Network — síť ostatních intencionálních stavů, jež dávají specifickému stavu smysl

Tyto pojmy strukturálně rezonují s Polanyiho tichou znalostí (viz 7.13) a Heideggerovým Befindlichkeit.

Pro EA z toho plyne:

• AI postrádá background: LLMs operují bez vtěleného backgroundu, jenž lidskému rozumění dává smysl.
• Útok na background: techniky, jež rozkládají subjektovo pre-intencionální zakotvení (chronická dezorientace, sensorická deprivace), strukturálně podkopávají rozumění.

4. Konstrukce sociální reality🔗

Searle (The Construction of Social Reality, 1995): institucionální fakta (peníze, manželství, vlastnictví) jsou strukturálně konstruována kolektivními intencionálními akty — strukturou "X počítáno za Y v kontextu C".

Pro EA z toho plyne:

• Institucionální fakta jsou strukturálně zranitelná: pokud kolektivní intencionalita kolabuje, instituce kolabují.
• Útok na kolektivní intencionalitu: techniky, jež rozkládají sdílenou kapacitu pro institucionální fakta, strukturálně anihilují institucionální realitu.
• Klinický korelát: subjekt, jenž nedůvěřuje institucionálním faktům (penězům, kontrolám, soudům), vykazuje strukturální paranoid — strukturální analog Davidsonovské krize charity (viz 7.25).

5. Biologický naturalismus🔗

Searle formuluje biologický naturalismus: vědomí je biologickým fenoménem, podobně jako trávení nebo dýchání. Strukturálně to odlišuje od:

• Substanční dualismus (Descartes): vědomí je nemateriální
• Funkcionalismus (Putnam, Fodor): vědomí je mnohonásobně realizovatelné v jakémkoli substrátu
• Eliminativismus (Churchland): vědomí neexistuje

Searle: vědomí existuje, ale je strukturálně biologicky vázáno.

Pro EA z toho plyne:

• Implications pro AI: silná AI by vyžadovala biologický substrát, nikoli pouze funkční.
• Riziko biologického reduktivismu: tato pozice může být manipulativně zneužita pro popírání non-lidských vědomí.

6. Mapping na EA techniky🔗

7. Klinický význam🔗

Pro klinickou aplikaci (viz sekce 06):

• AI nemůže nahradit lidský terapeutický vztah: rozumění je strukturálně biologicky a sociálně vázáno.
• AI jako podpůrný nástroj: legitimní využití (administrativa, dokumentace, edukace), nikoli substituce.
• Riziko závislosti na AI "compagnonu": strukturálně zhoršuje schopnost autentických intersubjektivních vztahů.

8. Kritická distance🔗

Kompendium absorbuje Searleho argument, ale odbočuje v několika bodech:

1. Riziko biologického reduktivismu: Searle strukturálně upřednostňuje lidské vědomí — kompendium zachovává otevřenost pro non-lidská vědomí.
2. Anti-funkcionalistická rigidita: některé funkcionalistické intuice mohou být užitečné (např. pro neurální korelace), aniž by vyžadovaly silnou AI.

9. Primární literatura🔗

• Searle, J. (1980). "Minds, Brains, and Programs". Behavioral and Brain Sciences 3.
• Searle, J. (1992). The Rediscovery of the Mind. MIT Press.
• Searle, J. (1995). The Construction of Social Reality. Free Press.
• Searle, J. (2004). Mind: A Brief Introduction. Oxford UP.
• Preston, J. & Bishop, M. (eds.) (2002). Views into the Chinese Room. Oxford UP.

Související🔗

• 7. Teoretické reflexe (index)
• 7.5 Computational Epistemology
• 7.13 Polanyi: Tichá znalost
• 7.35 Dennett: Intentional Stance
• 7.37 Chalmers: Hard Problem
• 7.6 Kognitivní vědy
• Glosář: Metakognice
• Glosář: NABLA Infinity
• Filozofie: Epistemic Integrity

Connect & Contribute🔗

Created by Tomáš Korcak (korczis) | Open Source under GHL

• GitHub | GitLab | LinkedIn | Contact
• Glossary | Philosophy | Developer Portal