L’esperimento della stanza cinese

L’esperimento della stanza cinese, proposto da John Searle nel 1980, è un argomento filosofico pensato per mettere in discussione una delle affermazioni centrali della cosiddetta Intelligenza Artificiale “forte”: l’idea cioè che un computer, se programmato in modo appropriato, non solo possa simulare il pensiero umano, ma sia davvero in grado di pensare, capire, avere stati mentali come un essere umano. Per Searle, questa convinzione è profondamente sbagliata, e l’esperimento mentale serve proprio a mostrarne i limiti, in modo intuitivo ma rigoroso.

Immaginiamo, allora, che una persona si trovi chiusa dentro una stanza. Questa persona non conosce affatto il cinese. Non lo parla, non lo comprende, non sa nemmeno distinguere i caratteri. All’interno della stanza, però, ci sono alcune cose: un manuale dettagliato, scritto in inglese, che contiene una serie di regole molto precise su come manipolare simboli cinesi; un insieme di caratteri cinesi in ingresso, che vengono fatti passare nella stanza attraverso una fessura nella porta; e infine fogli bianchi e penne, per scrivere risposte da far uscire all’esterno.

La persona nella stanza riceve, quindi, dei simboli cinesi (che non comprende) e, servendosi delle istruzioni del manuale, trova la risposta appropriata, anch’essa in cinese, da restituire. È importante notare che questa persona non fa altro che seguire le istruzioni in modo meccanico: confronta simboli, li ordina, li riscrive, li riassembla, senza alcuna comprensione del loro significato. È come un burocrate che lavora alla cieca, manipolando documenti in una lingua sconosciuta solo perché le istruzioni gli dicono quali fogli combinare in risposta ad altri.

Ora, immaginiamo che all’esterno della stanza ci sia qualcuno che conosce il cinese e riceve le risposte. A questa persona, le risposte sembrano assolutamente corrette: pertinenti, ben formulate, come se chi è dentro la stanza parlasse cinese fluentemente. Ma la verità è che dentro la stanza nessuno capisce ciò che viene detto. Non c’è comprensione, non c’è coscienza, non c’è intenzionalità. Solo la manipolazione di simboli secondo regole prestabilite.

Searle sostiene che questa situazione rappresenta perfettamente il modo in cui funzionano i computer. I computer, come la persona nella stanza, manipolano simboli secondo regole formali, ma non comprendono nulla di ciò che fanno. Non hanno accesso al significato. Operano sintatticamente, cioè a livello di forma, ma non semanticamente, cioè a livello di contenuto. Di conseguenza, anche se un programma informatico riesce a fornire risposte apparentemente intelligenti, non significa che capisca davvero ciò che sta dicendo. L’apparenza di intelligenza non equivale alla presenza di una mente.

Al centro di questa riflessione c’è il concetto filosofico di “intenzionalità”, che per Searle è ciò che caratterizza gli stati mentali: il fatto, cioè, che essi siano sempre “diretti a” qualcosa — che una credenza riguardi qualcosa, che un desiderio sia rivolto verso un fine, che un pensiero abbia un contenuto. Secondo Searle, questa dimensione intenzionale è totalmente assente nei sistemi artificiali, per quanto sofisticati possano essere. Nessun programma per quanto complesso, nessuna architettura computazionale, può generare da sola la comprensione autentica, perché essa non nasce dalla sola manipolazione simbolica, ma da una mente incarnata, consapevole, situata nel mondo.

Naturalmente, l’esperimento ha sollevato molte obiezioni. Una delle più famose è quella che afferma che non sia la persona nella stanza a capire, ma l’intero sistema — persona, manuale, regole e materiali. Searle risponde che anche se la persona imparasse a memoria tutto il manuale e fosse in grado di eseguire le regole senza consultarlo, continuerebbe comunque a non capire il cinese. In altre parole, l’intero sistema resta privo di comprensione, proprio perché manipola simboli senza sapere cosa rappresentano.

In conclusione, l’esperimento della stanza cinese mira a dimostrare che simulare un comportamento intelligente non equivale a essere intelligenti. L’apparenza non è sostanza. L’intelligenza autentica non consiste solo nella capacità di produrre risposte coerenti, ma nella presenza di stati mentali consapevoli e intenzionali, che secondo Searle non possono emergere da un semplice programma. Con questo argomento, egli si pone in netta opposizione a coloro che ritengono che basti una macchina abbastanza sofisticata per ottenere la comprensione vera. Per Searle, le macchine non pensano: simulano soltanto. E, come la persona nella stanza, non sanno davvero cosa stanno dicendo.