Oui, le réductionnisme formaliste peut effectivement se contenter de la simulation puisque l’objectif visé est de produire des applications (faire « comme si »). Pour que la démarche soit valide (ou du moins cohérente avec le cadre épistémologique), il faut donc un test qui permette d’établir l’équivalence formelle entre deux dispositifs, celui simulé et celui qui simule (même input donne même output de façon déterministe nonobstant une marge d’erreur acceptable). Or, il n’y a pas de test valide qui ait été proposé jusqu’ici : non seulement le « test de Turing » n’est pas un test qui permet de valider « l’intelligence » d’une machine, mais le test ne concerne même pas la machine !
Qu’est-ce que le dispositif proposé par Turing permet de mettre en évidence alors ? Ceci qu’un être humain est capable de faire ce qui est impossible pour une machine : prendre une décision. En effet, dans le cas où il est formellement impossible de distinguer entre les réponses fournies par deux interlocuteurs cachés, seul un être humain est en mesure de trancher sur leur nature respective (et éventuellement de se tromper) c’est-à-dire d’agir en situation d’indécidabilité (de non-calculabilité). Ce qui est donc mis en évidence par le « test de Turing », c’est « l’intelligence » humaine (ce qu’un être humain peut faire et qu’une machine ne peut pas) et en aucun cas « l’intelligence » d’une machine qui n’est dans ce cas qu’un élément du dispositif expérimental et non pas l’objet de l’expérience.
Pour prendre conscience de la signification réelle du « test de Turing », on peut se reporter à la façon dont Turing décrit le calibrage de son dispositif (et qui en dit long sur les questions existentielles auxquelles Turing cherchait des réponses...). Pour Turing, le dispositif est censé être correctement mis en œuvre (c’est-à-dire qu’aucun biais ne permet à l’opérateur de deviner la nature de son interlocuteur) lorsqu’il n’est plus en mesure de distinguer s’il a affaire à une homme ou une femme. On voit bien que ça n’a pas grand chose avoir avec la détections d’une forme d’intelligence et que le vrai sujet de l’expérience, c’est l’opérateur lui-même (et à travers lui, la question de l’identité, notamment de genre, chère à Turing pour des raisons qui lui sont propres)
En gros, ce que démontre Turing, c’est que la cognition humaine n’est pas réductible à une machine de Turing (domaine du calculable). C’est malheureusement, exactement l’inverse qui est postulé par ceux qui se revendiquent de Turing même !
Le problème du réductionnisme formel en sciences cognitives n’est donc pas l’écart entre le phénomène et sa simulation, mais plutôt dans le fait suivant : pour que la méthode soit pertinente, il faut commencer par définir un test valide, ce qui n’a jamais été le cas.