Personne ne nie que dans l'expérience du cerveau colossal, les même fonctions sont exécutées. Mais ça n'implique en aucune manière qu'on devrait considérer qu'un état mental peut être réduit à la somme des fonctions individuelles des neurones.
C'est ça le fonctionnalisme : partir du principe que les fonctions microscopiques suffisent à déterminer l'ensemble, indépendamment de la matérialité.
Mais ce n'est pas quelque chose de démontrable, c'est une position philosophique comme une autre.
On peut tout à fait être matérialiste et considérer que les fonctions individuelles ne suffisent pas à décrire l'ensemble. Par exemple on a la position émergentiste, qui elle considère que des phénomènes microscopiques émergent des phénomènes globaux ayant leur cause propre.
Par exemple j'imagine qu'un émergentiste pourrait considérer que la seconde loi de la thermodynamique est vraiment une cause agissante, alors que d'un point de vue microscopique elle est fausse et en principe peut être violée.
Parce que l'augmentation de l'entropie n'est qu'une prédiction statistique, qui n'émerge comme loi universelle qu'à grande échelle.
Et considérer que la seconde loi de la thermodynamique est une loi universelle qui agit comme cause de phénomènes physiques, ça n'a rient de dualiste, ni d'idealiste, ou alors tous les physiciens que je côtoie sont dualistes

Maintenant, puisque tu as l'air d'insister pour imaginer quelle serait ma position philosophique dont je n'ai rien dit jusque là : personnellement je considère que la pensée est une propriété émergente de la matière, et à ce titre je ne doute pas qu'une IA pourrait "penser".
Mais je n'ai pas besoin du fonctionnalisme pour adhèrer à ce résultat, et je n'ai pas de raison objective de rejeter d'autres positions philosophiques comme le fait M. Phi, ou de toutes les renvoyer à du dualisme.