Harnad, S. (2012) Alan Turing and the “hard” and “easy” problem of cognition: doing and feeling. [in special issue: Turing Year 2012] Turing100: Essays in Honour of Centenary Turing Year 2012, Summer Issue
RÉSUMÉ : Le problème « facile » des sciences cognitives consiste à expliquer comment et pourquoi nous pouvons faire ce que nous pouvons faire. Le problème "difficile" est d'expliquer comment et pourquoi nous nous sentons. La méthodologie de Turing pour les sciences cognitives (le test de Turing) est basée sur l'action : concevez un modèle qui peut faire tout ce qu'un humain peut faire, indistinctement d'un humain à un humain, et vous avez expliqué la cognition. Searle a montré que le modèle réussi ne peut pas être uniquement informatique. Des capacités robotiques sensori-motrices sont nécessaires pour ancrer certains, au moins, des mots du modèle, dans ce que le robot peut faire avec les choses du monde dont parlent les mots. Mais même la mise à la terre n'est pas suffisante pour garantir que - ni pour expliquer comment et pourquoi - le modèle ressent (si c'est le cas). Ce problème est beaucoup plus difficile à résoudre (et peut-être insoluble).
Alan Turing a apporté d'innombrables contributions inestimables et éternelles à la connaissance - l'ordinateur, le calcul, les limites de la prouvabilité, les réseaux de neurones, le test de Turing, la rupture du code Enigma qui a aidé à sauver le monde de la tyrannie nazie - avant que l'indicible injustice et l'ingratitude ne mettent fin à son court métrage. la vie.
Je veux m'étendre sur un seul fil dans tout ce qu'il a fait : le test de Turing a établi le programme de ce que l'on a appelé plus tard la "science cognitive" - la rétro-ingénierie de la capacité des humains (et des autres animaux) à penser.
C'est quoi penser ? Ce n'est pas quelque chose que nous pouvons observer. Ça se passe dans nos têtes. Nous le faisons, mais nous ne savons pas comment nous le faisons. Nous attendons que les sciences cognitives nous expliquent comment nous -- ou plutôt nos cerveaux -- le faisons.
Ce que nous pouvons observer, c'est ce que nous faisons et ce que nous sommes capables de faire. La contribution de Turing était de rendre assez explicite que notre objectif devrait être d'expliquer comment nous pouvons faire ce que nous pouvons faire en concevant un modèle qui peut faire ce que nous pouvons faire, et peut le faire si bien que nous ne pouvons pas distinguer le modèle d'un autre. de nous, sur la seule base de ce qu'il fait et peut faire. Le mécanisme causal qui génère la capacité de faire du modèle sera l'explication de la pensée, de l'intelligence, de la compréhension, de la connaissance - tous de simples exemples ou synonymes de : cognition.
Turing a en fait formulé (ce qui a fini par être appelé) le test de Turing (TT) quelque peu différemment. Il l'a appelé le "jeu d'imitation", et afin d'exclure tout parti pris qui pourrait influencer notre jugement en raison de l'apparence du candidat TT - plutôt que simplement de ce qu'il pouvait faire - le test devait être purement verbal, via l'échange de messages écrits, le candidat hors de vue. Aujourd'hui, nous dirions que le test devait être effectué par e-mail : concevez un système qui peut communiquer par e-mail, en tant que correspondant, indistinctement d'un humain à un humain, et vous avez expliqué la cognition.
Des questions se posent : (1) Communiquer sur quoi ? (2) combien de temps ? (3) avec combien d'humains ?
Les réponses, bien sûr, sont : (1) Communiquer sur tout ce dont tout humain peut communiquer verbalement par e-mail, (2) pour toute une vie, et (3) avec autant de personnes qu'un être humain est capable de communiquer.
C'est un défi de taille, et il laisse encore ouverte la quatrième question : (4) Comment ? La réponse, bien sûr, sera de concevoir le modèle gagnant, et la science cognitive est loin d'être en mesure de le faire, mais il y a une sous-question sur le type de système que sera le modèle gagnant.
Beaucoup de gens ont supposé que Turing voulait dire et s'attendait à ce que le passeur TT soit un système purement informatique. Le calcul, comme Turing nous l'a enseigné, est la manipulation de symboles (par exemple, des 0 et des 1, mais ils peuvent aussi être des mots) sur la base de règles purement formelles qui n'opèrent que sur les formes des symboles, pas sur leur signification (c'est-à-dire la syntaxe , pas de sémantique).
Un exemple d'une telle règle formelle basée sur la forme est : IF YOU READ "1 + 1 =" THEN WRITE "2".
Vous n'avez pas besoin de savoir ce que "1" ou "+" signifie pour suivre cette règle. Vous avez juste besoin de savoir quoi faire avec les formes.
C'est du calcul. Et c'est essentiellement ce que fait une "machine de Turing" (le précurseur abstrait de l'ordinateur).
Mais Turing voulait-il vraiment dire qu'il pensait que la cognition se révélerait n'être qu'un calcul ? Les «computationalistes» parmi les scientifiques cognitifs contemporains pensent que la cognition n'est que du calcul, mais je ne pense pas que Turing l'ait fait. Le test de Turing, tel qu'il l'a décrit, n'était qu'un test de correspondance par courrier électronique : uniquement des symboles entrants et des symboles sortants. Cela laisse la possibilité que la seule chose nécessaire entre les deux, pour réussir le test, soit la manipulation de symboles (calcul).
Mais le philosophe John Searle a montré, avec sa célèbre expérience de pensée « Chinese Room », que cela ne peut pas être vrai : la cognition ne peut pas être simplement du calcul. Car si un simple programme informatique suffisait pour réussir le test de Turing, Searle lui-même pourrait montrer que cela ne générerait pas de compréhension dans le système qui passait le test de Turing :
Searle nous demande de supposer que le test de Turing (TT) est réalisé en chinois (courriel chinois, avec de vrais correspondants chinois). Maintenant, puisque le calcul n'est que des règles pour manipuler des symboles en fonction de leurs formes, et non de leur signification, Searle lui-même pourrait mémoriser et exécuter ce même programme informatique passant par TT, mais il ne comprendrait pas le chinois. Mais l'ordinateur qui exécutait le programme de passage du TT non plus. La cognition n'est donc pas seulement un calcul.
Que manque-t-il pour que les symboles aient un sens, que les mots et les pensées aient un sens pour nous ? J'ai surnommé cela le "problème de mise à la terre des symboles": Considérez un dictionnaire chinois-chinois. Il définit tous les mots en chinois. Mais si vous ne connaissez pas déjà au moins la signification de certains mots chinois, les définitions des symboles sans signification ne conduisent qu'à plus de symboles sans signification, pas à la signification. Certains des symboles, au moins, doivent être «fondés» sur ce que les symboles désignent directement, plutôt que simplement via des définitions verbales formelles et dénuées de sens.
Considérez la chaîne de symboles "'zèbre' = 'cheval' + 'rayures'." Pour pouvoir comprendre cette définition, vous devez déjà savoir ce que signifient "cheval" et "rayures". Et cela ne peut pas continuer via des définitions jusqu'au bout ("rayures" = "horizontales" + "lignes", etc.). Certains mots doivent être fondés directement sur notre capacité à reconnaître, catégoriser, manipuler, nommer et décrire les choses du monde que les mots désignent. Cela va au-delà du simple calcul, qui n'est qu'une manipulation formelle de symboles, pour atteindre la dynamique sensorimotrice, c'est-à-dire non seulement la capacité verbale mais la capacité robotique.
Je ne crois donc pas que Turing était un informaticien : il ne pensait pas que penser n'était que calcul. Il était parfaitement conscient de la possibilité que pour pouvoir passer le TT verbal (seulement symboles entrants et symboles sortants), le système candidat devait être un robot sensorimoteur, capable de faire beaucoup plus que les tests TT verbaux directement, et puiser dans ces capacités dynamiques pour réussir le TT verbal.
Mais bien que Turing n'était pas un informaticien de la cognition, il était néanmoins un informaticien dans le sens plus général qu'il croyait que presque n'importe quelle structure ou processus physique et dynamique (y compris le mouvement planétaire, les réactions chimiques et la dynamique sensorimotrice robotique) pouvait être simulé et approximée par le calcul d'aussi près que nous le souhaitons. C'est ce qu'on appelle la version physique de la thèse "Church-Turing" (CT). (La version mathématique de CT est la thèse selon laquelle
La définition formelle du calcul de Turing - la machine de Turing - peut faire tout et n'importe quoi que les mathématiciens font lorsqu'ils "calculent" quelque chose.)
Le CT physique n'implique pas, cependant, que tout dans le monde physique n'est que calcul, car tout le monde sait qu'une simulation informatique de (disons) un avion, n'est pas un avion, volant (même s'il peut simuler le vol assez bien pour aider tester et concevoir des prototypes d'avions par calcul, sans avoir à les construire et à les tester physiquement, et même si le calcul peut générer une simulation de réalité virtuelle que les sens humains ne peuvent pas distinguer de la réalité - jusqu'à ce qu'ils enlèvent leurs lunettes et leurs gants).
Searle souligne donc simplement qu'il en va de même pour les simulations informatiques de la cognition verbale : si elles peuvent être effectuées purement informatiquement, cela ne signifie pas que les calculs sont cognitifs.
Calculs conscients ? Qu'est-ce que ça veut dire ? Eh bien, pour répondre à cette question, nous devons nous tourner vers un autre philosophe : Descartes. Comment Searle sait-il qu'il ne comprend pas le chinois lorsqu'il réussit le TT chinois en mémorisant et en exécutant le programme informatique de passage du TT ? C'est parce que cela ressemble à quelque chose de comprendre le chinois. Et le seul qui sait avec certitude si ce sentiment (ou n'importe quel sentiment) se produit est le connaisseur - qui est dans ce cas Searle lui-même.
L'apport du célèbre « Cogito » de Descartes est que je peux être absolument certain que je connais quand je connais. Je peux douter de tout le reste, y compris de ce que ma connaissance semble me dire sur le monde, mais je ne peux pas douter que je connais quand je connais. Ce serait comme douter que j'ai mal aux dents alors que j'en ai mal aux dents : je peux douter que la douleur provienne de ma dent -- il peut s'agir d'une douleur référée de ma mâchoire -- je n'ai peut-être même pas de dent, ou une bouche ou un corps; il se peut qu'il n'y ait pas de monde extérieur, ni d'hier ou de demain. Mais je ne peux pas douter que ce que je ressens en ce moment est ce que je ressens en ce moment.
Eh bien, Searle ne ressent pas la compréhension des Chinois lorsqu'il passe le TT chinois. Il peut distinguer la véritable compréhension (comme il comprend l'anglais) du simple fait de passer par les mouvements : simplement faire ce qu'il faut faire.
Mais qu'en est-il alors du test de Turing, qui est basé uniquement sur les actions et la capacité d'action, indiscernables de la capacité d'action des êtres humains réels et connaissants ?
Turing était parfaitement conscient que générer la capacité de faire ne génère pas nécessairement la capacité de ressentir. Il a simplement souligné qu'expliquer le pouvoir de faire était le mieux que nous puissions jamais espérer faire, scientifiquement, si nous souhaitions expliquer la cognition. Le modèle réussi de passage du TT peut ne pas s'avérer purement informatique ; il peut être à la fois informatique et dynamique ; mais cela ne fait que générer et expliquer notre capacité de faire. Cela peut se sentir ou non.
Expliquer comment et pourquoi nous pouvons faire ce que nous pouvons faire est devenu le problème « facile » des sciences cognitives (bien que ce ne soit pas si facile, puisque nous sommes loin de le résoudre). Le problème "difficile" est d'expliquer comment et pourquoi nous ressentons - le problème de la conscience - et bien sûr nous sommes encore plus loin de le résoudre.
IMPORTANT :
RépondreSupprimer(1) Faites vos lectures et vos ciélos tôt dans la semaine avant le cours pour que j’aie le temps d'y répliquer
(2) Lisez toujours les ciélos précédentes, et surtout mes répliques aux autres, avant d’afficher vos ciélos.
(3) Revenez toujours à vos ciélos 1-2 jours après pour voir ma réplique, qui pourrait poser davantage de questions auxquelles répondre.
RépondreSupprimerMa première ciélo de la semaine porte sur la lecture. Le texte examine les deux problèmes clés de la cognition : le problème facile de la cognition, qui concerne la manière dont on effectue des tâches cognitives telles que la perception, l'apprentissage par exemple, donc en résumer il explique comment et pourquoi nous pouvons faire ce que nous pouvons faire, puis le problème difficile de la cognition, qui concerne la manière dont on a des expériences conscientes, comment et pourquoi nous ressentons. Le texte explique que la simulation est importante pour résoudre le problème difficile de la cognition, car elle permet de simuler des expériences subjectives. Cette simulation peut être réalisée à l'aide d'un ordinateur, qui peut simuler des processus cognitifs complexes en utilisant des algorithmes. Mais elle ne suffit pas à résoudre complètement le problème difficile de la cognition, car elle ne peut pas rendre compte de l'expérience subjective elle-même comme nous l’avons vu avec l’expérience de la chambre chinoise de Searle. Je crois que ce que l’auteur essaie de démontrer c’est que Turing était conscient de cela, que la simulation de l’expérience ne pouvait pas résoudre le problème difficile mais que c’est ce qui est le mieux que l’on puisse faire pour expliquer nos capacités cognitives. Je crois que cela veut dire que le problème difficile de la conscience est alors impossible à résoudre ?
Taly, c’est quoi la différence entre la simulation (modélisation) computationnelle de quelque chose et la réalité virtuelle? Il y a un lien, mais ce n’est pas du tout la même chose. (C’est discuté dans d’autres répliques sur les fils de discussion des semaines passées. Revisite-les et fais le parcours avec des mots clés.
SupprimerCe qu’on peut modéliser à l’aide de la computation (grâce à la thèse forte de C/T [= quoi?]) c’est nos hypothèses concernant le mécanisme causal qui produit nos capacités cognitives (comportement, apprentissage, ancrage, langage). Le teste du succès de cette rétroingénierie est de la réaliser en matériel, puis tester cette réalisation matérielle avec le Test de Turing (T2, T3, T4).
C’est la même méthodologie que ce qu’on utilise dans le cas de l’amélioration des roquettes existantes à l’aide de la modélisation/simulation computationnelle au préalable (thèse C/T forte). Lorsqu’on semble avoir trouvé une solution dans le modèle computationnel, on peut ensuite tester cette solution en matériel – voir si la vraie roquette, réalisée à partir du modèle, s’avère capable de décoller dans les vrais cieux avec une meilleure performance que elle des roquettes qu’on avait avant.
Ce qui rend cette méthodologie inadéquate dans le cas du problème difficile est le fait que le ressenti n’est pas une performance observable, comme les autres capacités cognitives. Ainsi, bien qu’il semble paradoxal, a raison pour laquelle le problème difficile est difficile, c’est le problème facile! Car si lorsqu’on a réussi à rétroingénierier Marie (notre T3), il ne reste plus rien qu’on peut ajouter pour produire le ressenti (s’il n’est pas déjà là, inexpliqué, dans le mécanisme du T3). (On peut ajouter les capacités neuronales du T4, mais ça revient au même : si le ressenti est là dans le robot T4, on ne peut toujours pas l’expliquer. On ne peut qu’expliquer les capacités de performance observable T2, T3 et T4, Et ça c’est tout du problème facile.
La solution au problème facile ne laisse pas d’espace causal pour une solution au problème difficile. Le ressenti reste causalement superflu.
Exercice : Explique la différence entre le problème difficile et le problème des autres esprits. La solution au problème facile est déjà une solution suffisante pour le problème des autres esprits.
Si le problème difficile concerne la question de savoir comment les processus physiques du cerveau peuvent donner lieu à la conscience subjective, c'est-à-dire comment nous pouvons ressentir des émotions, des sensations et avoir des expériences qualitatives. Le problème des autres esprits concerne plus un questionnement sur la conscience des autres êtres humains (leurs émotions, ressentis, etc) donc notre capacité à intéragir avec les autres et de comprendre les autres.
SupprimerLe lien entre la solution au problème facile et le problème des autres esprits est clairement dans notre capacité à comprendre et étudier nos processus mentaux À Nous. En comparant notre compréhension de nos habitudes et réflexions avec les habitudes/réactions (donc émotions) des autres, il nous ai possible de comprendre les autres
SupprimerWalid, mais la solution au problème des autres esprits serait (1) l'étude de la psychologie et la zoologie comparatives, à l'aide de (2) nos capacités miroir.
SupprimerMa deuxième ciélo porte sur le dernier cours et sur ma compréhension de la différence entre la grammaire universelle et la grammaire ordinaire. Donc d’après ma compréhension, la grammaire ordinaire renvoie aux règles spécifiques d'une langue particulière. Chaque langue possède sa propre grammaire ordinaire, qui détermine la façon dont les sons, les mots et les phrases sont combinés pour former un sens. Elle peut donc évoluer et changer avec le temps, vous m’aviez donné l’exemple de la règle qui décide que l’on s’arrête sur un feu rouge et que l’on avance sur un feu vert. En ce sens, la grammaire ordinaire n’est pas innée, elle est apprise de la même façon que le langage c’est-à-dire à travers l’apprentissage supervisé et non supervisé, l’imitation ainsi que l’instruction verbale. Puis la grammaire universelle quant à elle est innée et supposément génétiquement programmé dans nos cerveaux. Elle est universelle à tous les humains et les langues, car elle renvoi à la base de la capacité humaine à apprendre une langue, elle fournit les structures de base nécessaires pour organiser les mots et les phrases dans une langue. Maintenant, vous m’aviez posé cette question dans ma dernière ciélo et je crois que vous y avez peut-être répondu au dernier cours, mais je ne crois pas avoir compris. Quel est le lien entre l’indépendance de la grammaire universelle avec la syntaxe et la sémantique ?
RépondreSupprimerTaly, la question (et je n’ai pas de réponse faisant autorité!) est la suivante : Est-ce que la syntaxe des mots est vraiment indépendante du sens (sémantique) des mots? La question se lève déjà en GO. Avec la polysémie « Je suis le guide » est ambiguë : Il se peut que la personne qui suit le guide soit moi, ou que la personne après laquelle je file soit le guide. Est-ce que la syntaxe seule peut faire cette distinction? Probablement, accompagnée de quelques mots de plus. Mais n’est-ce pas le sens qui détermine la syntaxe – « être le guide » versus « suivre le guide » -- plutôt que l’inverse?
SupprimerLe statut hybride des prépositions ( de à sur sous …) -- comme étant en même temps des mots fonctionnels (donc syntaxiques) et des mots de contenu (où on peut pointer vers le référent de la catégorie « la chose-sur-quelque-chose » ou le référent de la catégorie de « la chose-sous-quelque-chose ») sont peut-être aussi des exemples.
Mais autour de l’autonomie de la syntaxe il reste encore des incertitudes.
Le philosophe David Chalmers est l’auteur de la discrimination des divers obstacles émanant de l’étude de la conscience en deux types de problèmes, soit les problèmes faciles et le problème difficile de la conscience. Nous avons vu dans le cours que le problème facile fait référence à la compréhension du mécanisme des processus cérébraux permettant aux organismes biologiques de faire tout ce qu’ils sont capables de faire; il suffit aussi de pouvoir expliquer les raisons derrière nos comportements, ce qui peut se résoudre à l’aide de la science cognitive. En ce qui a trait au « comment », le test de Turing est la clé. Quant au problème difficile, Il est expliqué dans « Le cerveau à tous ses niveaux » qu’il renvoie à se demander : « pourquoi l’activité de notre cerveau nous fait-il ressentir quelque chose plutôt que rien ? ». Chalmers évoque que oui nous connaissons les processus fonctionnels (problème facile), mais la propriété phénoménale de la conscience demeure une énigme, à savoir les « aspects qualitatifs de notre vie mentale (ou qualia) »
RépondreSupprimerJade-Émilie, bon résumé, mais tu n’as pas choisi la lecture la plus conviviale à lire!
SupprimerC’est vrai que c’est Chalmers qui a baptisé le « problème difficile ». Mais il l’a aussi surchargé d’une quantité grotesque de « mots-belettes » (‘weasel-words’) (comme « conscience », « propriété phénoménale », « aspects qualitatifs », « vie mentale », « qualia »)!) qui sont superflus, inutiles, et non-informatifs.
Oublie-les! Tu n’as besoin que du seul mot : le « ressenti ». Le problème difficile est de rétroingénierier – donc d’expliquer, causalement – comment et pourquoi les êtres qui ressentent, ressentent. Le problème est difficile à cause du problème facile (ou plutôt à cause de sa solution éventuelle) : Lorsque les sciences cognitives auront résous le problème facile (d’expliquer, causalement – comment et pourquoi les êtres humains sont capables de faire tout ce qu’ils sont capables de faire) elles n’auront pas moyen d’expliquer ce qui reste à expliquer : le ressenti.
Ce que les êtres vivants sont capables de faire est observable, et ainsi explicable, causalement. Mais lorsque toutes ces capacités seront rétroingénieriées, il ne reste plus rien d’observable à expliquer. Encore plus important : malgré le fait qu’on sait que le ressenti existe, on n’a aucune hypothèse (non-circulaire) de ce qui pourrait être sa fonction causale. Une fois le problème facile résolu, à quoi sert le ressenti? Il à l’aire causalement superflu. Est-ce plausible que l’évolution paresseuse aurait généré un trait superflu et inutile?
Voilà le problème difficile.
« Le problème "difficile" est d'expliquer comment et pourquoi nous ressentons - le problème de la conscience - et bien sûr nous sommes encore plus loin de le résoudre [que le problème facile]. »
RépondreSupprimerAinsi se termine le texte de Harnad. Mais pourquoi sommes-nous loin de comprendre comment et pourquoi nous ressentons ? Après tout, des neurochirurgiens sont bien capables d’opérer notre cerveau! Si on peut « réparer » cet organe, comment se fait-il que nous ne le comprenions pas à 100%? Et bien, c’est parce qu’il est complexe (et mystérieux)! C’est aussi parce que des données fiables, valides, manquent.
D’autres personnes ont déjà cru être en mesure de comprendre le cerveau : nous faisons z parce que x + y. Ces personnes, computationalistes, croyaient que le cerveau fonctionnait comme un ordinateur, c’est-à-dire qu’il n’était que des calculs, que de la syntaxe, pas de sémantique. Or, le problème de la conscience va bien plus loin que x + y = z, parce que nous ne sommes pas certains que z existe pour les autres.
Je m’explique : si z est le ressenti, je suis certaine que z existe chez moi, car je ressens. En effet, lorsque je me suis brûlée sur une plaque chaude cette semaine, j’ai eu la confirmation que je pouvais ressentir. Or, rien ne peut me prouver que ma mère ressent lorsqu’elle se brûle. Donc, comment puis-je comprendre quelque chose donc je ne suis pas certaine de son existence? Comment puis je trouver la valeur de x et de y si je ne trouve pas z? Mon cours d’algèbre de base m’a enseigné que j’avais besoin d’une partie de l’équation afin de la résoudre. Or, dans le cas du problème difficile, bien des parties de l’équation sont toujours manquantes.
Marie, comme toujours, une ciélo qui fait preuve de la réflexion.
SupprimerMais en ce qui concerne la certitude, n’oublie pas qu’on ne peut pas être certain des lois de la physique non plus : La loi de la gravitation est très, très probablement vraie. Les pommes tombent vers le bas, pas vers le haut. Et elles vont très, très probablement continuer à faire ça demain. Et c’est très, très probablement à cause du fait que les objets s’attirent, en proportion avec leur masse. Et c’est très, très probable que les pommes ont moins de masse que la terre, et ainsi elles sont attirées vers la terre beaucoup plus que l’inverse.
Donc tu as raison concernant la conscience (le ressenti) d’autrui : contrairement à ton ressenti à toi, qui est certain pour toi, le ressenti des autres personnes n’est que très, très probable, comme la gravitation, pour toi. Mais la rétroingénierie des capacités d’action cognitive (la solution au problème facile) ne sera certaine non plus. Elle ne sera que très, très probable. Les sciences cognitives ne peuvent pas faire mieux que la physique!
En plus, constater le ressenti d’autrui n’est pas le problème difficile! C’est le problème des autres esprits, dont la solution ne commence à devenir moins probable que lorsqu’on arrive aux microbes et les plantes. Le ressenti des mammifères, des oiseaux, des vertébrés et même des invertébrés complexes est presqu’aussi probable que le ressenti de la personne à coté de toi. Mais même ça n’est pas le problème difficile, ce qui est la difficulté d’expliquer causalement comment et pourquoi les organismes qui ressentent, ressentent.
Et c’est difficile parce que la solution au problème explique toutes les capacités observables. Reste le ressenti, qui réel, mais semble superflu, causalement.
Ça serait quoi son rôle causal? Qu’est-ce qui ne pourrait pas se faire sans le ressenti, et pourquoi?
La perception de l’émotion ainsi que l’empathie, ne pourraient pas se faire sans le ressenti. La capacité miroir permet notamment de reconnaitre les émotions, de reconnaitre un état interne chez soi ou autrui. Pour détenir cette capacité, il doit exister une correspondance entre la perception et la production. Ainsi, la perception n’est possible que si l’émotion a déjà été «produite» et donc ressentie.
SupprimerJade-Émilie, correct. Mais le problème difficile est d'expliquer à quoi ça sert, causalement, le ressenti de l'émotion ou de l'empathie (ou de n'importe quelle sensation, et compris la compréhension). N'est-ce pas la capacité de faire la correcte chose -- manger le bon champignon, arrêter au feu rouge, t'échapper du prédateur, nourrir ton enfant? C'est quoi qu'ajoute le ressenti de l'exercice de la capacité de faire tout ça? Pourquoi est-ce que l'évolution paresseuse aurait ajouter ça?
SupprimerAnne Bonnel a écrit (dans la Semaine 1): ciélo 1 : le ressenti échappe au modèle causal des actions
RépondreSupprimerle problème du ressenti est plus dur à expliquer qu’expliquer le modèle causal des actions : Nous n’avons pas d’incertitude concernant la causalité des actions
Si le ressenti se résumait à des choses qui se déroulent en nous selon un modèle causal explicable, nous pourrions imaginer des devis expérimentaux pour observé et mesuré, le ressenti ne serait qu’un artefact, quelque chose qui n’a pas d’avantage évolutif, mais qui ne présente pas d’inconvénient non plus, de telle sorte qu’il serait resté (comme l’appendice de l’intestin). Mais ce n’est pas le cas, en ce qui concerne le “””ressenti””” tout ce que je sais/connais/ressens, c’est que je sais/connais/ressens. C’est ce que Descartes exprime avec son cogito :
c’est une affirmation de l'existence de la conscience en tant que pensée et en tant qu'entité immatérielle. Je connais mon mal de dent, je sais que je ressens la douleur d’un mal de dents, sans même être sûre que j’ai une dent, que les dents existent, que le monde hors de cette douleur existe, etc.
Anne, Nous avons abondamment d'incertitude à propos des deux problèmes, facile et difficile. C'est juste que le chemin vers une solution semble conforme à la science normale (la modélisation, la retroingénierie, le Test de Turing) pour le problème facile (ainsi que le problème des autres esprits), mais pas pour le problème difficile. C'est sûr que le ressenti existe. Qu'il soit un accident évolutif sans aucune valeur adaptative ou causale n'a aucune valeur explicative: mais la tentative de trouver une explication de son rôle causal est extrêmement difficile, sinon impossible.
Supprimerje n'arrive pas à faire de nouveaux commentaires dans ce fil,
Supprimerje reformule ma pensée de la ciélo 2 ciélo 2 :
non applicabilité de la thèse computationaliste/thèse forte de Church-turing/thèse mathématique de Turing
1. Turing n'est pas computationaliste
2. les computationalistes (et non les mathématiciens en effet) prétendent que la cognition est computation
3. Searle démontre que la manipulation des symboles selon des règles n'est pas de la cognition : il ne comprend pas le chinois
Anne, correct
Supprimer“Que ces zombis sont capables de sourire sans ressentir l’effet que cela fait d’avoir envie de sourire, sont capables de frémir devant un tableau sans ressentir ce frémissement, etc. Ils ont donc le même comportement que nous, les mêmes croyances que nous, les mêmes réactions que nous, les mêmes intentions, mais sans l’expérience consciente qui les accompagne. Ils croient frémir devant la beauté, mais ils se trompent ; l’état de leur cerveau provoque une réaction mais l’état intrinsèque, le quale, leur manque. Afin d’agir comme nous, nos zombis doivent croire être dans les mêmes états que nous, ils doivent croire aimer, ressentir, avoir mal prendre du plaisir, etc. “
RépondreSupprimerChalmers croit que si nous construisons des zumbis, soit des clones humains, physiquement, (biologiquement et chimiquement) identiques à nous (candidats T5?!), ils seront capables d’agir et de réaliser les mêmes fonctions que nous réalisons, par contre ils n’auront toujours pas le ressenti. Ceci serait dans un niveau indépendant des fonctions physiques, donc impossible d'être rétro-ingénierie. En lisant le texte de cette semaine, j’ai l’impression que cette dimension de l' esprit inachevable de l’ esprit, ou se situe le ressenti, me paraît similaire à celle de l'âme telle qu’elle est comprise dans le cadre des Religions. Un être immatériel qu’habite notre corps physique, qui est autonome par rapport à notre matérialité mais qui fonctionne en interaction avec elle.
Alex, c’est Chalmers qui a baptisé (dénommé) le « problème difficile », mais il ne l’a pas inventé, et il est philosophe. La possibilité de « Zombie » est une spéculation métaphysique, pas pertinente (du tout) au sciences cognitives. Dans le cadre de la méthodologie de Turing, c’est T2, T3 et T4 (et certes pas T5!) qui sont en jeu. Lis les autres répliques concernant le fait que le problème des autres esprits n’est pas le problème difficile. C’est quoi le problème difficile? Et pourquoi est-elle difficile?
SupprimerIl n’existe pas une « âme » immatérielle et immortelle. Il existe le ressenti. C’est la nature du ressenti et la difficulté du problème difficile qui produisent la croyance en une « âme », immatérielle et immortelle.
Et le mot « ressenti » suffit. On n’a pas besoin des « mots-belettes » (‘weasel-words’) comme « l’expérience consciente » ou « le quale » pour brouiller davantage et inutilement le paysage déjà assez bruité concernant l’explication du ressenti. Il y existe plein de « zombies » : les atomes, les pierres, les planètes, les autos, les Teslas, le plantes et les microbes (probablement), les chatGPT, et les logiciels qui réussissent T2 (s’il y en ont). Seul les êtres sentients ne sont des Zombies.
Mais il n’y a pas de Zombies T5/Chalmers. Et le « problème difficile » (d’expliquer causalement comment et pourquoi les êtres sentients ont le ressenti) est exactement équivalent au problème d’expliquer causalement comment et pourquoi il ne peut y avoir de Zombies T5/Chalmers. (Si tu comprends ça, tu comprends le problème difficile. Et si tu solutionnes l’un, tu solutionnes l’autre du même coup.)
En lisant le texte à l’occasion de la 100e anniversaire du Turing, je me pose la question est-ce que la syntaxe appartient à la forme ou au référant, la sémantique.
RépondreSupprimerJ’essaie de répondre par moi-même, mais en appliquant l’appris de ce cours jusqu’à maintenant.
1. La syntaxe n’est pas obligatoirement reliée au sens d’un mot, le référant, car le chat est un chat, étant sur un tapis ou non.
2. D’autre part, grâce à la syntaxe, l’arrangement de S(Le chat)+V (est sur le tapis) et non « chat le Le sur est tapis », un être humain comprend le sens.
3. Dans la chambre chinoise qu’une suite de chats ou un seul (comme suite de forme à manipuler ) ne posera pas de problème de manipulation, ni différence.
4. Ici arrive la question pour les petits mots, tels que : a, le, lui ou y.
a. Si le « y » est un pronom qui remplace un endroit ou une personne, le lien, la syntaxe avec les mots autour est différent. Cependant, la forme de « y » ne change pas. Donc pour l’utilisateur qui manipule les symboles par leur forme, le traitera de la même façon dans les deux cas : « J’y suis. » et « J’y ai songé. »
b. Si le « le » est un déterminant dans l’expression « Le champignon » et pronom dans « ne le mange pas », si le manipulateur des symboles n’a pas accès à la syntaxe, il ne pourrait pas traiter l’information correctement. Donc, il n’y aurait pas de la computation, car il ne traitera pas la bonne caractéristique (la relation avec les autres mots).
Pour ces raisons et exemples, dans la phrase du texte : « Le calcul, comme Turing nous l'a enseigné, est la manipulation de symboles (par exemple, des 0 et des 1, mais ils peuvent aussi être des mots) sur la base de règles purement formelles qui n'opèrent que sur les formes des symboles, pas sur leur signification (c'est-à-dire la syntaxe, pas de sémantique). » , je remplacerai le mot syntaxe par orthographe, car c’est l’orthographe, la combinaison des lettres qui forment les mots est l’analogue sémantique des combinaison des chiffres qui forment les nombres.
Étant un électron d’un Lilliput dans la cognition, j’implore votre condescendance.
Diana, ceci aurait dû s’afficher dans le fil de la Semaine 9.
SupprimerLe référent d’un mot n’est pas le « sens » (ou la « signification ») du mot. Le sens d’un mot ressemble plus à la définition du mot et la description de son référent. (Puisque ces deux sont approximatives, il y a beaucoup de définitions et de descriptions du même référent, puisque les référents, qui sont des catégories, ont beaucoup de attributs distinctifs [Watanabe, Funes,], donc il n’y a pas de définition ou description exhaustive.) Et a part du référent, l’ancrage, le(s) sens, il y a aussi le ressenti de la compréhension du mot (ce qui manque chez Searle, comme manque aussi l’ancrage).
Tout ce qu’on fait en maths et en logique est de la syntaxe. La computation est de la syntaxe : la manipulation des symboles de forme arbitraire, d’après des règles formelles (algorithmes) : ce que fait la machine de Turing. C’est la thèse faible de Church/Turing.
ChatGPT semble démontrer qu’avec de la puissance computationnelle suffisante et de la capacité de stockage suffisante ainsi que d’une base de données global d’écrits humains suffisamment énorme, on peut produire du texte qui est (presque) impeccable syntaxiquement. Est-ce est une réfutation de la pauvreté du stimulus (POS)? (Non. Pourquoi?)
Même si ChatGPT semble démontrer qu’avec de la puissance computationnelle, de la capacité de stockage et des données d’écrits humains suffisantes il est possible de produire des textes presque impeccables syntaxiquement, il ne s’agit pas d’une réfutation de la pauvreté du stimulus.
SupprimerVoyons d’abord la raison pour laquelle la grammaire universelle souffre de la pauvreté du stimulus. Une catégorie qui n’est pas innée s’apprend par essais et erreurs suivis d’une correction rétroactive, ce qui n’est possible que si l’on fait l’expérience de membres et de non-membres de la catégorie. C’est ainsi que l’on peut apprendre la grammaire ordinaire. Par contre, la grammaire universelle ne peut être apprise, car l’enfant qui apprend une première langue n’a pas accès aux non-membres de la catégorie, c’est-à-dire aux formes syntaxiques qui brisent les règles de la grammaire universelle, puisque tous les individus qui l’entourent ne font pas de telles erreurs et que lui-même n’en produit pas non plus. C’est ce qu’on appelle la pauvreté du stimulus affectant la grammaire universelle. Maintenant, en ce qui concerne ChatGPT, ses créateurs lui ont sûrement fourni des exemples de formes syntaxiques membres et non-membres de la grammaire universelle. Il est « codé » pour ne pas faire de telles erreurs ou, autrement dit, on lui a appris à ne pas en faire. De plus, ChatGPT a accès aux écrits scientifiques qui traitent de la grammaire universelle et dans lesquels les auteurs produisent volontairement des formes syntaxiques ne respectant pas la grammaire universelle (car, bien que les êtres humains ne fassent naturellement pas ce genre d’erreurs, il est possible d’en construire). De sorte que, même s’il n’était pas programmé pour ne pas produire de formes syntaxiques contraires à la grammaire universelle, ChatGPT pourrait peut-être même l’apprendre en ayant accès aux membres et aux non-membres présents dans ces textes (peut-être pas non plus). Ce sont les raisons pour lesquelles, selon moi, ChatGPT n’est pas une réfutation de la pauvreté du stimulus.
Aussi, la grammaire universelle est dite innée chez les humains, pas chez les programmes informatiques.
SupprimerMyriam, excellente synthèse. Mais c'est certain qu'on n'entraine pas ChatGPT en lui donnant du GU+ et GU-
SupprimerEt les textes par les linguistes, citant des violations GU- sont trop peu nombreux.
Non, chatGPT ne reçoit que des textes, mais des milliards et des milliards de textes. Tous sont GU+. Mais la pauvreté du stimulus, et la raison pour laquelle la GU est innée chez l'enfant, c'est parce que l'enfant apprend à parler en 2-3 ans, et le nombre de mots et de phrases qu'il entend et qu'il produit pendant ce temps là n'est que du GU+. Il n'a pas le luxe d'entendre et stocker des milliards et des milliards de textes, et les pré-traiter avec des algorithmes d'apprentissage sur des quantités de super-ordinateurs hyper. Cette puissance computationnelle ne rentre pas dans la tête, ni la longévité d'un enfant.
La thèse forte de Church Turing prétend que tout peut être simulé avec une précision qui correspond à la quantité de ressources qui y sont dédiées.
RépondreSupprimerCeci dit, est-il possible que peut importe la complexité de l’algorithme d’une machine artificiel qui passe le TT, elle ne puisse jamais produire autre chose qu’une simulation aussi réaliste soit elle ?
En suite dans quelle mesure une telle simulation peut-elle être considérée comme étant de la cognition ?
Si une machine venait à passer le TT avec succès, elle présenterait sans doute plusieurs indices qui nous laisseraient croire qu’elle détient le ressenti, mais elle n’en serait pas moins une simulation.
Une simulation suffisamment complexe pourrait-elle expérimenter le ressenti ?
Dans le doute, devrait-on donner un statut d’être sentient aux machines dans cette situation éventuelle ?
Rock, d’abord, revisite les répliques des semaines 0 à 3 pour te rappeler ce que c’est qu’une simulation/modélisation computationnelle par rapport à la réelle chose qu’elle simule. Ensuite reviens ici et explique ça en termes de ce que tu voulais dire ici à propos de la simulation, la computation, les test T2, T3, T4, et la thèse forte de C/T.
SupprimerQu’est-ce que c’est que la « complexité »?
Et « davantage de complexité », qu’est-ce que ça explique? C’est comme « Il faut davantage de mots pour expliquer X ». -- Oui, mais quels mots?!
Et n’oublie pas le problème des autres esprits (qui, avec les autres humains, n’est pas vraiment un problème [pourquoi]?).
Et tout ça n’est pas encore le problème difficile. (C’est quoi?)
Un point intéressant que j’ai retenu à la lecture est que le ressenti est souvent attribué aux émotions, mais il n’est pas que cela. Il inclut tout ce qui fait jouer dans la balance. Pourquoi je le fais ou je dois le faire ? Il a été question du libre arbitre, car c’est un peu l’explication du “quelque chose qui pèse dans la balance. Aucune explication logique ou biologique jusqu’à maintenant. Du moins rien de prouver empiriquement. Chaque fois qu’une explication semble donner un semblant de réponse, elle réfère au problème facile...quoique pas si facile, mais bon ! Le ressenti ne nous trahira jamais. Et nous avons deux certitudes seulement : les vérités formelles et le fameux ressenti.
RépondreSupprimerJ’ai laissé tomber les zombies, car les zombies n’existent pas et Chalmers m’étourdit. La dernière fois je m’étais égarée avec des lectures complexes. À l’écoute des vidéos j’ai l’impression que Étienne non plus n’apprécient pas les zombies.
Mélanie, le ressenti est tout ce qu’on peut ressentir, pas juste la colère, mais la chaleur, et la couleur. Un état ressenti est un état où ça ressemble à quelque chose d’ÊTRE dans cet état-là.. Ça ressemble à quelque-chose, pour moi, d’entendre de la musique. Ça ne ressemble à rien pour mon aspirateur. Mon aspirateur a des états, mais il n’a pas d’états ressentis.
SupprimerLe libre arbitre est u état ressenti. Mais le ressenti que j’ai c’est que je fais quelque chose librement, exprès, par mon propre choix libre. Mais c’est juste un « feeling ». Comme un mal aux dents quand je n’ai plus de dents. Ça se peut que mon choix est causé par une cause précédente.
Oui, tout ce papotage à propos de Zombies me rase, car ce n’est que de la pétition de principe.
Comment? (Lis les autres répliques.)
Qu’elles seraient les avantages évolutifs du ressentit ?
RépondreSupprimerSpéculations sur le problème difficiles :
Idée 1 :
Le ressentit en tant que signature psychique du mécanisme causale. Il serait l’expression mentale (ou biochimique ?) des mécanismes physiques. Le mécanisme causal serait alors codé sous la forme du ressentit de manière à être appréhendé, utilisé et mémorisé plus facilement. L’avantage de cette signature serait une compréhension plus directe et rapide, synthétisé, d’un évènement ou d’un besoin. Si nous prenons l’exemple du mécanisme causal de la douleur : les récepteurs (nocicepteur) détectent le danger, envoie un message via les nerfs périphériques et la moelle épinière jusqu’au cerveau, qui crée alors la sensation de douleur pour nous faire réagir. En lieu d’une compréhension causale le ressentit serait instantanée : Aï ! je ressens la douleur = j’agis. Je n’ai pas besoin de comprendre l’entièreté du mécanisme causale. Mon ressentit est instantané et synthétisé et me fournis une compréhension immédiate et total des mécanismes causaux ; ce gain d’efficacité et de réactivité en ferait un avantage évolutif.
Idée 2 :
Le ressentit en tant que volonté de vivre. Le caractère unique du ressentit créer une impression de singularité ; Être devient une expérience particulière qui est renforcée pars le ressentit. Mon ressentit. Cette sensation de particularisme affirme une volonté de survit et de reproduction. Un être zombi qui possède les mêmes capacités sans ressentit ne trouverais aucun sens à essayer de survivre : il en aurait toutes les capacités mais pas la motivation. Le ressenti serait le moteur de cette motivation. Le ressenti de la faim nous pousse à manger et cette volonté est plus puissante que la simple compréhension qu’il nous faut ingérer de la nourriture pour maintenir nos fonctions corporelles. J’ai faim ! et cela me pousse à chercher activement de la nourriture sans en comprends la raison. Le singularisme de l’expérience ressentit nous donne la volonté et le désir de survivre. Cette volonté de survit, exacerbé pars l’intensité du ressentit et l’impression de singularité, serait un avantage évolutif.
Idée 3 :
Le ressentit n’est pas pertinent. Il serait un résidu de l’activité neuronal. Lorsque les mécanismes causaux s’activent cela nous laisse une impression. Cette impression serait le ressentit, elle n’aurait pas de fonction particulière et serait une sensation produite collatéralement aux mécanismes causaux. Le ressentit serait alors explicable causalement, nous n’avons cependant pas encore trouver de quelle manière.
Renaud,
RépondreSupprimer1. Tu touches quelque chose qui brule, pourquoi est-ce que ton cerveau, ayant reçu le message sensoriel, t’enverrait un message personnel par ressenti, puis attendrait ta réponse, puis enlèverait enfin ta main – au lieu de l’enlever dès que le message sensoriel initial est reçu, comme un réflexe? En réalité, ceci se fait par réflexe, qui s’exécute avant même que tu ressente que ça brûle. Pourquoi ajouter les boucles superflues de ressenti? Il n’est pas une solution de déclarer que ça serait « plus immédiat » : Comment? Pourquoi?
2. Moteur de « motivation » oui – mais pourquoi motivation ressentie, plutôt que juste exécutée, comme le reflexe? Tu stipules encore des propriétés superflues pour expliquer quelque chose qui, en soi, semble causalement inutile. Idem pour le goût du sucre : la valeur adaptative du sucre pour la survie serait pareille s’il s’agissait de la détection des attributs sensoriels directement par des capteurs (innés ou appris, sans aucun ressenti de goût).
3. Ressenti sans valeur causale (un « épiphénomène ») : pas une solution; juste une réitération du problème difficile : Pourquoi l’évolution paresseuse investirait-elle dans un trait avec un énorme effet secondaire superflu? (Et pourquoi les capacités cognitives aurait-elles cet énorme effet secondaire?
Malheureusement, quand il est question de la fonction et la valeur adaptative du ressenti, jusqu’ici il n’y a eu que des comptes « comme ça » (‘Just-So Stories’) comme ça.
Si je comprends bien, nous pouvons appliquer la rétro ingénierie aux problèmes faciles. Cependant, il n’est pas possible de rétro ingénierie les problèmes difficiles et c’est ce qui en fait des problèmes difficiles. Nous ne sommes pas capables d’expliquer causalement comment on est capable de ressentir. Cependant nous sommes capables de savoir ce que l’on ressent et nous sommes capables de savoir que nous ressentons. Je ne suis pas certaine d’avoir bien compris le problème, cela va peut-être paraître trop pragmatique mais je ne comprends pas à quoi cela sert? Qu’est ce que nous apporterait d’expliquer causalement pourquoi on ressent? D’ailleurs, la science ne peut-elle pas expliquer cela avec le système nerveux? Qu’est ce que les sciences cognitives cherchent à établir de plus avec ce problème difficile et est il possible de résoudre les problèmes difficiles autrement que par la rétro ingénierie qui nous bloque dans cette démarche? Beaucoup de questions mais ma compréhension des lectures m’a apporté beaucoup de floue.
RépondreSupprimerCamille, c'est normal de se poser la question: « Le ressenti, à quoi sert-il? C'est sûr que c'est le cerveau qui produit (cause) le ressenti, mais comment? et pourquoi? »
SupprimerPourquoi est-il si difficile à répondre?
Tel que décrit par Chalmer, le problème facile de l’esprit est de comprendre comment nous sommes en mesure en tant qu’humain, de faire tout ce dont nous sommes capables de faire. Bien que nommé le problème « facile », les sciences cognitives sont encore très loin d’expliquer cela. En outre, nous sommes encore plus loin de parvenir à une réponse pour le problème difficile. C’est-à-dire de trouver une réponse à la question du ressenti. Comment et pourquoi ressentons-nous ce que nous ressentons et comment cela se produit-il? La différence avec le problème facile est que contrairement au problème difficile, il correspond à des éléments observables. En effet, même une fois que nous aurons trouvé une réponse au problème facile et que par conséquent nous serons en mesure d’expliquer tout ce qui est observable, nous serons toujours très loin d’expliquer quelque chose qui se produit à l’intérieur de nous et que nous ne somme pas en mesure d’observer.
RépondreSupprimerUn autre point apporté par Chalmer est le concept des zombis. Il stipule que même si l'on était en mesure de fabriquer un humain de toutes pièces et qu’en plus d’être fait comme un humain au sens propre du terme, il se comportait et était capable d’accomplir les mêmes tâches que celui-ci, il ne serait toujours qu’un zombi et ne possèderait pas de réelle conscience. Je ne suis pas certain de comprendre cet argument. Pour moi, cela relève du désir de l’être humain d’être unique. J’ai l’impression que les humains ont de la difficulté avec l’idée qu’ils puissent être égalés. L’idée que quelque chose d’autre qu’un humain né de l’union d’un homme et d’une femme puisse arriver à accomplir les mêmes choses que lui, voir le surpasser semble répugner notre espèce. Je ne dis pas que le zombi serait forcément capable de cognition, mais puisque nous ne sommes même pas en mesure de définir ce qu’est notre ressenti, alors comment pouvons-nous en évaluer la présence ou l’absence dans une autre entité ? En outre, le problème des autres esprits vient en rajouter à la complexité de ce problème. Je sais que je suis capable de cognition et que je ressens, mais comment puis-je savoir que le zombi n’en est pas capable lui aussi.
Alex, tu mêle un peu le problème difficile et le problème des autres esprits: C'est quoi la différence?
SupprimerEt pourquoi le problème difficile est-il si difficile? (Ça n'a rien à voir avec l'anthropocentrisme.)
Le cogito de Descartes prouve que l’on ne peut douter du fait que l’on ressent ce que l’on ressent. Par exemple, lorsque je pense à la dernière séance du cours de sciences cognitives, je ne peux douter du fait que je pense. Lorsque j’approche ma main du feu, je ne peux douter du fait que je ressente de la chaleur. Cependant, la certitude de ce ressenti ne s’applique qu’à mon ressenti et non à celui des autres. Lorsque je vois mon ami retirer sa main rapidement lorsqu’il l’approche du feu, je peux en inférer qu’il y a de fortes chances qu’il ressente la chaleur comme moi, mais cela n’est jamais accompagné de la même certitude que celle que j’ai lorsque je ressens moi-même la chaleur. Et l’on ne pourra jamais inférer que les autres ressentent autrement que par leurs comportements observables. C’est le problème des autres esprits.
SupprimerMaintenant, passons au problème difficile. Le but des sciences cognitives est de rétro-ingéniérer toutes les capacités des êtres humains, ou d’expliquer causalement les mécanismes qui nous permettent d’apprendre, de penser, de calculer, de ressentir les émotions ou la douleur, etc. C’est le problème facile. Cependant, même si les sciences cognitives parvenaient à expliquer tout cela, elles n’auraient toujours pas expliqué pourquoi les êtres humains ont le ressenti. Par exemple, si l’on découvre le mécanisme causal qui nous permet de résoudre une équation mathématique, nous ne saurions toujours pas pourquoi la réalisation de ce mécanisme est accompagnée par le ressenti d’avoir résolu l’équation. C’est le problème difficile, et la raison pour laquelle il est si difficile est liée au problème facile. Les sciences cognitives sont loin d’avoir résolu le problème facile, et elles ne le pourront peut-être jamais, même s’il y a de l’espoir. Le problème est que résoudre le problème facile n’aiderait pas à résoudre le problème difficile. La conscience est irréductible. Découvrir les mécanismes à l’œuvre lorsque l’on ressent, c’est-à-dire expliquer comment l’on ressent (le problème facile), ne permet pas de savoir pourquoi l’on ressent lorsque ces mécanismes sont à l’œuvre (le problème difficile).
Myriam:
Supprimer(1) On n'a pas besoin de la certitude en physique, ni en sciences cognitives. La haute probabilité suffit.
(2) On peut inférer, à partir de ses corrélats (behavioraux ou neuronaux), que les autres ressent, avec suffisamment de probabilité.
(3) Le problème facile est le problème de rétroingénierier -- et ainsi expliquer, comment et pourquoi les humains (et les autres espèces) sont capables de FAIRE tout ce qu'ils sont capable de FAIRE. Ce qui se fait est observable par les sens ou par les instruments: des actions (T2/T3/T4) observables.
(4) Mais le ressenti n'est pas une action observable (sauf par le ressenteur).
(5) Alors expliquer comment et pourquoi les ressenteurs ressentent n'est pas le problème facile mais le problème difficile.
(6) Et il est difficile parce que la solution au problème facile aura déjà expliqué et prédit tout ce qui est observable, y compris les corrélats du ressenti.
(7) Mais ayant expliqué tout ça, il ne reste plus de la place causale pour expliquer le ressenti: tout ce qui est observable est déjà expliqué. Nous savons (Descartes) qu'il y a le ressenti aussi à expliquer, mais pas moyen de l'expliquer.
(8) On a épuisé toutes les ressources explicatives. Le ressenti existe, on a même expliqué ses corrélats observables (problème facile), mais le ressenti semble causalement superflu.
Ce texte sert principalement de résumé ou de rétrospective sur les avancés de Alan Turing en sciences cognitives. Il est ainsi principalement question du Test de Turing, de la critique de Searle (CRA) et du surprenant apport de Descartes dans le domaine. De plus, le texte amène plusieurs questionnements au sujet du Test de Turing et de l’avenir de celui-ci.
RépondreSupprimerLe texte Alan Turing and the “Hard” and “Easy” Problem of Cognition: Doing and Feeling souligne qu’une machine Turing ne fait que manipuler des symboles sur la base de la syntaxe, et non de la sémantique. Or, en rétrospective du texte de la semaine précédente, serait-il possible de concevoir une machine capable de répliquer la grammaire universelle de l’humain ? Serait-il possible qu’une machine puisse en venir à apprendre par elle-même de nouvelles langues ou bien celle-ci serait confronté au dilemme de l’ancrage des symboles ?
Jean-Nicolas, oui, pour réussir le TT humain il sera nécessaire que les sciences cognitives rétroingénierie notre capacité au langage. Et ceci inclut la capacité à la grammaire universelle (GU), qui est innée. Il va falloir implanter les règles de la GU dans la tête du candidat au TT (ainsi que la capacité d’apprendre la GO) comme l’évolution les a implantées dans nos cerveaux. Tout ça fait partie de la capacité à réussir le test de Turing. La capacité d’apprendre à catégoriser, la capacité d’ancrer le sens des mots, les capacités miroir, et ainsi de suite. Une bonne charge de travail pour les sciences cognitives! Mais réalisable en principe.
SupprimerPar contre, cela ne fournira pas la solution au problème difficile. Il se peut que le succès au T2-T4 apportera le ressenti. Turing dit qu’on ne peut que s’y fier (et à nos neurones miroirs), car le TT ne peut pas apporter plus, et il n’y a pas de moyen ni de test plus fort. Si on ne peut pas résoudre le problème difficile, parce qu’on on n’arrive pas à expliquer comment et pourquoi les êtres sentients ressentent, le ressenti va continuer à sembler être superflu, inutile; et il n’y aura que l’introspection cartésienne (démontrant incontestablement à chaque individu sentient que soi-même ressent), ainsi que nos neurones miroirs, qui nous signaleront que les autres être sentients ressentent aussi.
Voici ma ciélo de cette semaine, basée sur la lecture de "L’esprit conscient – À la recherche d’une théorie fondamentale".
RépondreSupprimerSelon Chalmers, la conscience n’est pas physique, car, si c’était le cas, cela impliquerait que deux êtres physiquement indiscernables auraient des expériences identiques. Par exemple, ils aimeraient tous deux le sirop à la fraise, diraient les mêmes phrases au même moment, auraient les mêmes croyances, les mêmes intérêts, les mêmes états mentaux, etc. Or, ce n’est pas le cas. Il semble donc que la méthode matérialiste des sciences cognitives, bien qu’elle parvienne à expliquer certaines fonctions associées à la conscience comme l’apprentissage, l’attention ou la mémoire, ne puisse pas expliquer l’effet qui accompagne ces processus. Chalmers pose donc la thèse suivante : « la conscience ne peut être réduite ni à des fonctions cognitives, ni aux états cérébraux qui réalisent habituellement les fonctions ». Cela ne veut cependant pas dire qu’il faille adopter une attitude antinaturaliste, car le rejet du matérialisme n’implique pas le rejet du naturalisme. Pour développer une théorie fondamentale de la conscience, il faut considérer qu’elle est régie par des lois spécifiques et compatibles avec les données actuelles de la science et chercher une explication des phénomènes qui soit économique et élégante, comme le requiert la science.
La lecture de ce texte m’a conduite à me poser des questions. Si Chalmers rejette le matérialisme et considère que les fonctions cognitives ne peuvent être réduites aux états cérébraux, laisse-t-il ouverte la possibilité que l’environnement et le monde qui nous entoure fassent parties intégrantes de notre esprit ? Serait-il malgré tout ouvert à ce que notre corps ou certaines parties de notre corps en dehors du cerveau, soient impliqués dans nos processus cognitifs ? Si oui, est-ce que cette incarnation et cet enchâssement dans le monde pourrait expliquer en partie la conscience ?
Par contre, suite à notre discussion en classe, je comprends maintenant qu’inclure l’environnement comme faisant partie intégrante de notre esprit ne permet pas de résoudre le problème difficile de Chalmers, et qu’aucune théorie à ce jour ne le permet.
Myriam, bon résumé, en évitant toute mention des célèbres « Zombies » de Chalmers!
SupprimerMais ça revient au même. Les déclarations concernant « ce qui est matériel » sont soit vieux jeu -- tout est « matériel » mais ça n’explique ni comment, ni pour quoi, le matériel produit le ressenti (le prob diff) -- soit on est en train de jouer les jeux des métaphysiciens (sans rien expliquer) au lieu de contribuer aux sciences cognitives.
Reste le prob diff : On pourra éventuellement expliquer comment et pourquoi le système nerveux (matériel) produit (donc cause) la capacité à faire tout ce qu’il y a d’observable que peuvent faire les organismes vivants (le prob fac) -- mais il n’est pas évident qu’on pourra expliquer comment et pourquoi ces êtres vivants qui ressentent, ressentent.
Ça semble être un problème difficile, peut-être même non solutionnable. Pas parce que le ressenti n’existe pas. (Nous avons chacun la certitude qu’il existe.) Mais parce que l’explication doit être une explication causale : « Comment se produit le ressenti? Et à quoi sert-il? ». Jusqu’à ce qu’on puisse répliquer à ces deux questions, le prob diff reste non résolu. Le ressenti semble superflu.
Superflu à cause de l’éventuel solution au prob fac.
Car lorsqu’on a expliqué (rétroingénierié) tout ce qu’il y a d’observable que peuvent faire les êtres vivants, il ne reste plus de degrés de liberté causale pour expliquer le ressenti (chez ces êtres qui ont le ressenti). On a épuisé toutes les ressources causales dans la nature [4 forces : que sont-elles?] pour rétroingénierier toutes les capacités observables. Il n’y a pas de 5ième force. On ne peut pas expliquer à quoi ça sert, le ressenti. Car on a pu rétroingénierier tous le reste – non seulement sans avoir eu besoin du ressenti, mais sans avoir pu, même si la rétroingénierie produit, mystérieusement, le ressenti aussi, comment et pourquoi ça se produit.
On a tendance de vouloir dire, à ce point : Pourquoi tout ce remue-ménage? On aura pu expliquer, en sciences cognitives, tout ce que peuvent faire les êtres vivants sauf le ressenti, et il semble que ce fameux ressenti inexpliqué ne sert à rien! Il est superflu. Pourquoi le tracas? Le ressenti n’importe pas.
[Le ressenti n’importe pas? À la Semaine 11 on apprendra que le ressenti est la seule chose dans l’univers qui importe. Dans cet univers il y a plein de « Zombies » -- plein de choses qui font plein de choses (atomes, molécules, cailloux, montagnes, volcans, planètes, étoiles, trous noirs, biomolécules, organismes, gènes, microbes, plantes, neurones, automobiles, ordinateurs, robots) dont aucun ne ressent. Dans un univers Zombie comme ça, où point ne ressent point, rien n’importe. À qui ça importerait?]
Dans son article, Harnad explique que Turing a distingué les problèmes de cognition en deux catégories : les problèmes faciles, qui peuvent être simulés par un ordinateur ou résolus de manière logique, et les problèmes difficiles, qui sont de nature irréalisable, inobservable ou encore immesurable. La cognition est à la fois subjective, comprenant des éléments tels que les sentiments, les expériences conscientes et la perception, ainsi qu'objective, avec le traitement de l'information. L'expérience sensorimotrice humaine est un élément essentiel de cette équation.
RépondreSupprimerHarnad souligne que le traitement de l'information subjective et objective est crucial pour comprendre la cognition. En effet, l'expérience consciente, subjective, est souvent négligée dans les modèles de cognition computationnelle, qui se concentrent sur l'information objective. Cependant, les aspects subjectifs de la cognition sont tout aussi importants que les aspects objectifs, et leur intégration est essentielle pour une compréhension complète de la cognition humaine.
Étienne, alors comment étudier les expériences subjectives (le ressenti)?
SupprimerComme vous l'avez dit précédemment à Walid, « la solution au problème des autres esprits serait (1) l'étude de la psychologie et de la zoologie comparatives, à l'aide de (2) nos capacités miroir ». Toutefois, il est vrai que l'étude des expériences subjectives reste difficile, car elle demeure teinté et peut être influencée par nos propres expériences de vie, ce qui peut biaiser notre interprétation du ressenti d'autrui.
SupprimerÉtienne, avec les animaux non humain la question principale (pour le problème des autres esprits) est: EST-CE qu'ils ressentent? Et là c'est avec (1) et (2) qu'on essaie à lire leur esprit.. Avec les humains la question principale est QU'EST-CE qu'ils ressentent? Et là ils sont en mesure de nos le dire, verbalement. (Mais, oui, on doit aussi interpréter leur mots, ainsi que leurs actions.)
SupprimerJ'ai envie de vous faire part d'une observation, que j'ai faite chez des poissons que nous avons à la maison, au risque que vous trouviez cela cruel. Ce sont des guppys, ils sont trois et l'un d'entre eux était clairement rejeté par les deux autres, jusqu'à la mort de l'un des agresseurs. Maintenant, il semble s'épanouir avec l'autre, mais lorsque je m'approche, il se sauve se cacher dans la roche. Pouvons-nous déduire qu'il ressent de l'anxiété ? Est-il possible de se baser sur son comportement et son langage corporel pour interpréter son état émotionnel ?
SupprimerÉtienne: Oui.
SupprimerJ'ai lu le texte sur Chalmers, dans lequel on affirme que, selon lui, si deux êtres physiquement indiscernables peuvent avoir des expériences différentes, il faut en conclure que la conscience n'est pas physique. Je ne suis pas d'accord avec cette affirmation.
RépondreSupprimerIl me semble que, si deux être physiquement indiscernables vivaient exactement les mêmes expériences au détail près, ils en auraient le même ressenti. Par exemple, si on créait un clone partageant mon adn et qu'on lui faisait vivre dès sa naissance une simulation reproduisant parfaitement mes expériences de vie, il aurait le même ressenti que moi aux mêmes moments et sa personnalité se développerait d'une manière identique à la mienne, dans la même direction et au même rythme. Les mêmes variables dans le même agencement donnent les mêmes résultats.
Si deux êtres APPAREMMENT physiquement indiscernables ont des expériences différentes, c'est justement parce qu'ils ont été soumis à des environnements différents. Sachant que le cerveau possède une plasticité et se modifie selon les apprentissages et les expériences, il me semble qu'il n'est pas possible que deux êtres ayant des expériences différentes puissent avoir exactement la même anatomie de A à Z sans que cela se traduise par une différence physique, même si elle peut éventuellement être très faible.
Chalmers semble tenir pour évidence qu'il est possible pour deux êtres physiquement indiscernables d'avoir des expériences différentes mais c'est loin d'être aussi clair pour moi. Je n'ai jamais lu Chalmers; peut-être tient-il compte de cette objection. Toutefois, à moins qu'il ne justifie sa position, elle me semble prendre l'apparence d'une pétition de principe parce que la seule façon que des êtres physiquement identiques puissent avoir des expériences différentes est que la conscience ne soit pas physique.
Sous cette forme : "Pourquoi la conscience ne peut-être physique? Parce que des êtres physiquement identiques ont des expériences différentes. Comment des êtres physiquement identiques peuvent-ils avoir des expériences différentes? Mais parce que la conscience n'est pas physique!"
Comme indiqué plus haut, je connais très mal Chalmers et je suis peut-être confus. SVP n'hésitez pas à me corriger.
Jules, tu as raison. Chalmers imagine des choses qui ne lui semblent pas logiquement impossible, donc il les prend pour possible et lance des raisonnements les prenant pour prémisses. C'est le raisonnement d'un métaphysicien -- donc sci-fi, pas cog-sci.
SupprimerOubli les zombies et retiens juste que le prob-diff est effectivement diff.
J'ai l'impression que les lectures de cette semaine sont surtout une révision de concepts vus plus tôt dans la session. Je vais donc produire un résumé pour frère cadet de ce qui me semble être l'essentiel :
RépondreSupprimer- Le problème facile des sciences cognitives est de parvenir à expliquer de façon causale comment et pourquoi notre cerveau produit nos capacités de faire tout ce que nous sommes capables de faire. On considère qu'il est "facile" parce qu'on peut avoir une idée de la façon de parvenir à le résoudre, puisqu'on cherche à expliquer des performances observables : il suffirait de parvenir à rétro-ingéniérer un mécanisme capable de reproduire parfaitement nos capacités. C'est ce que Turing cherche à aider à faire en proposant son célèbre test vérifiant si une machine que nous aurions créée réussirait véritablement à reproduire nos capacités cognitives.
- Le problème difficile de la conscience est d'expliquer comment et pourquoi notre cerveau produit notre capacité à ressentir. Pourquoi dois-je ressentir de l'inquiétude si je vois apparaitre une menace pour ensuite décider de m'enfuir, au lieu de simplement m'enfuir? Peut-être parce que le ressenti permet une interprétation du monde plus efficace que la réaction automatique aux stimuli et présenterait donc un avantage évolutif? On peut imaginer des histoires Just So comme celle-ci pour tenter d'expliquer le problème difficile, mais elles n'ont qu'une valeur scientifique très minime parce qu'on ne peut en aucun cas les tester.
Le problème est difficile parce qu'il concerne le ressenti. Dans le cas du problème facile, on peut imaginer construire un mécanisme qui reproduise nos capacités à faire ce que nous pouvons faire parce que 1. nous savons grosso modo ce que sont nos capacités et 2. nous serons capables de vérifier si le mécanisme y correspond.
Pour le problème difficile, on n'a aucun indicateur puisque le ressenti n'est pas observable en raison du problème des autres esprits. Dans le cas du problème facile, on peut imaginer à quoi pourrait ressembler une solution, même si nous ne sommes pas encore capable de l'exécuter. Mais comment simuler le ressenti? À quoi ressemble même le ressenti? Et comment savoir que nous sommes réellement parvenus à le simuler?
- Le problème des autres esprits
Le problème des autres esprits découle justement du fait que le ressenti n'est pas observable. Il fait référence au fait que nous n'avons pas accès au ressenti des autres, seulement à leurs comportements, et que nous ne pouvons conséquemment pas savoir ce qu'ils pensent ni mêmes être certains qu'ils pensent.
Toutefois, nous faisons l'expérience de notre propre ressenti et de nos capacités miroirs, qui nous permettent de prédire et de comprendre le comportement d'autrui, ce qu'autrui peut également faire avec nous. Le fait que nous comprenions les agissements et les intentions des autres, allant jusqu'à les prédire dans certaines situations, nous permet d'inférer qu'il est probable que d'autres êtres semblables à nous possèdent les mêmes capacités et une activité cognitive comme la nôtre, ce qui est suffisant pour les besoins de notre imaginaire des autres et de nos relations sociales.
Jules, excellent. (Les corrélations sont probablement presque aussi prédictives même sans l'aidenos capacités miroir de lectures d'esprit.)
SupprimerLe problème difficile des sciences cognitives peut être résumé comme suit: comment et pourquoi les êtres sentients sont-ils capables de ressentir ce qu'ils ressentent?
RépondreSupprimerTel que nous l'avons vu plus tôt durant la session, la cognition n'est pas qu'une simple question de computation. La computation fait très fort probablement partie de l'équation, mais elle ne suffit pas à elle seule pour rétroingénierier les capacités du cerveau humain dans leur entièreté, qui incluent non seulement le calcul, mais aussi le ressenti. C'est d'ailleurs ce que nous a montré l'argument de la chambre chinoise de Searle: faire la bonne chose avec la bonne sorte de chose est possible, dans une certaine mesure, sans que le ressenti ne soit présent. Pourtant, il semble que pour pouvoir réellement répliquer les capacités du cerveau humain dans leur ensemble, le ressenti est un élément essentiel. Searle, dans son expérience de pensée, n'aurait probablement pas pu passer le T2 (c'est-à-dire communiquer par écrit avec un humain tout au long d'une vie sans que celui-ci ne se doute qu'il ne converse pas avec un autre humain, ou, dans ce cas, correspondre avec un locuteur natif du chinois tout au long d'une vie sans qu'il s'aperçoive que Searle est un anglophone ne comprenant pas un mot de chinois) sans avoir accès à son ressenti - le sentiment que les symboles qu'il manipulait et les combinaisons de ceux-ci avaient un sens. C'est pour cela qu'il faut minimalement un robot T3, soit doté d'un système sensorimoteur lui permettant d'ancrer les catégories auxquelles les symboles qu'il manipule font référence, pour passer le T2.
Mais dire, ou même prouver, que le ressenti est essentiel à la rétroingénierie du cerveau humain et à la complétude du fonctionnement de celui-ci ne résout toujours pas le problème difficile des sciences cognitives. Pourquoi ressentons-nous? Comment peut-on rétroingénierier le ressenti, surtout lorsqu'il nous est impossible d'observer celui-ci directement (problème des autres esprits)?
Adèle, ta synthèse est correcte. Si tu ressent sa compréhension aussi, alors tu n'es pas juste une ChatGPT!
SupprimerMon résumé est le suivant: le philosophe David Chalmers a baptisé le problème difficile. Le problème difficile est de rétroingénierier, donc d`expliquer de manière causale comment et pourquoi les êtres vivants qui ressentent, ressentent. Le ressenti comme problème est difficile à cause de la solution éventuelle du problème facile qui est d`expliquer causalement comment et pourquoi les êtres humains sont capables de faire tout ce qu`ils sont capables de faire. On sait que le ressenti existe, c`est un fait cependant nous n`avons aucune hypothèse de ce qui pourrait être sa fonction causale. Ce que les êtres humains sont capables de faire est observable et leur cause est aussi explicable. De ce fait, une fois que toutes ces capacités seront rétroingénieriées il ne restera plus rien d`observable à expliquer. Le ressenti est réel mais semble superflu causalement. Il est extrêmement difficile, sinon impossible de tenter de trouver une explication à son role causal.
RépondreSupprimerLe problème difficile est d’être capable de rétroingénierer et donc d’être en mesure d’expliquer la façon et la/les raisons pour lesquelles les humains ressentent le « ressenti ». Ce problème est difficile, puisque dans l’éventualité où nous résolvons le problème dit facile, celui d’expliquer de manière causale le « comment » et le « pourquoi » des capacités humaines, il demeurera impossible d’expliquer et donc de rétroingénierer une dernière chose et non la moindre : le ressenti. Les capacités humaines de l’ordre des actions, de « faire », sont observables et donc, sont explicables de manière causale jusqu’à un certain point. Il serait donc possible de toutes les rétroingénierer. Toutefois, le ressenti ne peut s’observer, même si nous sommes bel et bien conscients de son existence. Il nous est également impossible d’en comprendre la/les fonctions causales. Est-ce possible qu’il s’agisse « juste » d’un « bête » résultat de l’évolution darwinienne/baldwinienne et de la paresse de l’évolution? Qu’est-ce qu’apporte le ressenti des émotions, de la compréhension, de l’empathie, par exmeple, comme valeur adaptative ajoutée à notre espèce biologique? À quoi bon sert le ressenti sur le plan adaptatif dans l’optique d’une meilleure survie et d’une reproduction optimale?
RépondreSupprimerPour ma deuxième ciélo, je tenterai d’expliquer la différence entre le problème difficile et le problème des autres esprits au meilleur de ma compréhension. Le problème des autres esprits concerne la compréhension de la nature de la conscience et de la cognition. En fait, il correspond au questionnement par rapport à l’existence des pensées chez autrui, de leur ressenti. Est-ce que les autres pensent et ressentent comme moi je peux penser et je peux ressentir? Nous ne pouvons être certains que de notre propre expérience subjective, et nous n’avons pas accès à la conscience et à la cognition des autres, alors il nous est impossible de connaître avec certitude l’expérience subjective d’autrui, et même si autrui possède une conscience et une cognition jusqu’à un certain point. La solution au problème des autres esprits serait envisageable grâce à l’étude de la psychologie et la zoologie comparative à l’aide de nos capacités miroirs. Quoique le problème difficile et le problème des autres esprits se penchent tous les deux sur la compréhension de la nature de la cognition, le problème difficile se concentre davantage sur le mécanisme, sur la causalité, sur la rétroingénerie des capacités cognitives, alors que le problème des autres esprits se concentre plutôt sur la connaissance de l’expérience subjective, des états mentaux des autres. Par exemple, est-ce qu’untel est capable de ressentir la douleur? S’il ressent de la douleur/souffrance, chose que ne pourrai jamais affirmer avec certitude, car il ne s’agit pas de mon vécu, est-ce qu’il ressent la douleur/souffrance de la même façon que moi? Est-ce que nos expériences subjectives sont similaires?
RépondreSupprimer