L’intelligence artificielle est-elle maintenant douée de conscience? Pas encore.

par Stephanie Orford Résumé de recherche Cerveau, esprit et conscience 25.01.2018

Les calculs qui sous-tendent l’intelligence artificielle (IA) ressemblent davantage à un traitement inconscient qu’à une réflexion consciente dans le cerveau humain, suggérant que l’IA n’est pas encore douée de conscience. Deux processus particuliers qui travaillent en synchronie dans le cerveau humain pourraient révéler des données clés.

 

Objet de la revue

Pour découvrir si les machines sont maintenant douées de conscience, il faut définir la conscience chez le cerveau humain et animal, et voir ensuite si ces qualités sont présentes dans l’IA. Stanislas Dehaene (Collège de France et Inserm-CEA) et Sid Kouider (École Normale Supérieure), tous deux Boursiers principaux au sein du programme cerveau, esprit et conscience Azrieli de l’ICRA, et Hakwan Lau (Université de la Californie à Los Angeles et Université de Hong Kong) examinent cette question dans un cadre computationnel, et procèdent à une revue de la recherche et offrent des données sur le mécanisme cérébral de traitement de l’information chez l’humain et l’animal, et comparent les résultats aux méthodes de traitement de l’information utilisées aujourd’hui en IA. Les chercheurs souhaitent favoriser les progrès vers la conscience artificielle et repèrent des caractéristiques qui permettent à un cerveau humain de générer la conscience, afin de réussir à transférer ces données aux algorithmes informatiques. 

Contexte

La perspective d’une conscience artificielle fascine les scientifiques et les mordus de la science-fiction depuis des décennies.

De récentes percées en IA nous ont permis de nous rapprocher de cet objectif avec la création de robots qui peuvent apprendre, résoudre des problèmes complexes et s’adapter à de nouveaux environnements. Toutefois, on se demande toujours si l’expérience subjective de la conscience n’échappe pas encore à une définition computationnelle — et si l’architecture des systèmes peut produire une telle expérience en IA.

Alors que des percées en IA font avancer le domaine, des scientifiques cognitifs ont travaillé au décodage de l’énigme de la conscience humaine. Ils ont découvert que la conscience ne dépend pas d’un seul mécanisme, mais de plusieurs types de calculs. De plus, les recherches signalent que le cerveau traite une grande proportion de l’information émanant de l’environnement à l’aide de mécanismes inconscients et cette information influence l’expérience consciente.

Les auteurs passent en revue et analysent les diverses dimensions par lesquelles le cerveau humain traite l’information et comment ces dimensions sont en lien avec le traitement inconscient ou conscient de l’information en fonction des éléments suivants :   

Calcul inconscient : La recherche en neuroimagerie a révélé qu’il est possible d’activer la plupart des aires cérébrales dans un mode inconscient. L’extraction de sens, la reconnaissance visuelle des mots ou des visages, l’apprentissage par renforcement, le contrôle cognitif et la prise de décisions ne sont que quelques exemples du traitement inconscient chez l’humain. Ces tâches influencent fortement le traitement conscient.

Le calcul de la disponibilité globale correspond à la sélection de l’information externe pour qu’elle soit accessible aux nombreux sous-systèmes spécialisés du cerveau pour un plus ample traitement. Des travaux de recherche ont associé le traitement de la disponibilité globale avec un vaste éventail de calculs, y compris le rappel, les illusions visuelles et le traitement de l’information sérielle. Ces systèmes convergent vers la prise d’une décision unique. Essentiellement, cela permet une planification cohérente et réfléchie.

Le calcul d’autosurveillance correspond à la capacité du cerveau de surveiller ses propres connaissances et capacités, comme la confiance à l’égard des décisions, la réflexion, la détection d’erreurs, la surveillance de la qualité des représentations de la mémoire (métamémoire) et la capacité de distinguer la réalité de la perception. On appelle aussi ce type de traitement l’introspection ou la métacognition.

Présence de conscience : Les calculs de la disponibilité globale et de l’autosurveillance peuvent fonctionner séparément, mais c’est seulement quand les deux fonctionnent ensemble que la conscience se manifeste chez l’humain. Des études de cas avec des patients qui ont perdu l’une de ces compétences décrivent aussi une perte de perception consciente, suggérant que les deux sont nécessaires à une conscience humaine complète.

Ces caractéristiques de la pensée consciente remettent en cause l’idée que l’expérience subjective de la conscience échappe à la définition computationnelle.

Résultats clés

En misant sur des travaux de recherche qui signalent que les calculs de la disponibilité globale et de l’autosurveillance fonctionnent ensemble pour produire la conscience chez l’humain, les auteurs déduisent que la conscience n’est pas encore présente dans l’IA.

Calcul inconscient : Avant tout, le traitement de l’information en IA met en jeu des calculs qui sont similaires au traitement inconscient dans le cerveau humain. Cela inclut des fonctions d’IA, notamment : parole-texte, reconnaissance faciale, apprentissage par renforcement et types de calcul utilisés aujourd’hui pour la prise de décisions.

Calculs de disponibilité globale et d’autosurveillance : Le traitement automatique fait des progrès en ce qui concerne les calculs de disponibilité globale et d’autosurveillance, mais il y a encore beaucoup à faire. La capacité d’un système à entreprendre des processus d’autosurveillance, et de mettre en œuvre et de coordonner avec souplesse de multiples calculs demeurent un défi en architecture des systèmes.

Présence d’une conscience : Quoiqu’il y ait des progrès dans les deux types de traitement de l’information, ils ne sont pas encore jumelés pour fonctionner ensemble. Cette réalisation permettrait la mise au point d’une machine qui se comporterait comme si elle était consciente.

Conclusion et répercussions

Pour réussir à faire de la conscience artificielle une réalité, Dehaene, Lau et Kouider avancent qu’il est nécessaire d’analyser les types spécifiques de calculs qui composent la conscience chez l’humain. Ils suggèrent que les autres modèles actuels n’expliqueraient pas pleinement la conscience.

Les auteurs notent que les données empiriques examinées sont compatibles avec la possibilité que des calculs spécifiques soient à l’origine de la conscience chez l’humain. Les plateformes d’IA actuelles se fondent sur des calculs sophistiqués, mais la plupart de ceux-ci sont équivalents à des processus computationnels inconscients dans le cerveau humain, plutôt qu’à des processus computationnels qui produiraient la conscience.

Pour arriver à cerner la conscience artificielle, les chercheurs devraient viser la création de processus computationnels similaires à ceux qui donnent lieu aux deux types principaux de la conscience chez l’humain : la conscience associée à la disponibilité globale et l’autosurveillance. Par la mise au point de types similaires de mécanismes de traitement de l’information en IA, nous pourrions jeter les assises de la conscience chez les machines. 

Télécharger le PDF


Références
Stanislas Dehaene et coll., What is consciousness, and could machines have it? Science 2017;358:issue 6362.

Related Idées

Recommandation de lecture | Développement du cerveau et de l’enfant

BOLD : Gènes et plasticité cérébrale

Pouvons-nous modifier comment sont encodées nos expériences et ainsi changer notre comportement? « William James, le célèbre médecin-chercheur, a dit un...

Résumé de recherche | Cerveau, esprit et conscience

Ouvrir les portes (virtuelles) de la perception

Des hallucinations simulées en réalité virtuelle produisent une expérience visuelle similaire à celle de drogues psychédéliques, jetant de la lumière...

Nouvelles | Cerveau, esprit et conscience | Développement du cerveau et de l’enfant | Microbiome humain | Apprentissage automatique, apprentissage biologique

Symposium sur le cerveau du CIFAR

Des chercheurs de l’ICRA du monde entier se sont réunis pour partager les plus récentes découvertes en recherche sur le...

Recommandation de lecture | Cerveau, esprit et conscience

CBC Ideas : Into the Gray Zone avec le neuroscientifique Adrian Owen

« Nous pensions auparavant que les gens dans le coma ou dans un état “végétatif” étaient coupés du monde. Toutefois, des...