Intelligence artificielle : une machine peut-elle être intelligente ?

Par définition, nous pourrions dire que l’intelligence est la capacité à comprendre le monde, quelle que soit la nature de cette compréhension. Si elle est qualifiée « d’artificielle », cela signifie qu’elle ne résulte pas uniquement du cerveau humain ou d’un organisme vivant, mais d’une machine créée par l’homme. Admettons cette définition pour le moment.

Il est également important de préciser que ce qui parvient à notre conscience est une manifestation de l’intelligence. Ce que notre cerveau « produit » — que ce soit à travers l’utilisation de nos mains, l’écriture, la philosophie, l’économie, les sciences ou l’art — reflète cette intelligence en action. Cette faculté permet de générer des énoncés, des actions, et des objets.

Les intelligences artificielles (IA), telles que nous en parlons souvent, s’appliquent généralement à des domaines spécifiques. Elles peuvent, par exemple, exceller dans des jeux comme le Go ou les échecs, maintenir un robot en équilibre, ou encore, ce qui est plus pertinent pour nous aujourd’hui, répondre à des questions en langage naturel. Ainsi, il est plus juste de parler « des IA » plutôt que de « l’IA » au singulier, tant leur application varie selon les domaines.

Pour poursuivre cette réflexion, mettons de côté, pour un moment, la question de l’intelligence et de son artificialisation. Comprendre ce qu’est l’intelligence relève d’une réflexion philosophique, et nous vous renvoyons à votre propre compréhension de ces concepts : Qu’est-ce que l’intelligence ? et Qu’est-ce que l’artificialisation de l’intelligence par une machine ? Nous sommes ici dans le champ des sciences humaines et de la philosophie.

Toutes les tentatives de création d’intelligences artificielles visent à concevoir des machines intelligentes, qu’elles soient sous la forme de robots (qu’ils soient physiques ou virtuels). Mais de quel type d’intelligence s’agit-il ? Est-ce l’intelligence autonome d’un personnage de science-fiction, comme « HAL 9000 » dans 2001, l’Odyssée de l’espace de Stanley Kubrick ? Ou une intelligence spécialisée, comme celle qui joue aux échecs ? Une IA augmentée capable de réaliser des calculs mille fois plus rapidement qu’un humain ? Il existe une multitude de types d’intelligence artificielle.

Nous allons donc nous intéresser aux questions suivantes :

• Comment fonctionnent ces IA ?
• Sur quels principes reposent-elles ?
• Quels avantages et quels risques présentent-elles pour notre société ?
• Quels sont les domaines où elles sont appliquées ou peuvent l’être ?
• Et surtout, avec quel niveau de performance et pour quelles finalités ?

Répondre à ces questions relève à la fois du politique, des sciences et des technologies.

Conclusion provisoire

Pour envisager de répondre à la question « Une machine peut-elle être intelligente ? », nous devons d’abord être en mesure de définir ce qu’est l’intelligence elle-même.

Disons alors que l’intelligence artificielle se définit comme la capacité à comprendre, à analyser et à résoudre des problèmes ou des questions. Cette capacité, sous forme de programmes ou d’automatismes, est embarquée dans une machine, plus ou moins adaptée à des besoins ou à des fonctions jusque-là remplies ou imaginées par des êtres humains.

Chapitres : 

• De l’éthique et d’Asimov
• De l’intérêt de dupliquer l’humain
• Le principe de base le plus utilisé : l’imitation.
• Améliorer la performance dans les environnements complexes.
• Simuler la pensée humaine.
• Théories de la connaissance, sciences cognitives.
• Des biais et du point Godwin 
• De la responsabilité des machines
• Quels domaines, pour faire quoi ?
• Conclusion : Que penser de nos IA(s) ? 

Définitions préliminaires :

1. IA(s) : Un programme qui permet de déterminer de façon autonome, une suite d’actions ou d’énoncés (des phrases) , qui répondent à un besoin exprimé ou qui sont déduites d’une analyse. Jointe à un robot, cette intelligence peut agir, ou s’exprimer.  
2. Robot : Un robot est une machine physique ou dématérialisée sous la forme d’un programme, auquel on donne les moyens d’exécuter une ou plusieurs tâches dans un ou plusieurs champs déterminés. Ainsi du robot industriel qui grace à des bras mécanisés, soude, visse, perce, en suivant un programme fixé à l’avance. Un robot sans IA n’a donc pas d’autonomie dans ces choix, ce n’est que doté d’une IA qu’il acquiert une autonomie relative. 

Introduction : De l’éthique et d’Asimov

Lorsque Isaac Asimov, écrivain de sciences fiction, philosophe, édicte, avec John W. Campbell en 1942, les 3 lois de la robotique,  dites “ lois de la robotique et d’Asimov”,censées protéger l’homme des attaques d’un robot, il pressent bien que rapidement la question va être éthique ou morale. Et que si on ne légifère pas sur les limites des pouvoirs donnés aux machines la situation va  devenir incontrôlable et dangereuse pour l’humain.

De son côté, en suivant un peu cette idée , la commission européenne s’est saisie de la question des règles et limites à imposer aux IA : elle a adopté le rapport dit “Delvaux” , ce dernier est très novateur dans ces principes, car il aborde de vrais questions autour des IA(s), comme la responsabilité de l’IA. Et il se place sur le plan éthique et moral pour tenter de fixer des règles et des limites pour l’usage des IA(s) Rapport à la commisions europénne. Mady Delvaux 

Tout pourrait alors paraître sous contrôle. 

Récemment dans un entretien au Figaro,  Laetitia Pouliquen, spécialiste de ces questions dit pour se plaindre de la situation  : 

“C’est le principal problème de notre époque. Légiférer sur des questions morales à propos de l’IA est devenu presque impossible aujourd’hui, du fait du relativisme de notre société. Il n’y a plus de socle commun, de principes universels sur lesquels s’appuyer. Quand on ne sait plus dire ce qu’est l’homme, on ne sait plus dire ce qu’est la machine……. Il faut réinvestir la philosophie et les humanités dans ce domaine.”

Le FIGARO- Laetitia Pouliquen, directrice du think tank «NBIC Ethics».

Effectivement sans définition de l’homme comment peut-on distinguer les limites entre l’homme et la machine ?

Le problème est probablement mal posé, ou en tous cas il peut-être vu sous un autre angle, parce qu’au fond nous sommes partie d’un principe d’équivalence entre l’homme et la machine intelligente, certes pour le redouter, mais nous faisons tout pour le rendre possible et pensable surtout.

Or, et nous allons tenter de le démontrer, cette équivalence n’est pas possible. 

Par construction une machine ne peut que simuler les caractéristiques humaines et  dépasser, augmenter ses performances mesurées. Nous sommes dans une logique dite de l’homme augmenté et de la délégation de pouvoirs ou de compétences.

Les IA(s) sont donc des machines auxquelles nous assignons des tâches plus ou moins complexes et auxquelles nous déléguons des fonctions, des décisions, des pouvoirs, des compétences en leur donnant les moyens, ici, les programmes et les données, qui nous semblent appropriés à la réalisation de leur mission que nous déterminons. Y compris si nous leur donnons une autonomie..

C’est bien là que réside le risque :  qui délègue et que déléguons nous ? 

Plus que la question de l’intelligence qui, comme nous l’avons dit, est un problème de définition, intéressons-nous à ce que font les IA(s). La question est donc , voulons nous donner certains pouvoirs , comme celui de tuer à une machine-robot , et ce, quelle que soit sa capacité à imiter les comportements humains, à les augmenter, ou à en décupler les performances ? Dans “Minority Report” Film SF de …S.Spielberg , nous avons cet exemple de délégation faite à une IA, qui grâce à sa performance décide qui doit être neutralisée et quand , avant même qu’un crime ne soit commis.

I.Asimov avait raison, il faut déterminer les règles limites à fixer aux pouvoirs que nous cédons aux machines. Car ces machines sont souvent plus performantes que l’homme. 

Le froid réalisme conduit alors à penser que cette limite sera transgressée par tous ceux qui ne respecteront pas ce principe de limitation des pouvoirs. Et notamment pour des raisons politiques, stratégiques et militaires.

Il faudra donc que s’établisse un nouvel équilibre relatif, fragile, contestable et transgressé. Nous retrouvons le même type de problématique avec l’éthique promue autour des manipulations génétiques, du clonage humain par exemple.

La première règle à retenir est donc que la question des limites est morale, éthique, et politique mais sûrement pas technique et scientifique. Et donc progressivement nous inventerons des machines de plus en plus capables de dépasser les fonctions humaines, y compris dans la simulation de la pensée.

Oui, les machines imiteront parfaitement les comportements humains et dépassent ou, dépasseront, les performances humaines quel que soit le domaine d’application.

De l’intérêt de dupliquer l’humain 

Pour introduire cette question , quel intérêt y’a t-il à dupliquer l’intelligence humaine, je vous incite à lire le refus de Nick Cave. 

« C’est de la merde » : Nick Cave fustige une chanson écrite par ChatGPT

Dupliquer, faire un double, reproduire un humain, ou reproduire, dupliquer,  certains comportements humains est une première question. Que duplique t-on ?

S’il s’agit de créer une sorte de clone humain, ayant finalement les mêmes capacités, artistiques par exemple, nous n’y arrivons pas encore pleinement, une question de temps. Nous aurons ce savoir-faire bientôt. Mais posons nous cette question pourquoi faire ?  Quel est l’intérêt finalement de copier l’humain ?

Probablement un intérêt purement intellectuel, celui de se dire que nous avons inventé une machine aussi performante , bluffante , qui semble se comporter comme un humain. Nous aurions réussi à reproduire, peut-être à comprendre certains de nos mécanismes intimes de pensée… nous serions à l’égal de Dieu des créateurs ? 

Un intérêt économique, celui d’économiser l’homme ou celui d’économiser des coûts.

Un intérêt sociétal, accéder à plus de bien être, palier à des manques… 

De façon un peu brutale, je dirai que nous savons déjà depuis longtemps fabriquer des humains, par un procédé biologique naturel de 9 mois environ, avec toutes leurs forces et leurs faiblesses, et par un long apprentissage de dizaines d’années nous en faisons un homme dit adulte, alors pourquoi vouloir créer spécifiquement des robots qui seraient iso-fonctionnel et Iso-comportemental mais qui ne seraient que des machines ? 

N’est-il pas plus intéressant d’imaginer de créer des robots aux fonctions adaptées et capables de plus de performance qu’un homme, que ce soit pour jouer aux échecs, se substituer à une action physique humaine, ou pour résoudre une équation complexe, mais dans un domaine défini. Et c’est ce que nous avons fait en majorité.

Certes le fantasme du robot servant attentionné, présenté souvent dans les films de SF, Sciences Fictions comme une sorte d’idéal, de perfection, est une rêverie séduisante. Cette rêverie perdure jusqu’au dérapage, ou le robot devient méchant et se retourne contre son maître.  

Nos populations vieillissent dans l’OCDE et nous pouvons penser qu’un assistant doté de capacités physiques et de capacités cognitives , voire affectives , pourrait soulager les aidants, eux bien humains, qui s’épuisent à soutenir et soigner les personnes dites dépendantes. La science-fiction dote ces robots-humanisés de qualités émotionnelles et affectives , capables d’empathie, de raisonnements psychologiques, de soutien moral, mais auxquels on refuse tout droit à l’erreur. Cette erreur devenant le biais transgressif , qui va les conduire à un comportement alors présenté comme déviant, et qui va justifier une punition humaine , souvent violente et douloureuse, mais où l’être humain sort vainqueur en désactivant ou en détruisant ce compagnon mécanique , intelligent, mais trop humain jusque dans ces choix et ces erreurs.
Attention, il faudra s’assurer que les 3 lois de la robotique d’Asimov sont bien respectées. Mais pourquoi pas, aller au bout de l’idée. Ce serait un degré très élevé de mécanisation du “care” par exemple.

Donc l’intérêt de dupliquer les hommes ou des comportements humains est dans le service rendu , y compris dans le monde économico-productif, que ces copies adaptées à leurs usages sauront fournir. 

Précisons que beaucoup de robots sont imaginés ou créés en fonction, non d’une fonction humaine, mais d’un besoin technique. Ce que nous disons c’est qu’une part des fonctions mise en œuvre dans ces robots partent de gestes ou de savoir-faire humain ou animal.

Cette extension des machines-robot-humains est déjà là, elle ne pourra que s’amplifier. et ne doutons pas qu’elle puisse un jour être si proche des comportements humains , que nous pourrions en être amoureux, sujet de nombreux film SF,  ou qu’elles seront capables de montrer des émotions, et de réaliser toutes les tâches humaines.  Nous saurons les doter des caractéristiques, physiques, émotionnelles, psychologiques et cognitives utiles.

Rapidement se pose, pour arriver à ce niveau de performance dans la ressemblance avec l’homme, la question de l’apprentissage. Comment lui donner les règles qui ressemblent à celles acquises lors d’une éducation humaine ?

Si nous voulons que ce robot se comporte émotionnellement et intellectuellement à l’égal d’un homme, sans en programmer tous les cas possibles d’interaction avec les hommes et toutes les réponses à donner acceptables, il faudra le doter de capacités  d’apprentissage et lui permettre d’accéder à des processus d’erreur et de réussite, de punitions et de récompenses , qui forment, construisent, nos comportements. 

Il faudrait même qu’un ou des éducateurs “parentaux”, lui permettent d’intégrer au mieux les interdits, les tabous ..  

Nous verrons plus loin l’incroyable réalité des IA(s) et leurs techniques d’apprentissage.

Essayer de dupliquer intégralement un humain n’est donc probablement pas la bonne idée, nous créons avec les IA(s) des outils de simulation, de remplacements, de performances, qui sont en mesure d’imiter, de simuler, de renforcer les hommes. Dupliquer un homme , risque de ne pas avoir un grand intérêt, hormis celui du moindre temps* nécessaire à sa production peut-être , voir ci-dessus l’argument de la reproduction humaine, et pose la problématique de l’apprentissage humain. L’apprentissage humain est extrêmement complexe car il se fait dans le temps et utilise nos sens, la multitude des ressenties, des expériences et de leurs combinaisons dans l’extraordinaire complexité du cerveau. Ce processus est absolument nécessaire à la constitution de l’intelligence et à la constitution des comportements humains , et ne peut se réduire à l’accumulation de connaissances,  (voir la suite de l’article.)

Et si nous étendons cette réflexion aux robots embarquant de l’IA, il ne s’agit pas non plus de dupliquer les hommes, il s’agira de les utiliser pour se substituer à certaines fonctions humaines, d’aider, de renforcer, sans jamais avoir besoin de créer des machines en tous points équivalentes.

En conclusion , Nick Cave a raison , ce n’est pas un poème de Nick Cave , et probablement que l’illusion ne tient pas très longtemps. Mais ce n’est pas du Nick Cave en fait, c’est du ChatGPT V3. Et ce poème issu de ChatGPT V3 peut être, lui aussi, excellent, un peu comme pourrait le faire un faussaire ou un humoriste en pastichant. 

*Nous pouvons imaginer créer une sorte de modèle de base , qui devra apprendre un certain temps, comment faire cet apprentissage et combien de temps?

Le principe de base le plus utilisé: l’imitation

Imiter le mouvement de la main et sa fluidité, imiter la marche humaine sur deux jambes, imiter le comportement d’un virus, … imiter. Nous savons depuis longtemps qu’une des sources principales de notre intelligence est cette capacité à imiter un comportement, une très grande partie de l’éducation repose sur cette art de l’imitation , inné chez l’homme, du sourire qui active l’empathie du nourrisson, aux essais de Léonard de Vinci pour voler, nous imitons.

Cette imitation ne porte pas que sur l’humain, les modèles retenus sont souvent biologiques , végétaux ou copiés sur la physiologie ou les comportements d’autres animaux, plus ou moins éloignés de l’homme. 

Très souvent la nature nous fournit des réponses à une problématique définie, une stratégie, un comportement, une organisation qu’elle soit sociale ou cellulaire et qui va servir de modèle, de point d’appui pour apporter une solution.

Aussi, il ne faut pas s’étonner que les IA(s), soient souvent construites sur le principe de l’imitation, Nous en reparlerons plus bas dans la simulation de la pensée humaine, par exemple avec les réseaux dit neuronaux qui veulent copier le fonctionnement des neurones humains avec leur milliards de synapses qui les interconnectent.

Améliorer la performance dans les environnements complexes.- L’homme augmenté –

Jusqu’à ce point nous considérons que l’IA, et les robots, sont conçus essentiellement sur des modèles humains . Supposer que nous imitons, comme vu plus haut, implique que nous nous centrons sur ce seul aspect. Mais les IA ne sont pas conçues en soit pour imiter, mais bien pour répondre à un besoin. Lors de cette recherche de réponses, nous ne cherchons pas à imiter l’humain, ce n’est pas le but. Le but c’est de fournir un algorithme, une mécanique guidée qui, elle, va résoudre, répondre à une problématique particulière.

Le but des IA(s) c’est d’apporter un service, une réponse à un besoin, humain, technique…

Il est intéressant de réfléchir à cette idée. Une large part des applications d’IA visent à fournir un “homme augmenté”, la SF parle de Cyborg. Augmentation des capacités physiques, porter des charges lourdes, augmentation des facultés humaines, voir la  nuit, augmentation des capacités intellectuelles, accéder à une mémoire plus grande ou aux calculateurs. Les films de SF comme “Iron Man”, nous montrent les formes abouties de cette augmentation, mêlant connection biologique au corps, renforcement mécanique, intégration de nouvelles fonctions et capacités physiques ou intellectuelles.

Des expériences importantes dans ces trois ordres sont en cours.

Sur l’augmentation des capacités physiques, des exo-squelettes existent aujourd’hui , et apportent des solutions de manipulations ou de substitution à des fonctions humaines défaillantes, la marche pour des handicapés par exemple.

Dans le cas des deux autres domaines les facultés humaines , voir, toucher, sentir, entendre, et les capacités intellectuelles, penser, mémoriser, calculer, les travaux existants semblent plus délicats à mettre en œuvre tant que nous n’aurons pas trouver des interfaces nerveuses ou neuronales directes fiables. (IND ou DNI)

Les  projets d’Elon Musk ou de Jeff Bezos en sont la vitrine médiatique, mais cette recherche avance et nous arrivons déjà à réaliser des connexions directes avec notre cerveau.

Cette question des IND reste encore un point très complexe, nous avons du mal à trouver des solutions dont certaines sont très invasives, et posent des problèmes d’éthique également. 

En recherche médicale et pour certaines applications en ophtalmologie ou en chirurgie des membres, des patients en bénéficient , comme pour, opérer un patient, poser un implant , connecter une main artificielle , ou rendre une vue partielle à un aveugle .

Paul de l’Isle.

---

SUITE Partie 2 :  Intelligence artificielle : une machine peut-elle être intelligente ? – Part 2