Avec l'avènement de la robotique, l'avenir de l'homme sera sombre «Les tentatives de création de machines pensantes nous seront d'une grande aide pour découvrir comment nous pensons nous-mêmes.» Alan Turing BBC - 15 Mai 1951. Un film diffusé sur une chaîne française a suscité mon intérêt. Il s'agit en gros d'un procès en justice. Un robot (femme) qui a demandé la garde d'un enfant. Dans le même temps, nous avons été noyés d'informations quant à la prouesse d'un ordinateur qui a réussi un test dit de Turing sur l'intelligence artificielle. Et sur «le libre arbitre» des robots quant à la réaction d'un robot face à des situations données. Les prouesses d'Eugène un superordinateur hyper-intelligent Eugène est un ordinateur qui a réussi à faire croire qu'il est humain dans 30% de ses réponses à un test dit de Turing. Nous lisons ce que rapporte Rodolphe Baron du site Rue 89: «Un trio d'experts russes et ukrainiens, Eugene Demchenko, Sergey Ulasen et Vladimir Veselov, a en effet réussi à mettre au point un programme informatique surpuissant, testé à l'université de Reading (Royaume-Uni). Confronté à un groupe de juges humains par l'intermédiaire d'un tchat informatique, le but du supercalculateur était simple: lors d'une conversation classique, sans sujet imposé, il doit faire croire qu'il est humain à 30% des juges au minimum. Eugene - c'est son petit nom - a obtenu un score de 33% en moins de cinq minutes, devenant le premier programme informatique de l'histoire à réussir le test de Turing, conçu en 1950 et censé servir de référence pour distinguer les machines «capables de penser».(1) «Le test de Turing est une frontière théorique puisqu'il trace la limite entre une calculatrice surpuissante et l'intelligence humaine, limitée et faillible. Eugene n'a donc pas été conçu pour être plus intelligent qu'un humain, mais pour tromper un individu sur sa véritable nature. L'objectif des juges n'est pas de dire si l'ordinateur est intelligent, mais de distinguer leurs interlocuteurs humains des machines éventuelles. L'intelligence de la machine doit donc lui permettre d'éviter d'apparaître comme étant trop intelligente pour ne pas être découverte par le juge. Eugene Goostman, notre supercalculateur possède sa propre personnalité et sa propre histoire. Il est âgé de 13 ans et est originaire d'Odessa, en Ukraine. Son père est gynécologue. Et il possède un cochon d'Inde. Même si Eugene marque une étape importante dans la conception d'une intelligence artificielle crédible, inutile de s'emballer: 67% des juges ont compris qu'Eugene était une machine.»(1) «Kevin Warwick, professeur à l'université de Reading, assure que ce test «a des implications pour la société d'aujourd'hui»: «Avoir un ordinateur qui peut tromper un humain et l'amener à penser que quelqu'un ou même quelque chose est une personne dans laquelle nous pouvons avoir confiance est un signal d'alarme sur la cybercriminalité.» (1) Les réactions enthousiastes Pour la première fois, un ordinateur a réussi le test de Turing, qui consiste à imiter une conversation humaine, révèle The Independent. Un tiers des chercheurs qui ont ́ ́discuté ́ ́ avec la machine ont estimé qu'elle était un adolescent. Pour la première fois, un programme informatique a passé avec brio le test de Turing, ́ ́Notre idée de départ était de faire un personnage qui peut prétendre tout connaître mais dont l'âge rendrait évident le fait qu'il ne connaît pas tout ́ ́, explique Vladimir Veselov, un des créateurs russes du programme. ́ ́Nous avons passé beaucoup de temps à développer ce personnage à la personnalité crédible. (2) L'année 2014 marque le 60e anniversaire de la mort d'Alain Turing, l'inventeur du test. Selon Sciences et avenir, on lui doit, notamment, le programme de décryptage des communications entre sous-marins nazis, qui a permis aux Alliés d'avoir un temps d'avance sur Hitler. Dans une tribune au journal The Independent, daté de mai, le scientifique britannique Stephen Hawking met en garde contre une sous-estimation de l'intelligence artificielle. ́ ́Réussir à créer l'intelligence artificielle serait le plus grand évènement de l'histoire de l'humanité. Malheureusement, cela pourrait être aussi le dernier, à moins que l'on apprenne à en prévenir les risques ́ ́, écrit-il. Et de citer notamment les armes autonomes ou des technologies qui puissent déjouer les marchés financiers ou manipuler les chefs d'Etat.(2) Les conséquences: peut-on à terme télécharger la pensée? Une conséquence possible est de transférer à un robot une partie ou toute l'intelligence d'un cerveau humain. Les transhumanistes ne sont pas tous convaincus qu'il sera possible à court ou moyen terme de transférer une conscience biologique sur un support numérique. Au vu des techniques actuellement disponibles, «l'up-loading», ou «téléchargement de la pensée», relève plus de la spéculation que de la théorie scientifique. Xavier de La Porte a diffusé sur France culture et publié sur Rue 89 un billet intitulé «Le cerveau, des lignes de code? Le transhumaniste Kurzweil se plante». Il évoquait notamment «un aspect important du transhumanisme: la conviction toujours répétée que très bientôt, nous pourrons dupliquer nos cerveaux dans des ordinateurs». Ce billet a suscité la tribune suivante de la part de l'Association française transhumaniste - Technoprog. (3) Les transhumanistes considèrent que l'émergence d'une conscience supérieure (intelligence artificielle forte) depuis un support informatique est possible à terme. (...) Quant à scanner une conscience biologique et à la reproduire fidèlement en version numérique, il n'y a à l'heure actuelle aucune technologie qui permette de l'envisager à brève échéance. L'imagerie médicale est bien loin de pouvoir percevoir l'intégralité des réseaux de neurones, leur activité interne et l'activité des synapses par lesquelles ils sont en relation.(3) La contestable théorie de la «singularité technologique» «Cela dit, poursuit Marc Roux, il ne faut pas réduire la réflexion de Ray Kurzweil sur la possibilité de l'up-loading à l'idée qu'il suffirait d'encoder les déterminants génétiques du cerveau. Il appuie son point de vue sur une généralisation très discutable de la «loi de Moore» qui le mène à la théorie plus globale de «Singularité technologique». Selon lui, la poursuite de l'augmentation de la puissance et de la vitesse de calcul de nos ordinateurs dans les décennies à venir va inéluctablement déboucher non seulement sur l'émergence d'une IA forte mais encore sur un basculement technologique au-delà duquel rien ne serait plus prévisible. C'est cette croyance dans l'avènement de la Singularité qui le pousse à considérer comme certaine la résolution à court terme des problèmes de l'up-loading. (...) Or, les transhumanistes peuvent adresser eux-mêmes plusieurs critiques à la théorie de Kurzweil sur la Singularité technologique. (...) Méfions-nous de cette propension très humaine à pressentir que les événements qui seront déterminants, ceux qui vont bouleverser l'histoire de l'humanité vont survenir là, bientôt, dans quelques années, voire quelques mois, plutôt du vivant de celui qui les prophétise s'il est de nature optimiste, plutôt assez tard pour s'assurer qu'il n'aura pas à vérifier lui-même ses divinations s'il est pessimiste ou peu courageux.(3) Pour la première fois, un ordinateur a passé le test de Turing C'est une date dans l'histoire de l'informatique et même de la technologie et de la science. Pour la première fois, un programme informatique a été capable de tromper des chercheurs en se faisant passer pour un garçon de 13 ans appelé Eugène Goostman. «Avoir un ordinateur qui peut tromper un humain et l'amener à penser que quelqu'un ou même quelque chose est une personne dans laquelle nous avons confiance et un signal d'alarme sur la cyber criminalité», déclare Kevin Warwick, professeur de l'Université de Reading. «Le test de Turing est un outil essentiel pour combattre cette menace.»(4) «Le test a été organisé samedi 7 juin. Les juges comprenaient notamment Lord Sharkey qui a mené avec succès la campagne pour la réhabilitation et le pardon d'Alan Turing qui lui a été finalement accordé l'an dernier à titre posthume. Ce mathématicien britannique, mort il y a 60 ans en 1954, est considéré comme le père de l'informatique. Célébré chaque année depuis 1966, avec une récompense portant son nom, qui correspond au prix Nobel de l'Informatique, il avait été persécuté, humilié et poussé au suicide. Il faisait pourtant partie des héros de l'ombre de la Seconde Guerre mondiale. Selon les historiens, ses travaux ont tout simplement permis de réduire d'environ deux ans la capacité de résistance du régime nazi. Aidé par les recherches de scientifiques polonais, il avait notamment réussi à percer les formules de cryptage de la machine de cryptage Enigma utilisée par l'armée allemande pour ses communications secrètes.(4) L'intelligence artificielle a un problème de bêtise Doit-on avoir peur des robots? Il semble que non! Dans l'immédiat... Le scénario de Terminator, où les machines prennent le pouvoir sur l'homme, n'est pas pour tout de suite. C'est en tout cas ce qu'ont affirmé des chercheurs en intelligence artificielle lors du Festival mondial de la science à New York. Selon eux,Google et même les ordinateurs les plus puissants seraient même moins intelligents qu'un rat, rapporte Sean Captain, du TechNewsDaily. (...) La machine serait, en termes d'intelligence, plus proche de l'insecte. «C'est de l'apprentissage par coeur, il n'y a pas de compréhension de la part de la machine», a affirmé au TechNewsDaily Yann LeCun, professeur d'informatique à l'université de New York. «Je serais content de pouvoir un jour construire une machine aussi intelligente qu'un rat.» Selon le scientifique, l'homme dispose en fait de 100 milliards de neurones qui peuvent faire 1 trillions de connexions par seconde, ce qui lui permet d'avoir la conscience de soi en continu, de pouvoir apprendre ou bien d'être curieux. «La réelle intelligence n'est pas seulement de mémoriser, mais de comprendre et d'utiliser ce que vous avez appris dans des situations inconnues», explique Josh Tenenbaum, professeur d'informatique au Massachusetts Institute of Technology (MIT). Mais pour ces chercheurs, les superordinateurs pourront rattraper l'intelligence humaine d'ici 30 à 100 ans. Et il faudra attendre encore 10 à 20 ans, pour que cette intelligence tienne dans un smartphone.»(5) La propriété intellectuelle privée, de plus en plus contestée Il ne faut pas s'étonner dans ces conditions que l'on pense à mettre en code le cerveau humain.Le livre qui vient de sortir aux Etats-Unis, écrit Pierre Haski, The New Digital Age («Le Nouvel Age numérique», a deux auteurs de poids: Eric Schmidt, 56 ans, pendant dix ans le P-DG de Google, Jared Cohen à la tête de Google Ideas, le think tank du géant américain. (...) Qu'on en juge. Les deux auteurs annoncent la fin de la vie privée et de l'anonymat à l'ère numérique, avec l'apparition de «la première génération d'êtres humains à avoir un dossier indélébile». Tous les débats qui ont déjà eu lieu à propos de Facebook et de la protection des données seront dépassés: il faudra assumer des «profils officiels» vérifiés pour avoir un accès complet. Accepter que toute son histoire soit stockée dans un «cloud» et donc susceptible d'être vu par tous ceux qui disposeront du savoir-faire suffisant. Pire, le refus de se plier à cette ère du tout-connecté sera suspect aux yeux des autorités, tous régimes confondus: «Un gouvernement pourra suspecter que les personnes qui choisiront de rester totalement à l'extérieur ont quelque chose à cacher et sont donc plus susceptibles de violer la loi. (..) Le monde vu par Google est relativement simple: la technologie va nous faire entrer dans une époque pleine de menaces pour l'individu, pour les sociétés, pour les Etats. (6) Dans la science-fiction, on imagine souvent les humains du futur avec des appareils électroniques intégrés à leur corps. Ce futur est proche! Ainsi, on a su récemment que Motorola a déposé un brevet pour un «tatouage» électromagnétique connecté qui sera placé sur votre gorge. Il vous permettra de communiquer avec vos proches et fera même office de détecteur de mensonges! Ce brevet futuriste pose une fois de plus le problème de la propriété privée puisque la science s'attaque au plus profond de notre être pour d'abord, nous numériser et ensuite, nous reformater pour être compatible avec les robots... Où allons-nous sans éthique? Zirghapok internaute a cette réaction que je trouve tout à fait appropriée: «Il est prouvé maintenant que nos actes et nos pensées, donc également l'affection que nous portons, sont conditionnés pour ne pas dire provoqués par des processus physiologiques et, notamment hormonaux. Mais l'amour pour moi est indissociable de sentiments d'émotion et de bonheur, même si cette émotion et ce bonheur sont provoqués par des hormones, notamment la dopamine. Je ne parle pas seulement de l'affection pour une personne mais de l'amour au sens large, pour une fleur, un chien, un concerto de Mozart, etc... c'est-à-dire tout ce qui peut apporter cette émotion et ce bonheur pour mon «moi» et la conscience de ce «moi» a beaucoup d'importance. Alors est-ce qu'un ordinateur, ou un robot associé, pourra un jour avoir cette émotion et ce bonheur avec cette conscience de son «moi»? Je ne le pense pas, est-ce qu'on pourra simuler cette émotion et ce bonheur et cette conscience de son «moi»? je ne le sais pas. Spinoza a dit: «Nous ne désirons pas les choses parce qu'elles sont bonnes, mais nous les déclarons bonnes parce que nous les désirons.» Un ordinateur qui n'a pas de «moi» peut-il avoir ce désir? Si l'amour est un processus hormonal, nous le sublimons par notre conscience de notre «moi», nous lui donnons une petite étincelle en plus. Les croyants diront que c'est l'âme, les athées pensent plutôt à une spiritualité» (1). «Voyages dans l'espace, cellules souches ou encore armes atomiques. Les rêves d'il y a un siècle sont aujourd'hui devenus réalité, et à mesure que le temps s'écoule, les progrès scientifiques sauvegardent de plus en plus notre confort, notre santé et parfois notre portefeuille. Cependant, le revers de la médaille existe, et puisque tout se paye, chaque amélioration de notre confort détruit nos semblables ou notre environnement.(..) Mais ne croyons pas que la science «pure» n'a rien à se reprocher: clonage, O.G.M et bidouillage d'atomes. (...) La Science, car ce sont ses progrès qui nous permettent toutes ces folies. C'est de cela dont nous parle Jean Rostand, biologiste, quand il nous dit: «La science a fait de nous des dieux avant même que nous méritions d'être des hommes» est plus que jamais d'actualité.» (7) On le voit, l'avenir de l'homme sera sombre parce que peut-être nous ne savons pas nous arrêter à temps. C'est là justement qu'intervient l'éthique. Mais ceci est une autre histoire... 1. Rodolphe Baron http://rue89.nouvelobs. com/2014/06/09/eugene-a-13-ans-cochon-dinde-papa-gyneco-cest-robot-252791 2. http://www.lexpress.fr/actualite/ sciences/une-machine-trompe-des-juges-et-se-fait-passer-pour-un-humain_1549671.html 3. Marc Roux http://rue89.nouvelobs.com /2014/05/28/telechargement-pensee-tous-les-transhumanistes-ny-croient-252513 4. Eric Leser 09.06.2014 http://www.slate.fr/ story/88233/turing-ordinateur-test#xtor=RSS-2 5. Mélody Piu http://www.slate.fr/lien/57311 /google-moins-intelligent-rat 07.06.2012 6. Pierre Haski: L'avenir selon Google: si vous n'êtes pas connecté, vous êtes suspect 7 05 2013 7. http://www.etudier.com/dissertations/ Dissertation-La-Science-a-Fait-De/225815.html
