Des machines vont-elles dans un futur proche échapper au contrôle de l'homme et devenir totalement autonomes? Cette vieille lune chère aux auteurs de science fiction -les robots prenant le pouvoir- ne parait plus totalement impensable aux scientifiques.
En février dernier, un groupe de spécialistes de l'intelligence artificielle et de la robotique s'est réuni dans le plus grand secret à Asilomar, une petite ville de Californie, pour discuter des risques de dérives incontrôlables liés aux avancées fulgurantes réalisées ces dernières années par la recherche dans leur domaine. Alors que la puissance des microprocesseurs double tous les deux ans depuis leur invention, alors qu'apparaissent des logiciels capables de mener de véritables conversations et des virus informatiques de plus en plus difficiles à exterminer, alors que les militaires mettent au point des drones et des machines capables de tuer de façon autonome, certains scientifiques se demandent s'il n'est pas temps d'imposer des limites à leurs propres recherches.
"Explosion de l'intelligence"
Organisé par l'Association for the advancement of artificial intelligence à l'initiative d'Eric Horvitz, directeur du laboratoire de recherche de Microsoft, cette réunion à huis clos n'a été rendue publique que la semaine dernière. "Quelque chose de totalement nouveau est apparu durant ces cinq dernières années, explique Horvitz: la technologie remplace la religion". Certains scientifiques annoncent désormais l'avènement de "l'explosion de l'intelligence", une théorie avancée dans les années 1960 par le mathématicien Irvin Good dans laquelle des machines intelligentes deviennent capables de fabriquer d'autres machines encore plus intelligentes.
Personne pour l'instant, mis à part les participants, ne connait exactement la teneur des conversations qui ont eu lieu à Asilomar (où des biologistes se sont réunis en 1974 pour discuter des dangers potentiels du génie génétique), mais un rapport publié d'ici la fin de l'année devrait en donner les grandes lignes, intitulé "la perte du contrôle humain sur des intelligences informatiques".
A ceux qui objectent qu'il sera toujours possible de débrancher les machines, signalons qu'un robot construit par une firme californienne, Willow Garage, est non seulement capable de se mouvoir dans n'importe quel environnement mais aussi de trouver et de se connecter lui-même sur une prise de courant...
Commentaires (11)
il suffit simplement de se rappeller TERMINATOR, je sais, ce n'est qu'un film mais l'intelligence artificielle a bien commencé dans le même esprit! Le but initial était de faciliter la vie de l'homme avc des mcanismes étant censé rendre plus pratique la vie de tout les jours. Avoir un robot qui fait le ménage à la maison c'est pratique puisqu'on aurait plus aucune corvée ménagère mais imaginez un robot qui ferait la cuisine, un autre qui repasserait vos chemises, un autre qui s'assurerait de votre santé en permanence et j'en passe, mais au delà de tout ça ce serait gratuit! Pas de salaire, juste le cout d'entretien s'il y a lieu et de recharge d'énergie avant qu'on ne conçoive une énergie modèle réacteur ETER en miniature! Donc moi perso, je prone la grande prudence sur l'intelligence artificielle et je dis que rien ne vaut le bon sens et le jugement de l'homme malgrès ses défauts.
ah oui quelque perfection que la science attteigne, mon probleme se trouve au niveau du jour ou quelque chose tourne mal, une erreur et hop voila que le robot progrsmme pour tuer les autre pourra se retourner pour tuer son "maitre". il en est de meme par exemple pour tous ces avions tres sophistiques qui tombent du ciel si frequemment des derniers mois pour "computer failure"
pas plus que les chiens ,ou les fourmis ne controlent le monde.... il faudrait déja inculquer la notion de pouvoir chez une IA, la notion d'individu, leur créer une conscience, leur créer des mécanismes hibiteur et inhibiteur comme la biologie pour réguler besoin et choix. il faudrait gérer les conflits de données, le bien, le mal, les humains se contredisent déja, comment peuvent le gérer els machines ? bref la capacité de calcul c'est bien, mais c'est le logiciel qui compte....ca doit etre super complexe et donc ca doit foirer super vite....la mauvaise info, le moindre petit bug ferait qu'aucune ia controlera l'homme.. :p et il leur faudrait des moyens d'exister, quel corps/outils peuvent elles utiliser..rien actuellement, qui leur apportera leur energie? même avec ca faut de l'education par audessus.....tout les humains ont le meme cerveau, on peut pas dire qu'ils l'utilisent de la meme maniere ni bien pour autant...qui a 20 à l'ecole? :p d'ailleurs on parle d'ia mais seul un résau d'ia serait inquietant. la seule crainte avérée c'est que des armes nucléaires soient controlées par ia (pas pensantes, mais plutot un mécanisme), le cinéma etant passé par la, ya tjrs une commande manuelle
on peut le voir a la "matrix", avec des poulpe géants qui nous attaquent, d'un autre coté certains nous sortent le poulpe version naturelle, j'aime bien aussi ^^ d'un autre coté c'est vrai que pour endiguer la corruption des dirigeants, rien de mieux qu'une entité qui n'as pas de besoin. donné une conscience aux robots, je suis pas pour, mais continuer a les devellopper pour nous aider dans un grand nombre de tache (calcul comme physique) je pebnse que c'est une bonne chose
Cette évolution est a double tranchant, du côté pessimiste on imagine que les ordinateurs, machines et robots nous asservissent ou nous éliminent tout simplement mais d'un autre côté plus optimiste lui, un super-ordinateur (quantique par exemple) permettrait de résoudre des problèmes divers de notre société en quelques heures au lieu de dizaines d'années en ce qui nous concerne. Au menu ; nouvelles énergies propres ; supprimer les problèmes de famine, de maladies, de surpopulation en colonisant d'autres planètes lointaines, ... ; prévoir des catastrophes ; développements technologiques ; ... de nos jours cela ressemble a de la science-fiction. Personnellement, je pense qu'il faut continuer à développer l'I.A. jusqu'à la singularité car aujourd'hui l'augmentation des problèmes et supérieur à leurs résolutions qui sait, cela sera peut-être notre seule chance de sauver l'humanité, bien sûr, c'est pessimiste de penser qu'on n'y arrivera pas seuls alors, non ?
A lire aussi : "Notre objectif est de construire des machines capables de s'autoévaluer" http://www.techniques-ingenieur.fr/article/article_6138/-notre-objectif-est-de-construire-des-machines-capables-de-s-autoevaluer-.html
"Les robots vont-ils prendre le pouvoir ?" Moi je dis : les robots au pouvoir ! Un programme informatique en tant que président, voilà qui pourrait changer les choses. Il semble que tout être humain auquel on donne du pouvoir finisse par être corrompu (notre président est un exemple parmis tant d'autres). Aussi, plutôt que d'élire une personne, qui finira forcément par préférer son propre profit au bien de la nation, choisissons plutot un programme informatique ! Bien entendu, cela poserait d'autres problèmes (qui contrôle le programme ?), mais au moins, les questions de l'intégrité, de l'honneteté et de la sincérité de nos dirigeants ne se poseraient plus. Dépourvu de besoins personnels et d'envie, on pourrait enfin avoir une république juste, dans laquelle les profiteurs n'auraient pas leur place. Enfin bon, ce n'est que mon point de vue, mais je me sentirais beaucoup plus en sécurité avec un programme qu'avec un "président" qui ne pense qu'à lui et à ses copains riches, et qui envoie les CRS contre son propre peuple...
Au passage: "la puissance des microprocesseurs double tous les deux ans" encore un faux ennoncé de la loi de Moore qui est en fait: "La miniaturisation permet de doubler le nombre de transistors sur une même surface tous les 18 mois". Enikao a tout a fait raison. Tant qu'il n'y a pas conscience du "soi" et de l'environnement, il n'y a pas de conscience de son propre potentiel, donc pas d'évolution des capacités et donc pas de libre arbitre, alors pour moi il n'y a pas d'IA (si on spécialise les termes utilisés a "l'humain" c'est le cheminenement de l'enfant entre 1 et 5 ans). Et cela les chercheurs ne sont pas prêt de trouver un algorithme capable d'évoluer de telle manière et d'intégrer autant de variables. PS: Hypérion excellente référence...
Très drôle! Des "chercheurs" de chez Microsoft qui s'inquiètent des virus alors que c'est leur société qui a inventé le virus informatique! Je suis informaticien et on n'est toujours pas capable de faire des logiciels qui focntionnent de façon fiable. Un drône n'a rien d'une machine intelligente, c'est une machine qui a des armes qu'elles déclenche lorsque certaines consignes sont réunies. Pour amuser la galerie cette réunion aurait eu lieu "dans un lieu secret", alors qu'une simple réunion dans un salle d'un immeuble de bureau aurait suffit. Il semble que Microsoft ait choisi la science fiction pour endiguer son déclin.
Eh oui les implications sont fascinantes et sans limites, l'imagination tout comme le progrès scientifique sont sans limites. Et les dangers sans limites aussi. Pascal a tout dit il y a 4 siècles: Sciences sans conscience sont la ruine de l'âme. Divaguons un peu: un compagnon robot pour la vie, dévoué, infatiguable, aux connaissances tous azimuths, un ange gardien à notre image qui se confondra avec notre esprit au moment du grand départ, nous rendant immortels ...