Une semaine très riche pour les robots, les cyborgs, et les intelligences artificielles… (1200 mots ~ 7 minutes)

spotmini-boston-dynamics-top

Nouvelles « lois de la Robotique », 74 ans après Asimov

Bon allez, commençons par le moins féérique, mais peut-être le plus crucial : un papier répertoriant des règles de fonctionnement des intelligences artificielles du futur a été pondu par une équipe de chercheurs de chez Google Brain, d’Open AI (sous l’égide d’Elon Musk), et des universités de Stanford et Berkeley.

Ce papier (consultable ici) relève plus d’une anticipation d’un monde futur que d’une solution à un problème actuel, mais il est crucial de commencer dès maintenant à voir comment programmer les intelligences artificielles destinées à servir les humains.

Un robot qui deviendrait un organisme avec sa volonté propre serait un cas de figure très particulier, car s’il était conscient, l’obliger à travailler pour nous deviendrait une forme d’esclavage. Mais dans l’avenir, notre société verra probablement des robots qui, à défaut d’être conscients, auront une manière de plus en plus fine et efficiente d’interpréter nos ordres et de travailler pour nous, et c’est bien là que le bât blesse : si un robot avait la possibilité de s’auto-modifier, il pourrait trouver une manière plus économe en énergie pour arriver à son but, sans mesurer les conséquences de son action. On peut parler d’un robot qui ne ferait pas la queue à un guichet, mais c’est un exemple cocasse sans être dramatique : bon, le robot est malpoli, mais c’est pas la mort… Mais on peut aussi penser à cette expérience de pensée, où des philosophes imaginaient une machine très intelligente ayant pour fonction de fabriquer des trombones en masse :  à un moment, la machine décide d’augmenter sa productivité en « faisant de la place », rasant villes et champs, asséchant lacs et océans, brûlant végétation et atmosphère, annihilant humains et animaux : à la fin de cette histoire cauchemardesque, tout ce qui reste de l’humanité, c’est une planète pleine de trombones, dirigée par une machine qui veut maintenant engloutir d’autres planètes pour faire encore plus de trombones…

Bon, ça relève de la dystopie, mais on comprend que le fond du problème est toujours le même : comment guide-t-on une intelligence artificielle pour que ses capacités n’aient pas d’effets secondaires délétères pour la société ? Les questions tiennent en quelques points, notamment :

  • comment faire primer la sécurité des humains sur la mission ? d’ailleurs, des situations de dilemme vont forcément arriver…
  • comment faire une supervision par les humains qui soit fiable, pas trop envahissante pour les humains, et qui assure que la tâche sera effectuée correctement ?
  • comment vérifier que la récompense obtenue par le robot tienne compte des effets secondaires ? par exemple, un robot-livreur doit amener un colis le plus vite possible, mais pas au détriment de la sécurité routière
  • comment faire en sorte que le robot puisse s’adapter aux nouvelles situations ? cette question est la plus passionnante à mon sens, car plus un robot peut s’adapter, plus il risque de pouvoir sortir de son programme de base, ce qui risque encore une fois d’amener à des questions éthiques très complexes

Pour finir, je vous propose de consulter quelques liens externes deux articles de l’excellent magasine Humanoïdes, ici et ici.

Un robot-chien trop mignon et très agile

Il y a de moins en moins besoin de présenter Boston Dynamics, l’entreprise connue pour ses robots chiens et humanoïdes, qui vont probablement devenir extrêmement performants au point de remplacer des manutentionnaires, d’ici une petite décennie.

Cette semaine, la société a révélé au grand public son nouveau robot chien, beaucoup plus silencieux que les précédents modèles, plus léger, et équipé d’un nouveau bras qui permet maintenant d’entrevoir les tâches ménagères que le robot pourrait effectuer dans une maison.

Il est pour l’instant supervisé par un opérateur humain, mais d’ici quelques années, il pourra probablement devenir autonome et abordable, pouvant ainsi aider à l’entretien d’une maison, mais probablement pas à la défense, tant il serait inacceptable, commercialement, qu’une erreur de programmation fasse qu’un robot Boston Dynamics tabasse un postier en le prenant pour un cambrioleur…

Des synapses synthétiques très efficientes

des synapses synthétiques qui pourront peut-être rivaliser avec les nôtres

C’est un truc assez consensuel parmi les scientifiques de tous bords : parmi les objets de l’univers que l’humanité cherche à comprendre, le cerveau humain est l’un des plus complexes…

On peut facilement s’émerveiller devant les capacités de calcul du cerveau, qui deviennent de plus en plus fascinantes au fur et à mesure qu’on essaye de les égaler, qualitativement et quantitativement, en fabriquant des ordinateurs. L’une des particularités du cerveau humain, est qu’il peut traiter un nombre hallucinant d’informations en dépensant très peu d’énergie : là où nos supercalculateurs actuels sont des usines à gaz et consomment des quantités assez dingues d’énergie, notre cerveau se contente d’une dépense énergétique équivalente à celle d’une ampoule de 20 Watts (contre plusieurs millions de Watts pour un calcul équivalent, chez un super-calculateur)… Cette consommation d’énergie réduite s’explique par la structure du cerveau, contenant des neurones communiquant entre eux par des synapses. Une synapse, c’est l’interstice entre deux neurones qui communiquent (par libération de molécules qu’on appelle des neuromédiateurs), et chaque neurone peut facilement en avoir 10 000.

Alors forcément, c’est une grande avancée, révélée à l’université de Pohang en Corée du Sud : en effet, l’équipe a fabriqué des transistors à 144 synapses (bon, c’est bien moins qu’un neurone humain, mais c’est très prometteur).

Ces transistors sont des bijoux de nanotechnologie, et quand on lit le papier, que vous pouvez consulter ici, on voit que c’est très inspiré de la structure des fibres nerveuses. C’est peut-être ce qui explique leur faible consommation par rapport à d’autres technologies (1,23 femtoJoule par événement, donc environ dix fois moins que la consommation moyenne des autres technos).

Alors, les applications dans l’avenir, c’est quoi ? On peut imaginer que ça va booster le marché de l’intelligence artificielle, parce que le problème de la plupart des robots autonomes, c’est qu’ils consomment beaucoup d’énergie pour somme toute pas grand chose en termes de capacité d’action. Cette technologie bénéficiera sûrement de la maîtrise de l’informatique quantique, et ça permettra de faire des robots plus performants. En médecine, ça pourrait aussi aider les personnes victimes d’accidents vasculaires, en synergie avec des thérapies par cellules souches…

Et enfin, on peut raisonnablement penser que ces synapses synthétiques ouvrent la voie aux augmentations : quand nous pourrons remplacer quelques neurones de-ci de-là, par des neurones plus performants que nos neurones d’origine, il deviendra très profitable d’utiliser cette technologie pour augmenter les capacités cognitives des êtres humains, qui régleront alors leurs problèmes plus facilement, et amélioreront leur confort de vie…

Les revenus étant globalement corrélés au QI (même si le QI n’est pas la seule mesure de l’intelligence, loin s’en faut), on peut imaginer que l’accès à ces technologies permettrait de réduire la pauvreté dans le monde en permettant à des humains d’apprendre plus vite, de retenir plus d’informations, et de faire des liens entre ces infos qu’ils n’étaient pas capable de faire auparavant.

On peut imaginer, aussi, qu’une telle technologie va encore augmenter la vitesse des progrès techniques, déjà très rapides à notre époque.

 

Publicités

Laisser un commentaire

Entrez vos coordonnées ci-dessous ou cliquez sur une icône pour vous connecter:

Logo WordPress.com

Vous commentez à l'aide de votre compte WordPress.com. Déconnexion / Changer )

Image Twitter

Vous commentez à l'aide de votre compte Twitter. Déconnexion / Changer )

Photo Facebook

Vous commentez à l'aide de votre compte Facebook. Déconnexion / Changer )

Photo Google+

Vous commentez à l'aide de votre compte Google+. Déconnexion / Changer )

Connexion à %s