Image ©kuloser Début février 2017, on apprenait qu'une intelligence artificielle avait réussi à battre quatre champions humains au poker. Cette nouvelle avait quelque chose d'un peu inquiétant car elle signifiait que des machines sont désormais capables de bluffer. Il y a quelques jours, Google a fait une autre annonce encore plus incroyable : le géant américain a révélé que son nouveau système d'IA est capable de devenir agressif si la situation l'impose ! Plutôt flippant, n'est-ce pas ?
L'intelligence artificielle va bientôt dépasser la nôtre
En 2014, une tribune co-signée par des chercheurs de Berkeley, du MIT et par Stephen hawking alertait l'opinion sur le fait que l'Intelligence Artificielle (IA) était potentiellement "la pire erreur de l'humanité".
Pourquoi ? Tout simplement car elle pourrait bientôt dépasser la nôtre ! Pour citer ce texte : "On peut tout à fait imaginer qu'une telle technologie domine les marchés financiers ou la recherche, manipule ceux qui nous dirigent et développe des armes que nous ne pourrons même pas comprendre".
En résumé, on peut craindre que les IA deviennent incontrôlables. Il faut dire que ces intelligences artificielles ont beaucoup évolué depuis que l'ordinateur Deep Blue d'IBM a battu pour la première fois le champion d'échecs russe Garry Kasparov en 1996...
Après les échecs, le poker
Le 2 février 2017, on apprenait par la presse que, pour la première fois, des champions de poker s'étaient fait battre par une Intelligence Artificielle, lors d'un tournoi en mode texas hold'em No limit organisé depuis le 11 janvier en Pennsylvanie.
Ce programme d'IA, développé par l'université de Carnegie Mellon et baptisé Libratus, a délesté ces joueurs professionnels parmi les meilleurs au monde de 1.766.250$.
Après 20 jours de compétition où Jason Les, Dong Kim, Daniel McAulay et Jimmy Chou jouaient collectivement contre le programme Libratus, la défaite des humains a été sans appel...
Mais surtout, l'IA a réussi à mieux bluffer qu'eux, ce qui a surpris tout le monde.
Les implications de cette annonce sont énormes : l'intelligence artificielle ne se contente plus de calculer mieux que les humains (ce qui lui permet de les battre aux échecs ou au Jeu de go par exemple), elle est à présent capable de les tromper !
Pour le dire autrement, le programme a désormais intégré la capacité à bluffer, indispensable pour gagner au poker. C'est une énorme avancée scientifique mais aussi une menace potentielle car des machines capables de nous plumer au poker pourraient faire bien pire...
Google annonce que les IA deviennent agressives
Après avoir successivement battu des humains aux échecs, au go et récemment au poker, les intelligences artificielles semblent plus inquiétantes que jamais.
DeepMind, la filiale de Google leader de l'IA, annonce en effet s'être livrée à une expérience étonnante. Pour tester le comportement de son nouveau système d'IA, Google a demandé à deux agents de DeepMind de s'affronter dans un jeu de "collecte de fruits".
Le résultat de ce test est pour le moins flippant : dès qu'on réduit le nombre de pommes disponibles, l'Intelligence Artificielle, au lieu de répartir également les quelques fruits en question, développe de manière autonome des réflexes "hautement agressifs".
Concrètement, elle neutralise son adversaire en le bombardant de rayons laser, pour le retarder et collecter plus de fruits de son côté.
Précisons aussi que ce sont les formes les plus complexes (et donc les plus "intelligentes") qui ont adopté des comportements de sabotage, de cupidité et d'agression.
"Ce modèle […] montre que certains aspects du comportement humain semblent émerger comme un produit de l'environnement et de l'apprentissage. Des politiques moins agressives émergent de l'apprentissage dans des environnements relativement abondants, avec moins de possibilités d'actions coûteuses. La motivation de la cupidité reflète la tentation de surpasser un rival et de recueillir toutes les pommes soi-même", explique Joel Z Leibo, un membre de l'équipe de recherche de Google.
La prudence s'impose
Les résultats de ces tests de comportement démontrent clairement que nous devons être prudents lors de la conception des robots de demain.
Elon Musk, fondateur d'OpenAI, une nouvelle association de recherche dédiée à l'éthique de l'intelligence artificielle, le souligne en ces termes :
"Les systèmes d'IA ont aujourd'hui des capacités impressionnantes mais étroites. Il semble que nous allons continuer à réduire leurs contraintes, et dans le cas extrême, ils atteindront une performance humaine sur pratiquement toutes les tâches intellectuelles. Il est difficile de comprendre à quel point une IA humaine pourrait bénéficier à la société, et il est tout aussi difficile d'imaginer à quel point cela pourrait nuire à la société si celle-ci est conçue ou utilisée de manière incorrecte."
Désormais, les IA ont non seulement la capacité d'apprendre, indépendamment de leur propre mémoire, mais elles peuvent aussi opter pour des stratégies très agressives pour servir leur propre intérêt.
Heureusement, les systèmes d'IA n'optent pas toujours pour des stratégies agressives : dans un autre jeu appelé Wolfpack, les intelligences artificielles de DeepMind ont compris que la coopération était la clé pour un plus grand succès individuel.
Dans un article du Huffington Post britannique paru le 13 février 2017 et intitulé "Google’s New AI Becomes ‘Highly Aggressive’ To Get What It Wants", le journaliste conclut :
"L'étude suggère que, comme les êtres humains, les IA adaptent leur comportement au scénario auquel ils font face. C'est une leçon importante. En tenant compte des conseils de Gates, Musk et Hawking, les chercheurs veilleront à ce que, à mesure que l'IA devient plus capable, elle soit récompensée pour avoir mis les intérêts de l'homme avant les siens."
Vous pouvez retrouver l'intégralité de cet article en anglais en suivant le lien en haut de page (cliquez sur Web !)
Plus d'information :
Visitez le site : http://www.huffingtonpost.co.uk/entry/google-deepmind-ai-highly-aggressive_uk_58a180a4e4b094a129ecbc5e
Quiz sur cet article : En février 2017, un programme d'intelligence artificielle a battu des humains :
Tag : intelligence artificielle, intelligence artificielle poker, progrès intelligence artificielle, actualité intelligence artificielle, dangers intelligence artificielle, IA poker, IA dangers, IA libratus, deepmind, deepmind , IA, intelligence artificielle, poker, Google, échecs, fruits, intelligences artificielles, pommes, robots, Environnement, sabotage, réflexes, plumer, éthique, Huffington Post, britannique, 13 février, journaliste, Gates, Hawking, Anglais, Web, Jeu de go, Daniel, Kim, Berkeley, MIT, Stephen Hawking, marchés financiers, ordinateur Deep Blue, ibm, russe, Garry Kasparov, 1996, 2 février, Texas Hold'em, 11 janvier, Pennsylvanie, université de Carnegie Mellon, jason, américain,
