Ne Craignez Pas L'intelligence Artificielle

Ne craignez pas l'intelligence artificielle

L'intelligence artificielle n'a jamais eu besoin d'évoluer, elle n'a donc pas développé l'instinct de survie qui mène à l'impulsion de dominer les autres.

Les craintes face à l'évolution technologique

Alors que nous frôlons une autre révolution technologique - la révolution de l'intelligence artificielle -, nous craignons de plus en plus que ce soit la dernière. La crainte est que l'intelligence des machines soit bientôt égale, voire supérieure, à celle des humains. Ils pourraient se retourner contre nous et nous remplacer en tant que forme dominante de «vie» sur la terre. Nos créations deviendraient nos seigneurs - ou peut-être nous anéantiraient tout à fait. Des scénarios aussi dramatiques, aussi passionnants soient-ils à imaginer, reflètent un malentendu sur l'IA. Et ils détournent l'attention des risques plus banals mais beaucoup plus probables posés par la technologie dans un avenir proche, ainsi que de ses avantages les plus excitants.

L'intelligence artificielle et le cinéma

L'intelligence artificielle a longtemps été source d'inspiration pour la science-fiction. En 2001: l’odyssée de l’espace, HAL, l’ordinateur sensible contrôlant le fonctionnement d’un vaisseau interplanétaire, sollicite l’équipage pour se préserver. Dans Terminator un système de défense informatique ressemblant à Internet, appelé Skynet, prend conscience de soi et déclenche une guerre nucléaire, anéantissant une grande partie de l'humanité. Ce thème est maintenant presque devenu une loi naturelle de la science-fiction: un système informatique suffisamment intelligent fera tout ce qui est nécessaire pour survivre, ce qui impliquera vraisemblablement la domination du genre humain.

L'avis des scientifiques

Pour un neuroscientifique, cette ligne de raisonnement est déconcertante. L'intelligence artificielle comporte de nombreux risques, dont les perturbations économiques, les défaillances d'applications critiques et l'arsenalisation par de mauvais acteurs. Mais ce qui semble le plus préoccuper les gens, ce sont les robots assoiffés de pouvoir qui décident, de leur propre chef, de conquérir le monde. Pourquoi une IA sensible voudrait-elle conquérir le monde? Ca semble impossible.
Nous surestimons considérablement la menace d'une prise de contrôle accidentelle de l'IA, car nous avons tendance à associer l'intelligence à la volonté de parvenir à la domination. Cette confusion est compréhensible: au cours de notre histoire évolutive en tant que primates (souvent violents), l'intelligence était la clé de la domination sociale et a permis notre succès en matière de reproduction. Et en effet, l'intelligence est une adaptation puissante, comme les cornes, les griffes acérées ou la capacité de voler, qui peut faciliter la survie de nombreuses manières. Mais l'intelligence en soi ne génère pas la volonté de domination, pas plus que ne le font les cornes.

Acquérir de nouvelles connaissances et compétences

C'est simplement la capacité d'acquérir et d'appliquer des connaissances et des compétences dans la poursuite d'un objectif. L'intelligence ne fournit pas le but en soi, mais simplement le moyen de le réaliser. «L'intelligence naturelle» - l'intelligence des organismes biologiques - est une adaptation évolutive et, comme d'autres adaptations, elle est apparue sous la sélection naturelle car elle améliore la survie et la propagation de l'espèce/strong>. Ces objectifs sont comme des instincts profonds dans le système nerveux des organismes même les plus simples.

Mais comme les systèmes d'IA ne passaient pas par le creuset de la sélection naturelle, ils n'avaient pas besoin de développer un instinct de survie. Dans l'IA, l'intelligence et la survie sont découplées et l'intelligence peut donc servir les objectifs que nous nous sommes fixés. Conscient de ce fait, l'auteur de science-fiction Isaac Asimov a proposé sa célèbre Première loi de la robotique: "Un robot ne peut pas blesser un être humain ou, par son inaction, permettre à un être humain de se faire du mal." sous les pouces de nos maîtres numériques.
Il est tentant de penser que si nous avions évolué à partir d'une autre créature, telle que les orangs-outans ou les éléphants (parmi les animaux les plus intelligents de la planète), nous pourrions être moins enclins à voir un lien inévitable entre intelligence et domination. Nous pourrions plutôt nous concentrer sur le renseignement en tant que catalyseur d’une coopération renforcée. Les éléphants d'Asie femelles vivent dans des groupes étroitement coopératifs mais ne présentent pas de hiérarchie de dominance ni de leadership matriarcal
Fait intéressant, les éléphants mâles vivent dans des groupes plus lâches et se battent souvent pour la domination, car seuls les plus forts sont capables de s'accoupler avec des femelles réceptives. Les orangs-outans mènent une vie essentiellement solitaire. Les femmes ne recherchent pas la domination, bien que les hommes en compétition se battent parfois pour avoir accès aux femmes. Ces observations et d'autres suggèrent que le comportement de recherche de position dominante est plus corrélé à la testostérone qu'à l'intelligence. Même parmi les humains, ceux qui cherchent des positions de pouvoir sont rarement les plus intelligents parmi nous.

L'intelligence artificielle présente t elle des risques ?

L'inquiétude suscitée par le scénario Terminator nous distrait des risques très réels de l'IA. Il peut (et presque certainement) être transformé en arme et peut conduire à de nouveaux modes de guerre. L'intelligence artificielle peut également perturber une grande partie de notre économie actuelle. Selon une étude, 47% des emplois aux États-Unis pourraient être, à long terme, supprimés par AI. Alors que l'intelligence artificielle améliorera la productivité, créera de nouveaux emplois et stimulera l'économie, les travailleurs devront se recycler pour les nouveaux emplois et certains seront inévitablement laissés pour compte. Comme beaucoup de révolutions technologiques, l'IA peut entraîner de nouvelles augmentations des inégalités de richesse et de revenus, à moins que de nouvelles politiques budgétaires ne soient mises en place. Et bien sûr, toute nouvelle technologie comporte des risques imprévus - les «inconnus inconnus». Tous ces problèmes sont plus inquiétants qu'une prise de contrôle de robot par inadvertance.

Il ne fait aucun doute que l'IA contribuera à de profondes transformations au cours des prochaines décennies. Au mieux, la technologie a le potentiel de nous . Au pire, la Troisième Guerre mondiale pourrait être combattue par des armées de robots superintelligents. Mais ils ne seront pas dirigés par HAL, Skynet ou leurs nouveaux parents atteints de l’IA. Même dans le pire des cas, les robots resteront sous notre commandement et nous ne serons responsables que de nous-mêmes.

Plus d'information :

Tag : intelligence, artificielle, IA, apprentissage, automatique, développement, technologie, industrie industrie, médecine, informatique, robot, machines , intelligence, IA, science-fiction, robot, éléphants, informatique, Terminator, orangs-outans, selection naturelle, Révolution, partir, pouces, histoire, animaux, Planète, renseignement, catalyseur, coopération renforcée, Asie, politiques budgétaires, inégalités de richesse, productivité, États-Unis, arme, testostérone, une vie, matriarcal, leadership, robotique, Isaac Asimov, creuset, HUMANITE, guerre nucléaire, conscience de soi, Skynet, Internet, vaisseau, ordinateur, 2001, loi naturelle, genre, neuroscientifique, système nerveux, Espèce, hal, adaptation évolutive, poursuite, griffes, reproduction, primates,



Avis

Devenez membre pour donner votre avis !

Donner votre avis