Ne Réglementez Pas L'intelligence Artificielle: Affamez-la !

Ne réglementez pas l'intelligence artificielle: affamez-la !Image ©Pixabay

Les dangers potentiels de cette technologie sont suffisamment importants pour que nous devions être très prudents quant à la puissance que nous lui permettons d'être.

Le développement de l'IA et les risques de dérives

L'intelligence artificielle en est encore à ses balbutiements. Mais il se pourrait bien que ce soit la technologie la plus puissante jamais inventée. Elle a le potentiel d'améliorer la santé, de stimuler les intellectuels, de multiplier la productivité, de sauver l'environnement et d'améliorer à la fois la liberté et la démocratie.

Mais au fur et à mesure que cette intelligence continue de grimper, le danger d'utiliser l'IA de manière irresponsable amène également le potentiel de l'IA à devenir une bombe H sociale et culturelle.
C'est une technologie qui peut nous priver de notre liberté, alimenter les autocraties et les génocides, programmer notre comportement, nous transformer en machines humaines et, finalement, nous transformer en esclaves.
Par conséquent, nous devons faire très attention à l'ascendance de l'IA; on n'ose pas se tromper. Et notre meilleure défense pourrait être de mettre l'IA à un régime extrême.

Nous connaissons déjà certains attributs menaçants de l'IA. D'une part, les progrès de cette technologie ont été et continueront d'être incroyablement rapides. Beaucoup de gens ont probablement été stupéfaits de lire récemment l'annonce de Microsoft selon laquelle l'IA s'avérait mieux à lire les rayons X que les radiologues qualifiés. La plupart des lecteurs de journaux ne réalisent pas combien de leur quotidien est désormais écrit par AI. Ce n'était pas censé se produire; les robots étaient censés supplanter les travaux manuels, et non le cerveau professionnel. Pourtant, nous y sommes: l'IA engloutit rapidement des professions entières - et ces emplois ne reviendront jamais.

Nous nous rapprochons également de la création de machines capables d'intelligence générale artificielle, c'est-à-dire des machines aussi intelligentes que les humains. Nous ne parviendrons peut-être jamais à la conscience réelle, mais en termes de puissance de traitement, d'inférence, de métaphore et même de sagesse acquise, il est facile d'imaginer une IA dépassant l'humanité. Il y a plus de 20 ans, le maître des échecs Gary Kasparov, jouant du supercalculateur IBM Deep Blue, a senti un esprit de l'autre côté de la planche. Aujourd'hui, il existe des centaines de milliers d'ordinateurs en cours d'utilisation dans le monde qui sont plus puissants que Deep Blue, et cela n'inclut pas des millions d'ordinateurs personnels ayant accès au cloud.

Nous savons également que les motivations du profit et la volonté de puissance et de contrôle ont déjà entraîné la croissance rapide de vastes bibliothèques d'applications antisociales. Nous n'avons pas besoin de chercher plus loin que l'utilisation de la reconnaissance faciale et d'autres techniques d'IA par le gouvernement chinois pour contrôler le comportement de ses citoyens afin de voir une telle trajectoire. Le système de crédit social de ce pays surveille le comportement de millions de ses citoyens, les récompensant pour ce que le gouvernement juge être un "bon" comportement - et les punissant pour leur "mauvais" comportement - en élargissant ou en limitant leur accès aux institutions de la vie quotidienne. Ceux qui sont punis ne savent souvent même pas que leur vie est circonscrite. Ils n'ont tout simplement pas accès aux emplacements, promotions, divertissements et services dont jouissent leurs voisins.

L'incidence de l'IA sur la vie privée

Pendant ce temps, ici, dans le monde libre, la menace la plus inquiétante est l'utilisation de l'IA par l'industrie pour nous exploiter - et des groupes d'intérêts spéciaux pour créer et manipuler des groupes d'affinité afin de polariser de plus en plus la société. Cette dernière activité est particulièrement flagrante lors des années électorales comme celle-ci. Nous sommes également préoccupés par l'utilisation par les forces de l'ordre, l'IRS et les régulateurs pour mieux surveiller les personnes qui pourraient commettre des crimes, échapper aux impôts et commettre d'autres actes transgressifs. Une partie de cela est nécessaire, mais sans garde-corps, cela peut conduire à un état policier.

Considérez que nous sommes déjà tous détenus contre notre volonté, souvent même à notre insu, dans ce qu'on a appelé des « prisons algorithmiques. " Nous ne savons pas qui nous a condamnés ni même les termes de cette peine. Ce que nous savons, c'est que sur la base d'une décision prise par un système d'IA au sujet de notre comportement (comme une faible cote de crédit), nos choix sont limités. Une prédétermination est faite sur les informations que nous voyons: si une entreprise consultera notre CV, ou si nous sommes éligibles pour un prêt immobilier à un taux favorable, si nous pouvons louer un certain appartement, combien nous devons payer pour l'assurance automobile ( notre qualité de conduite surveillée par de nouveaux appareils connectés à nos ordinateurs moteurs), si nous entrerons dans le collège de notre choix et si la police devrait surveiller de près notre comportement.

À l'avenir, nous pouvons être certains que cette surveillance se développera. Nous savons également que l'IA sera utilisée par des groupes pour recruter des membres et influencer leurs opinions, et par des gouvernements étrangers pour influencer les élections. Nous pouvons également être certains qu'à mesure que les outils d'intelligence artificielle deviennent plus puissants et que l'Internet des objets se développe, l'arsenal des armes virtuelles deviendra plus commercialement et socialement mortel.

Nous devons agir. Le problème est que, même maintenant, il sera difficile de ramener le cheval dans la grange. L'alarme concernant la puissance croissante de l'IA a déjà conduit à des avertissements tels que Stephen Hawking et Elon Musk. Mais il est difficile de savoir quoi faire sur le plan législatif. Nous n'avons vu aucune proposition qui aurait un large impact, sans écraser les énormes avantages potentiels de l'IA.

Les Européens ont désormais le «droit à l'explication», ce qui nécessite une justification lisible par l'homme pour toutes les décisions rendues par les systèmes d'IA. Certes, cette transparence est souhaitable, mais on ne sait pas dans quelle mesure elle sera bénéfique. Après tout, les systèmes d'IA sont en constante évolution. Ainsi, toute action prise sur la base de la découverte d'une injustice sera comme façonner l'eau. L'IA adoptera simplement une forme différente.

Comment réduire l'impact de l'IA sur nos vies privées

Nous pensons qu'une meilleure approche consiste à rendre l'IA moins puissante . Autrement dit, non pas pour contrôler l'intelligence artificielle, mais pour la mettre sur un régime extrême. Et que consomme l'IA? Nos informations personnelles.

Si les systèmes d'IA et les algorithmes en charge des «prisons virtuelles» ne peuvent pas mettre la main sur ces informations personnelles, ne peuvent pas satisfaire leur faim insatiable de ces données, ils deviendront nécessairement beaucoup moins intrusifs et puissants.

Comment étouffer le flux de ces informations personnelles?
Une façon évidente est de donner aux individus la propriété de leurs données privées. Aujourd'hui, chacun de nous est entouré d'une pénombre de données que nous générons en continu. Et cet ensemble de données est une cible gratuite pour quiconque souhaite les capturer et les monétiser. Pourquoi pas, plutôt que de laisser cette information couler directement dans les serveurs du monde, au lieu de la stocker dans l'équivalent d'un coffre-fort chez un fiduciaire de l'information comme Equifax? Une fois sur place, le consommateur peut alors décider qui a accès à ces données.

Par exemple, supposons qu'un consommateur souhaite obtenir un prêt, il ou elle pourrait divulguer les informations pertinentes à un fournisseur de crédit - qui à son tour aurait le droit d'utiliser ces informations pour cette seule instance. Si ce consommateur souhaite obtenir un service gratuit de, disons, Facebook, il peut fournir à l'entreprise les informations pertinentes pour cette application uniquement. Si le gouvernement a besoin d'accéder à ces informations pour attraper un terroriste, il devra obtenir un mandat de perquisition. (Une autre caractéristique intéressante d'un tel système serait que le consommateur n'aurait qu'à se rendre à un seul endroit pour vérifier l'exactitude des informations contenues dans le fichier.)

La société humaine a existé pendant des millénaires avant que les systèmes d'IA aient une connaissance illimitée de chacun de nous. Et cela continuera d'exister, même si nous limitons cette connaissance en affamant nos machines de ces informations personnelles. L'IA sera encore en mesure de rendre l'économie plus efficace, de créer des avancées médicales, de réduire le trafic et de créer des réglementations plus efficaces pour garantir la santé de l'environnement. Ce qu'elle sera moins en mesure de faire, c'est de menacer l'autonomie humaine, la liberté et la recherche du bonheur.

Dans le cas de l'IA, le maigre signifiera moins de moyenne. Il est temps de mettre l'intelligence artificielle au régime des données.

Plus d'information :

Tag : intelligence, artificielle, data, données, vie privée, risques, utilisateur, évolution, développement, learning machine, progrès, robot, ordinateur, cloud, puissance, , IA, intelligence, Consommateur, gouvernement, liberté, entreprise, crédit, deep blue, droit, information, Santé, Environnement, FaceBook, Cheval, Arsenal, Internet, élections, police, assurance automobile, Prêt immobilier, CV, bonheur, grange, Stephen Hawking, fiduciaire, coffre-fort, serveurs, terroriste, intrusifs, algorithmes, Eau, mandat de perquisition, Européens, fichier, Elon Musk, insu, Policier, garde-corps, Gary Kasparov, échecs, HUMANITE, métaphore, conscience, professionnel, cerveau, radiologues, rayons X, Microsoft, esclaves, bombe H,



Avis

Devenez membre pour donner votre avis !

Donner votre avis