Des chercheurs disent qu’il sera impossible de contrôler une IA super intelligente : ScienceAlert

L’idée de l’intelligence artificielle renversant l’humanité est évoquée depuis des décennies, et en 2021, les scientifiques ont rendu leur verdict sur la capacité de contrôler une super-intelligence informatique de haut niveau. La réponse? Presque certainement pas.

Le hic, c’est que contrôler une super-intelligence bien au-delà de la compréhension humaine nécessiterait une simulation de cette super-intelligence que nous pouvons analyser (et contrôler). Mais si nous sommes incapables de le comprendre, il est impossible de créer une telle simulation.

Des règles telles que “ne pas nuire aux humains” ne peuvent pas être définies si nous ne comprenons pas le type de scénarios qu’une IA va proposer, suggèrent les auteurs du nouvel article. Une fois qu’un système informatique fonctionne à un niveau supérieur à la portée de nos programmeurs, nous ne pouvons plus fixer de limites.

“Une super-intelligence pose un problème fondamentalement différent de ceux généralement étudiés sous la bannière de” l’éthique des robots “”, ont écrit les chercheurs.

“C’est parce qu’une superintelligence est multi-facettes, et donc potentiellement capable de mobiliser une diversité de ressources afin d’atteindre des objectifs potentiellement incompréhensibles pour les humains, et encore moins contrôlables.”

Une partie du raisonnement de l’équipe provenait de la problème d’arrêt mis en avant par Alan Turing en 1936. Le problème consiste à savoir si un programme informatique parviendra ou non à une conclusion et à une réponse (donc il s’arrêtera), ou simplement bouclera sans fin pour en trouver un.

Comme Turing l’a prouvé à travers certains mathématiques intelligentes, alors que nous pouvons savoir que pour certains programmes spécifiques, il est logiquement impossible de trouver un moyen qui nous permettra de savoir cela pour chaque programme potentiel qui pourrait jamais être écrit. Cela nous ramène à l’IA, qui, dans un état super intelligent, pourrait vraisemblablement contenir tous les programmes informatiques possibles dans sa mémoire à la fois.

Tout programme écrit pour empêcher l’IA de nuire aux humains et de détruire le monde, par exemple, peut arriver à une conclusion (et s’arrêter) ou non – il est mathématiquement impossible pour nous d’être absolument sûr de toute façon, ce qui signifie qu’il n’est pas maîtrisable.

“En effet, cela rend l’algorithme de confinement inutilisable”, a déclaré l’informaticien Iyad Rahwan de l’Institut Max-Planck pour le développement humain en Allemagne en 2021.

L’alternative à enseigner à l’IA une certaine éthique et à lui dire de ne pas détruire le monde – ce qu’aucun algorithme ne peut être absolument certain de faire, ont déclaré les chercheurs – est de limiter les capacités de la super-intelligence. Il pourrait être coupé de certaines parties d’Internet ou de certains réseaux, par exemple.

L’étude a également rejeté cette idée, suggérant qu’elle limiterait la portée de l’intelligence artificielle ; l’argument est que si nous n’allons pas l’utiliser pour résoudre des problèmes au-delà de la portée des humains, alors pourquoi le créer ?

Si nous voulons aller de l’avant avec l’intelligence artificielle, nous ne saurons peut-être même pas quand une super-intelligence indépendante de notre volonté arrivera, tant elle est incompréhensible. Cela signifie que nous devons commencer à poser de sérieuses questions sur les directions dans lesquelles nous allons.

“Une machine super-intelligente qui contrôle le monde ressemble à de la science-fiction”, a déclaré l’informaticien Manuel Cebrian de l’Institut Max-Planck pour le développement humain, également en 2021. “Mais il existe déjà des machines qui effectuent certaines tâches importantes de manière indépendante sans que les programmeurs comprennent pleinement comment ils l’ont appris.”

“La question se pose donc de savoir si cela pourrait à un moment donné devenir incontrôlable et dangereux pour l’humanité.”

La recherche a été publiée dans le Journal de recherche sur l’intelligence artificielle.

Une version antérieure de cet article a été publiée pour la première fois en janvier 2021.

Leave a Comment

Your email address will not be published.