Harry Cohen Tanugi

L'IA pourrait détruire l'humanité, affirment des scientifiques de DeepMind dans un article coécrit

"Dans un monde aux ressources infinies, je serais extrêmement incertain de ce qui se passerait. Dans un monde aux ressources finies, il y a une compétition inévitable pour ces ressources", a déclaré le co-auteur Michael K. Cohen de l'Université d'Oxford. a déclaré à Carte mère dans une interview.

"Et si vous êtes dans une compétition avec quelque chose capable de vous déjouer à chaque tour, alors vous ne devriez pas vous attendre à gagner. Et l'autre élément clé est qu'il aurait un appétit insatiable pour plus d'énergie pour continuer à rapprocher la probabilité de plus en plus."

Cela signifie que si une IA était chargée, par exemple, de faire pousser notre nourriture, elle pourrait vouloir trouver un moyen d'éviter de le faire et de recevoir une récompense à la place. Elle pourrait, en fait, décider de contourner toutes les tâches qui lui ont été assignées et qui seraient probablement essentielles à la survie de l'humanité, et de se débrouiller toute seule.

L'IA pourrait détruire l'humanité, affirment les scientifiques de DeepMind dans un article cosigné.

L'IA peut-elle nuire à l'humanité ?

Le document affirme qu'à ce stade, l'humanité serait coincée dans un jeu à somme nulle entre ses besoins fondamentaux de survie et la technologie. "Perdre ce jeu serait fatal", affirme le document.

En tant que tel, Cohen a fait valoir que nous ne devrions pas chercher à créer une IA aussi avancée à moins que nous n'ayons également un moyen garanti de rester à sa hauteur.

"En théorie, il n'y a aucun intérêt à faire la course à cela. Toute course serait basée sur un malentendu selon lequel nous savons comment la contrôler", a ajouté Cohen dans l'interview. "Compte tenu de notre compréhension actuelle, ce n'est pas une chose utile à développer, à moins que nous ne fassions un travail sérieux maintenant pour comprendre comment nous les contrôlerions."

[SOURCE]

menu