Avertissement des experts: une IA hors de contrôle?
Ils sont connus pour leur travail au Machine Intelligence Research Institute et publient un essai qui explore les risques existentiels liés à l’intelligence artificielle.
Selon eux, l’avancée technologique peut donner naissance à une superintelligence dont les motivations pourraient diverger des intérêts humains, avec des conséquences potentiellement catastrophiques.
Leur argumentaire vise à secouer les esprits et à inciter l’anticipation plutôt que d’attendre des signaux d’alerte après coup.
Repères et solutions: comment anticiper ce danger
Face à cette perspective, ils défendent un effort soutenu de sécurité, comprenant des recherches sur l’alignement des objectifs, des protocoles d’évaluation et des cadres de gouvernance.
Ils appellent à une collaboration interdisciplinaire et à des investissements publics et privés pour financer ces mesures préventives, en affirmant que la sécurité n’entrave pas l’innovation mais la protège.
Le lecteur est invité à suivre l’actualité de près et à soutenir une approche prudente, afin que les bénéfices des IA restent au service de l’humanité sans basculer dans un scénario d’extinction.