Les géants de l'IA appellent à un arrêt du développement de l'AGI, l'opinion mondiale soutient la réglementation

Les sommités de l'IA Geoffrey Hinton et Yoshua Bengio, ainsi que des centaines de scientifiques, dirigeants technologiques, artistes et politiciens, ont publié une déclaration appelant à un arrêt du développement de l'intelligence générale artificielle (AGI). Ils soutiennent que l'AGI pourrait représenter une menace sérieuse pour l'humanité et devrait être interdite jusqu'à ce que la sécurité, la contrôlabilité et le consensus social soient garantis.

La déclaration a été publiée le 22 octobre sur le site web de l'institut à but non lucratif Future of Life. Elle souligne que “le développement de la superintelligence devrait être interdit sans un large consensus scientifique et un soutien public.”

Cet avertissement est confirmé par les récents sondages d'opinion. Une enquête menée auprès de 2 000 adultes américains a révélé que 64 % soutiennent le report ou l'interdiction totale du développement de l'IA surhumaine, ce qui montre une profonde anxiété du public à propos de cette technologie.

Hinton, qui a remporté le prix Nobel de physique l'année dernière pour sa recherche sur l'IA, a développé l'algorithme de rétropropagation essentiel à l'apprentissage des réseaux de neurones. Bengio, qui a partagé le prix Turing avec Hinton, a été un pionnier des techniques d'embedding et des mécanismes d'attention fondamentaux pour les grands modèles de langage d'aujourd'hui.

La déclaration a également été signée par 4 autres lauréats du prix Nobel, de nombreux professeurs éminents, le cofondateur d'Apple Steve Wozniak, et des personnalités comme le prince Harry, Meghan Markle et Richard Branson, indiquant la propagation des appels à la réglementation de l'AGI à travers la société.

Notamment, deux employés actuels d'OpenAI et d'Anthropic ont également signé, malgré les impacts potentiels sur les stratégies de développement de l'AGI de leurs entreprises.

Cela fait suite à une lettre ouverte de juin 2022 où d'anciens et d'actuels employés de laboratoires d'IA de premier plan ont appelé à plus de transparence et de responsabilité des entreprises concernant les risques liés à l'IA.

La voix unifiée de chercheurs et de leaders sociaux de renommée mondiale appelant à mettre un terme au développement de l'AGI souligne l'importance croissante du contrôle préventif et de la vérification sociale par rapport à un progrès technologique inconditionnel. Alors que l'influence de l'IA s'étend dans la vie quotidienne et l'industrie, l'humanité doit établir de nouvelles normes de développement centrées sur les droits et la sécurité.