Parrains de l’IA Bengio et Hinton appellent à arrêter développement AGI

850 personnes, dont le cofondateur d’Apple Steve Wozniak et le fondateur de Virgin Group Richard Branson, ont signé une déclaration appelant à interdire le développement de la superintelligence ou AGI. C’est une forme hypothétique d’intelligence artificielle qui surpassera les humains dans pratiquement toutes les tâches cognitives.

La liste a été menée par des pionniers de la technologie — les scientifiques Yoshua Bengio et Jeff Hinton. Qui sont considérés comme les «parrains» de l’IA moderne. Parmi les signataires se trouvaient des universitaires, des personnalités médiatiques, des dirigeants religieux et d’anciens politiciens américains des deux partis.

La superintelligence est devenue un mot à la mode dans la course entre des géants comme xAI et OpenAI. Mais les auteurs de la déclaration avertissent : la perspective de la superintelligence soulève de sérieuses préoccupations. De l’inutilité économique des gens et de la perte de libertés aux risques pour la sécurité nationale et même à l’extinction possible de l’humanité.

Ils exigent une interdiction du développement jusqu’à ce qu’il y ait un fort soutien public et un consensus scientifique. Que la technologie puisse être créée et contrôlée en toute sécurité. Une image intéressante émerge : certaines entreprises se précipitent pour construire la superintelligence, tandis que d’autres crient «stop».