Un père fondateur de l'intelligence artificielle avertit de son danger : 'peut être catastrophique pour l'humanité'

Le père de l'intelligence artificielle, Yoshua Bengio, s'alarme de la menace que représente la technologie pour l'humanité

Vous connaissez peut-être Sam Altman ou Elon Musk comme des figures emblématiques de l'intelligence artificielle. Cependant, l'histoire de l'IA remonte beaucoup plus loin et croise souvent le nom de Yoshua Bengio, considéré comme l'un des pères de l'intelligence artificielle.

Dans une récente entrevue, Bengio a rejoint les voix qui alertent sur les dangers de l'intelligence artificielle pour l'humanité. Selon lui, si des mesures appropriées ne sont pas prises, l'IA pourrait devenir une catastrophe pour tous.

Qui est Yoshua Bengio ?

Né en 1964 en France et élevé au Canada, Yoshua Bengio est professeur à l'Université de Montréal et directeur scientifique de Mila, l'Institut de l'intelligence artificielle du Québec. Son travail a jeté les bases de nombreux progrès récents dans le domaine de l'IA et des réseaux neuronaux.

Bengio, avec Geoffrey Hinton et Yann LeCun, est considéré comme l'un des pionniers du deep learning, une approche de l'IA qui implique d'entraîner des réseaux neuronaux profonds pour reconnaître des patrons dans de grandes quantités de données.

Les risques de l'intelligence artificielle

Bengio s'est toujours montré préoccupé par les implications de l'IA, défendant une approche responsable et l'établissement de normes pour contrôler les risques potentiels, tels que le biais dans les algorithmes ou l'utilisation abusive de la technologie à des fins malveillantes.

Dans son entrevue, Bengio a exprimé ses craintes : Il est difficile de contredire sa propre église, mais si l'on y réfléchit bien, il n'y a pas moyen de nier la possibilité de résultats catastrophiques lorsque nous atteindrons un certain niveau d'IA.

Les gens disent souvent que ces risques sont de la science-fiction, mais ce n'est pas le cas. À court terme, nous voyons déjà l'IA être utilisée dans la campagne électorale aux États-Unis, et la situation ne fera que s'aggraver dans les années à venir, avertit le chercheur.

Deux scénarios dangereux

Bengio imagine deux scénarios dangereux : Lorsque nous atteindrons le niveau de superintelligence, il y aura deux risques importants. Le premier est la perte du contrôle humain : si les machines superintelligentes ont un objectif d'autoconservation, leur objectif pourrait être de détruire l'humanité pour que nous ne puissions pas les éteindre.

Et le second, pas plus rassurant : il peut arriver que le pouvoir de l'IA soit utilisé pour prendre le contrôle de l'humanité dans une dictature mondiale. Il peut y avoir des versions plus douces de cela et cela peut exister dans un spectre, mais la technologie donnera un énorme pouvoir à qui la contrôlera.

Il convient de prendre ces avertissements au sérieux, comme le fait déjà l'Union européenne. Il est temps de réfléchir à l'avenir de l'intelligence artificielle et à ses implications pour l'humanité.