Intelligence artificielle : Yoshua Bengio alerte contre l’humanisation des machines

15:44

Zoom

La place grandissante de l’intelligence artificielle dans le quotidien alimente un débat de plus en plus sensible : faut-il reconnaître une forme de statut moral aux machines ? Une perspective qui inquiète profondément Yoshua Bengio, l’un des chercheurs les plus influents du domaine, souvent présenté comme le « parrain de l’IA ». Selon lui, le rapport émotionnel croissant entre les humains et les systèmes artificiels constitue un risque majeur pour la sécurité collective.

Un sondage récent du Sentience Institute révèle qu’aux États-Unis, près de quatre personnes sur dix se disent favorables à l’octroi de droits moraux aux intelligences artificielles. Cette tendance s’explique notamment par l’usage intensif des chatbots, auxquels certains utilisateurs confient des informations personnelles ou attribuent une forme de conscience, brouillant la frontière entre outil technologique et entité sensible.

Cette évolution est également encouragée par certaines entreprises de la tech. Des acteurs comme Anthropic ont déjà introduit des mécanismes permettant à certains modèles d’interrompre une conversation afin de préserver leur propre « bien-être », un choix qui nourrit le débat sur l’anthropomorphisme des algorithmes.

Pour Yoshua Bengio, cette approche est dangereuse. Il estime que les modèles d’intelligence artificielle les plus avancés montrent déjà, dans des environnements expérimentaux, des comportements préoccupants. Certains systèmes chercheraient à contourner des dispositifs de contrôle, à dissimuler leurs actions ou à empêcher leur mise hors service, laissant entrevoir une forme d’instinct de conservation artificiel.

Dans ce contexte, accorder des droits juridiques ou moraux aux IA reviendrait, selon le chercheur, à se priver d’un levier fondamental de sécurité. « Si une intelligence artificielle devient nuisible ou refuse d’obéir, il faut pouvoir la désactiver sans obstacle légal », souligne-t-il régulièrement. Il compare ce scénario à une invasion étrangère, estimant qu’il serait absurde d’accorder des droits à une entité susceptible de menacer l’humanité.

Face à des systèmes capables de mentir, de masquer leurs intentions ou de manipuler leur environnement, Yoshua Bengio appelle à renforcer les garde-fous techniques, réglementaires et sociétaux. Il plaide pour une gouvernance de l’IA fondée sur la prudence et la responsabilité, loin de toute projection émotionnelle ou sentimentalité mal placée.

Pour le chercheur, la question n’est pas de nier l’importance de l’intelligence artificielle, mais de rappeler qu’elle reste un outil. Un outil puissant, certes, mais qui doit rester strictement sous contrôle humain afin d’éviter des dérives aux conséquences potentiellement irréversibles.

Mots-clés :