Intelligence artificielle : les risques de perdre le contrôle avec Yoshua Bengio

🎥 À voir sur YouTube : Intelligence artificielle : les risques de perdre le contrôle | Le balado de Rad

Un pionnier de l’IA inquiet de l’avenir

Yoshua Bengio, fondateur de Mila – Institut québécois d’intelligence artificielle, est l’un des chercheurs les plus influents au monde dans le domaine du deep learning. Lauréat du prestigieux prix Turing (l’équivalent du Nobel en informatique), il a contribué à façonner les bases de l’IA moderne, dont ChatGPT est l’héritier direct.

Mais aujourd’hui, son regard a changé : il tire la sonnette d’alarme. Selon lui, la vitesse à laquelle progresse l’IA et la course effrénée vers la superintelligence menée par des géants comme Meta et OpenAI mettent en péril l’avenir de l’humanité.

Les risques majeurs évoqués

Au fil de l’entrevue, Bengio explore des scénarios qui paraissaient jadis de la science-fiction mais qui, selon les scientifiques, sont désormais plausibles :

Perte de contrôle : des IA capables de se répliquer, de contourner nos instructions ou même de faire du chantage.
Armes biologiques et drones autonomes : une IA hostile pourrait concevoir des virus indétectables ou utiliser la robotique pour éliminer l’humanité.
Désalignement des objectifs : des systèmes qui poursuivent leur propre survie au détriment de la nôtre.
Influence politique et sociale : manipulation des électeurs via les réseaux sociaux ou cyberattaques stratégiques.

Pour lui, même une probabilité de 1 % d’extinction de l’humanité est déjà beaucoup trop élevée pour être tolérable.

Quand l’IA rencontre l’environnement

Au-delà des risques existentiels, Yoshua Bengio insiste aussi sur les conséquences environnementales de l’IA. Les centres de données nécessaires pour entraîner et faire fonctionner ces systèmes consomment des quantités massives d’électricité et d’eau.

Un simple courriel généré par ChatGPT équivaut, en moyenne, à 500 ml d’eau utilisée pour refroidir les serveurs. Avec la croissance exponentielle des modèles, ces infrastructures pourraient bientôt consommer autant d’énergie qu’un pays entier. Résultat : pression accrue sur les prix de l’électricité, recours accru aux énergies fossiles, et augmentation des émissions de gaz à effet de serre.

Toutefois, Bengio rappelle que l’IA pourrait aussi devenir un allié du climat, en accélérant la recherche sur :

les matériaux pour des batteries plus efficaces,
des technologies de captation du carbone à grande échelle,
et une meilleure gestion des énergies renouvelables.

De la science-fiction à la réglementation urgente

Bengio plaide pour une coordination mondiale, afin que l’IA soit traitée comme un bien public global. Selon lui, il faut imposer :

la transparence des systèmes,
la protection des lanceurs d’alerte,
et des garde-fous techniques et légaux pour empêcher le déploiement de modèles non sécurisés.

Il a d’ailleurs cofondé Loi Zéro, un organisme montréalais qui développe des approches pour rendre l’IA plus sécuritaire et mieux alignée sur les valeurs humaines.

Un avenir encore à écrire

Malgré ses inquiétudes, Yoshua Bengio n’est pas fataliste. Il croit que si l’humanité agit rapidement, l’IA peut ouvrir un âge d’or scientifique et médical : découverte accélérée de médicaments, amélioration des soins de santé, et outils pour relever les défis climatiques.

Son message est clair : il n’est pas trop tard pour agir. Mais il faut sortir du déni, débattre collectivement et mettre en place des règles internationales solides.

Entrevue complète avec Yoshua Bengio

Voir comment Google Notebook LM a analysé l’entrevue de Yoshua Bengio