L’intelligence artificielle progresse à une vitesse impressionnante. Mais derrière les performances toujours plus spectaculaires des nouveaux modèles, certaines voix venues directement de l’industrie commencent à tirer la sonnette d’alarme.

Cette semaine, Jacob Coxon, chercheur ayant travaillé chez OpenAI puis chez Anthropic, a annoncé son départ en dénonçant la course menée par les grands laboratoires pour développer des intelligences artificielles toujours plus puissantes. Selon lui, les entreprises avancent trop vite alors que les moyens permettant de garder le contrôle sur de futurs systèmes très autonomes restent encore insuffisants. (AP News)

Ses inquiétudes ont été publiquement rejointes par Evan Hubinger, responsable de recherches sur la sécurité chez Anthropic. Celui-ci estime personnellement à plus de 10 % le risque qu’une intelligence artificielle très avancée puisse provoquer une catastrophe conduisant à la disparition de l’humanité au cours de la prochaine décennie. Il reconnaît également qu’aucune solution complète n’existe actuellement pour garantir qu’une éventuelle superintelligence resterait parfaitement alignée avec les intérêts humains. (The Verge)

Pour autant, cela ne signifie évidemment pas qu’une catastrophe est annoncée. Ces estimations restent des opinions et des scénarios de risque, très débattus parmi les spécialistes. D’autres chercheurs considèrent que les discours les plus catastrophistes vont trop loin et qu’il est encore impossible de prédire précisément jusqu’où évolueront les systèmes actuels. (The Guardian)

Les inquiétudes portent surtout sur deux possibilités : qu’une IA extrêmement autonome devienne difficile à contrôler, ou que des systèmes très puissants soient utilisés volontairement à des fins dangereuses. Les progrès récents en matière d’autonomie et de cybersécurité alimentent particulièrement ces discussions. (Reuters)

Le paradoxe est donc assez saisissant : certains de ceux qui construisent les intelligences artificielles les plus avancées sont aussi parmi ceux qui réclament davantage de prudence.

Sommes-nous réellement en danger ? Impossible aujourd’hui de l’affirmer. Mais lorsque les interrogations viennent directement des laboratoires qui développent ces technologies, elles deviennent forcément beaucoup plus difficiles à ignorer.

Retour à l'accueil