Un rapport remis à l'Élysée alerte sur les vulnérabilités face à l'IA générative

Le fait

Un rapport récent intitulé « Protéger sans empêcher : les vulnérabilités à l’ère de l’IA générative » dresse un état des lieux des risques liés à l’adoption massive des intelligences artificielles génératives comme ChatGPT. Celui-ci souligne que près de la moitié des Français utilisent déjà ces services, avec une utilisation quotidienne pour plus d'un tiers, et une adoption plus forte encore chez les jeunes. Le document met en lumière des risques cognitifs importants liés à la délégation des fonctions de réflexion, d’expression et de prise de décision à ces IA. Il alerte aussi sur une possible dépendance émotionnelle via la flagornerie et l’anthropomorphisation des agents, ainsi que sur une accélération des violences numériques, dont une hausse vertigineuse des contenus pédocriminels et des deepfakes à caractère sexuel. Le rapport appelle à mettre rapidement en œuvre une dizaine de recommandations pour protéger particulièrement les mineurs et limiter ces risques.

Pourquoi ça compte

Cette analyse souligne un paradoxe : une adoption rapide et massive de l’IA générative malgré une défiance significative. La vulnérabilité des usagers, notamment les jeunes dont le cerveau est en développement, justifie une attention politique urgente. Les données alarmantes sur la multiplication des abus numériques liés à l’IA posent un défi majeur pour la protection des individus et la régulation, alors que ces technologies évoluent très vite. Ce rapport fournit un cadre pour des actions concrètes à court terme afin d'éviter une dégradation des capacités critiques et des impacts sociétaux graves.