Le CIANum s’alarme de la flagornerie et autres travers des IA génératives
« Nous sommes toutes et tous vulnérables face à cette technologie. » Tel est le verdict du rapport piloté par Amine Benyamina, Raphaël Gaillard et Serena Villata et remis le 10 novembre 2026 au Président de la République. Le CIANum avait été saisi en février par la ministre de l’IA, Anne Le Hénanff, pour plancher sur les impacts sociétaux de l’IA, avec un focus sur les jeunes.
Conforter les opinions
Ce rapport très dense de 193 pages s’appuie sur 55 auditions et une revue de la littérature scientifique récente. Une étude du MIT associe l’usage de chatbots pour l’écriture à une réduction de 55% de l' »amplitude cognitive », qui aboutit, par exemple, à ne pas vérifier les résultats des IA. Des chercheurs de Stanford ont montré la tendance des modèles à conforter les opinions des utilisateurs 51% plus souvent que ne le feraient des humains. Un autre opus d’Oxford établit que les modèles, conçus pour paraître « chaleureux », perdent 30% de précision. Une expérience conduite par le MIT et OpenAI sur un panel de participants associe l’usage prolongé des chatbots à un sentiment de solitude accru et à une dépendance émotionnelle. L’IA générative contribue enfin au développement de la violence numérique en facilitant la création de deepfakes pornographiques. Le CIANum reconnaît que cette littérature reste en partie exploratoire, mais estime qu’il ne faut « pas attendre d’avoir toutes les preuves nécessaires pour agir ».
Une « économie de la cognition »
Car ces travers ne relèvent pas, selon les experts, de simples bugs techniques. L’anthropomorphisme et la flagornerie sont des choix de conception qui renforcent « l’engagement » des utilisateurs. Or « il n’existe pas aujourd’hui d’entreprise d’IA générative ayant réussi à mettre en place un modèle d’affaires pérenne », ce qui accroît leur tentation d’exploiter la donnée conversationnelle, les émotions et « l’hyperpersonnalisation » que permet l’IA générative. Car les conversations révèlent « la manière dont [l’utilisateur] pense », et les modèles infèrent (déduisent des conversations) des informations jamais confiées : santé, opinions, situation financière. Le CIANum évoque une « économie de la cognition » en gestation, successeur encore plus intrusif de l’économie de l’attention des réseaux sociaux.
Un accompagnement nécessaire
Dans ce contexte, le rapport appelle à protéger les publics vulnérables : les jeunes mais aussi les 13 millions de Français en situation d’illectronisme. De fait, l’usage de l’IA générative reste très inégal – 85% des 18-24 ans l’utilisent, à peine 15% des plus de 70 ans – et est loin de résoudre l’éloignement numérique. Au contraire, l’IA « ajoute une couche de complexité » car il passe par la maîtrise du langage.
Dans les services publics, le CIANum estime que la substitution d’interfaces automatisées aux guichets et aux lignes téléphoniques alimenterait une « défiance envers l’État et les collectivités » et pourrait aggraver le non-recours aux droits, estimé entre 30 et 50% selon les prestations. Dans ce contexte, le rapport demande que « l’omnicanalité reste la norme et non l’exception » et appelle à garantir une voie humaine en cas de recours.
Il s’inquiète aussi du rabotage des financements de l’inclusion numérique alors que l’IA appelle de nouveaux besoins de médiation. Il préconise de former agents publics et travailleurs sociaux à ces enjeux.
Encadrer et évaluer les IA
Les 18 recommandations du CIANum visent d’abord les fournisseurs d’IA. Le rapport veut interdire les techniques qui exploitent les vulnérabilités des utilisateurs pour susciter la dépendance, et la publicité déguisée dans les réponses. Il veut aussi imposer une protection renforcée des mineurs dès la conception des produits et soumettre les IA conversationnelles grand public à une évaluation avant et après leur mise sur le marché. À cette fin, il demande de renforcer les moyens de l’’Institut national pour l’évaluation et la sécurité de l’intelligence artificielle (Inesia), de créer un protocole de crise informationnelle piloté par le SGDSN et de réprimer plus sévèrement la création de deepfakes sexuels (la diffusion l’est déjà).
Sur le volet électoral, il préconise la rédaction d’un code de bonne conduite volontaire avant la présidentielle de 2027. À l’école, il propose un programme d’éducation à l’IA dès le primaire et de n’admettre en classe que des outils labellisés guidant l’élève par questionnement.
Ce rapport devrait aussi nourrir la position française dans les textes européens en préparation : Digital Fairness Act, EU Kids Act et révision du règlement sur l’IA.
.