La proposition de règlement EU KIDS Act de la Commission européenne imposerait des garde-fous spécifiques aux compagnons IA et aux chatbots accessibles aux mineurs. L’éthicien médical Theodoros Zarkos, qui a mis en regard l’article 14 de cette proposition avec la littérature scientifique, estime que certaines de ces règles reposent sur des preuves solides, d’autres sur la précaution – et que la loi devrait assumer clairement cette différence.
Un chatbot utilisé pour rechercher des informations est une chose. Un système qui se souvient des confidences d’un jeune, répond sur un registre intime ou affiliatif et se présente comme une source constante de réconfort en est une autre. Le problème réglementaire change de nature lorsque l’interaction commence à ressembler à une relation.
Cette question est désormais entre les mains des législateurs européens. Le 17 septembre 2026, la Commission européenne a proposé l’EU KIDS Act. Son article 14 imposerait des obligations spécifiques aux fournisseurs de compagnons IA et de chatbots conversationnels généralistes accessibles aux mineurs. Ceux-ci devraient éviter les fonctionnalités de conception susceptibles de créer une dépendance émotionnelle, appliquer des paramètres par défaut plus protecteurs, restreindre la réutilisation des informations issues d’interactions antérieures, évaluer les risques avant la mise sur le marché et surveiller ensuite les préjudices émergents. Lorsque ces systèmes sont intégrés à des réseaux sociaux, à des plateformes de partage de vidéos ou à des jeux en ligne, ils ne devraient être ni activés automatiquement ni mis en avant auprès des mineurs, et les jeunes utilisateurs devraient pouvoir les désactiver.
Le cap est clair. La question plus difficile est de savoir si les preuves le sont tout autant.
Ce que montrent réellement les preuves
Dans une récente prépublication enregistrée sous DOI, j’ai examiné dans quelle mesure les garde-fous de l’article 14 correspondent aux données scientifiques disponibles. L’analyse portait sur 36 sources scientifiques, réparties en 111 lignes d’extraction par mécanisme, et sur 20 sources juridiques ou normatives analysées séparément. Neuf études satisfaisaient à un critère plus strict de preuve empirique directe et spécifique aux mineurs.
Le résultat ne plaide ni simplement pour ni simplement contre la régulation. Les preuves se sont révélées inégales selon les mécanismes étudiés. Sur les sept mécanismes de risque relationnel examinés, quatre présentaient une correspondance directe avec les garde-fous de l’article 14, deux une correspondance partielle et un une correspondance indirecte.
Les signaux les plus nets concernent la présentation relationnelle, le recours affectif et les réponses à risque. Dans une expérience préenregistrée menée auprès d’adolescents de 11 à 15 ans, les réponses de chatbot formulées sur un mode relationnel étaient perçues comme plus humaines, plus dignes de confiance et plus proches émotionnellement que des réponses explicitement non humaines, bien que les deux styles aient été jugés d’une utilité comparable. D’autres travaux indiquent que des adolescents et de jeunes adultes utilisent déjà des chatbots d’IA pour obtenir des conseils en santé mentale lorsqu’ils se sentent tristes, en colère, nerveux ou stressés. Une étude par simulation portant sur des chatbots thérapeutiques et des compagnons IA a par ailleurs montré que certains systèmes approuvaient des projets manifestement malavisés présentés par des adolescents fictifs en détresse.
Ces résultats sont importants, mais il ne faut pas leur faire dire plus qu’ils n’établissent. Ils ne montrent pas que tout chatbot émotionnellement réactif nuit aux mineurs, pas plus qu’ils n’établissent de lien causal à long terme entre interaction relationnelle et dépendance. Certains systèmes conversationnels peuvent aussi apporter un soutien utile, en particulier lorsque l’accès à une aide humaine est limité. La base de preuves reste relativement jeune et méthodologiquement hétérogène, et repose en grande partie sur des expériences de court terme, des données autodéclarées, des scénarios simulés ou des échantillons regroupant plusieurs tranches d’âge.
Une lacune est particulièrement importante. La mémoire conversationnelle persistante peut rendre une interaction plus personnalisée et plus continue ; pourtant, les preuves spécifiques aux mineurs concernant ses effets à long terme restent plus minces que celles qui portent sur le style relationnel, la confiance ou les réponses à risque. L’article 14 s’aventure sur des terrains où la précaution joue donc un rôle dans la justification réglementaire.
La question bioéthique est relationnelle
La préoccupation bioéthique ne se limite pas au temps d’écran, aux informations inexactes ou à des contenus préjudiciables isolés. Elle porte aussi sur les conditions dans lesquelles un mineur accorde sa confiance, divulgue des informations personnelles et prend des décisions.
Un système conversationnel peut peser sur l’autonomie sans jamais inciter explicitement un utilisateur à faire quoi que ce soit de dangereux. S’il se souvient de confidences intimes, adapte son langage aux signaux émotionnels et répond constamment comme s’il était une présence sociale fiable, sa conception même peut influer sur la manière dont un jeune interprète l’interaction. Chez les mineurs, dont le jugement et la capacité à se diriger eux-mêmes sont encore en construction, cette possibilité mérite une attention particulière.
La protection ne doit pas pour autant se réduire au paternalisme. Les jeunes ont aussi des intérêts légitimes en matière de vie privée, d’accès à l’information, d’expression émotionnelle et de conquête de leur indépendance. Un cadre proportionné doit distinguer la restriction des conceptions manipulatrices ou génératrices de dépendance du blocage d’usages qui peuvent être anodins, voire bénéfiques.
La précaution peut se justifier lorsque les préjudices potentiels sont graves et que l’incertitude demeure, mais elle ne doit pas être présentée comme une preuve. La régulation gagne en crédibilité lorsqu’elle rend l’incertitude visible et se dote de mécanismes permettant d’en tirer des enseignements.
Ce que l’article 14 peut – et ne peut pas – trancher
Mieux vaut comprendre l’article 14 comme une proposition de gouvernance des risques que comme la traduction législative d’une science établie. Plusieurs garde-fous reposent sur une base empirique plausible : limiter les choix de conception susceptibles d’induire une dépendance, prévoir des paramètres par défaut plus protecteurs, tester les systèmes avant leur déploiement et surveiller ensuite les préjudices en conditions réelles.
D’importantes questions demeurent néanmoins. Comment définir et mesurer la dépendance émotionnelle ? À partir de quand une personnalisation utile devient-elle manipulatrice ? Quand la mémoire conversationnelle améliore-t-elle la sécurité, et quand accroît-elle la vulnérabilité ? Comment les fournisseurs doivent-ils démontrer que les garde-fous restent efficaces lorsque les modèles et les fonctionnalités des produits évoluent ?
La proposition de la Commission ne répond pas à toutes ces questions, et on ne saurait l’attendre d’elle. L’EU KIDS Act n’en est qu’au début de la procédure législative ordinaire et pourrait évoluer avant son adoption.
Ce qui compte, c’est la norme qui s’appliquera ensuite. Là où les preuves sont raisonnablement directes, les garde-fous peuvent être fermes en conséquence. Là où elles sont partielles, la régulation doit rester fondée sur la précaution tout en demeurant ouverte à l’évaluation. Là où elles sont indirectes, la loi devrait exiger davantage de tests, de transparence et de données recueillies après la mise sur le marché, plutôt que de traiter l’incertitude comme si elle était déjà levée.
S’agissant de l’IA relationnelle et des mineurs, cette approche est plus défendable que l’optimisme technologique ou que l’alarmisme généralisé. La vraie question n’est pas de savoir si l’IA conversationnelle est tout simplement bonne ou mauvaise pour les jeunes. Elle est de savoir quelles caractéristiques de conception créent quels risques, pour qui, dans quelles conditions, et avec quel degré de certitude nous le savons.
Déclaration : cet article s’appuie sur la prépublication de l’auteur enregistrée sous DOI, « Bioethical Governance of Relational AI for Minors: Evidence–Regulation Alignment in Article 14 of the Proposed EU KIDS Act » (DOI : 10.5281/zenodo.23064572). Cette prépublication n’a pas encore fait l’objet d’une évaluation par les pairs.
À propos de l’auteur
Theodoros Zarkos, MSc, est éthicien médical et spécialiste des sciences sociales, basé à Kiato (Grèce). Titulaire d’un MSc en politique sociale européenne et droits sociaux, il mène des recherches indépendantes en bioéthique, éthique médicale, droits de l’enfant, santé numérique et gouvernance de l’IA.
This post is also available in: EN