L’intelligence artificielle entre discrètement dans les services que nous tenons pour acquis, à commencer par l’eau qui sort de nos robinets. Nous avons demandé à Xylem Vue ce que cela signifie pour les réseaux qui font fonctionner nos villes — et pour les particuliers, chez eux. David Torres Toro, Head of AI chez Xylem Vue, répond à quatre questions de The European Scientist.
L’intelligence artificielle entre discrètement dans les services que nous tenons pour acquis, à commencer par l’eau qui sort de nos robinets. Nous avons demandé à Xylem Vue ce que cela signifie pour les réseaux qui font fonctionner nos villes — et pour les particuliers, chez eux. David Torres Toro, Head of AI chez Xylem Vue, répond à quatre questions de The European Scientist.

The European Scientist : En termes simples, qu’est-ce qu’un agent d’IA, et que fait-il concrètement au sein d’un service des eaux ?
David Torres Toro : Un agent d’IA, c’est un modèle d’IA auquel s’ajoute tout ce qui l’entoure, le relie aux systèmes du service des eaux et lui permet d’agir, tout en maintenant ces connexions et ces actions sous contrôle. Le modèle (un grand modèle de langage, le même type de technologie qui équipe les chatbots bien connus) est le cerveau : il comprend une demande, décide des étapes à suivre et des outils à utiliser, et explique le résultat en langage clair. À lui seul, toutefois, il ne sait rien du service des eaux et ne peut accéder à aucun de ses systèmes. C’est ce qui l’entoure qui le rend utile et sûr : les connaissances sur l’eau et sur l’exploitant qui lui sont fournies, sa mémoire de la conversation, les connexions aux systèmes de l’exploitant pour qu’il puisse accomplir des tâches, les instructions qui lui disent comment faire chaque travail, et les contrôles qui définissent qui peut demander quoi, exigent des validations, et conservent une trace de tout ce qu’il fait. En termes techniques, cette couche environnante s’appelle le « harness ». Le cerveau ne calcule ni ne stocke rien par lui-même : les chiffres proviennent des applications et des algorithmes déjà en place chez l’exploitant, et la mémoire est conservée par le système qui l’entoure.
Au sein d’un service des eaux, un agent est un ensemble d’instructions et de connaissances sur l’eau, associé à un accès contrôlé aux systèmes de l’exploitant, afin qu’il puisse accomplir des tâches liées à l’eau. Il fournit aux opérateurs les informations dont ils ont besoin au bon moment, de façon souple, en s’adaptant à chacun.
Prenons le cas d’une spécialiste de la détection des fuites qui examine chaque DMA (secteur de mesure, ou District Metered Area) un par un, en scrutant le bilan hydrique à la recherche d’un comportement pouvant indiquer une fuite. Lorsqu’un DMA paraît suspect, elle vérifie l’état des canalisations et leur probabilité de défaillance, détermine la zone la plus probable, et ouvre un ordre de travail pour installer des capteurs acoustiques pendant la nuit afin de localiser la fuite. Un agent peut être décrit en langage naturel pour exécuter exactement ces étapes. Fort des connaissances sur l’eau (par exemple, à quoi ressemble une fuite dans un bilan hydrique) et de l’accès aux données (séries temporelles de bilan hydrique, caractéristiques des DMA, état des actifs), il peut mener le balayage complet, en appelant les mêmes algorithmes auxquels la spécialiste fait déjà confiance, et laisser un ordre de travail prêt. Elle reste aux commandes : rien n’est créé tant qu’elle ne l’a pas approuvé.
The European Scientist : Qu’est-ce qui changera pour les particuliers, chez eux : une eau plus sûre, des factures plus basses, moins de fuites, une meilleure résilience face aux sécheresses ?
David Torres Toro : Pour les particuliers, chez eux, le changement est surtout indirect, mais bien réel : des décisions plus rapides et mieux informées au sein du service des eaux. Même avec un logiciel qui rassemble les données de plusieurs systèmes, collecter et recouper les informations prend du temps aux opérateurs et, lors d’un incident, il leur en faut parfois plus qu’ils n’en ont. Avec des agents qui travaillent en parallèle, un opérateur au téléphone avec un client peut voir en temps réel le contexte du secteur de ce client et donner une réponse précise, au lieu de promettre de rappeler.
Une eau plus sûre et moins de fuites découlent du même basculement. Des routines qui n’étaient vérifiées que périodiquement, comme l’analyse des débits de nuit dans chaque district, peuvent désormais tourner toutes les nuits, si bien que les anomalies sont repérées plus tôt et que les fuites sont réparées plus vite, avec moins de pertes d’eau.
La résilience face aux sécheresses et aux inondations s’améliore parce que l’analyse de scénarios devient beaucoup moins coûteuse. Lancer une simulation « et si… » exigeait jusqu’ici qu’un spécialiste paramètre le modèle hydraulique et exécute chaque scénario à la main. Désormais, un agent doté des bonnes connaissances sur l’eau peut définir et lancer de nombreux scénarios sur les modèles et les jumeaux numériques déjà en place chez l’exploitant (pratiquement sans limite, jusqu’aux plafonds de consommation de tokens), comparer les résultats, dégager des schémas et proposer des plans d’atténuation pour que les ingénieurs les examinent. Les calculs restent assurés par les modèles validés ; l’IA élimine le travail manuel qui les entoure.
Sur les factures, des opérations plus efficaces signifient des coûts d’exploitation plus bas et, avec le temps, une partie de ces économies peut revenir aux clients. C’est un effet à moyen terme, non un effet automatique.
The European Scientist : L’eau est un service vital. Pourquoi faudrait-il faire confiance à une machine pour l’assurer, et qui reste aux commandes lorsque quelque chose tourne mal ?
David Torres Toro : La confiance ne doit pas reposer sur le bon comportement de la machine. Elle doit venir de la façon dont le système autour du modèle est conçu, et la responsabilité reste toujours du côté des humains. Transférer à une IA la responsabilité d’une mauvaise action n’est pas acceptable. Les humains s’appuieront de plus en plus sur des systèmes intelligents, mais la personne responsable le demeure. Cela a quatre implications concrètes.
Premièrement, l’humain reste dans la boucle pour chaque action. La lecture des données peut être large, pourvu que les droits d’accès en fixent le périmètre. L’écriture est une autre affaire : un courriel à un client, un ordre de travail de maintenance ou une modification de consigne est présenté en entier avant d’être exécuté, et rien ne s’exécute tant qu’une personne ne l’a pas approuvé. Avec le temps, à mesure que les preuves s’accumulent, la personne responsable pourra décider de déléguer certaines actions à faible impact, dans les limites qu’elle définit, avec une traçabilité complète et la possibilité de reprendre cette délégation. Même dans ce cas, la responsabilité ne change pas de mains.
Deuxièmement, de bonnes traces sont nécessaires. Connaître le raisonnement suivi, les outils exécutés, les données d’entrée prises en compte et les validations accordées rend le système auditable et mesurable, surtout lorsque quelque chose tourne mal.
Troisièmement, les solutions ont besoin d’un système d’évaluation, tant pendant le déploiement qu’en production. Il doit fournir des indicateurs chiffrés (KPI) d’exactitude, de justesse et de latence sur un ensemble représentatif de cas propres au domaine de l’eau, et il doit être relancé chaque fois que le modèle, un prompt ou un outil change. Cela évite aux opérateurs de deviner les performances du système et leur fournit des valeurs vérifiées.
Quatrièmement, une couche de gouvernance, munie de garde-fous, empêche le système de dépasser les limites que nous fixons. Par exemple, on peut autoriser l’IA à écrire des consignes proposées de pompes ou de vannes uniquement dans une série temporelle secondaire, destinée à la visualisation, et l’empêcher d’écrire dans la série réelle qui est transmise au SCADA.
Aucune architecture n’élimine complètement le risque d’une mauvaise réponse, mais ce risque peut être contenu structurellement. Les chiffres proviennent d’applications déterministes plutôt que du modèle : une mauvaise réponse est donc interceptée, ou ne peut pas causer de dommages.
The European Scientist : En se projetant dix ans en avant, nos réseaux d’eau seront-ils gérés par des humains assistés par l’IA, ou par l’IA supervisée par des humains ?
David Torres Toro : Je pense qu’ils seront gérés par l’IA et supervisés par des humains, et bien avant dix ans. Mais « gérés » demande un sens précis. L’IA assurera l’essentiel de l’observation, de l’investigation et de la préparation, vingt-quatre heures sur vingt-quatre. Les humains conserveront les décisions qui comptent, et la responsabilité finale restera la leur. Ce n’est pas une phase transitoire : dans les infrastructures critiques, la supervision humaine doit demeurer une obligation permanente de conception.
Deux modes de fonctionnement coexisteront. Dans le premier, l’opérateur de la salle de commande s’adresse à l’IA à la demande, à la voix, en langage naturel, pour obtenir en temps réel les informations dont il a besoin. L’IA répond à la voix et affiche les données correspondantes sur l’écran de la salle de commande, sous forme de tableaux de bord ou de cartes. On ne touche ni à la souris ni au clavier.
En parallèle, le même opérateur aura configuré un ensemble d’agents pour qu’ils tournent en arrière-plan, en mode « automate », afin de fournir des analyses et de suggérer des actions et des modifications du système à partir de ce qu’ils constatent en temps réel. Chaque suggestion s’accompagne d’une trace complète du raisonnement. L’opérateur peut à tout moment passer en mode « à la demande » pour approfondir n’importe quelle suggestion, jusqu’à disposer de suffisamment d’informations pour décider.
Le rôle de l’opérateur change en conséquence : il ne s’agit plus de lire des tableaux de bord, mais de superviser des agents, de leur fournir du contexte, et de prendre les décisions finales.
Propos recueillis par The European Scientist.
David Torres est titulaire d’un master (MSc) en génie industriel de l’Université polytechnique de Valence (Espagne) et d’un master en économie de l’Université nationale d’enseignement à distance (UNED). Il a suivi une formation en science des données et en apprentissage automatique. Il a développé sa carrière professionnelle dans le secteur de l’eau, en tant que membre clé de l’équipe de gestion des actifs chez Global Omnium (service des eaux) pendant plus de cinq ans. En 2023, il a rejoint Idrica, où il met à profit son expertise du secteur en tant que Product Owner, en faisant évoluer GOAigua. Il est aujourd’hui Head of AI chez Xylem Vue, la plateforme d’analytique et de logiciels née du partenariat entre Xylem et Idrica.
À lire également
- « L’IA est avant tout des mathématiques appliquées, et non pas la magie que l’on voudrait nous faire croire » Axel Cypel (entretien)
- La superpuissance simulera le monde
- Ce qu’est l’IA et ce qu’elle n’est pas
- La France, nouvelle frontière pour le dessalement de l’eau de mer ?
- Une membrane bio-sourcée capte les polluants éternels dans l’eau avec un taux d’efficacité de 94 %
This post is also available in: EN