Guide des chatbots IA à l'intention du secteur public

Développer, protéger et gérer des assistants soutenus par IA

Lorsque je rencontre des responsables de la technologie officiant au sein d'agences gouvernementales, ils me disent souvent que le premier outil d'IA générative (GenAI, Generative AI) qu'ils ont mis en place est un chatbot IA. En effet, en janvier 2025 80 % de l'ensemble des scénarios d'utilisation de l'IA générative documentés au sein du gouvernement fédéral américain impliquaient des chatbots et des assistants virtuels soutenus par IA. La plupart des agences ont commencé par déployer des chatbots internes et destinés à leurs collaborateurs afin de s'assurer que ces derniers soient à l'aise avec la technologie et satisfaits des résultats, avant de développer des chatbots externes, destinés au public.

Les administrations gouvernementales et locales sont désormais tout aussi désireuses d'implémenter leurs premiers chatbots soutenus par IA. En parallèle, les agences fédérales qui ont terminé leurs déploiements en interne prévoient aujourd'hui de déployer des chatbots en externe.

Ces chatbots IA sont différents des chatbots traditionnels déjà utilisés depuis des années. Les chatbots traditionnels (basés sur des règles) suivent des scripts fixes et sont parfaits pour les tâches simples, mais ne fonctionnent plus face aux questions « hors script ». Les chatbots IA (également appelés chatbots « conversationnels ») s'appuient sur le traitement du langage naturel (TLN), l'apprentissage automatique (ML, Machine Learning) et les grands modèles linguistiques (LLM, Large Language Models) pour comprendre l'intention, gérer le contexte, apprendre, s'améliorer et intégrer des données afin de proposer des réponses complètes à des requêtes complexes.

Les chatbots IA peuvent proposer des réponses rapides, cohérentes et conformes, sans nécessiter d'intervention humaine. Ils peuvent toutefois s'avérer difficiles à développer, à sécuriser et à gérer. La première étape du développement d'un chatbot consiste à identifier un scénario d'utilisation qui permettra d'obtenir rapidement des résultats concrets et l'expérience nécessaire. Il suffit ensuite d'optimiser la conception, de choisir le LLM approprié et d'intégrer ce modèle à des sources de données soigneusement sélectionnées.

L'organisme doit en outre protéger le chatbot contre les attaques et les comportements malveillants. En parallèle, il devra également établir une gouvernance efficace afin de s'assurer que le modèle ne propose pas de réponses inexactes ou inappropriées, car ce type de comportement pourrait conduire à des décisions prises sur de mauvaises bases, faciliter la fraude, compromettre la conformité réglementaire et, en fin de compte, saper la confiance des utilisateurs.

Malgré les défis rencontrés, il ne fait aucun doute que les administrations gouvernementales fédérales, d'État et locales progressent dans leur processus de mise en œuvre des chatbots IA. Quatre bonnes pratiques à suivre s'offrent à vous pour optimiser la valeur des services soutenus par IA, tout en minimisant les risques potentiellement graves.

1. Identifier le bon scénario d'utilisation

Le développement d'un chatbot IA commence par le respect des mêmes principes que ceux qui régissent les autres applications : cerner le problème, concevoir pour les utilisateurs et itérer en fonction des retours. Concentrez-vous sur la résolution d'un problème spécifique pour votre premier déploiement de chatbot IA. Ce problème devra être clairement défini et générateur d'un fort trafic, comme la réponse aux questions fréquemment posées. Intéressez-vous à la fois aux scénarios d'utilisation externes et internes lorsque vous planifiez ce premier projet. Vous pouvez également envisager de faire appel à un chatbot pour le triage, c'est-à-dire la première interaction avec l'utilisateur, celle qui détermine le meilleur moyen de résoudre un problème.

Vous pourrez lui intégrer des fonctionnalités supplémentaires au fil du temps afin de prendre en charge des problèmes plus complexes, comme des fonctionnalités de traduction, la prise en charge de la voix en plus du texte et la possibilité de se connecter à plusieurs systèmes, par exemple.

Scénarios d'utilisation externes

Les chatbots externes, c'est-à-dire destinés à vos clients ou au grand public, peuvent couvrir une vaste gamme de fonctions. Voici quelques exemples :

• Le Service de la nationalité et de l'immigration des États-Unis (US Citizenship and Immigration Services) a déployé « EMMA », un chatbot qui répond aux questions du public concernant l'immigration, la carte verte, les passeports, etc.

• La ville d'Atlanta a amélioré le service 311 (le numéro d'appel pour les services d'assistance municipaux concernant des problèmes qui ne constituent pas une urgence) en proposant l'accès 24 h/24. Les habitants de la ville peuvent désormais signaler les nids-de-poule ou s'informer sur les calendriers de collecte des déchets à tout moment.

• L'État de Caroline du Sud lance un nouvel « assistant pour résidents » soutenu par IA. Surnommé « Bradley », ce dernier permettra aux utilisateurs de trouver des réponses aux questions qu'ils se posent fréquemment et d'obtenir de l'aide pour payer leurs impôts ou comprendre leurs factures d'eau parmi bien d'autres usages.

Les chatbots externes peuvent être conçus de façon à répondre aux questions sous forme anonyme ou proposer des informations personnalisées. Le chatbot d'un site web municipal peut ainsi proposer des informations générales sur les permis de construire ou les événements à venir, le tout de manière anonyme. À l'inverse, le site web d'une administration chargée du travail, des impôts ou des véhicules motorisés pourrait proposer des réponses personnalisées contenant des informations sur les réclamations, les déclarations fiscales ou les véhicules spécifiques du demandeur.

Scénarios d'utilisation internes

La plupart des responsables IT du secteur public avec lesquels je m'entretiens se concentrent sur les chatbots internes destinés à leurs collaborateurs. Ces outils s'appuient sur la génération augmentée par récupération (Retrieval-Augmented Generation, RAG) pour exploiter les données internes. Ils peuvent ainsi aider les collaborateurs à trouver des informations et à s'orienter rapidement dans des processus potentiellement complexes, sans dépendre de leurs collègues.

Comme pour les chatbots externes, ces outils internes peuvent être conçus de manière à proposer des réponses personnalisées ou des informations d'ordre plus général. Voici quelques exemples :

• Un chatbot RH peut guider vos collaborateurs dans leur processus d'intégration, comme « Mme Landingham », un Slackbot lancé en 2015 par la General Services Administration (GSA, l'administration générale des services). Un chatbot RH peut également proposer des informations adaptées à chaque collaborateur concernant leurs avantages, leur rémunération et leurs congés.

• Un chatbot IT peut assurer une assistance technique et aider vos collaborateurs à résoudre les problèmes courants pour lesquels ils ouvriraient autrement un ticket de support, comme les demandes de réinitialisation de mot de passe ou l'installation de nouveaux logiciels.

• Un chatbot de gestion pourrait aider les chargés de dossiers et les agents d'évaluation des prestations à rechercher rapidement des règles, à résumer l'historique des dossiers et à extraire des informations spécifiques des systèmes internes.

Les chatbots excellent dans le triage. Ils peuvent ainsi traiter les questions fréquemment posées et déterminer si les problèmes doivent être transmis à des agents humains. De même, s'ils sont correctement conçus, ils peuvent accroître la productivité de n'importe quel centre de service client et réduire considérablement le délai de réponse pour les utilisateurs. Ce point revêt une importance toute particulière si le chatbot soutient un bureau d'assistance IT ou une autre fonction essentielle. Les agents humains disposent alors de davantage de temps pour se concentrer sur des questions plus complexes, nuancées et échappant à la routine.

2. Réunir les technologies fondamentales.

Qu'elle envisage de développer un chatbot externe ou interne, votre entreprise aura besoin des mêmes éléments fondamentaux : un modèle, un ensemble de données et un moyen de récupérer les données.

LLM

La plupart des organismes du secteur public choisissent un LLM existant plutôt que de s'engager dans le processus coûteux et chronophage de développement d'un modèle par leurs propres moyens. Vous pouvez ainsi sélectionner un LLM commercial (comme ChatGPT d'OpenAI) ou un LLM open source (comme Llama de Meta).

Tenez bien compte des fonctionnalités, de la sécurité et des coûts lorsque vous évaluez différents modèles. Votre choix pourrait ainsi s'arrêter sur un chatbot capable de gérer les saisies et les réponses multimodales (texte, images et audio) plutôt que du simple texte, par exemple. Vous pourriez aussi choisir un modèle open source à héberger au sein de votre propre environnement contrôlé afin d'optimiser la sécurité. Un modèle open source vous permet également d'éviter les frais d'abonnement et la tarification par jeton, potentiellement coûteuse, proposée par les fournisseurs commerciaux.

Ensemble de données

Vous aurez besoin d'un ensemble de données dans lequel le LLM pourra puiser ses informations si vous souhaitez ancrer votre chatbot dans un domaine de connaissances spécifique. Selon le scénario d'utilisation, ces données peuvent comprendre les informations relatives à l'immatriculation des véhicules de tous les habitants de la région, les politiques RH en vigueur dans votre administration ou un magasin de documents contenant les registres d'état civil d'un canton. Les données qui soutiennent un chatbot doivent être conservées au sein d'une base de données vectorielle structurée de manière à permettre aux LLM de se souvenir des saisies précédentes.

RAG

Enfin, vous avez besoin d'un moyen d'intégrer votre LLM à cette source de données afin que votre chatbot puisse renvoyer des informations pertinentes aux utilisateurs. L'approche RAG enrichit les invites des utilisateurs à l'aide d'informations issues de cette source de données avant d'interroger le LLM. Le LLM synthétise ensuite une réponse en s'appuyant sur ce nouveau contexte plutôt que sur ses données d'entraînement générales.

3. Ne précipitez pas la conception

Une conception soignée de l'interface de votre chatbot, de sa prise en charge de la plateforme et de sa relation avec les autres contenus s'avérera essentielle pour assurer son adoption. Commencez par étudier les besoins de vos utilisateurs, puis définissez un périmètre limité pour votre chatbot (les sujets spécifiques qu'il couvrira ou un certain type de modèle de questions-réponses, par exemple). Rassemblez des données et des retours afin d'améliorer en permanence les performances et la base de connaissances de votre bot.

Si vous souhaitez optimiser l'utilité et l'inclusivité de vos outils, nous vous conseillons de déployer des chatbots sur divers canaux, comme votre site web, votre application mobile et votre plateforme de texte. La prise en charge de plusieurs langues (l'anglais et l'espagnol sont des priorités courantes) permet également d'améliorer l'accessibilité.

N'oubliez pas non plus que le contenu d'un chatbot doit fonctionner de concert avec le contenu d'autres sites web et d'autres listes de FAQ. Le chatbot est un outil qui renvoie des informations d'une manière proche de l'interaction humaine. Il ne remplace pas la proposition d'informations par d'autres moyens.

4. Renforcer la sécurité et la gouvernance

La conception et le développement d'un chatbot ne sont que des étapes du parcours. Vous aurez également besoin de moyens efficaces de sécuriser et de gérer votre chatbot. Or, ces moyens impliqueront de contrôler les entrées et les sorties de données.

Contrôler les entrées

La mise en place de garde-fous au niveau des invites saisies des utilisateurs est importante pour empêcher la manipulation de votre système IA. Les équipes doivent notamment protéger votre modèle et surveiller les invites afin de détecter les principales menaces, telles que les suivantes :

• Injection d'invites et débridage (jailbreaking) : les utilisateurs peuvent tenter de contourner les règles du chatbot ou d'inciter le modèle à ignorer les paramètres de sécurité en saisissant du code malveillant.

• Invites inappropriées : certains utilisateurs peuvent intentionnellement saisir des propos haineux ou du contenu explicite afin d'inciter le modèle à interagir avec des éléments inappropriés. Ce comportement gaspille des ressources informatiques et peut, à terme, nuire à la réputation de l'organisme si le chatbot renvoie un contenu tout aussi inapproprié en réponse.

Surveiller les sorties

Vous devez également vous préparer à gérer les résultats problématiques, notamment les réponses inexactes. Le chatbot MyCity de New York (destiné aux propriétaires de petites entreprises) a, par exemple, été interrogé sur la possibilité pour un restaurant de servir du fromage grignoté par un rongeur. La réponse proposée (manifestement incorrecte) était qu'un restaurant pouvait bien entendu servir le fromage, à condition d'évaluer l'étendue des dégâts causés par le rongeur au préalable et d'en informe les clients.

Les chatbots peuvent également proposer des réponses inappropriées et partiales susceptibles de nuire à la réputation de l'organe administratif et de lui faire perdre la confiance du public. Dans un exemple très médiatisé de 2025, le chatbot Grok de xAI a publié des propos antisémites.

Un pare-feu IA peut vous aider à protéger les données saisies et les réponses proposées en bloquant les tentatives d'injection d'invites (prompts) et d'empoisonnement de modèles, l'utilisation excessive, ainsi que les autres menaces que les solutions de sécurité traditionnelles ne peuvent contrer. Situé à la périphérie du réseau, entre l'utilisateur et le modèle, le pare-feu peut empêcher les données saisies de manière malveillante d'atteindre le modèle et à ce dernier de proposer des réponses inappropriées ou non conformes à l'utilisateur. L'organisme administratif dispose en outre du contrôle total sur ce pare-feu par le biais de politiques définies par l'organisme lui-même.

Commencer à développer, sécuriser et assurer la gouvernance

La plateforme unique et unifiée de Cloudflare propose plusieurs outils permettant de rationaliser le processus de déploiement des chatbots IA. Elle permet plus spécifiquement à vos équipes de bâtir le back-end de vos chatbots à l'aide d'une base de données vectorielle, d'une solution de stockage d'objets mondiale (sans frais de trafic sortant) et d'un service d'activation des modèles RAG, sans vous contraindre à gérer l'infrastructure.

Vous pourrez ensuite développer et déployer des chatbots soutenus par IA sur le réseau mondial Cloudflare. Les services de la solution AI Gateway permettent aux développeurs d'intégrer plusieurs LLM à leurs chatbots, tout en leur assurant un point de contrôle et une visibilité uniques sur le trafic applicatif lié à l'IA. Le déploiement de manière alignée (in-line) des services de la solution Firewall for AI (intégrée au réseau mondial Cloudflare) peut alors contribuer à protéger à la fois les invites et les réponses.

Les chatbots peuvent sans aucun doute contribuer à satisfaire les attentes des utilisateurs à la recherche d'un service immédiat, tout en s'inscrivant dans la tendance actuelle vers davantage d'efficacité dans l'administration. Le fait de prendre le temps de concevoir soigneusement votre chatbot, ainsi que de lui adjoindre les mesures de sécurité et de gouvernance suffisantes pour atteindre vos objectifs, demeure néanmoins un aspect essentiel.

Cet article fait partie de notre série consacrée aux nouvelles tendances et évolutions susceptibles d'affecter les décideurs en matière de technologies d'aujourd'hui.

Auteur

Dan Kent — @danielkent1
Field CTO for Public Sector, Cloudflare

Conclusions essentielles

Cet article vous permettra de mieux comprendre les aspects suivants :

• Comment identifier les meilleurs scénarios d'utilisation d'un chatbot au sein de votre organisme

• Les technologies essentielles à sélectionner et à intégrer

• Les stratégies à mettre en œuvre pour renforcer la sécurité et la gouvernance de vos chatbots

Ressources associées

• Garantir la sûreté des pratiques concernant l'IA : Guide de la création d'une stratégie évolutive en matière d'IA à l'intention des RSSI

• Sécuriser la mise en oeuvre de l'IA pour les administrations locales et nationales

• Lutter contre la mésinformation générée par l'IA