Intégrer l’IA sans perdre la maîtrise du service
Assistant conversationnel, recherche enrichie, génération de contenus ou aide au traitement de dossiers : l’intelligence artificielle ouvre de nouvelles possibilités pour les services publics numériques. Mais son intégration doit répondre à une utilité réelle et être encadrée dès le départ. Les Éclaireurs vous accompagnent pour identifier les bons usages, anticiper les risques et poser un cadre de gouvernance adapté au projet.
Commencer par le besoin, pas par la technologie
Intégrer de l’intelligence artificielle dans un service numérique n’est pas un objectif en soi. Avant de choisir une solution ou un modèle, il faut déterminer le problème que l’on souhaite résoudre, les utilisateurs concernés et la valeur réellement apportée.
Un moteur conversationnel destiné à faciliter l’accès à l’information ne soulève pas les mêmes questions qu’un système aidant un agent à instruire un dossier ou qu’un outil générant automatiquement des contenus.
Plus l’IA intervient dans une décision ou dans une relation avec l’usager, plus ses limites, ses données et ses modalités de supervision doivent être clairement définies.
Cette approche rejoint celle portée par la DINUM pour les agents publics : l’usage de l’IA doit répondre à une utilité réelle, rester transparent lorsqu’il joue un rôle substantiel et maintenir la responsabilité humaine.
Encadrer les risques dès la conception du service
L’utilisation d’un système d’IA introduit des risques spécifiques qu’il faut identifier avant son déploiement.
- La fiabilité des réponses. Un système génératif peut produire des informations inexactes, incomplètes ou inventées. Il faut donc déterminer les usages pour lesquels une erreur est acceptable, ceux qui nécessitent une validation humaine et ceux pour lesquels l’IA n’est tout simplement pas appropriée.
- Les biais et les discriminations. Les données, le fonctionnement du modèle ou son contexte d’utilisation peuvent produire des résultats défavorables à certains publics. Ces risques sont particulièrement sensibles lorsque le service touche à l’accès aux droits, à l’emploi, à l’éducation ou à d’autres décisions pouvant affecter les personnes.
- La protection des données. Les informations envoyées à un système d’IA, celles utilisées pour son entraînement ou celles qu’il restitue peuvent comprendre des données personnelles ou sensibles. Leur utilisation doit être cadrée en lien avec le RGPD, le DPO et les règles de sécurité de l’organisation.
- La transparence envers les utilisateurs. Lorsqu’une IA intervient de manière significative dans un service, l’utilisateur doit pouvoir comprendre qu’il interagit avec un système automatisé, connaître ses principales limites et savoir comment obtenir une intervention humaine lorsque cela est nécessaire. Certaines obligations de transparence sont désormais prévues par le règlement européen sur l’intelligence artificielle – AI Act.
- La dépendance à un fournisseur. Le choix d’un modèle ou d’une plateforme implique des questions de localisation des données, d’évolution des coûts, de disponibilité, de réversibilité et de maîtrise technique qui doivent être anticipées.
- La responsabilité et la supervision humaine. Il faut définir qui contrôle les résultats, qui peut intervenir en cas d’erreur et qui reste responsable de la décision ou du contenu produit. La supervision humaine doit être pensée comme un véritable fonctionnement du service, et non comme une simple mention de principe.
Donner un cadre de gouvernance à l’IA
Un projet d’IA responsable ne se limite pas au choix d’un outil conforme. Il suppose de préciser qui peut utiliser l’IA, pour quels usages, avec quelles données et selon quelles règles de contrôle.
Cette gouvernance permet notamment de distinguer les usages autorisés, ceux qui nécessitent une validation particulière et ceux qui doivent être exclus.
Elle doit aussi prévoir la manière dont les résultats sont vérifiés, les incidents signalés, les performances suivies et les règles réévaluées dans le temps. Les modèles et les services évoluent rapidement : le cadre retenu doit donc pouvoir évoluer avec eux.
Dans le secteur public, la formation des agents constitue également un point important. Les obligations de littératie en matière d’IA prévues par l’AI Act sont applicables depuis février 2025, tandis que le guide interministériel publié en 2026 insiste sur la nécessité de comprendre les capacités et les limites des outils utilisés.
Notre accompagnement AMO pour intégrer une IA responsable à votre projet
Un cas d’usage bien défini permet souvent d’écarter les fonctions gadget et de mieux maîtriser les risques.
Nous commençons par questionner le cas d’usage : besoin réel, publics concernés, données mobilisées, risques et place de l’intervention humaine.
Nous aidons ensuite à traduire ces choix dans le projet : fonctionnalités, parcours, information des utilisateurs, critères de choix des solutions, exigences techniques et règles de gouvernance.
Notre rôle d’AMO est également de faire dialoguer les métiers, la DSI, le DPO, les équipes juridiques et les prestataires afin que les choix technologiques restent cohérents avec les responsabilités de l’organisation et les exigences du service public.
À découvrir également :
pour cadrer des services numériques à forts enjeux de gouvernance
Ils vous reste des questions ?
Nous avons les réponses.
Avant de choisir l’outil. Le cadrage doit permettre de définir le besoin, les utilisateurs, les données mobilisées, les risques et le niveau de supervision humaine nécessaire.
Ces éléments permettent ensuite de comparer les solutions sur des bases plus solides.
Cela dépend de l’usage, mais la transparence constitue un principe essentiel. L’utilisateur doit notamment pouvoir comprendre lorsqu’il échange avec une IA ou lorsque celle-ci joue un rôle important dans le contenu ou le service proposé.
L’AI Act prévoit par ailleurs des obligations spécifiques de transparence pour certains systèmes, notamment les agents conversationnels.
Pas sans avoir vérifié le cadre dans lequel l’outil traite ces données. Il faut notamment prendre en compte leur nature, leur finalité, leur éventuelle conservation par le fournisseur et les règles internes de l’organisation.
Dans le secteur public, l’utilisation de données sensibles doit se faire avec les solutions et dans les conditions autorisées par l’administration.
Il faut agir à plusieurs niveaux : qualité et représentativité des données, choix du modèle, conditions d’utilisation, tests sur différents profils, contrôle des résultats et mécanismes de supervision humaine.
Le suivi doit également se poursuivre après la mise en service afin d’identifier d’éventuels effets inattendus.
L’AMO aide à partir du besoin plutôt que de la solution, à identifier les risques et les parties prenantes à associer, puis à traduire les exigences de responsabilité, de transparence et de gouvernance dans la conception et le cahier des charges.
Elle permet aussi de challenger les propositions des prestataires et de conserver une vision globale du service pendant sa réalisation.
Vous envisagez d’intégrer l’IA à un service numérique public ?
Nous pouvons vous aider à qualifier les usages pertinents, identifier les risques et poser un cadre clair avant de choisir et de déployer une solution.
