Ces collectivités qui tentent de domestiquer l'IA générative

Utilisée par 93% des 18-25 ans selon l'Ifop, l'IA générative (IAG) est un tsunami auquel les collectivités peuvent difficilement échapper, notamment si elles veulent rester attractives pour la jeune génération. L'heure n'est donc plus à "l'interdire" mais plutôt à concevoir une stratégie conciliant acculturation des agents, maîtrise des données et gains effectifs. Avec une urgence d'autant plus forte que le taux de shadow IA -  l'IA utilisée dans le dos des DSI - est de l'ordre de 60% dans les collectivités. 

Primauté de l'humain

Fixer des règles apparaît pour beaucoup d'entités comme la priorité, soit en adaptant une charte existante, soit en adoptant une charte IAG, comme viennent de le faire les services du Premier ministre. La "primauté de l'humain" est un principe que l'on retrouve dans tous les documents qui circulent. Lyon va jusqu'à "interdire l'IA dans les interactions directes avec les usagers externes" ce qui semble interdire les chatbots basés sur l'IAG. Rennes Métropole est sur la même longueur d'onde. Matignon insiste pour sa part sur le fait que l'IAG n'est qu'un outil, avec de nombreuses limites (biais, hallucinations…) et que "l'agent reste entièrement responsable de sa production", même si elle est assistée par la machine.

Usage responsable

Parmi les principes, on retrouve aussi l'idée d'utiliser l'IA à "bon escient", notamment parce que l'IAG est une des principales causes du dérapage de l'empreinte carbone imputable au numérique. L'Occitanie et Rennes Métropole, suivant la voie ouverte par Nantes Métropole et sa "boussole de l'IA", s'engagent ainsi à évaluer l'impact carbone et à tendre vers un usage plus soutenable, ne mobilisant l'IA que si elle est utile à la transition écologique ou si elle apporte une valeur ajoutée significative par rapport à des outils moins consommateurs de ressources. Aucune ne mentionne cependant l'idée de "rationner l'IA" comme l'a proposé récemment le Shift Project dans sa dernière étude sur l'IA (voir notre article du 2 octobre 2025)

L'IAG dans les métiers

L'usage effectif de l'IAG reste ensuite assez timide, limité à quelques verticales métier. Plusieurs centaines de collectivités utilisent ainsi des outils d'IA sur étagère pour aider à la rédaction de marchés publics, de délibérations ou réaliser un compte-rendu de réunion. Les grandes collectivités ont tendance à développer leurs propres services IAG. Aux assises de l'IA, Bernard Giry, DG Transformation numérique de la région Île-de-France, expliquait "industrialiser deux outils parmi les huit testés dans le cadre de marchés d'innovation" (voir notre article du 11 mars 2024). Il s'agit d'un outil de "traduction" de documents administratif en langage citoyen en vue de générer un bilan de mandat à l'échelle de chaque commune francilienne. Parallèlement, les aides régionales sont désormais interrogeables via un chatbot pour guider les citoyens à travers les 350 dispositifs régionaux. L'Occitanie, qui a publié récemment sa feuille de route, suit le même chemin. La collectivité veut proposer un assistant IA pour les métiers d'accueil, un autre sur les RH et un assistant à la production de notes de synthèse.

RAG incontournable

On notera que dans les projets cités, les collectivités mobilisent une technique de retrieval-augmented generation (RAG) qui consiste à associer une base de connaissances vérifiées à un outil d'IA générative. C'est en effet un moyen de lutter contre les hallucinations des IAG et d'améliorer leurs réponses. La mission IA de Rennes, qui vient de publier un premier rapport, s'intéresse ainsi au projet" RAGaRenn, créée par l'université de Rennes. Celui-ci mobilise des technologies souveraines, un centre de données local et des composants open source. Il offre la possibilité de charger ses ressources documentaires maison pour créer des bases de connaissances spécialisées.

La région Occitanie est sur une approche similaire. L'assistant pour les agents d'accueil sera par exemple entraîné sur la base info accueil des publics (BIP). La région imagine même un "data space" régional pour entraîner plus largement ses IA. Néanmoins, l'efficacité d'un RAG dépend de la qualité des données injectées. Elle doit "contenir des documents bien formatés, courts, sans conflit de sens" explique Sandrine Gérard en charge de la transformation numérique au conseil départemental du Loiret dans cette vidéo. Le RAG peut aussi se heurter à des problématiques RGPD. Son expérimentation sur le sujet dépendance a buté sur la présence de données personnelles sensibles dans la base fournie par la maison de l'autonomie.

Et l'IAG sur le poste de travail ?

Les collectivités cherchent enfin à lutter contre le "shadow AI". Dans les grandes collectivités, priorité a été donnée à la formation. En Île-de-France, on s'est fixé un objectif "d'aucun agent avec 0 prompt" avec un ambitieux programme d'acculturation. À Rennes, on préconise de former d'abord ceux qui craignent d'être remplacés. Parmi les messages incontournables, on retrouve l'interdiction absolue de saisir des données personnelles et/ou sensibles dans les IA grand public soumises aux lois extraterritoriales (chatGPT, Claude, Gemini…), car elles sont considérées comme des "tiers" qui peuvent exploiter ou revendre l'information.

Le choix d'alternatives "souveraines" n'a cependant rien d'évident, même si Mistral séduit de plus en plus d'administrations, comme le ministère de la Fonction publique. L'Occitanie a ainsi récemment lancé un appel d'offres pour trouver une alternative à Copilot de Microsoft avec "un objectif de souveraineté européenne stricte", explique Benoît Dehais son DSI. En Île-de-France, on cherche un équilibre 50/50 entre champions nationaux et autres, sa présidente Valérie Pécresse ne jurant que par Claude. De son côté, le département du Loiret a opté pour pousser à l'utilisation du Chat de Mistral (solution gratuite) pour la sensibilisation, les solutions payantes / américaines étant réservées à des expérimentations. Rennes, quant à elle, recommande l'interdiction des "agents PC" qui prendraient la main sur l'ordinateur de l'utilisateur pour effectuer des tâches.

Apprendre à prompter et observer

Au-delà du choix de solutions, les collectivités doivent apprendre à "prompter", autrement dit à savoir interroger les bonnes IAG sur des cas d'usage précis. Le Loiret a identifié six cas d'usage dans le cadre d'expérimentations lancées en janvier 2025 : amélioration de la rédaction des rapports et délibérations,  instruction des autorisations de voirie, réponses aux usagers sur l'autonomie, veille documentaire et certificats d'économie d'énergie. 
Des groupes de travail procèdent à des "batailles de LLM" afin d'identifier le meilleur outil adapté à leur besoin métier. L'expérimentation a déjà permis d'écarter des cas d'usage où l'IAG n'apportait pas de gain par rapport à des outils bureautiques existants.

Rennes Métropole s'oriente de son côté vers la création d'un "observatoire permanent de l'IAG". Il aura pour mission de poursuivre la veille technologique et réglementaire, de capitaliser les expériences, de maintenir la base de connaissances et de mettre à jour la charte d'usage. L'objectif est de garantir que les usages de l'IAG, tels que la rédaction ou l'accès à la connaissance, se fassent dans un espace contrôlé pour mesurer les impacts réels sur les métiers et les compétences.