IA : les grandes villes veulent un débat démocratique

Réagissant au récent rapport "IA, notre ambition pour la France", France urbaine demande une approche "moins verticale" sur un sujet qu'elle considère comme éminemment politique. Un débat démocratique d'autant plus nécessaire que le cadre européen, tout récemment voté (IA Act), doit désormais être mis en musique. 

Les recommandations du rapport sur l'intelligence artificielle remises la semaine dernière au président de la République (voir notre article) sont concentrées sur la nécessité de rattraper le retard de la France dans un domaine considéré comme stratégique. Une prééminence donnée à l'économie qui n'est pas du goût de France urbaine. Dans un communiqué daté du 15 mars, l'association "regrette l’absence de perspectives sur les débats politiques et démocratiques" faisant valoir que "le déploiement de IA n’est pas neutre, il engage une vision qui doit être partagée et débattue". Elle souhaite que "des éléments de visibilité sur les répercussions sur la société" soient apportés, notamment sur l'emploi ou l'impact environnemental de l'IA. L'association défend enfin une IA territoriale "positionnée en cohérence avec les compétences locales" – notamment la transition écologique – fondée sur des mécanismes de "coopération et de mise en communs". L'association a d'ailleurs initié une "bibliothèque" d'IA répondant à des enjeux de service public.

Entrée en vigueur de l'IA Act en 2026

Cette prise de position intervient alors que l'IA Act a été formellement adopté le 13 mars par le Parlement européen à une très large majorité. Cette législation, qui fait figure de première mondiale, crée une réglementation différenciée en fonction des risques que présentent les systèmes algorithmiques. Les IA à "haut risque", utilisées par exemple pour le maintien de lordre, seront soumis à des exigences strictes, telles que la réalisation d'une étude dimpact sur les droits fondamentaux. Les usages comme la notation sociale, la catégorisation ou l'étiquetage des individus seront interdits dès la fin de 2024. L'identification biométrique à distance dans l'espace public bénéficie pour sa part d'exceptions pour la recherche ciblée de victimes, en cas de menace "imminente et substantielle" ou pour rechercher un criminel. La majeure partie du texte entrera en vigueur en 2026 avec d'ici là de nombreux points à préciser sur la standardisation, les procédures d'évaluation de conformité, de contrôle et de sanction. En matière d'IA générative (IAG), les entreprises attendent également des éclaircissements sur le marquage des contenus créés par une IAG et sur la manière dont seront citées les sources. Un droit de retrait devra également être mis en place pour les ayants droit dont le contenu a été spolié. 

Autorités nationales à désigner

L'IA Act a prévu la création d'un "bureau européen de l'IA" rattaché à la Commission européenne pour piloter la mise en œuvre du texte ainsi qu'une gouvernance nationale. France urbaine demande pour sa part un "renforcement" des prérogatives de la Cnil dans ce domaine et la mobilisation de la Défenseure des droits. Le rapport sur l'IA rappelle de son côté qu'il y aura deux types d'entités pour réguler le secteur : "D’une part, les autorités dites notifiantes, qui sont chargées de désigner ('notifier') et de contrôler les organismes qui évaluent la conformité des systèmes d’IA mis sur le marché européen. D’autre part, les autorités de surveillance du marché, qui sont chargées de surveiller des enjeux propres à l’IA (supervision des tests par exemple) ou des enjeux sectoriels au croisement avec l’IA (marché financier, protection des données, répression des fraudes…)." Et sur cet enjeu de surveillance du marché, les auteurs incitent plutôt à "privilégier la compétence et la connaissance du marché en cause, sans chercher à désigner une autorité unique". Elle estimerait que cette autorité unique "réduirait la résilience de l’écosystème français et limiterait la montée en compétence des autorités sectorielles".

  • Des ambitions revues à la baisse pour la convention internationale sur l'IA

Parallèlement à l'IA Act porté par la Commission, le Conseil de l'Europe planche sur une convention internationale sur l’intelligence artificielle, les droits de l’Homme, la démocratie et l’État de droit. Une convention juridiquement contraignante définissant des normes en matière de droits humains sans toutefois nuire à l’innovation dans l'IA. Il s'avère cependant que le texte a été considérablement édulcoré au fil des discussions. Le contrôleur européen des données a déploré le 11 mars "une occasion manquée d’établir un cadre juridique solide et efficace". Son champ d'application a été limité aux seuls organismes publics et la dernière mouture du texte exclut les applications développées à des fins de sécurité nationale. L'idée de "lignes rouges", au cœur de l'IA Act, a été écartée.

 

Abonnez-vous à Localtis !

Recevez le détail de notre édition quotidienne ou notre synthèse hebdomadaire sur l’actualité des politiques publiques. Merci de confirmer votre abonnement dans le mail que vous recevrez suite à votre inscription.

Découvrir Localtis