La CSNP invite à mieux anticiper l'impact de l'IA sur la société

Après un premier avis en 2020 sur l'intelligence artificielle (IA) centré sur sa dimension économique, la commission supérieure du numérique et des postes (CSNP) revient sur le sujet dans son avis n°2024-01 du 17 janvier 2024. Les parlementaires insistent plus particulièrement sur les enjeux sociétaux de l'IA, le tsunami de l'IA générative étant passé par là. Signé de Mireille Clapot, députée de la Drôme et présidente de la CSNP, l'avis souligne l'urgence à réguler l'IA tout en invitant les pouvoirs publics à amortir ses effets sociétaux et à contribuer à l'émergence d'une IA frugale.

Réguler l'IA sans l'entraver

Sur le volet régulation, l'avis estime que la priorité doit être de créer une "définition juridique robuste de l'IA". La CSNP invite à poursuivre les négociations autour de l’IA Act "en veillant à mettre en place une régulation équilibrée qui offre transparence et protection mais qui n’entrave pas la recherche, l’innovation et le développement entrepreneurial". Une régulation qui doit cependant être complétée par "un traité international de l'IA" et le colmatage du vide juridique sur la question de la propriété intellectuelle à l'heure de l'IA générative. La CSNP conseille enfin de créer une instance de régulation nationale sur l'IA.

Former massivement à l'IA

Sur le volet social, la CSNP estime "qu'il est crucial de préparer notre société aux transformations induites par l'IA, notamment en adaptant nos systèmes de formation". Le document souligne l'urgence de renforcer les compétences en IA au sein de la population, en particulier chez les jeunes et les femmes, pour répondre aux besoins futurs du marché du travail.
Sur le volet économique, l'avis estime que le retard européen est "rattrapable", incitant à cibler les investissements publics sur une IA frugale, éthique et responsable. Soulignant que "l'accès facilité à des jeux de données de qualité est un levier essentiel pour une IA performante et éthique," l'avis invite à accélérer l'accès aux jeux de données de la sphère publique et propose de missionner l'Inria pour créer des cohortes de données d'entraînement. La nécessité de favoriser la création des solutions de stockage souveraines, d'un cloud de confiance et de super calculateurs sont également rappelés.

Une IA supervisée par les humains

Plusieurs recommandations concernent enfin l'encadrement des usages de l'IA dans les services publics. Pour la CSNP, ces systèmes algorithmiques doivent être systématiquement "supervisés par des humains" et les usagers doivent être pleinement informés du recours à l'IA dans une décision administrative. Coté État, la formation des manageurs publics aux enjeux de l'IA – entamée tout récemment (voir notre article) – est encouragée, ainsi que la mise en œuvre de "projets emblématiques" dans les ministères, appelés à désigner en leur sein des référents IA. La CSNP invite enfin à vérifier l’adaptation des règles de la commande publique à l’achat de services d’IA souverain pour stimuler le développement d’acteurs européens.