Fraude sociale : la Défenseure des droits alerte sur les risques des contrôles algorithmiques
Echanges de données entre organismes, recours à des algorithmes : la lutte contre la fraude sociale, soumise à une automatisation croissante, doit être menée dans un cadre respectueux des droits des usagers, souligne la Défenseure des droits, dans un rapport publié ce jeudi 23 avril, alors que le projet de loi de lutte contre les fraudes sociales et fiscales arrive au bout de son parcours parlementaire.
© Défenseur des droits et AR
"Si jamais il y a une qualification de fraude, c'est à l'organisme social de prouver qu'il y a fraude, pas à l'usager de prouver qu'il n'a pas fraudé", a déclaré ce 23 avril Claire Hédon sur RMC. La Défenseure des droits s'exprimait à l'occasion d'un rapport mettant l'accent sur l'automatisation croissante des contrôles mise en place par les organismes de sécurité sociale (Cnaf, Cnam, Cnav…) et France Travail afin de lutter contre la fraude aux prestations dans le but d'améliorer leur efficacité. Une automatisation qui passe notamment par un recours à des algorithmes permettant de cibler les dossiers à contrôler en priorité.
Mais la "massification des contrôles actuellement à l'œuvre" a manqué d'une "réflexion suffisamment approfondie" autour des effets potentiels sur les droits des usagers ou sur "les risques de discrimination", regrette le rapport de la Défenseure des droits. Si les organismes "mettent en avant le recours à des outils technologiques de plus en plus perfectionnés permettant un accroissement constant des contrôles, les risques, en termes d’atteintes aux droits des usagers, induits par ces mêmes outils et les pratiques qui en découlent sont relativisés ou minorés voire ignorés", peut-on lire. Et ce, d'autant plus qu'"au-delà du traitement algorithmique actuellement en œuvre, les organismes de sécurité sociale sont encouragés à mettre en œuvre des systèmes d’IA (…), porteurs de risques spécifiques".
Le rapport pointe le "risque d'amplification" des atteintes aux droits, par exemple, au droit à la vie privée et familiale, à travers l'accès à certaines données personnelles, bancaires ou issues des réseaux sociaux. Il relève également le caractère "intrusif" des contrôles pour les usagers, souvent vécus comme empreints d'une "présomption de culpabilité".
"Il y a des risques d'atteintes à la vie privée avec ce qui est public ou non [sur les réseaux sociaux]. C'est important que les personnes comprennent quel a été le motif du contrôle de départ : est-ce l'algorithme, est-ce de l'intelligence artificielle qui a été utilisée et quand un contrôleur est-il intervenu ? Pour pouvoir le contester", a insisté Claire Hédon sur RMC.
Récupération des indus : préserver un reste à vivre
Pour préserver les droits des usagers dans ce contexte de massification des contrôles, le rapport formule une quinzaine de recommandations, à commencer par le renforcement de l'information des usagers quant aux contrôles. Et par l'encadrement du recours aux algorithmes, qui doit passer par la réalisation systématique d'une analyse d'impact sur la protection des données et par des évaluations sur les éventuels effets discriminatoires.
Par ailleurs, la Défenseure des droits souligne que le système de protection sociale "repose sur des mécanismes et des règles complexes", ce qui crée un "risque important d'erreurs" dans les déclarations des usagers, "parfois démunis face à un langage administratif ou à des démarches difficilement accessibles". Or, le principe du droit à l'erreur est "insuffisamment protégé" dans le contexte d'amplification des contrôles.
Et "les erreurs ne viennent pas que des usagers, elles viennent aussi des organismes sociaux", a observé Claire Hédon sur RMC, évoquant des "trop perçus" pour lesquels les usagers reçoivent des courriers "souvent pas très clairs" demandant de rembourser des sommes pouvant atteindre "10.000, 15.000, 25.000 euros".
La Défenseure des droits a aussi plaidé en faveur d'une "meilleure définition des critères de fraude, articulée avec le droit à l’erreur" et de "mesures d’harmonisation et de clarification des règles applicables aux organismes sociaux". Elle insiste en outre sur la nécessité d'"un échelonnement des remboursements, pour laisser un reste à vivre suffisant aux personnes" : il faut "préserver, en toutes circonstances, des moyens convenables d’existence pour les usagers et leur famille" et en tenir compte dans les "modalités de récupération des indus", écrit-elle, disant avoir mené cette "bataille" avec le gouvernement autour du projet de loi de lutte contre les fraudes sociales et fiscales.
ATD Quart Monde dit aussi son inquiétude
Le contexte du moment, celui de ce projet de loi de lutte contre les fraudes, qui doit être examiné ce 28 avril en commission mixte paritaire, n'est évidemment pas neutre. D'autres organismes tirent d'ailleurs la sonnette d'alarme. Tel est le cas d'ATD Quart Monde qui, dans un communiqué du 23 avril, considère que ce texte "menace gravement l’accès au droit des personnes et particulièrement celles en situation de grande pauvreté". "Le projet de loi actuel n’est pas un tournant isolé, mais un pas de plus dans une logique qui fait peser la suspicion sur les plus pauvres", écrit l'association : "durcissement des contrôles, suspicion généralisée, sanctions disproportionnées à l’encontre des allocataires de prestations sociales".
Et ATD Quart Monde de rappeler que la fraude aux prestations sociales représente "environ 2,3 milliards d’euros, avec confusion entre indus, erreur et intention de fraude", tandis que la fraude fiscale représenterait "80 à 100 milliards d’euros par an" et la fraude aux cotisations sociales environ 14 milliards par an. L'association espère concrètement la suppression en CMP de plusieurs dispositions du projet de loi dont l'article "qui permet aux départements d’accéder aux relevés bancaires des allocataires" et celui qui "ouvre la voie à la suspension des prestations sociales jusqu’à trois mois sur simple suspicion".
