Des associations actrices de la solidarité et du travail social, de défense des droits sociaux, de promotion des libertés fondamentales et des droits humains dans l’environnement numérique s’unissent pour interpeller le Premier ministre sur les conséquences pour les allocataires les plus fragiles de certaines pratiques mises en place dans le réseau des CAF. Dans une lettre ouverte datée du 5 février et publiée sur leur site internet respectif, elles pointent notamment du doigt le caractère discriminatoire de l’algorithme de notation et de profilage des allocataires, qui engendre des sur-contrôles pouvant aboutir à des suspensions totales de droits pendant des mois.

Monsieur le Premier ministre,

À partir de travaux et de remontées d’acteurs associatifs, plusieurs articles de presse ont mis en lumière, au cours des derniers mois, la mise en place par le réseau des CAF d’un algorithme de ciblage et de profilage d’allocataires qui sont considérés comme à risque et susceptibles d’être davantage contrôlés. Nos associations tiennent à vous faire part de leur vive inquiétude face à l’utilisation de ce type d’algorithme qui se traduit par des pratiques discriminatoires vis-à-vis de certains allocataires et en particulier les plus vulnérables d’entre eux. Sont ainsi particulièrement ciblés les allocataires de l’AAH, les femmes seules avec enfants, les bénéficiaires du RSA, les personnes disposant de revenus irréguliers, etc., c’est-à-dire les allocataires les plus vulnérables et les plus en difficulté.

Plus globalement, nos associations ont pu constater un certain nombre de pratiques des CAF conduisant à des dérives liées à la dématérialisation : algorithme discriminatoire de ciblage des contrôles, indus exempts de toute motivation, suspensions automatiques de droits sans respect des procédures contradictoires. Ces diverses pratiques s’accompagnent d’une opacité de l’ensemble des documents administratifs de la CNAF (circulaires, règlements, codes sources et documentation des algorithmes, etc.), d’une absence d’interlocuteurs physiques suffisants dans les accueils des CAF et d’une déshumanisation des relations.

Cela se traduit par des situations inextricables pour nombre d’allocataires : impayés de loyers, avec parfois expulsion du logement, frais bancaires colossaux, impossibilité de nourrir sa famille… Cette maltraitance institutionnelle est porteuse de multiples conséquences sur le plan matériel et psychologique pour tous ceux et celles qui sont marqués par des situations extrêmes, dont ne semblent pas avoir conscience les autorités de tutelle.

Les pratiques mentionnées ci-dessus semblent fondées sur une vision budgétaire qui n’a pourtant pas de justification économique. Elle est porteuse de coûts induits beaucoup plus élevés que les économies apparentes réalisées à court terme, notamment en matière d’éducation des enfants, de santé physique et mentale, d’habitat, de souffrance au travail pour les agents des CAF.

Aussi, nous vous demandons instamment de mettre fin à ces situations de non-droit et de maltraitance, d’enjoindre la CNAF de :

• 1/ renoncer à l’utilisation des algorithmes de notation donnant un score de risque, discriminatoire, qui cible les contrôles sur des plus fragiles présumés fraudeurs, et réorienter les contrôles vers le conseil pour l’accès aux droits, et non vers la récupération d’un maximum d’indus. Le récent arrêt « Schufa » de la Cour de justice de l’Union européenne vient conforter la nécessité du respect du RGPD en la matière. Elle concerne tout autant les autres organismes utilisant de tels algorithmes de ciblage : MSA, CNAV, Pôle emploi…
• 2/ instaurer un contrôle de légalité indépendant sur les pratiques et les procédures, afin de vérifier la conformité des outils informatiques au Code des relations entre le public et l’administration, au RGPD et aux principes de base d’une justice équitable. Il s’agit en particulier de contrôler la fidélité des logiciels de calcul des droits à la réglementation qu’ils sont censés transcrire en code, ainsi que le respect des règles en matière de partage des données rappelé le 14 décembre dernier par le Conseil constitutionnel. Cela sera d’autant plus important dans le cadre de la future réforme de la « solidarité à la source ». Il est également nécessaire de systématiser les audits de conformité en non-discrimination pour tout traitement automatisé et de respecter la nécessité pour chaque administration ou structure apparentée de publier et tenir à jour un registre exhaustif des traitements automatisés.
• 3/ interdire les décisions et les suspensions automatiques de droits, généraliser l’explicitation des calculs réalisés en cas d’indus (erreurs ou accusations de fraude) et appliquer les dispositions légales en matière de notifications/motivations, de respect du contradictoire et d’information sur les recours. Il serait possible de s’inspirer des règles édictées au printemps en matière d’administration proactive pour favoriser l’accès aux droits et informer les usagers sur l’utilisation de leurs données personnelles et les calculs réalisés. Ces réglementations doivent s’appliquer dès aujourd’hui aux procédures informatiques en vigueur.
• 4/ instaurer un principe de libre choix pour l’usager de son mode de relation avec l’administration, numérique ou humain, comme le préconise la Défenseure des Droits, afin que chaque allocataire puisse avoir accès à un interlocuteur physique en cas de difficultés. Cela nécessiterait le recrutement de plusieurs milliers d’agents CAF qualifiés, disponibles et à l’écoute, chargés prioritairement d’assurer l’accès des allocataires à leurs droits, en particulier pour les personnes en situation de précarité.
• 5/ mettre en ligne et rendre intelligibles les règles de financement et de conditionnalité des prestations, alors que celles-ci sont porteuses d’obligations impératives pour les citoyens, qui doivent pouvoir les connaître pour s’y conformer et doivent donc être rendues publiques comme l’exige le Code des relations entre le public et l’administration.

Au-delà de ces constats et de ces demandes, un large débat public nous semble nécessaire, d’une part sur l’usage des algorithmes publics et leurs conséquences dans la vie réelle, d’autre part sur des changements d’orientation majeurs dans l’action des CAF. Celles-ci vont avoir dans les prochaines années un rôle de plus en plus essentiel face aux immenses défis écologiques, sociaux, sanitaires et économiques qui nous attendent.

Nous souhaitons vous rencontrer pour vous faire part de ces demandes instantes, et nous vous remercions par avance de la suite que vous pouvez leur donner. Dans cette attente nous vous prions de croire, Monsieur le Premier ministre, à l’assurance de notre haute considération.

Organisations signataires

Adéquations, Aequitaz, AMPIL (Action Méditerranéenne pour l’insertion par le Logement), ANAS (Association nationale des assistants de service social), APF France Handicap, APICED, AFVS (Association française des victimes du saturnisme), Association Solidarité Jean Merlin, ATD Quart Monde, Associations unies du Haut-Rhin, CGT INSEE-Genes, CNAFAL (Comité national des associations de familles laïques), Collectif Alerte, Collectif Changer de cap, Emmaüs France, Fondation Abbé Pierre, GISTI Groupe d’information et de soutien des immigrés, Handi-social, La Cimade, La case de santé Toulouse, La Quadrature du Net, Le Mouton Numérique, Ligue des Droits de l’Homme, MCM (Maison de la Citoyenneté mondiale Mulhouse), MNCP (Mouvement national des chômeurs et précaires), MFRB (Mouvement français pour un revenu de base), Mouvement Utopia, Réseau Hospitalité Marseille, CNDH-Romeurope, RSA 38, Secours catholique, Stop précarité.