Fraude sociale, algorithmes et droits : l’avertissement de Claire Hédon

À force de vouloir traquer la fraude sociale au laser, l’État risque de finir par brûler au passage quelques droits. C’est, en substance, le message de la Défenseure des droits, Claire Hédon, qui alerte sur la montée en puissance des contrôles algorithmiques dans les caisses de protection sociale. CAF, Assurance maladie, retraites, partout la même promesse, cibler mieux, contrôler plus vite, repérer l’anomalie avant même qu’elle ne saute aux yeux d’un agent. Sur le papier, l’idée a de quoi séduire un pays attaché à l’équité et lassé des abus.

Sauf que la machine, elle, ne connaît ni la nuance ni la trajectoire cabossée d’un dossier. Les outils de datamining et de scoring, conçus pour repérer des « profils à risque », reposent sur des recoupements de données et des variables qui peuvent coller à la précarité comme une étiquette, une adresse, une situation familiale, une instabilité professionnelle. La Défenseure des droits pointe un danger simple, l’erreur et le biais. Un faux positif, et c’est parfois une prestation suspendue, une demande qui se bloque, des semaines de démarches pour prouver sa bonne foi, avec ce sentiment glaçant d’être suspecté par défaut.

Quand le score remplace l’accueil

Le cœur de son avertissement tient en quelques mots, transparence, proportionnalité, contradictoire. Qui sait vraiment ce qui déclenche un contrôle quand un score s’allume en rouge. Comment contester une décision si l’usager ne comprend pas les critères utilisés ni même l’existence de ce tri. Les autorités rappellent généralement que ces outils n’ont pas vocation à décider seuls, qu’ils ne sont qu’un appui et qu’un humain garde la main. Reste que, dans des services sous tension, le risque d’« industrialisation » des contrôles, au détriment de l’accompagnement, n’a rien d’une vue de l’esprit.

Le débat, lui, dépasse la seule technique. Il touche à un équilibre très français, lutter contre les abus sans fabriquer du non-recours, contrôler sans transformer l’accès aux droits en parcours d’obstacles. La CNIL veille sur les données personnelles, le droit impose la motivation des décisions et des voies de recours, mais l’accélération numérique change la nature du rapport entre administration et administrés, plus froid, plus automatisé, moins explicable. Et au bout du compte, une question flotte dans l’air, celle de la confiance, car un système social tient autant par ses contrôles que par l’idée, partagée, qu’il traite chacun avec justice.