Aux Pays-Bas, un #algorithme discriminatoire a ruiné des milliers de familles | Mediapart
👉️ https://www.mediapart.fr/journal/international/111122/aux-pays-bas-un-algorithme-discriminatoire-ruine-des-milliers-de-familles
Aidée d’un algorithme, l’administration fiscale néerlandaise a plongé dans la détresse des dizaines de milliers de familles, à commencer par des mères d’origine étrangère, en leur réclamant indûment des sommes faramineuses. L’État s’avère désormais incapable de réparer.
Les #technologies ne sont jamais neutres. Non, ce n’est pas juste leur usage qui est biaisé, c’est leur conception-même. Le cas des algorithmes chargés de calculer les risques qu’un·e requérant·e de l’aide sociale fraude les institutions étatiques en est un exemple flagrant! Le système hollandais> texte de citation ici illustre parfaitement la manière dont ces logiciels, supposés impartiaux et objectifs, ne font, en réalité, que refléter les mentalités prédominantes de nos sociétés, avec tous les biais dramatiques qui peuvent en découler, et dans ce cas, il s’agit d’une idéologie ultra-libérale, basée sur la notion de méritocratie et l’illusion d’un monde juste, dans lequel, chacun·e démarrerait avec les mêmes atouts et obtiendrait les résultats qu’iel mérite. C’est ainsi qu’une personne qui en serait réduite à demander de l’aide à l’État ne peut, dans une telle vision du monde, n’être que paresseuse, irresponsable, dépourvue de discipline, et il faut donc la surveiller de près pour s’assurer qu’elle ne perçoive pas d’aides indues. Mieux, il faut même essayer de prévoir lesquelles, parmi ces populations qui peuvent demander un soutien, temporaire, sont les plus susceptibles de tricher. Parce que mieux vaut prévenir que guérir, n’est-ce pas. Et tant pis, si des personnes innocentes sont prises dans la nasse et que ces mesures causent des dégâts monstrueux à des populations déjà très précaires et fragiles! On s’en fiche, elles n’auront pas les moyens de réclamer!
Au total, entre 2012 et 2019, 25 000 à 35 000 personnes ont été accusées de fraude, à tort dans 94 % des cas. Parmi elles, une grande majorité d’étrangers ou de binationaux, cibles privilégiées des contrôles, comme le gouvernement a fini par l’admettre. La nationalité comptait comme un facteur de risque pour l’algorithme aveuglement suivi par les agent·es du fisc. Mais son fonctionnement en « boîte noire » et sa dimension « auto-apprenante », qui permettait à l’algorithme d’identifier lui-même des critères associés au risque de fraude, ont masqué la discrimination, comme l’a dénoncé Amnesty International dans un rapport sur ce cas d’école de « machine xénophobe ».
Je ne suis pas étonnée qu’un pays de tradition protestante et libérale ait dérivé vers un tel modèle ultralibéral et donc une forme de surveillance et de punition préventive des populations “non-méritantes”, vues comme de coûteux “boulets”, mais, qu’en tant que bons chrétiens, on ne peut pas non plus abandonner complètement. Ce qui ne veut pas dire qu’on leur doit une charité sans limites, ni contraintes. Parce que la charité “bien-ordonnée”, c’est aussi cela, le protestantisme, du moins, dans sa version la moins charitable, en fait. Le problème est que cette mentalité est en train de se répandre comme une traînée de poudre dans nos sociétés occidentales, notamment en partie en réaction à la globalisation économique, qui a mis en compétition des pays avec un coût élevé de la vie, avec des régions entières du monde où le niveau matériel et social de vie est bien plus bas. La réponse a été alors de resserrer les salaires de ceux qui se trouvent en bas de la pyramide et les boulons budgétaires sur ceux qui peuvent le moins se défendre, soit les populations précaires. Et c’est ainsi qu’un peu partout, les milieux politico-économiques, mais aussi intellectuels et parfois socio-culturels, en viennent à imaginer que des machines arriveront à mieux trier le bon grain de l’ivraie que des humains, dans une perspective de mieux prévoir les budgets et surtout, des économies en toute bonne conscience, puisqu’il s’agit de prévenir les fraudes. Et dans cet exemple, comme dans de nombreux autres, on se rend compte que les fraudeurs représentent une infime minorité, mais ce n’est pas grave, c’est pour la bonne cause, alors, on va faire endosser un risque minime sur les épaules des plus vulnérables, avec des conséquences socio-économiques catastrophiques pour eux. Évidemment, les personnes immigrées, les mères seules, les minorités en tous genres, du fait de leur différence vis-à -vis des “normes” prescrites par l’idéologie ultralibérale qui prédomine, sont conçues comme étant évidemment moins respectueuses de nos lois, puisque “déviante”, que ce soit parce qu’elles n’ont pas su se conformer aux attentes de la société ou carrément parce qu’elles sont considérées comme trop différente et porteuses de valeurs potentiellement contradictoires avec celles qui assurent le bon fonctionnement des institutions.
Les Pays-Bas n’en ont pas fini avec la « Toeslagenaffaire ». Les conséquences psychologiques et sociales sur les enfants, par exemple, soit plus de 10 000 victimes par ricochet, doivent encore faire l’objet d’enquêtes. L’opposition dénonce une introspection de façade du gouvernement, qui a certes démissionné après ce scandale, en janvier 2021… Pour mieux revenir un an plus tard. « Personne n’a vraiment endossé de responsabilité de cette affaire, estime la députée Renske Leijten. L’état d’esprit à la tête de l’administration n’a pas changé, ni la méfiance à l’égard des allocataires sociaux, ni le manque de transparence. »
