L'invité des matins - Services publics : les promesses incertaines de l'IA

L'invité des matins - Services publics : les promesses incertaines de l'IA

•

Episode description

Automatisation des tâches, simplification des démarches, assistance aux agents… Si les administrations françaises voient dans l’IA un levier majeur de transformation, son usage dans la pratique se révèle davantage un facteur d’exclusion que d’inclusion pour les usagers.

Invitée des matins

  • Soizic Pénicaud - chercheuse et consultante indépendante en politiques publiques de l’intelligence artificielle, cofondatrice de l’Observatoire des algorithmes publics, enseignante à Sciences Po Paris

En tapant une simple citation dans Google, la première réponse qui s’affiche n’est plus une liste de liens, mais un texte directement formulé par l’intelligence artificielle, qui propose aussitôt de préciser, de compléter ou de prolonger la recherche. Une scène désormais assez banale, qui dit à quel point l’IA s’est installée dans notre quotidien et désormais dans les services publics. Pour en parler, Julie Gacon s’entretient avec Soizic Pénicaud, chercheuse et consultante indépendante en politiques publiques de l’intelligence artificielle, cofondatrice de l’Observatoire des algorithmes publics, enseignante à Sciences Po Paris. L’objectivité des algorithmes en question

Les systèmes algorithmiques utilisés par les services publics donnent une impression de neutralité que Soazic Pénicaud invite à remettre en cause : “Le point commun entre tous ces systèmes, c’est que l’aura d’objectivité, de neutralité, d’efficacité qu’on leur associe est rarement questionnée. On a encore trop souvent l’impression qu’une technique est neutre et objective alors qu’en réalité, de par les critères utilisés par ces systèmes, mais aussi de par la volonté même de les mettre en place dans le cadre de politiques publiques, il s’agit de choix humains.” Des outils de contrôle qui se concentrent sur la sphère sociale

Soazic Pénicaud souligne que ces outils sont particulièrement développés pour contrôler les allocataires et les personnes en recherche d’emploi : “On remarque que beaucoup d’algorithmes sont utilisés dans la sphère sociale, dans le cadre du suivi des dossiers de personnes en recherche d’emploi ou d’allocataires de la CAF. En revanche, on n’entend jamais parler de systèmes analogues utilisés pour lutter contre la fraude fiscale des entreprises par exemple.” Droit à la transparence

Cette automatisation n’échappe pourtant pas à des règles de transparence. Les administrations doivent informer les personnes lorsqu’un algorithme participe à une décision les concernant, et les citoyens peuvent demander des informations sur ces systèmes au titre de l’accès aux documents administratifs. Dans les faits, Soazic Pénicaud souligne cependant que les administrations refusent ou ne répondent « souvent » à ces demandes.

E