Ils sont invisibles et pourtant ils influencent nos vies. Les algorithmes sont partout de Parcoursup au calcul du montant de la taxe d'habitation en passant par l'attribution d'une place en crèche à une famille ou la gestion de la mobilité des enseignants. L'administration est gourmande en termes d'algorithme et entend développer le recours à l'intelligence artificielle, souligne Etalab, une mission au sein de la Dinsic en charge de la politique de la donnée. Elle reconnaît qu'il existe quelques obstacles comme la méfiance voire défiance de la société vis-à-vis d'outils parfois perçus comme des « boîtes noires », risque de biais pour les algorithmes apprenants, risques éthiques associés notamment à des utilisations peu ou mal anticipées des traitements algorithmiques...

Face à ces limites, Etalab a décidé de publier un guide des bonnes pratiques sur l'usage des algorithmes. Ce document pédagogique se décline en trois parties. La première donne des éléments de contexte : qu'est-ce qu'un algorithme ? à quoi servent les algorithmes dans le secteur public ? il est précisé notamment la distinction entre des décisions automatisées (ie. sans intervention humaine) et les cas où les algorithmes sont des outils d'aide à la décision (par exemple pour classer les dossiers des familles en vue de leur examen par une commission d'attribution de places en crèches).

La deuxième partie détaille les enjeux en termes d'éthique et de responsabilité : pourquoi - et comment - les administrations doivent-elles « rendre des comptes » sur l'usage des algorithmes ? comment ces outils peuvent-ils aider à prendre des décisions plus « justes » ? Les principes de transparence, d'intelligibilité et de loyauté, sont explicités. Enfin, la troisième partie présente le cadre juridique applicable en matière de transparence des algorithmes, notamment suite à l'adoption de la Loi pour une République numérique.

Le guide est un document ouvert où les contributions extérieures et complémentaires sont les bienvenues. Une version éditable est disponible sur GitHub.