La route vers un monde géré par des algorithmes est encore loin et surtout semé d’embûches. Preuve en est, l’affaire des résultats des élèves britanniques au A Level, équivalent du baccalauréat français. Comme leurs homologues hexagonaux, en raison de l’épidémie de Covid-19, les élèves du Royaume-Uni n’ont pas eu à passer les examens et ont donc été notés en contrôle continu. Pour calculer les notes, un algorithme a été développé spécifiquement « basé sur les prédictions des enseignants et modéré en fonction de facteurs tels que les résultats de l’établissement et les notes obtenues au cours de l’année par les élèves », précise le Financial Times.

Le 13 août dernier, les élèves ont découvert leurs résultats et ont constaté que l’algorithme avait rétrogradé 40% de ces résultats. Au lieu de se voir attribuer des notes A ou B, les étudiants ont reçu des notes C et D. Des notes synonymes de refus pour entrer à l’université. Face à ce bilan, les critiques contre l’IA n’ont pas tardé à pleuvoir. Le modèle a exacerbé les divisions sociales en donnant un avantage aux écoles privées, en raison de la taille réduite de leurs classes, et en désavantageant l'enseignement public, dans lequel les classes sont plus nombreuses.

Les résultats de l'algorithme ont révisé à la baisse les notes mises par les enseignants. (Crédit Photo : FT)

Le gouvernement revient à la notation des enseignants

Devant la colère des étudiants qui ont manifesté devant le ministère de l’Education nationale aux cris de « Fuck the algorithm », le gouvernement britannique a décidé de ne pas valider les résultats via l’IA, mais de revenir aux notes prévues par les enseignants. De son côté, l’Ofqual, organisme responsable des examens et promoteur de l’algorithme, a fait amende honorable en avouant que son modèle était défectueux.

De cet épisode, plusieurs enseignements peuvent être tirés. Le premier est qu’un algorithme ne se développe pas dans la précipitation. Dans ce cas-là, il a été généré en réponse à la crise du Covid-19 et en raison de l’impossibilité aux étudiants de revenir en classe. En second lieu, la transparence et l’explicabilité de l’algorithme doivent être au rendez-vous. Quelles sont les pondérations choisies ? Comment l'algorithme fonctionne-t-il ? Sur quelles technologies ? Quels sont les tests réalisés ? Enfin, et non des moindres, la communication est toujours un atout pour l’adoption d’une innovation de ce type, corps professoral, parents, élèves, la pédagogie ne s’apprend pas qu’à l’école…