Évaluer une IA éducative : quelles preuves demander au-delà du test fournisseur ?

Évaluer une IA éducative : quelles preuves demander au-delà du test fournisseur ?

Une école reçoit un dossier présentant une IA éducative. Les exemples sont convaincants, des enseignants se disent satisfaits et les élèves qui ont utilisé le service ont progressé. Le dossier permet-il de conclure que l’outil a amélioré leurs apprentissages ?

Une évaluation indépendante est particulièrement utile lorsque la décision repose sur une promesse d’efficacité. Mais l’identité de l’évaluateur ne suffit pas : il faut aussi comprendre la comparaison, les mesures et les limites. Une analyse extérieure peut être fragile ; une donnée produite par un fournisseur peut être informative si sa méthode et sa portée sont explicites.

Pour une direction, l’objectif n’est pas de devenir un laboratoire de recherche. Il est de savoir ce que le dossier autorise à affirmer avant de justifier un achat, une expérimentation ou une extension.

L’exigence d’indépendance a une histoire qu’il faut dater

Dans ses recommandations de 2023 sur les technologies éducatives, l’UNESCO invite les pouvoirs publics à organiser des évaluations reposant sur une recherche indépendante et impartiale et sur des critères clairs. Cette recommandation internationale ne certifie aucun service particulier.

En France, le rapport sénatorial « IA et éducation », déposé le 30 octobre 2024, appelait à garantir une évaluation indépendante des outils mis à disposition dans le cadre scolaire. Il soulignait l’intérêt d’examiner des compétences transférables, au-delà des notes. Son constat appartient à 2024 : il ne doit pas être présenté comme un inventaire actualisé de toutes les évaluations disponibles en 2026.

La présentation actuelle de l’Observatoire national des pratiques pédagogiques avec l’IA sur Éduscol, consultée le 28 octobre 2026, décrit des missions d’observation, d’analyse et de partage des usages. L’existence de ce dispositif ne signifie pas que chaque outil bénéficie d’une démonstration causale d’efficacité.

Ces sources donnent une direction. Pour examiner une proposition concrète, il reste à ouvrir le dossier.

Séparer indépendance et qualité de méthode

L’indépendance concerne les conditions dans lesquelles l’évaluation est conduite : qui pose les questions, finance le travail, accède aux données, choisit les analyses et décide de rendre les résultats accessibles ?

La qualité de méthode concerne une autre question : les observations permettent-elles de répondre à ce qui est annoncé ?

Une équipe extérieure peut étudier un échantillon peu représentatif, utiliser un indicateur insuffisant ou ne pas disposer d’un comparateur pertinent. À l’inverse, un fournisseur peut fournir une description technique précise ou signaler un défaut réel de son système. Ce document ne devient pas pour autant une preuve indépendante d’effet pédagogique.

Il faut donc demander deux explications distinctes : comment les intérêts ont-ils été traités, et comment la conclusion a-t-elle été construite ?

Une simple mention « évalué par des experts » laisse ces deux questions ouvertes.

Commencer par l’affirmation exacte à examiner

« Améliore l’apprentissage » est une promesse trop large pour être confrontée directement à une observation.

Le dossier devrait préciser les élèves concernés, le contenu travaillé, l’aide proposée, la durée d’utilisation et le résultat attendu. Une fonction d’entraînement à un type de problème ne peut pas être évaluée comme un programme général de réussite scolaire.

L’affirmation doit également indiquer ce qui reste attendu de l’élève. Cherche-t-on une production plus correcte pendant l’assistance, une compréhension conservée ensuite ou une capacité à résoudre un problème différent ?

Notre dossier sur les méthodes d’apprentissage éclairées par les sciences cognitives aide à poser cette distinction entre réussite immédiate et apprentissage réutilisable.

Une évaluation peut viser légitimement la qualité d’un support professionnel plutôt que les acquis des élèves. Il faut alors nommer ce résultat sans l’élargir silencieusement.

Demander : « Par rapport à quoi ? »

Des élèves peuvent progresser pendant une période où ils utilisent un outil. Ils suivent aussi des cours, s’exercent et reçoivent des explications. La progression observée ne permet donc pas, à elle seule, d’attribuer le changement au service.

Le comparateur doit correspondre à une alternative crédible : pratique habituelle, autre ressource ou même activité avec une aide différente. Comparer une intervention très accompagnée à une absence totale d’activité peut répondre à une question éloignée de la décision réelle de l’école.

Il faut regarder comment les groupes ont été constitués et ce qu’ils ont reçu. Le rapport sénatorial de 2024 soutient notamment le recours aux essais randomisés contrôlés pour étudier la valeur ajoutée des outils. Leur lecture demande des compétences méthodologiques ; le seul mot « randomisé » ne dispense pas d’examiner la mise en œuvre.

Un retour local sans comparateur reste utile pour comprendre les difficultés, l’acceptabilité ou les moyens nécessaires. Il doit être présenté à ce niveau, sans devenir une démonstration d’effet.

Vérifier ce qui a été mesuré, et à quel moment

Un bon dossier permet de retrouver le résultat principal qui devait être examiné, et pas seulement les observations les plus favorables après coup.

Les mesures doivent correspondre à l’objectif. Le temps passé dans le service renseigne sur une activité ; la satisfaction renseigne sur une appréciation. Aucun des deux ne suffit à établir la maîtrise d’une notion.

Si la promesse porte sur l’autonomie, il faut demander quelles observations la rendent examinable. Notre guide sur l’IA et l’autonomie des élèves propose des questions sur la compréhension, la justification et la reprise du travail. Il ne remplace pas un instrument d’évaluation validé pour une étude donnée.

Le moment de la mesure compte aussi. Un résultat pendant l’assistance et un résultat ultérieur sans cette assistance éclairent des questions différentes. Une épreuve nouvelle peut apporter une information supplémentaire, à condition de rester cohérente avec ce qui a été enseigné.

Regarder les personnes qui disparaissent du bilan

Un rapport peut commencer avec un ensemble d’élèves et ne présenter à la fin que ceux qui ont terminé toutes les activités. Il faut comprendre ce qu’il est advenu des autres.

Ont-ils rencontré une difficulté d’accès ? Changé d’établissement ? Abandonné l’activité ? Leurs résultats sont-ils manquants pour une autre raison ? Selon la réponse, la conclusion ne concerne pas exactement le même public.

Cette lecture doit rester proportionnée et respecter la confidentialité. Une direction n’a pas besoin de recevoir des dossiers individuels pour demander comment les données manquantes ont été traitées.

La moyenne mérite également une explication. Un résultat global peut laisser ouverte la question des élèves les moins à l’aise, de ceux qui ont besoin d’aménagements ou de contextes matériels différents.

Le dossier doit préciser ce qui a réellement été analysé. Des différences entre sous-groupes ne doivent pas être inventées pour compléter une présentation séduisante.

Examiner la version, l’accompagnement et les coûts

Une évaluation concerne un dispositif déterminé, pas toutes les versions futures d’une marque.

La ressource, les consignes, le modèle utilisé et les interventions des adultes font partie de ce qui a été étudié. Si les enseignants ont reçu un soutien important, ce soutien doit apparaître lorsque l’on discute le transfert à d’autres écoles.

Il faut aussi comprendre les ressources nécessaires : préparation, vérification, formation, accès, maintenance et traitement des difficultés. Les recommandations de l’UNESCO de 2023 invitent à considérer le coût total de l’appropriation et de la mise en œuvre dans les projets pilotes.

Le prix de l’abonnement n’épuise donc pas la question. Une économie annoncée sur une tâche doit être rapprochée du travail supplémentaire qu’exige l’ensemble du dispositif.

Cette analyse peut modifier la décision sans invalider l’étude. Une intervention pertinente dans ses conditions d’origine n’est pas automatiquement réalisable avec d’autres moyens.

Un dossier fictif, trois conclusions possibles

Imaginons un réseau français qui reçoit un rapport sur une aide à l’entraînement en compréhension de texte. Ce scénario est fictif ; il ne décrit ni un produit réel ni un résultat Learning Coach.

Le rapport présente des productions plus exactes pendant l’utilisation. Le réseau demande si une compréhension ultérieure a été examinée, ce que faisaient les élèves du groupe de comparaison et quelle aide les enseignants apportaient.

Trois types de conclusion pourraient alors être distingués. Le dossier peut éclairer la faisabilité d’une activité. Il peut soutenir un résultat précis dans un contexte donné. Ou il peut rester insuffisant pour la promesse plus large utilisée dans la communication.

Ces conclusions n’appellent pas la même suite. Il peut être raisonnable de demander une information, de limiter le périmètre envisagé ou d’attendre une évaluation plus adaptée avant une extension.

Le réseau ne peut pas combler un manque de preuve en multipliant les démonstrations. Il doit conserver la différence entre ce qu’il a vu et ce qu’il cherche à établir.

Une grille courte pour lire le dossier collectivement

Voici une proposition Learning Coach pour préparer la discussion. Elle ne constitue ni une certification ni un protocole complet de recherche.

QuestionÉlément à retrouver
Quelle affirmation est étudiée ?Public, tâche, durée et résultat attendu
Quelle comparaison est réalisée ?Alternative crédible et constitution des groupes
Que montre la mesure ?Indicateur, moment et conditions de passation
Qui manque au bilan ?Participation, abandons et données absentes
Dans quelles conditions peut-on transférer ?Version, accompagnement et ressources
Qui contrôle l’évaluation ?Financement, rôles, accès et publication des limites

Les réponses peuvent rester partielles. L’essentiel est de ne pas leur faire soutenir une conclusion plus large que ce qu’elles établissent.

Les exigences de sécurité, de protection des données et les responsabilités applicables doivent être examinées séparément par les personnes compétentes. Une preuve pédagogique favorable ne les remplace pas.

Faire de l’évaluation un sujet de débat exigeant

Une rencontre éducative peut comparer deux dossiers fictifs plutôt que juxtaposer des démonstrations. Les participants chercheraient à formuler la conclusion permise par chaque dossier, puis les questions encore ouvertes.

Une conférence peut apporter un langage commun sur les preuves et les apprentissages. Elle ne constitue pas l’évaluation du service que l’établissement envisage d’utiliser.

Vous préparez ce débat pour des directions, des équipes pédagogiques ou des responsables institutionnels ? Découvrez les conférences Learning Coach et demandez une proposition adaptée à votre public.

La bonne question dépasse « qui a testé cette IA ? » : qu’avons-nous désormais de bonnes raisons d’affirmer, pour quels élèves et dans quelles conditions ?

Ressources

Faysal Hafidi, fondateur et CEO de Learning Coach
À propos de l'auteur

Faysal Hafidi

Fondateur & CEO de Learning Coach

Coach et formateur depuis 2005

Fondateur de Learning Coach, j'œuvre depuis 2005 pour rendre l'apprentissage plus efficace grâce au coaching, aux neurosciences et à l'innovation pédagogique. Vous avez une question ou une idée à explorer ? Échangeons ensemble !

Previous
Previous

Organiser un sommet national sur l’IA éducative : du dialogue aux suites publiques

Next
Next

IA à l’école : ce que l’Estonie, la France et la Corée du Sud permettent vraiment de comparer