Explorer

Défis & Risques

Adopter l'IA en éducation n'est pas sans défis significatifs. L'intégrité académique, la confidentialité des données, les biais algorithmiques et la fracture numérique exigent des stratégies réfléchies et proactives.

L'intégrité académique est peut-être le défi le plus immédiat. Avec une IA générative capable de produire des dissertations, de résoudre des problèmes et même de générer du code, les méthodes d'évaluation traditionnelles font face à une crise existentielle. Les institutions doivent évoluer au-delà des approches basées sur la détection vers une refonte des évaluations qui met l'accent sur le processus, la pensée critique et la démonstration authentique des apprentissages.

Les préoccupations liées à la confidentialité et à la sécurité des données sont primordiales lorsqu'on traite des données étudiantes, notamment celles des mineur·es. Les systèmes d'IA nécessitent d'immenses quantités de données pour fonctionner efficacement, créant une tension entre personnalisation et vie privée. Des réglementations comme FERPA, COPPA et GDPR fournissent des cadres, mais leur mise en œuvre dans un paysage IA en rapide évolution reste complexe.

Les biais algorithmiques posent de graves questions d'équité. Les systèmes d'IA entraînés sur des données biaisées peuvent perpétuer et amplifier les inégalités existantes en éducation — des algorithmes de notation biaisés aux systèmes de recommandation qui renforcent les stéréotypes. De plus, la fracture numérique signifie que les bénéfices de l'IA pourraient profiter de manière disproportionnée aux communautés déjà privilégiées, élargissant plutôt que comblant les écarts de réussite.

Le défi que personne ne liste : l'évitement de l'effort

Intégrité, confidentialité et biais sont les trois risques que toute liste nomme, et ils y ont leur place. Celui qu'on oublie est plus discret et, nous semble-t-il, plus grand : une technologie qui supprime la difficulté servira à supprimer la difficulté, y compris celle qui faisait le travail. Rien n'est violé. Aucune règle n'est enfreinte. On arrive simplement au bout de la tâche sans en avoir été transformé.

Ce n'est pas un problème de discipline et cela n'a pas de solution disciplinaire. C'est un problème de conception : si une tâche peut être achevée sans comprendre, elle le sera, et c'était probablement déjà une tâche faible avant l'existence de l'IA. Voir Pas de raccourcis vers la maîtrise et L'intelligence est un muscle.

L'intégrité est une question de conception de l'évaluation

Les détecteurs ne sont pas fiables, et leurs erreurs ne se répartissent pas également : les écrits des personnes qui apprennent dans une seconde langue sont signalés de façon disproportionnée, ce qui transforme une politique d'intégrité en problème d'équité. La réponse durable consiste à changer ce qui est demandé, pas à intensifier la surveillance : des travaux soutenus à l'oral, des brouillons visibles, des productions ancrées dans le matériau propre de l'élève, une évaluation du processus et pas seulement du produit.

Notre travail d'évaluation consiste largement en cela, et le simulateur d'éthique permet à une équipe de répéter les décisions concrètes — un cas soupçonné, la contestation d'une famille, un signalement discuté — avant que l'une d'elles n'atterrisse sur un bureau un vendredi à seize heures.

Confidentialité : les questions à poser avant de signer

Les données des élèves, et particulièrement celles des mineurs, portent des obligations que l'achat ordinaire d'un outil de classe n'a jamais été conçu pour vérifier. Trois questions règlent l'essentiel : ce qui est saisi ici entraîne-t-il un modèle ; où est-ce stocké et sous quelle juridiction ; et cela peut-il être effacé sur demande, en fait et pas seulement dans la politique affichée ? Un fournisseur incapable de répondre aux trois par écrit y a déjà répondu.

Lorsqu'un cadre juridique est en jeu, les obligations sont souvent plus précises que ne le laisse croire une orientation générale. Notre formation des éducateurs au Code pénal dominicain en est l'exemple entièrement traité : les articles réels, ce qu'ils exigent d'un établissement et ce qu'ils n'exigent pas, avec un rapport d'audit public de sa propre relecture.

Les biais, et la dérive qu'on ne voit pas

Un modèle reproduit les régularités de ce sur quoi il a été entraîné, et en éducation ces régularités décident qui sera signalé comme à risque, quelle écriture se lit comme compétente et quel nom est correctement orthographié. Une défaillance voisine, plus subtile, touche tout le monde à égalité : les modèles produisent des éléments précis, sûrs d'eux, bien mis en forme et entièrement inventés — citations, statistiques, études nommées — qui survivent à la relecture parce qu'ils ressemblent exactement aux vrais.

Cela nous est arrivé, et nous avons publié l'épisode plutôt que de le corriger en silence : L'infographie que je n'ai pas publiée. La règle de travail sur ce site est qu'une affirmation est sourcée, ou formulée de façon directionnelle, ou elle ne paraît pas.

Et un défi qu'il faut remettre à sa place

L'écriture, l'imprimerie, la calculatrice de poche, le stylo à bille, la télévision, internet, Wikipédia et le téléphone intelligent allaient chacun, en son temps, détruire l'apprentissage. Le motif est documenté dans La panique récurrente. Le nommer n'écarte pas les risques ci-dessus : cela sert à garder la conversation sur les risques réellement propres à cette technologie, qui donnent déjà bien assez de travail.