Mentivis OS OpenMentivis OS EntrepriseMentivis OS Edu
Contactez-nousDémo
Tous les articles
M · IA & FormationTout public

Publié le 9 septembre 2026 · Mis à jour le 10 octobre 2026 · Par Marie Castelli, Partner, Mentivis

Ce que l'IA ne peut pas faire en formation

En formation, l'IA ne peut pas garantir l'exactitude de ce qu'elle génère sans validation humaine, évaluer seule des compétences relationnelles ou comportementales, remplacer l'accompagnement d'un formateur dans les apprentissages complexes, ni compenser une organisation qui ne laisse pas le temps d'apprendre. Mal encadrée, elle peut même nuire à l'apprentissage. Ces limites déterminent où maintenir une intervention humaine.

Pilier : Conformité et formation à l'IA : l'AI Act et les compétences à développer

Pourquoi identifier les limites de l'IA en formation ?

Deux positions opposées dominent souvent les débats : le rejet (« la relation humaine est irremplaçable, l'IA ne peut pas former ») et l'attente excessive (« l'IA va remplacer les formateurs »). Les deux ignorent que l'IA est efficace sur certaines tâches et peu fiable sur d'autres. Savoir lesquelles permet de l'utiliser là où elle apporte une valeur et de garder une intervention humaine là où elle est nécessaire.

Connaître ces limites fait aussi partie de la maîtrise de l'IA que l'article 4 de l'AI Act demande de développer chez les personnes qui utilisent ces systèmes.

Que ne peut pas faire l'IA ?

Garantir l'exactitude de ce qu'elle génère.
Les modèles de langage produisent des textes fluides et cohérents en apparence, qui peuvent contenir des informations fausses. Ce phénomène, appelé hallucination, est décrit dans la littérature scientifique comme une limite connue de la génération de texte (Ji et al., ACM Computing Surveys, 2023). Un contenu de formation généré sur un sujet réglementaire, technique ou médical doit donc être relu et validé par un expert : générer n'est pas vérifier.

Évaluer seule des compétences qui demandent un jugement humain.
La prise de parole, la posture managériale, la gestion d'un conflit ou l'écoute dans une relation de conseil s'évaluent par l'observation. Un système d'IA peut vérifier qu'un apprenant connaît les étapes d'une négociation ; il ne peut pas juger s'il crée la confiance nécessaire à sa réussite. Ces compétences demandent une évaluation humaine : observation par un formateur, mise en situation avec retour, évaluation par les pairs.

Garantir l'apprentissage par sa seule présence.
Une expérience menée auprès de près de mille lycéens en mathématiques (Bastani et al., PNAS, 2025) montre qu'un accès libre à un assistant de type ChatGPT améliore les résultats pendant les exercices, mais que les élèves obtiennent ensuite des notes inférieures de 17 % à celles des élèves sans accès lorsqu'ils doivent travailler seuls. Une version conçue pour guider sans donner les réponses a largement atténué cet effet. La conception pédagogique de l'outil compte autant que l'outil lui-même.

Remplacer l'accompagnement humain dans les apprentissages complexes.
Un formateur apporte un jugement sur la situation particulière de l'apprenant, perçoit ce qui n'est pas formulé et entretient une relation qui soutient l'effort. Le retour d'un manager en situation de travail produit un apprentissage que l'IA ne reproduit pas.

Résoudre un problème d'organisation.
Si les salariés n'ont pas le temps de se former, si le management ne valorise pas le développement des compétences ou si les apprenants ne peuvent pas appliquer ce qu'ils ont appris, aucun outil ne compensera ces conditions.

Quelles limites fixe la réglementation ?

L'AI Act encadre certains usages en formation. Depuis le 2 février 2025, il interdit les systèmes d'IA destinés à inférer les émotions d'une personne sur le lieu de travail et dans les établissements d'enseignement, sauf pour des raisons médicales ou de sécurité (article 5). Les systèmes destinés à évaluer les acquis d'apprentissage dans les établissements d'enseignement et de formation professionnelle figurent parmi les systèmes à haut risque de l'annexe III, soumis à des exigences de contrôle humain à partir du 2 décembre 2027.

L'UNESCO, dans ses orientations de 2023 sur l'IA générative dans l'éducation, recommande une approche centrée sur l'humain, la protection des données des apprenants et une validation des outils avant leur usage pédagogique.

Ce que cela implique pour un déploiement

Un dispositif solide combine deux types de mécanismes de façon délibérée :

L'IA est utile pour L'humain reste nécessaire pour
Personnaliser le rythme et les exercices Évaluer les compétences comportementales et relationnelles
Générer des contenus et des exercices à valider Valider les contenus sur les sujets sensibles
Répondre aux questions courantes à toute heure Accompagner les apprentissages complexes
Mesurer et tracer les acquis Créer les conditions d'application au poste

Questions fréquentes

L'IA va-t-elle remplacer les formateurs ?

Pas pour les apprentissages complexes, situationnels et comportementaux. Elle prend en charge une partie de la production de contenus et de l'accompagnement sur des savoirs structurés, ce qui modifie le rôle du formateur sans le supprimer.

Peut-on se passer d'experts pour valider les contenus générés par IA ?

Non pour les domaines techniques, réglementaires ou sensibles. Les modèles de langage peuvent produire des erreurs plausibles ; une validation experte avant diffusion et des contrôles périodiques restent nécessaires.

L'IA peut-elle nuire à l'apprentissage ?

Oui, si elle donne les réponses au lieu de guider. L'étude de Bastani et al. (2025) a mesuré une baisse des résultats des élèves ayant eu un accès libre à un assistant, effet largement atténué par une version conçue pour l'apprentissage.

Sur quels types de formation l'IA est-elle la plus utile ?

Sur les compétences structurées et évaluables : connaissances procédurales, réglementation, langues, utilisation d'outils, à condition que les contenus soient validés.

Sources

À lire aussi

Produits concernés : MentivisOS Entreprise, MentivisOS Education

Ce que les apprenants attendent d'une plateforme de formation IA en 2026
Comment choisir un système de formation IA : les bonnes questions à poser