Publié le 9 septembre 2026 · Mis à jour le 10 octobre 2026 · Par Marie Castelli, Partner, Mentivis
Ce que l'IA ne peut pas faire en formation
En formation, l'IA ne peut pas garantir l'exactitude de ce qu'elle génère sans validation humaine, évaluer seule des compétences relationnelles ou comportementales, remplacer l'accompagnement d'un formateur dans les apprentissages complexes, ni compenser une organisation qui ne laisse pas le temps d'apprendre. Mal encadrée, elle peut même nuire à l'apprentissage. Ces limites déterminent où maintenir une intervention humaine.
Pilier : Conformité et formation à l'IA : l'AI Act et les compétences à développer
Pourquoi identifier les limites de l'IA en formation ?
Deux positions opposées dominent souvent les débats : le rejet (« la relation humaine est irremplaçable, l'IA ne peut pas former ») et l'attente excessive (« l'IA va remplacer les formateurs »). Les deux ignorent que l'IA est efficace sur certaines tâches et peu fiable sur d'autres. Savoir lesquelles permet de l'utiliser là où elle apporte une valeur et de garder une intervention humaine là où elle est nécessaire.
Connaître ces limites fait aussi partie de la maîtrise de l'IA que l'article 4 de l'AI Act demande de développer chez les personnes qui utilisent ces systèmes.
Que ne peut pas faire l'IA ?
Garantir l'exactitude de ce qu'elle génère.
Les modèles de langage produisent des textes fluides et cohérents en apparence, qui peuvent contenir des informations fausses. Ce phénomène, appelé hallucination, est décrit dans la littérature scientifique comme une limite connue de la génération de texte (Ji et al., ACM Computing Surveys, 2023). Un contenu de formation généré sur un sujet réglementaire, technique ou médical doit donc être relu et validé par un expert : générer n'est pas vérifier.
Évaluer seule des compétences qui demandent un jugement humain.
La prise de parole, la posture managériale, la gestion d'un conflit ou l'écoute dans une relation de conseil s'évaluent par l'observation. Un système d'IA peut vérifier qu'un apprenant connaît les étapes d'une négociation ; il ne peut pas juger s'il crée la confiance nécessaire à sa réussite. Ces compétences demandent une évaluation humaine : observation par un formateur, mise en situation avec retour, évaluation par les pairs.
Garantir l'apprentissage par sa seule présence.
Une expérience menée auprès de près de mille lycéens en mathématiques (Bastani et al., PNAS, 2025) montre qu'un accès libre à un assistant de type ChatGPT améliore les résultats pendant les exercices, mais que les élèves obtiennent ensuite des notes inférieures de 17 % à celles des élèves sans accès lorsqu'ils doivent travailler seuls. Une version conçue pour guider sans donner les réponses a largement atténué cet effet. La conception pédagogique de l'outil compte autant que l'outil lui-même.
Remplacer l'accompagnement humain dans les apprentissages complexes.
Un formateur apporte un jugement sur la situation particulière de l'apprenant, perçoit ce qui n'est pas formulé et entretient une relation qui soutient l'effort. Le retour d'un manager en situation de travail produit un apprentissage que l'IA ne reproduit pas.
Résoudre un problème d'organisation.
Si les salariés n'ont pas le temps de se former, si le management ne valorise pas le développement des compétences ou si les apprenants ne peuvent pas appliquer ce qu'ils ont appris, aucun outil ne compensera ces conditions.
Quelles limites fixe la réglementation ?
L'AI Act encadre certains usages en formation. Depuis le 2 février 2025, il interdit les systèmes d'IA destinés à inférer les émotions d'une personne sur le lieu de travail et dans les établissements d'enseignement, sauf pour des raisons médicales ou de sécurité (article 5). Les systèmes destinés à évaluer les acquis d'apprentissage dans les établissements d'enseignement et de formation professionnelle figurent parmi les systèmes à haut risque de l'annexe III, soumis à des exigences de contrôle humain à partir du 2 décembre 2027.
L'UNESCO, dans ses orientations de 2023 sur l'IA générative dans l'éducation, recommande une approche centrée sur l'humain, la protection des données des apprenants et une validation des outils avant leur usage pédagogique.
Ce que cela implique pour un déploiement
Un dispositif solide combine deux types de mécanismes de façon délibérée :
| L'IA est utile pour | L'humain reste nécessaire pour |
|---|---|
| Personnaliser le rythme et les exercices | Évaluer les compétences comportementales et relationnelles |
| Générer des contenus et des exercices à valider | Valider les contenus sur les sujets sensibles |
| Répondre aux questions courantes à toute heure | Accompagner les apprentissages complexes |
| Mesurer et tracer les acquis | Créer les conditions d'application au poste |
Questions fréquentes
Sources
- Survey of Hallucination in Natural Language Generation, Ji Z. et al., ACM Computing Surveys, 2023, DOI 10.1145/3571730
- Generative AI without guardrails can harm learning: Evidence from high school mathematics, Bastani H. et al., PNAS, 2025, DOI 10.1073/pnas.2422633122
- Guidance for generative AI in education and research, UNESCO, 2023
- Règlement (UE) 2024/1689, version consolidée au 27 juillet 2026, EUR-Lex, 2026
À lire aussi
- AI Act article 4 : formation obligatoire à l'IA, ce que l'entreprise doit faire
- Formation obligatoire en entreprise : obligations légales et par secteur
- Plan de développement des compétences : obligations, contenu et pièges
- Entretien professionnel : règles 2026, sanction et contenu utile
Produits concernés : MentivisOS Entreprise, MentivisOS Education