Surapprentissage
Défaut d’un modèle qui reproduit très bien ses exemples d’entraînement, détails et erreurs compris, mais réussit mal sur des cas nouveaux.
Un exemple
Un élève qui a appris par cœur les corrigés des exercices de l’année réussit ces exercices à la perfection. Devant un exercice nouveau, il échoue. Un modèle peut faire la même chose avec ses données.
Ce qu’il faut comprendre
Le but de l’apprentissage n’est pas de retenir les exemples, mais d’en tirer une règle qui marche ailleurs. Un modèle trop souple peut épouser chaque détail de ses données, y compris le hasard et les erreurs d’étiquetage, et perdre ainsi la règle générale.
La parade est simple dans son principe : on met de côté une partie des exemples avant l’entraînement, et on ne la montre au modèle qu’à la fin, pour l’évaluer. C’est l’équivalent d’un contrôle sur des exercices jamais vus.
Attention à une confusion fréquente : un modèle peut aussi échouer parce que ses exemples ne couvrent pas la situation, comme le petit rond dans un coin de la démonstration. Ce n’est pas du surapprentissage, c’est un manque d’exemples représentatifs.
Les idées fausses
-
On entendUn modèle qui ne se trompe jamais sur ses exemples est un excellent modèle.
En réalitéCela peut signaler qu’il les a appris par cœur. On le juge toujours sur des exemples qu’il n’a jamais vus, mis de côté avant l’entraînement.
-
On entendPlus un modèle est gros, plus il risque d’apprendre par cœur, donc les grands modèles ne généralisent pas.
En réalitéLes grands modèles généralisent souvent bien, mais ils peuvent aussi restituer mot pour mot des passages de leurs données, ce qui pose des questions de droit d’auteur et de vie privée.