Démonstration8 min

Un exemple ne suffit pas

Ce qui arrive si l'on n'écoute qu'une seule image, et pourquoi on moyenne les corrections.

Tout ce qui précède n'a regardé qu'une seule image, et rien n'empêche de lui appliquer deux cents pas de descente pour voir ce que le réseau répond ensuite sur dix mille images qu'il n'a jamais vues. Que devient un réseau qui n'a écouté qu'un seul exemple ?

Une large barre de brique occupe toute la largeur de la figure et porte cent virgule zéro zéro pour cent, avec la mention dix mille sur dix mille prédites « deux ». Dessous, un relevé : la précision de test avant les deux cents pas valait zéro virgule un trois un quatre ; la perte sur l'image de travail après les deux cents pas est nulle à la précision de la machine ; la probabilité accordée à la classe deux vaut un ; la précision de test après les deux cents pas vaut zéro virgule un zéro trois deux ; et la fréquence de la classe deux dans le jeu de test vaut mille trente-deux sur dix mille, soit zéro virgule un zéro trois deux. En pied, la mention que les deux derniers nombres sont égaux. — La précision tombe exactement sur la fréquence de la classe : le réseau ne classe plus, il répète.

Le réseau a parfaitement appris l'image qu'on lui a donnée, et il répond $2$ à tout le reste, sans une seule exception sur dix mille images.

Les deux derniers nombres du relevé sont égaux, et ce n'est pas une coïncidence.

Ce qui arrive si l'on n'écoute qu'un seul exemple

Deux cents pas sur une seule image · cours/lecon4/mesures.py, mesure 4

  200 pas de descente sur la seule image de travail, eta = 0.5

  précision de test AVANT les pas                0.1314
  perte sur cette image avant les pas             1.408379
  perte sur cette image après 200 pas             0.000000   (sous le seuil de représentation)
  probabilité accordée à la classe 2 après       1.0000000000
  images de test prédites « 2 »                  10000 sur 10000
  part des images de test prédites « 2 »         100.00 %
  précision de test                              0.1032
  fréquence de la classe 2 dans le jeu de test    1032 / 10000 = 0.1032
  écart entre la précision et cette fréquence     0.000e+00

  la classe la plus fréquente du jeu de test     1, 1135 / 10000 = 0.1135
  c'est le plafond de tout réseau qui répond toujours la même chose

Lecture

Le réseau a parfaitement appris l'image, puisque sa perte tombe sous le seuil de représentation et qu'il accorde $1{,}0000000000$ à la classe $2$ à l'affichage, la proposition 1 interdisant d'atteindre exactement $1$ .
Il répond $2$ à tout, et non presque tout : $10\,000$ images sur $10\,000$ , sans exception, parce que la descente n'a écouté qu'une demande et l'a exaucée jusqu'au bout.
Sa précision, $0{,}1032$ , est exactement la fréquence de la classe $2$ dans le jeu de test, $1\,032/10\,000$ , à zéro près : un réseau qui répond toujours la même chose a pour précision la fréquence de cette classe, puisqu'il a raison sur les images de cette classe et sur aucune autre.
Le plafond d'un tel réseau est $0{,}1135$ , la fréquence de la classe la plus représentée, et aucune constante ne fait mieux.

Le réseau entraîné

200

pas sur la seule image n° 5 : les deux répartitions des dix mille images de test, à la même échelle.

0:00 / 0:13

La moyenne des corrections

On refait donc pour chaque exemple le parcours qui précède, et l'on moyenne les corrections souhaitées. Reste à savoir ce que cette moyenne est.

DérivationLa moyenne des gradients d'exemples est le gradient du coût (proposition 7)

Hypothèses

$C_{\mathcal{D}}(\boldsymbol{\theta})=\frac{1}{N}\sum_{n=1}^{N}\ell_{n}(\boldsymbol{\theta})$ , avec $\ell_{n}:\mathbb{R}^{p}\rightarrow\mathbb{R}_{\geq 0}$ .
Chaque $\ell_{n}$ admet des dérivées partielles en $\boldsymbol{\theta}$ .
$N$ est fixé et ne dépend pas de $\boldsymbol{\theta}$ .

Propriétés utilisées

Linéarité de la dérivation : $(f+g)'=f'+g'$ et $(\lambda f)'=\lambda f'$
Définition du gradient comme vecteur des $p$ dérivées partielles

Étapes

On dérive composante par composante. Pour $i\in[\![1,p]\!]$ fixé, $\partial C_{\mathcal{D}}/\partial\theta_{i}$ est la dérivée d'une somme finie de $N$ fonctions, multipliée par la constante $1/N$ .
$\frac{\partial C_{\mathcal{D}}}{\partial\theta_{i}}(\boldsymbol{\theta})=\frac{1}{N}\sum_{n=1}^{N}\frac{\partial\ell_{n}}{\partial\theta_{i}}(\boldsymbol{\theta})$
Linéarité de la dérivation. Il n'y a aucune approximation à cette ligne : c'est une égalité.
On rassemble les $p$ composantes. Le vecteur dont la $i$ -ième composante est $\frac{1}{N}\sum_{n}\partial\ell_{n}/\partial\theta_{i}$ est, par définition du gradient, $\frac{1}{N}\sum_{n}\mathrm{grad}_{\boldsymbol{\theta}}\,\ell_{n}$ .

Résultat

\mathrm{grad}_{\boldsymbol{\theta}}\,C_{\mathcal{D}}(\boldsymbol{\theta})=\frac{1}{N}\sum_{n=1}^{N}\mathrm{grad}_{\boldsymbol{\theta}}\,\ell_{n}(\boldsymbol{\theta})

Interprétation

La moyenne des corrections souhaitées est le gradient du coût : ni « en gros », ni « quelque chose de proportionnel », et sans facteur, sans approximation, sans hypothèse sur les données. C'est la linéarité de la dérivation, et rien d'autre. La descente du chapitre 3 réclame $\mathrm{grad}_{\boldsymbol{\theta}}\,C_{\mathcal{D}}$ et l'algorithme donne $\mathrm{grad}_{\boldsymbol{\theta}}\,\ell_{n}$  ; cette proposition ferme le passage entre les deux.

Ce que ce résultat ne dit pas

L'égalité vaut pour la moyenne sur tout le jeu. Une moyenne sur un sous-ensemble n'est pas le gradient du coût, et le chapitre 3 a dit dans quel sens elle en approche.

Pourquoi la moyenne est nécessaire

Deux exemples demandent-ils la même chose ? · cours/lecon4/mesures.py, mesure 5

  cosinus entre les gradients de deux exemples pris séparément
  réseau non entraîné, 2000 paires de chaque sorte

      paires                cosinus moyen     écart-type     paires
      même classe            +0.4110          0.1438        2000
      classes différentes    -0.0263          0.0494        2000

Lecture

Deux images de la même classe demandent des corrections qui vont grossièrement dans le même sens, de cosinus moyen $+0{,}4110$ , et grossièrement seulement, puisque l'écart-type $0{,}1438$ dit que la valeur va d'environ $+0{,}27$ à $+0{,}55$ d'une paire à l'autre.
Deux images de classes différentes demandent des corrections presque sans rapport, $-0{,}0263$ en moyenne avec un écart-type de $0{,}0494$ : presque orthogonales, très légèrement opposées.
C'est ce désaccord qui rend la moyenne nécessaire, parce qu'exaucer une demande à la fois revient à défaire ce que la précédente a fait, et la mesure 4 montre où cela mène quand on n'en écoute qu'une.

En pratique, on ne moyenne pas sur tout le jeu

La proposition 7 porte sur les $N=60\,000$ exemples, alors qu'un entraînement moyenne sur des mini-lots de $64$ . Le chapitre 3, page 9, l'a établi : le gradient d'un mini-lot est un estimateur sans biais du gradient complet, proposition 4, et sa qualité croît comme la racine de la taille du lot, proposition 5. Ce chapitre ne redémontre ni l'un ni l'autre.

Vérification rapide n° 46

Le réseau entraîné sur un seul exemple a une précision de test de $0{,}1032$ , et le jeu de test compte $1\,032$ images de classe $2$ sur $10\,000$ .

a
D'où vient exactement ce nombre ? Répondre sans invoquer d'apprentissage.
b
Quelle serait la précision d'un réseau qui répondrait toujours $1$  ? Et quel est le meilleur score atteignable par un réseau qui répond toujours la même chose ?

Aucune réponse à cliquer : il y a un calcul à faire.

Vérification rapide n° 47

Deux exemples de classes différentes ont des gradients de cosinus moyen $-0{,}0263$ .

a
Qu'est-ce que cela dit de ce qui arriverait si on les traitait l'un après l'autre plutôt qu'en moyenne ?
b
Le cosinus de deux exemples de même classe vaut $+0{,}4110$ en moyenne, et non $+1$ . Que faudrait-il pour qu'il vaille $+1$  ?

Aucune réponse à cliquer : il y a un calcul à faire.

Ce qui arrive si l'on n'écoute qu'un seul exemple

Deux cents pas sur une seule image · cours/lecon4/mesures.py, mesure 4

  200 pas de descente sur la seule image de travail, eta = 0.5

  précision de test AVANT les pas                0.1314
  perte sur cette image avant les pas             1.408379
  perte sur cette image après 200 pas             0.000000   (sous le seuil de représentation)
  probabilité accordée à la classe 2 après       1.0000000000
  images de test prédites « 2 »                  10000 sur 10000
  part des images de test prédites « 2 »         100.00 %
  précision de test                              0.1032
  fréquence de la classe 2 dans le jeu de test    1032 / 10000 = 0.1032
  écart entre la précision et cette fréquence     0.000e+00

  la classe la plus fréquente du jeu de test     1, 1135 / 10000 = 0.1135
  c'est le plafond de tout réseau qui répond toujours la même chose

Lecture

Le réseau a parfaitement appris l'image, puisque sa perte tombe sous le seuil de représentation et qu'il accorde $1{,}0000000000$ à la classe $2$ à l'affichage, la proposition 1 interdisant d'atteindre exactement $1$ .
Il répond $2$ à tout, et non presque tout : $10\,000$ images sur $10\,000$ , sans exception, parce que la descente n'a écouté qu'une demande et l'a exaucée jusqu'au bout.
Sa précision, $0{,}1032$ , est exactement la fréquence de la classe $2$ dans le jeu de test, $1\,032/10\,000$ , à zéro près : un réseau qui répond toujours la même chose a pour précision la fréquence de cette classe, puisqu'il a raison sur les images de cette classe et sur aucune autre.
Le plafond d'un tel réseau est $0{,}1135$ , la fréquence de la classe la plus représentée, et aucune constante ne fait mieux.

Le réseau entraîné

200

pas sur la seule image n° 5 : les deux répartitions des dix mille images de test, à la même échelle.

0:00 / 0:13

La moyenne des corrections

On refait donc pour chaque exemple le parcours qui précède, et l'on moyenne les corrections souhaitées. Reste à savoir ce que cette moyenne est.

DérivationLa moyenne des gradients d'exemples est le gradient du coût (proposition 7)

Hypothèses

$C_{\mathcal{D}}(\boldsymbol{\theta})=\frac{1}{N}\sum_{n=1}^{N}\ell_{n}(\boldsymbol{\theta})$ , avec $\ell_{n}:\mathbb{R}^{p}\rightarrow\mathbb{R}_{\geq 0}$ .
Chaque $\ell_{n}$ admet des dérivées partielles en $\boldsymbol{\theta}$ .
$N$ est fixé et ne dépend pas de $\boldsymbol{\theta}$ .

Propriétés utilisées

Linéarité de la dérivation : $(f+g)'=f'+g'$ et $(\lambda f)'=\lambda f'$
Définition du gradient comme vecteur des $p$ dérivées partielles

Étapes

On dérive composante par composante. Pour $i\in[\![1,p]\!]$ fixé, $\partial C_{\mathcal{D}}/\partial\theta_{i}$ est la dérivée d'une somme finie de $N$ fonctions, multipliée par la constante $1/N$ .
$\frac{\partial C_{\mathcal{D}}}{\partial\theta_{i}}(\boldsymbol{\theta})=\frac{1}{N}\sum_{n=1}^{N}\frac{\partial\ell_{n}}{\partial\theta_{i}}(\boldsymbol{\theta})$
Linéarité de la dérivation. Il n'y a aucune approximation à cette ligne : c'est une égalité.
On rassemble les $p$ composantes. Le vecteur dont la $i$ -ième composante est $\frac{1}{N}\sum_{n}\partial\ell_{n}/\partial\theta_{i}$ est, par définition du gradient, $\frac{1}{N}\sum_{n}\mathrm{grad}_{\boldsymbol{\theta}}\,\ell_{n}$ .

Résultat

\mathrm{grad}_{\boldsymbol{\theta}}\,C_{\mathcal{D}}(\boldsymbol{\theta})=\frac{1}{N}\sum_{n=1}^{N}\mathrm{grad}_{\boldsymbol{\theta}}\,\ell_{n}(\boldsymbol{\theta})

Interprétation

Ce que ce résultat ne dit pas

L'égalité vaut pour la moyenne sur tout le jeu. Une moyenne sur un sous-ensemble n'est pas le gradient du coût, et le chapitre 3 a dit dans quel sens elle en approche.

Pourquoi la moyenne est nécessaire

Deux exemples demandent-ils la même chose ? · cours/lecon4/mesures.py, mesure 5

  cosinus entre les gradients de deux exemples pris séparément
  réseau non entraîné, 2000 paires de chaque sorte

      paires                cosinus moyen     écart-type     paires
      même classe            +0.4110          0.1438        2000
      classes différentes    -0.0263          0.0494        2000

Lecture

Deux images de la même classe demandent des corrections qui vont grossièrement dans le même sens, de cosinus moyen $+0{,}4110$ , et grossièrement seulement, puisque l'écart-type $0{,}1438$ dit que la valeur va d'environ $+0{,}27$ à $+0{,}55$ d'une paire à l'autre.
Deux images de classes différentes demandent des corrections presque sans rapport, $-0{,}0263$ en moyenne avec un écart-type de $0{,}0494$ : presque orthogonales, très légèrement opposées.
C'est ce désaccord qui rend la moyenne nécessaire, parce qu'exaucer une demande à la fois revient à défaire ce que la précédente a fait, et la mesure 4 montre où cela mène quand on n'en écoute qu'une.

En pratique, on ne moyenne pas sur tout le jeu

Vérification rapide n° 46

Le réseau entraîné sur un seul exemple a une précision de test de $0{,}1032$ , et le jeu de test compte $1\,032$ images de classe $2$ sur $10\,000$ .

a
D'où vient exactement ce nombre ? Répondre sans invoquer d'apprentissage.
b
Quelle serait la précision d'un réseau qui répondrait toujours $1$  ? Et quel est le meilleur score atteignable par un réseau qui répond toujours la même chose ?

Aucune réponse à cliquer : il y a un calcul à faire.

Vérification rapide n° 47

Deux exemples de classes différentes ont des gradients de cosinus moyen $-0{,}0263$ .

a
Qu'est-ce que cela dit de ce qui arriverait si on les traitait l'un après l'autre plutôt qu'en moyenne ?
b
Le cosinus de deux exemples de même classe vaut $+0{,}4110$ en moyenne, et non $+1$ . Que faudrait-il pour qu'il vaille $+1$  ?

Aucune réponse à cliquer : il y a un calcul à faire.