Un neurone, et ce qu'il regarde

Une image compte 784 pixels, et il faut bien une pièce de calcul qui les regarde tous et n'en rende qu'un seul nombre. La plus petite qu'on puisse écrire multiplie chaque pixel par un nombre à lui, additionne les 784 produits, et s'arrête là. Reste à savoir ce qu'un tel nombre peut dire de l'image, et à quoi ressemblent les 784 nombres qui le calculent.

Le pixel de la ligne 9, colonne 7, porte l'octet 222, soit $x_{231}=0{,}870588$, et le trait qui en part porte le poids $w_{231}$, si bien que le produit $w_{231}\,x_{231}$ entre dans la somme avec 783 autres.

Ce qui monte par en dessous est $b$, qui ne vient d'aucun pixel et s'ajoute une fois pour toutes, et ce qui sort à droite est un seul nombre, $z$, tout ce que la pièce rend.

Les 784 poids dessinés ici sont ceux d'une pièce mesurée qui note le chiffre 0, appliquée à une image qui montre un 7. Elle rend $z=-0{,}7038$, un nombre négatif, mais sa somme pondérée est positive : c'est le biais, $-1{,}3064$, qui fait passer le total sous zéro.

Un $z$ seul ne veut donc encore rien dire, faute d'avoir quoi que ce soit à quoi le comparer, et la page 6 lui donnera neuf concurrents.

Un neurone biologique reçoit des signaux par ses dendrites, et émet ou n'émet pas selon ce qu'il a reçu. C'est de là que le nom vient, et c'est là que l'emprunt s'arrête.

Reprends la formule $(4.1)$ terme par terme.

$\mathbf{x}$ est l'image, mise à plat en 784 nombres à la page 3, et elle arrive du jeu sans qu'on la choisisse.

$\mathbf{w}$ est un vecteur de 784 nombres, un par pixel, et le nombre $w_{k}$ s'appelle le poids du pixel de rang $k$ : il dit combien ce pixel compte dans le résultat, et dans quel sens.

$w_{k}\,x_{k}$ multiplie l'encre du pixel $k$ par son poids, si bien qu'un pixel blanc, pour qui $x_{k}=0$, n'apporte rien quel que soit son poids.

La somme $\sum_{k}w_{k}x_{k}$ additionne ces 784 produits et rend un seul nombre, auquel $b$ s'ajoute à la fin sans dépendre d'aucun pixel. La page 9 dira à quoi sert ce $b$.

$z$ est le résultat, le seul nombre que le neurone rend, et c'est ce que le chapitre appellera son score sur cette image.

On vérifie les dimensions à chaque fois, même quand le résultat saute aux yeux : $\mathbf{w}^{\mathsf{T}}$ est $1\times 784$ et $\mathbf{x}$ est $784\times 1$, donc leur produit est $1\times 1$, un scalaire auquel $b$ peut s'ajouter. C'est bien pourquoi la transposée est là, le produit $(784\times 1)(784\times 1)$ n'existant pas.

Les deux images montrent le même 7, la seconde décalée de cinq colonnes vers la droite, et pour le modèle ce sont deux images sans rapport.

Chaque pixel a son poids à lui : celui de la ligne 9, colonne 7, a le poids $w_{231}$, celui de la ligne 9, colonne 12, a le poids $w_{236}$, et rien ne relie ces deux nombres. Quand le 7 se décale, son encre quitte les pixels de gauche pour ceux de droite, rencontre donc d'autres poids, et le score change sans que le modèle sache qu'il s'agit du même chiffre.

C'est pour cela que les chiffres du jeu sont tous recadrés au même endroit, ce que les auteurs du jeu ont fait avant de le publier et ce que la page 2 a mesuré.

Sous le signe somme, $k:w_{k}>0$ se lit « pour les $k$ tels que $w_{k}$ est strictement positif », et la somme ne parcourt donc que ces indices-là.

Comme $x_{k}\in[0,1]$, chaque terme $w_{k}x_{k}$ a le signe de $w_{k}$ et une amplitude d'autant plus grande que le pixel est encré, et un pixel blanc, pour qui $x_{k}=0$, n'apporte rien, dans aucun des deux sens. C'est pourquoi le fond de l'image, 80,88 % de valeurs nulles, ne pèse sur aucun score.

$\mathbf{w}$ a exactement 784 coordonnées, et $\mathrm{vec}^{-1}$ replie n'importe quel vecteur de $\mathbb{R}^{784}$ en grille $28\times 28$. Rien n'oblige à ne l'appliquer qu'aux images : appliquée à $\mathbf{w}$, elle donne une matrice de même forme qu'une image, et qu'on peut donc regarder.

Un gabarit ressemble à un chiffre moyen, et la page 2 écartait pourtant la comparaison des pixels un par un à un chiffre modèle. Les deux tiennent ensemble, parce que $\mathbf{w}^{\mathsf{T}}\mathbf{x}$ ne compare pas deux images : il pondère des pixels, et un pixel dont le poids est nul reste sans effet au lieu de compter pour une différence. Ce que cette façon de faire ne pourra jamais obtenir est démontré page 7.