Régression ou classification
Prédire une quantité ou choisir une catégorie : reconnaître lequel des deux on a devant soi.
Le prix qu'on demande au modèle peut valoir 200, ou 200,4, ou n'importe quelle valeur entre les deux. Mais si on lui demande plutôt « ce bien partira-t-il en moins de trente jours ? », il n'y a que deux réponses possibles, et rien entre elles.
Ce que le modèle doit rendre n'a donc pas toujours la même nature, et c'est ce qui coupe le supervisé en deux.
Un axe vertical porte l'ensemble des sorties, et cet axe est relu trois fois. En régression, l'ensemble est écrit grand Y égale R, l'axe est gradué de cent à deux cent cinquante milliers d'euros, un curseur de brique le remonte et le redescend sans jamais s'arrêter, et le prix affiché à côté de lui défile de façon continue. En classification binaire, l'ensemble s'écrit grand Y égale l'ensemble zéro, un ; l'axe ne porte plus que ces deux graduations, et le curseur ne peut se poser qu'à ces deux endroits : il saute de l'un à l'autre d'un seul coup, sans rien traverser. En classification multi-classe, l'ensemble s'écrit grand Y égale l'ensemble A, B, et ainsi de suite jusqu'à G ; l'axe porte les sept étiquettes énergétiques, de G en bas à A en haut, et le curseur saute de barreau en barreau, sept arrêts, sans rien entre deux voisines.
L'axe glisse : c'est une régression
La sortie est un nombre, et toutes les valeurs intermédiaires existent. Estimer un prix est une régression, et l'écart au carré de la page 5 la mesure.
L'axe saute : c'est une classification
La sortie est un choix dans une liste finie. « Ce bien partira-t-il en moins de trente jours ? » n'a que deux réponses, et rien entre elles.
Avec dix réponses au lieu de deux — lire un chiffre manuscrit, par exemple — c'est la même famille : dix arrêts, et toujours rien entre eux.
Le piège : ce sont des codes, pas des quantités
Les dix chiffres se codent , et ces entiers ressemblent à des quantités sans en être.
Avec l'écart au carré, répondre 4 quand la réponse est 3 coûte 1, et répondre 5 coûte 4 : le cours vient de décider que se tromper de 3 en 4 est quatre fois moins grave que de 3 en 5. C'est faux, et c'est tout : les deux réponses sont fausses. Un modèle qui minimise l'écart au carré sur ces codes apprend que 3 est proche de 4, ce qui n'a aucun sens pour des chiffres manuscrits.
