Comment fonctionnent les LLM, partie 2 : les mathématiques des réseaux de neurones

Les réseaux de neurones semblent magiques jusqu'à ce que l'on découvre leurs mathématiques, et celles-ci sont plus simples qu'on ne l'imagine. Voici la deuxième partie de notre série sur le fonctionnement des LLM. Vous y découvrirez la poignée d'outils sur lesquels repose chaque modèle (tenseurs, multiplication matricielle, dérivées, gradients, fonction de perte et rétropropagation), avec à chaque fois un exemple court et sans formules lourdes.