En clair
L'inférence désigne le moment où un modèle d'intelligence artificielle déjà entraîné sert à quelque chose. On lui donne une entrée (une question, une image, un texte à compléter) et il calcule une sortie. C'est l'usage courant du modèle, par opposition à l'entraînement, qui est la phase où il apprend à partir de données.
Un modèle entraîné est un ensemble de paramètres figés. L'inférence consiste à faire passer l'entrée dans ce réseau de calculs pour obtenir un résultat. Rien n'est modifié dans le modèle pendant cette opération.
Pourquoi c'est important
L'inférence est ce qui rend un modèle utile au quotidien. C'est aussi la partie qui coûte cher à faire tourner. Servir un grand modèle à des milliers d'utilisateurs demande des machines puissantes et beaucoup d'énergie. Les équipes qui développent ces modèles passent donc beaucoup de temps à rendre l'inférence plus rapide et moins gourmande.
La qualité de l'inférence dépend aussi de réglages fins. La façon de découper le calcul, de répartir le travail entre plusieurs processeurs ou de générer le texte influence directement la vitesse et le coût.
Dans la pratique
Quand un modèle de langage répond à une question, chaque mot produit est le fruit d'une étape d'inférence. Pour accélérer cette génération, certaines techniques font proposer des mots par un mécanisme plus léger, puis vérifient leur pertinence avant de les garder. DeepSeek décrit ce type d'approche dans son framework DeepInfer, où des jetons brouillon accélèrent la génération et des estimations de confiance décident quand vérifier.
L'inférence peut se faire sur un serveur distant ou directement sur l'appareil de l'utilisateur. Le choix dépend de la taille du modèle et des contraintes de confidentialité ou de latence.
À ne pas confondre avec
L'inférence n'est pas l'entraînement. L'entraînement ajuste les paramètres du modèle à partir de données, l'inférence les utilise sans les changer. On confond aussi parfois l'inférence avec la simple exécution d'un programme. La différence tient au fait qu'un modèle produit une réponse calculée à partir de ce qu'il a appris, sans règle écrite à l'avance pour chaque cas.