Les métiers
de l'IA.

Un LLM est un modèle entraîné sur des volumes massifs de texte pour prédire le token suivant le plus probable dans une séquence. GPT-4, Claude, Gemini, Mistral : tous fonctionnent sur ce principe. Ce qui semble être de la compréhension est en réalité une capacité statistique extraordinairement sophistiquée à reproduire et généraliser des patterns linguistiques.

Les LLM ne lisent pas des mots : ils lisent des tokens. Un token correspond en moyenne à 3-4 caractères en français. « développeur » peut être découpé en plusieurs tokens. Cette granularité détermine le coût des appels API, la vitesse de génération et les limites de contexte. Comprendre les tokens, c'est comprendre l'économie des LLM.

La context window, c'est tout ce que le modèle peut voir simultanément : le prompt système, l'historique de conversation, les documents injectés et la réponse en cours de génération. Au-delà de cette limite, le modèle ne « voit » plus. En 2024, les fenêtres de contexte sont passées de 8K à plus de 1M de tokens pour certains modèles.

Un embedding est une représentation vectorielle d'un texte dans un espace à haute dimension. Des textes sémantiquement proches ont des vecteurs proches. C'est la technologie qui permet la recherche sémantique, le RAG et la détection de similarité. Sans embeddings, pas de système de récupération intelligent.

Un LLM hallucine quand il génère une information fausse avec une apparente confiance. Ce n'est pas un bug : c'est une conséquence directe du mécanisme de prédiction de tokens. Le modèle optimise la cohérence du texte, pas sa véracité. La connaissance de ce phénomène est la première étape pour concevoir des systèmes IA fiables.

Le fine-tuning consiste à continuer l'entraînement d'un modèle sur un jeu de données ciblé. Le modèle absorbe un style, un vocabulaire ou des comportements spécifiques. C'est plus puissant que le prompting pour des tâches très précises, mais plus coûteux et plus complexe. Il s'utilise quand le prompt seul ne suffit plus.

Le RAG injecte des documents pertinents dans le contexte du modèle au moment de la requête. Résultat : le modèle répond à partir de sources vérifiées plutôt que de sa mémoire d'entraînement. C'est l'approche standard pour construire des chatbots basés sur une base de connaissances sans avoir à fine-tuner un modèle.

L'inférence, c'est le moment où le modèle génère une réponse. Elle consiste à calculer, token par token, la probabilité des mots suivants en fonction du contexte. La vitesse d'inférence, le coût et la qualité dépendent du modèle, de l'infrastructure et des paramètres choisis (température, top-p, max tokens…).

La technique la plus simple : on décrit la tâche et on laisse le modèle la réaliser sans exemple préalable. Elle fonctionne bien pour les tâches communes que le modèle a vues en quantité pendant son entraînement. C'est souvent le point de départ avant de passer à des techniques plus élaborées.

On inclut dans le prompt 2 à 5 exemples du format ou du comportement attendu. Le modèle reconnaît le pattern et le reproduit. Efficace pour formater des sorties précises, adopter un ton particulier ou traiter des cas inhabituels que le modèle gère mal en zero-shot.

En demandant au modèle de « penser à voix haute » avant de donner sa réponse finale, on améliore significativement ses performances sur les tâches complexes (maths, logique, raisonnement multi-étapes). Une simple phrase comme « Réfléchis étape par étape » peut changer radicalement la qualité d'une réponse.

ReAct est un pattern où le modèle alterne entre phases de réflexion (« Thought ») et actions concrètes (« Act ») comme appeler un outil, chercher une information ou exécuter du code. C'est l'un des patterns fondamentaux de l'ingénierie des agents IA.

Le function calling permet au modèle de décider quand appeler un outil (chercher sur le web, lire un fichier, exécuter une requête SQL…) et avec quels paramètres. C'est la technologie qui transforme un modèle de génération de texte en agent capable d'agir sur le monde réel.

Le MCP est un protocole ouvert développé par Anthropic qui définit une interface commune entre les LLM et leurs outils. Plutôt que d'intégrer chaque outil de façon propriétaire, le MCP permet à n'importe quel modèle compatible de se connecter à n'importe quel serveur MCP. C'est le standard qui émerge pour l'interopérabilité des systèmes IA.

Le prompt système est une instruction persistante que le modèle reçoit avant chaque conversation. Il définit qui est le modèle, comment il doit se comporter, ce qu'il peut ou ne peut pas faire. C'est la fondation de tout produit IA : un prompt système bien construit fait la moitié du travail.

Plutôt qu'une réponse en texte libre, on demande au modèle de retourner du JSON, du XML ou tout autre format structuré. Les APIs modernes proposent des modes de génération contrainte (JSON mode, schema forcing) qui garantissent un format valide. Indispensable pour intégrer un LLM dans un pipeline applicatif.

Un agent IA est un système qui utilise un LLM pour raisonner, planifier et agir de façon autonome sur plusieurs étapes. Il choisit quels outils utiliser, dans quel ordre, et ajuste sa stratégie en fonction des résultats intermédiaires. La différence avec un appel API classique : l'agent boucle jusqu'à avoir accompli sa mission.

Un système multi-agent décompose une tâche complexe entre plusieurs agents aux rôles distincts : un agent planifie, un autre recherche, un autre vérifie. Chaque agent est optimisé pour sa fonction. Ce pattern permet de dépasser les limites d'un seul modèle et de paralléliser le travail.

L'orchestration gère l'enchaînement des étapes dans un pipeline IA : quand appeler le modèle, avec quel contexte, quels outils activer, comment traiter les sorties. Des frameworks comme LangChain, LlamaIndex ou le SDK Claude Agent facilitent cette coordination. Une bonne orchestration, c'est ce qui rend un système IA fiable à grande échelle.

Les LLM n'ont pas de mémoire native : chaque appel repart de zéro. La mémoire s'implémente en stockant les informations pertinentes (dans une base de données, un fichier ou un vector store) et en les réinjectant dans le contexte au bon moment. Court terme, long terme, épisodique : les types de mémoire se combinent selon les besoins du produit.

Les guardrails sont des couches de contrôle autour d'un LLM : validation des entrées, filtrage des sorties, détection de dérives, limites de comportement. Ils protègent contre les usages non prévus, les injections de prompt et les réponses inappropriées. Dans un produit en production, les guardrails ne sont pas optionnels.

Évaluer un LLM est difficile : les sorties sont du texte libre, les critères de qualité sont subjectifs. Les approches d'évaluation incluent les métriques automatiques (BLEU, ROUGE), l'évaluation par un autre LLM (LLM-as-a-judge) et les annotations humaines. Sans évaluation rigoureuse, on ne sait pas si les changements améliorent ou dégradent le système.

Un retrieval pipeline transforme des documents bruts en connaissances accessibles : chunking, embedding, indexation dans un vector store, récupération par similarité sémantique, reranking. La qualité du RAG dépend autant de ce pipeline que du modèle lui-même. Un mauvais pipeline produit de mauvaises réponses même avec le meilleur modèle.