Glossaire des acronymes IA & LLM
IA GÉNÉRATIVE · 68 ACRONYMES
RAG, LoRA, RLHF, cache KV, TTFT… Tous les acronymes rencontrés dans notre formation IA générative — animations, ateliers, quiz — avec leur développé et leur signification en une phrase. Les ★ signalent les concepts clés à maîtriser en priorité.
🧠 Fondamentaux & architecture
IA / AI
Intelligence Artificielle / Artificial Intelligence.
Le champ général ; les LLM en sont une branche.
LLM ★ concept clé
Large Language Model.
Grand modèle de langage : prédit le token suivant à partir du contexte.
NLP / TAL ★ concept clé
Natural Language Processing / Traitement Automatique du Langage.
La discipline historique dont les LLM sont l'aboutissement actuel.
GPT ★ concept clé
Generative Pre-trained Transformer.
Famille de Transformers « décodeurs » : pré-entraînés à générer, de gauche à droite.
BERT
Bidirectional Encoder Representations from Transformers.
Transformer « encodeur » (2018) : comprendre plutôt que générer — l'ancêtre des embeddings du RAG.
RNN
Recurrent Neural Network.
Réseau récurrent, lisant mot à mot — supplanté par le Transformer (2017), parallélisable.
BPE ★ concept clé
Byte Pair Encoding.
L'algorithme de tokenisation : découpe le texte en fragments selon leur fréquence (token ≠ mot).
Q, K, V ★ concept clé
Query, Key, Value (requête, clé, valeur).
Les trois vecteurs de l'attention : ce que je cherche, ce que j'offre comme repère, ce que je transmets.
MHA
Multi-Head Attention.
L'attention classique : plusieurs « têtes » en parallèle, chacune avec ses propres K,V.
MQA
Multi-Query Attention.
Toutes les têtes partagent un seul jeu de K,V : cache divisé d'autant, qualité en retrait.
GQA
Grouped-Query Attention.
Le compromis : un jeu de K,V par groupe de têtes — le standard des modèles récents (Llama, Mistral...).
Cache KV ★ concept clé
Key-Value cache.
Mémoire de travail de la génération : les K,V des tokens passés, stockés pour ne jamais être recalculés.
RoPE
Rotary Position Embedding.
Encodage des positions par rotation des vecteurs : capture les positions relatives, extrapole aux longs contextes.
MoE ★ concept clé
Mixture of Experts.
Architecture où un routeur n'active que quelques « experts » par token : beaucoup de paramètres, peu de calcul.
FFN
Feed-Forward Network.
Le réseau dense qui suit l'attention dans chaque bloc du Transformer (c'est lui que MoE découpe en experts).
🎓 Entraînement & adaptation
SFT ★ concept clé
Supervised Fine-Tuning.
Réglage fin supervisé : on montre des paires instruction → réponse idéale pour câbler un comportement.
RLHF ★ concept clé
Reinforcement Learning from Human Feedback.
Des humains classent des réponses ; le modèle apprend à préférer les utiles — l'ingrédient de ChatGPT (2022).
PPO
Proximal Policy Optimization.
L'algorithme de renforcement du RLHF classique — 4 modèles en jeu, coûteux et instable.
DPO
Direct Preference Optimization.
Apprend directement des paires « préférée / rejetée », sans reward model : plus simple et plus stable que PPO.
GRPO
Group Relative Policy Optimization.
Variante de renforcement comparant un groupe de réponses entre elles (popularisée par DeepSeek).
RLVR
Reinforcement Learning with Verifiable Rewards.
Renforcement sur des récompenses vérifiables (tests, maths justes) — le moteur des modèles de raisonnement.
PEFT
Parameter-Efficient Fine-Tuning.
Famille de méthodes qui n'entraînent qu'une petite fraction des paramètres — LoRA en est la star.
LoRA ★ concept clé
Low-Rank Adaptation.
Gèle le modèle, entraîne deux petites matrices B·A de rang r : h(x) = W₀x + BAx — souvent <1 % des paramètres.
QLoRA ★ concept clé
Quantized LoRA.
LoRA sur une base quantifiée en 4 bits : fine-tuner un 65B sur un seul GPU.
NF4
NormalFloat 4-bit.
Le format de quantification 4 bits de QLoRA, optimisé pour la distribution des poids des LLM.
FP32 / FP16 / Int8 / Int4
Floating Point 32/16 bits, Integer 8/4 bits.
Les précisions de stockage des poids : moins de bits = moins de VRAM, légère perte de qualité.
JSONL
JSON Lines.
Un objet JSON par ligne — le format standard des jeux de données SFT (structure « Alpaca »).
✍️ Prompt & raisonnement
ICL ★ concept clé
In-Context Learning.
Apprendre « dans le prompt » : zero-shot (0 exemple), one-shot (1), few-shot (quelques-uns) — sans réentraînement.
CoT ★ concept clé
Chain-of-Thought.
Demander le raisonnement étape par étape avant la réponse : moins d'erreurs sur les problèmes à étapes.
SC / SC-CoT
Self-Consistency (with CoT).
N raisonnements indépendants à température > 0, puis vote majoritaire — la logique du Random Forest.
ToT
Tree of Thoughts.
Explorer des débuts de pistes, les évaluer, élaguer, revenir en arrière — un arbre plutôt qu'une chaîne.
ReAct ★ concept clé
Reasoning + Acting.
Le cycle des agents : Pensée → Action (outil) → Observation, répété jusqu'à l'objectif.
📂 RAG & recherche
RAG ★ concept clé
Retrieval-Augmented Generation.
Récupérer les passages pertinents de VOS documents et les injecter dans le prompt : le modèle cite au lieu d'inventer.
FAISS
Facebook AI Similarity Search.
Bibliothèque d'index vectoriels : retrouve en millisecondes les vecteurs les plus proches d'une requête.
kNN
k Nearest Neighbors.
Les k plus proches voisins — le principe de la recherche vectorielle (et un classique du ML).
L2
Norme L2 (distance euclidienne).
La distance « à vol d'oiseau » entre deux vecteurs — le score de FAISS : plus bas = plus proche.
BM25 ★ concept clé
Best Match 25.
Classement lexical par mots exacts (héritier de TF-IDF) : indispensable pour les codes, références et noms rares.
TF-IDF
Term Frequency – Inverse Document Frequency.
Pondération historique des mots : fréquent dans ce document, rare ailleurs = important.
RRF ★ concept clé
Reciprocal Rank Fusion.
Fusionne plusieurs classements : score = Σ 1/(60 + rang) — le ciment de la recherche hybride.
MTEB
Massive Text Embedding Benchmark.
Le benchmark de référence pour choisir un modèle d'embeddings.
⚖️ Évaluation
BLEU
BiLingual Evaluation Understudy.
Métrique historique (traduction, 2002) : compte les suites de mots communes avec une référence — aveugle au sens.
ROUGE
Recall-Oriented Understudy for Gisting Evaluation.
Équivalent de BLEU pour le résumé (2004) — mêmes limites, d'où le LLM-as-a-Judge.
MMLU
Massive Multitask Language Understanding.
Benchmark de QCM multi-domaines, longtemps la référence pour comparer les modèles.
🏭 Déploiement, matériel & ops
CPU
Central Processing Unit.
Le processeur généraliste — insuffisant seul pour servir un LLM de taille réelle.
GPU
Graphics Processing Unit.
Le processeur massivement parallèle qui exécute les LLM — la ressource qui dimensionne tout.
RAM
Random Access Memory.
La mémoire du CPU — à ne pas confondre avec la VRAM : un LLM vit dans la mémoire du GPU.
VRAM ★ concept clé
Video RAM.
La mémoire du GPU : poids du modèle + cache KV + marge — LE calcul de dimensionnement du module déploiement.
VM
Virtual Machine.
Machine virtuelle louée au cloud (ex. VM GPU pour le fine-tuning).
TTFT ★ concept clé
Time To First Token.
Le délai avant le premier mot — la latence que l'utilisateur ressent (d'où le streaming).
TPS
Tokens Per Second.
Le débit de génération, l'autre moitié de la performance perçue.
OOM
Out Of Memory.
Le crash par mémoire saturée — célèbre dans l'exercice d'analyse d'incident de l'atelier 3.
TCO
Total Cost of Ownership.
Coût complet sur la durée : matériel, énergie, équipe, maintenance — le matériel n'en pèse que ~20 %.
SaaS
Software as a Service.
Le logiciel consommé en ligne — par opposition à l'auto-hébergement on-premise.
MLOps / LLMOps ★ concept clé
Machine Learning / LLM Operations.
L'industrialisation : versionner, monitorer, évaluer en continu, détecter la dérive.
API ★ concept clé
Application Programming Interface.
L'interface programmatique par laquelle vos applications appellent un modèle.
SDK
Software Development Kit.
La bibliothèque officielle qui enrobe une API (ex. anthropic, mistralai en Python).
MCP
Model Context Protocol.
Standard ouvert pour brancher outils et sources de données sur les modèles — l'« USB-C » des agents.
SRE
Site Reliability Engineer.
L'ingénieur fiabilité — le rôle que joue l'apprenant dans l'exercice de cause racine.
RCA
Root Cause Analysis.
L'analyse de cause racine : distinguer la cause profonde du simple déclencheur.
PUE
Power Usage Effectiveness.
Efficacité énergétique d'un datacenter (1,0 = parfait) — un levier du Green AI.
CO₂eq
Équivalent CO₂.
L'unité commune des émissions de gaz à effet de serre — celle du calcul GreenOps de l'atelier 5.
HF
Hugging Face.
La plateforme des modèles ouverts : poids, datasets, leaderboards — d'où viennent nos modèles locaux.
🛡️ Sécurité & conformité
OWASP
Open Worldwide Application Security Project.
Référentiel de sécurité applicative — son « Top 10 LLM » liste les risques, injection de prompt en tête.
RGPD / GDPR
Règlement Général sur la Protection des Données.
Le cadre européen des données personnelles — central dès qu'un LLM touche des données clients.
CNIL
Commission Nationale de l'Informatique et des Libertés.
Le régulateur français, qui publie des recommandations IA pratiques.
💼 Dans les études de cas
DSI
Direction des Systèmes d'Information.
Le décideur informatique — celui qui doit demander la VRAM, pas seulement « RAM et CPU ».
DAF
Direction Administrative et Financière.
Le lecteur pressé du compte rendu de l'atelier prompt engineering.
COMEX
Comité Exécutif.
L'instance de direction — l'audience type des synthèses « une page max ».