Édition de connaissances
Corriger ou modifier un fait précis stocké dans les poids (« la tour Eiffel est à Paris » → « … à Rome »), en touchant une seule matrice, sans réentraîner.
- Identifiant : EDIT09
- Catégorie : EDIT · Chirurgie du modèle
- Regroupe : ROME, FT-L ; MEMIT, AlphaEdit en infra
- Modèles concernés : LLM décodeurs ; diffusion (UCE, TIME)
- Calcul : 1 GPU (inférence)
- Temps : minutes
- Modèle :
poids nécessaires - Données : exemples annotés
- GPU local 12 Go (exemple de code) : ✅ ≤ 3B
- Code :
09-edition-connaissances/
Principe
Les travaux de causal tracing montrent que les faits « sujet → objet » sont en grande partie stockés dans les MLP des premières couches intermédiaires. La matrice de sortie d'un MLP (down_proj) agit comme une mémoire associative clé → valeur.
ROME (edition.py) :
- Clé
k*: l'activation d'entrée dedown_projau dernier token du sujet, moyennée sur plusieurs contextes. - Valeur
v*: on optimise un petit vecteur ajouté à la sortie du MLP, pour que le modèle prédise le nouvel objet. Une régularisation KL préserve le « sens » du sujet (« The Eiffel Tower is a… » ne doit pas changer). - Mise à jour de rang 1 :
W' = W + (v* - W k*)(C⁻¹k*)ᵀ / ((C⁻¹k*)ᵀk*). La covarianceCdes clés sur du texte générique garantit que les autres clés sont le moins perturbées possible.
MEMIT généralise à des milliers de faits répartis sur plusieurs couches (infra). AlphaEdit projette la mise à jour dans l'espace qui ne touche pas les connaissances à préserver, ce qui améliore l'édition séquentielle. FT-L (methode: ft_contraint) fine-tune seulement cette matrice avec une contrainte de norme. C'est la référence simple, souvent moins spécifique.
Les métriques sont celles de CounterFact :
| Métrique | Question posée |
|---|---|
| efficacité | Le prompt édité donne-t-il le nouvel objet ? |
| généralisation | Les paraphrases aussi ? |
| spécificité | Les faits voisins (Louvre → Paris) sont-ils intacts ? |
Modèles concernés
| Type de modèle | Exemples de modèles | Applicable | Remarques |
|---|---|---|---|
| LLM décodeur | GPT-2, GPT-J, LLaMA, Qwen, Mistral | ✅ cas principal | Indiquer le module (edition.module) : model.layers.{}.mlp.down_proj pour LLaMA/Qwen/Mistral |
GPT-2 (couches Conv1D) |
GPT-2 | ⚠️ | Poids transposés : adapter rome() (W.T) ou utiliser EasyEdit |
| MoE | Mixtral, Qwen-MoE | ⚠️ | Le fait peut être réparti entre experts. Méthodes spécifiques ou mémoire externe (GRACE) |
| Encodeur, seq2seq | BERT, T5 | ⚠️ | MEND et KE ont été proposés pour ces architectures, moins courant |
| Multimodal | BLIP-2, LLaVA | ⚠️ | EasyEdit propose l'édition multimodale (MMEdit) |
| Diffusion | Stable Diffusion, SDXL, Flux | ✅ | Même principe sur le cross-attention (TIME, UCE : « changer ce que signifie un mot ») |
| Modèle fermé via API | GPT-4o, Claude, Gemini | ❌ | Seul le RAG (EXEC18) permet de corriger un fait |
Quand l'utiliser
- ✅ Quelques faits erronés ou obsolètes à corriger rapidement, sans pipeline d'entraînement.
- ✅ Recherche et interprétabilité : comprendre où et comment un fait est stocké.
- ⚠️ Des centaines d'éditions séquentielles dégradent le modèle : MEMIT/AlphaEdit en lot, ou mémoire externe.
- ❌ Les éditions généralisent mal au raisonnement multi-sauts (« la tour Eiffel est à Rome », donc « le pays de la tour Eiffel est » → souvent encore « France »). Pour des connaissances évolutives, préférer le RAG (EXEC18).
Pièges
- Mauvais module ou mauvaise couche : l'édition « prend » sur le prompt exact mais ne généralise pas. Explorer 20 à 40 % de la profondeur.
- Tokenisation de l'objet : espace initial (
" Rome"), objets de plusieurs tokens. - Éditions successives : la norme cumulée des mises à jour explose au-delà de quelques dizaines. Surveiller la perplexité générale.
- Évaluation trop indulgente : toujours mesurer la spécificité et les paraphrases, pas seulement le prompt édité.
Références
- ROME : Meng et al., Locating and Editing Factual Associations in GPT (2022). Localiser un fait dans un MLP et l'éditer par une mise à jour de rang 1.
- MEMIT : Meng et al., Mass-Editing Memory in a Transformer (2022). Éditer des milliers de faits répartis sur plusieurs couches.
- AlphaEdit : Fang et al., AlphaEdit: Null-Space Constrained Knowledge Editing for Language Models (2024). Projeter la mise à jour hors de l'espace des connaissances à préserver.
- MEND : Mitchell et al., Fast Model Editing at Scale (2021). Un réseau apprend à transformer le gradient en édition.
- GRACE : Hartvigsen et al., Aging with GRACE: Lifelong Model Editing with Discrete Key-Value Adaptors (2022). Mémoire externe clé-valeur pour l'édition continue.
- Effets de propagation : Cohen et al., Evaluating the Ripple Effects of Knowledge Editing in Language Models (2023). Mesurer si une édition se propage aux faits liés.
- EasyEdit : Wang et al., EasyEdit: An Easy-to-use Knowledge Editing Framework for Large Language Models (2023). Cadre d'édition de connaissances.
Dans le dépôt
Exemple, résultats mesurés et commandes : Édition de connaissances : exemple de code.