AmeliorIA

tekio.org

Édition de connaissances

Corriger ou modifier un fait précis stocké dans les poids (« la tour Eiffel est à Paris » → « … à Rome »), en touchant une seule matrice, sans réentraîner.

  • Identifiant : EDIT09
  • Catégorie : EDIT · Chirurgie du modèle
  • Regroupe : ROME, FT-L ; MEMIT, AlphaEdit en infra
  • Modèles concernés : LLM décodeurs ; diffusion (UCE, TIME)
  • Calcul : 1 GPU (inférence)
  • Temps : minutes
  • Modèle : poids nécessaires
  • Données : exemples annotés
  • GPU local 12 Go (exemple de code) : ✅ ≤ 3B
  • Code : 09-edition-connaissances/

Principe

Les travaux de causal tracing montrent que les faits « sujet → objet » sont en grande partie stockés dans les MLP des premières couches intermédiaires. La matrice de sortie d'un MLP (down_proj) agit comme une mémoire associative clé → valeur.

ROME (edition.py) :

  1. Clé k* : l'activation d'entrée de down_proj au dernier token du sujet, moyennée sur plusieurs contextes.
  2. Valeur v* : on optimise un petit vecteur ajouté à la sortie du MLP, pour que le modèle prédise le nouvel objet. Une régularisation KL préserve le « sens » du sujet (« The Eiffel Tower is a… » ne doit pas changer).
  3. Mise à jour de rang 1 : W' = W + (v* - W k*)(C⁻¹k*)ᵀ / ((C⁻¹k*)ᵀk*). La covariance C des clés sur du texte générique garantit que les autres clés sont le moins perturbées possible.

MEMIT généralise à des milliers de faits répartis sur plusieurs couches (infra). AlphaEdit projette la mise à jour dans l'espace qui ne touche pas les connaissances à préserver, ce qui améliore l'édition séquentielle. FT-L (methode: ft_contraint) fine-tune seulement cette matrice avec une contrainte de norme. C'est la référence simple, souvent moins spécifique.

Les métriques sont celles de CounterFact :

Métrique Question posée
efficacité Le prompt édité donne-t-il le nouvel objet ?
généralisation Les paraphrases aussi ?
spécificité Les faits voisins (Louvre → Paris) sont-ils intacts ?

Modèles concernés

Type de modèle Exemples de modèles Applicable Remarques
LLM décodeur GPT-2, GPT-J, LLaMA, Qwen, Mistral ✅ cas principal Indiquer le module (edition.module) : model.layers.{}.mlp.down_proj pour LLaMA/Qwen/Mistral
GPT-2 (couches Conv1D) GPT-2 ⚠️ Poids transposés : adapter rome() (W.T) ou utiliser EasyEdit
MoE Mixtral, Qwen-MoE ⚠️ Le fait peut être réparti entre experts. Méthodes spécifiques ou mémoire externe (GRACE)
Encodeur, seq2seq BERT, T5 ⚠️ MEND et KE ont été proposés pour ces architectures, moins courant
Multimodal BLIP-2, LLaVA ⚠️ EasyEdit propose l'édition multimodale (MMEdit)
Diffusion Stable Diffusion, SDXL, Flux ✅ Même principe sur le cross-attention (TIME, UCE : « changer ce que signifie un mot »)
Modèle fermé via API GPT-4o, Claude, Gemini ❌ Seul le RAG (EXEC18) permet de corriger un fait

Quand l'utiliser

  • ✅ Quelques faits erronés ou obsolètes à corriger rapidement, sans pipeline d'entraînement.
  • ✅ Recherche et interprétabilité : comprendre où et comment un fait est stocké.
  • ⚠️ Des centaines d'éditions séquentielles dégradent le modèle : MEMIT/AlphaEdit en lot, ou mémoire externe.
  • ❌ Les éditions généralisent mal au raisonnement multi-sauts (« la tour Eiffel est à Rome », donc « le pays de la tour Eiffel est » → souvent encore « France »). Pour des connaissances évolutives, préférer le RAG (EXEC18).

Pièges

  • Mauvais module ou mauvaise couche : l'édition « prend » sur le prompt exact mais ne généralise pas. Explorer 20 à 40 % de la profondeur.
  • Tokenisation de l'objet : espace initial (" Rome"), objets de plusieurs tokens.
  • Éditions successives : la norme cumulée des mises à jour explose au-delà de quelques dizaines. Surveiller la perplexité générale.
  • Évaluation trop indulgente : toujours mesurer la spécificité et les paraphrases, pas seulement le prompt édité.

Références

Dans le dépôt

Exemple, résultats mesurés et commandes : Édition de connaissances : exemple de code.