EDIT : choisir entre les méthodes
| Catégorie |
|---|
| DATA Apprendre à partir de données |
| SIGN Apprendre à partir d'un signal |
| EDIT Chirurgie du modèle |
| FORM Remodeler : étendre ou compresser |
| EXEC À l'exécution, sans toucher aux poids |
| Calcul | |
|---|---|
| CPU ou API | |
| 1 GPU (inférence) | |
| 1 GPU (entraînement) | |
| plusieurs GPU | |
| Temps | |
|---|---|
| minutes | |
| heures | |
| jours | |
| Modèle | |
|---|---|
| poids nécessaires | |
| fermé (API) possible | |
| Données à fournir | |
|---|---|
| — | aucune donnée |
| texte brut, documents | |
| exemples annotés | |
| préférences A > B | |
| réponses vérifiables | |
| Contre l'oubli | |
| remélanger du général | |
Calcul et temps : ordre de grandeur pour un modèle de 7 à 8 milliards de paramètres, sur un cas d'usage réel.
Ces méthodes interviennent directement sur un modèle existant, de façon ciblée, sans long entraînement : quelques minutes de calcul, peu ou pas de données. Chacune répond à un besoin précis ; le choix se fait sur ce qu'il faut changer.
Réunir plusieurs modèles : fusion
Plusieurs versions affinées du même modèle de base (une pour le code, une pour le support, une pour le juridique) et un seul modèle à servir. La fusion combine leurs poids en quelques minutes sur CPU, sans données. Elle sert aussi à récupérer des capacités générales perdues pendant un fine-tuning, en refusionnant avec le modèle d'origine. Une fusion peut dégrader une compétence sans prévenir : il faut toujours mesurer le résultat.
Corriger quelques faits : édition de connaissances
Un fait faux ou périmé (« le PDG de l'entreprise est X »). L'édition de connaissances repère la couche où il est stocké et la modifie, sans toucher au reste. La correction reste locale : le modèle ne l'utilise pas toujours dans un raisonnement en plusieurs étapes. Pour des faits nombreux ou qui changent souvent, mieux vaut les faire consulter par RAG.
Faire oublier un contenu : désapprentissage
Une donnée personnelle à retirer, un contenu sous licence, une connaissance dangereuse. Le désapprentissage pousse le modèle à ne plus produire ce contenu tout en gardant le reste. Il n'offre aucune garantie formelle : l'information peut revenir par extraction ou par un léger fine-tuning. Si l'objectif est seulement de ne pas dire quelque chose, un filtre en sortie peut suffire.
Orienter un trait : pilotage par activations
Le modèle fait ce qu'on attend, mais on veut le rendre plus formel, plus positif, plus concis. Le pilotage par activations calcule une direction à partir de quelques paires de phrases et l'ajoute pendant la génération, avec une intensité réglable. Il réoriente ce que le modèle sait déjà, sans rien lui apprendre. Si l'effet est instable, on inscrit le trait dans les poids par DPO, avec les mêmes paires.
Comparer les méthodes
| Méthode | Calcul | Temps | Données à fournir | Remélanger du général | Exemples de code |
|---|---|---|---|---|---|
| EDIT08 · Fusion de modèles | CPU ou API | minutes | — aucune donnée | — | démontré |
| EDIT09 · Édition de connaissances | 1 GPU (inférence) | minutes | exemples annotés | — | démontré |
| EDIT10 · Désapprentissage | 1 GPU (entraînement) | minutes | texte brut, documents | oui | démontré |
| EDIT11 · Pilotage par activations | 1 GPU (inférence) | minutes | préférences A > B | — | démontré |
Calcul et temps : ordre de grandeur pour un modèle de 7 à 8 milliards de paramètres, sur un cas d'usage réel. Statuts des exemples : Statut des exemples.