AmeliorIA

tekio.org

EDIT : choisir entre les méthodes

Que faut-ilchanger ?Réunir desmodèles affinésEDIT08 · FusionCalcul : CPU ou API (ordre de grandeur pour un modèle de 7 à 8 milliards de paramètres, sur un cas d'usage réel)Temps : minutes (ordre de grandeur pour un modèle de 7 à 8 milliards de paramètres, sur un cas d'usage réel)poids nécessairesCorrigerquelques faitsEDIT09 · ÉditionCalcul : 1 GPU (inférence) (ordre de grandeur pour un modèle de 7 à 8 milliards de paramètres, sur un cas d'usage réel)Temps : minutes (ordre de grandeur pour un modèle de 7 à 8 milliards de paramètres, sur un cas d'usage réel)poids nécessairesexemples annotés faits nombreuxou changeantsEXEC18 · RAGCalcul : 1 GPU (inférence) (ordre de grandeur pour un modèle de 7 à 8 milliards de paramètres, sur un cas d'usage réel)Temps : minutes (ordre de grandeur pour un modèle de 7 à 8 milliards de paramètres, sur un cas d'usage réel)fermé (API) possibletexte brut, documents Faire oublierun contenuEDIT10 · DésapprentissageCalcul : 1 GPU (entraînement) (ordre de grandeur pour un modèle de 7 à 8 milliards de paramètres, sur un cas d'usage réel)Temps : minutes (ordre de grandeur pour un modèle de 7 à 8 milliards de paramètres, sur un cas d'usage réel)poids nécessairestexte brut, documents remélanger du général Orienter untrait (ton)EDIT11 · PilotageCalcul : 1 GPU (inférence) (ordre de grandeur pour un modèle de 7 à 8 milliards de paramètres, sur un cas d'usage réel)Temps : minutes (ordre de grandeur pour un modèle de 7 à 8 milliards de paramètres, sur un cas d'usage réel)poids nécessairespréférences A > B instableSIGN04 · DPOCalcul : 1 GPU (entraînement) (ordre de grandeur pour un modèle de 7 à 8 milliards de paramètres, sur un cas d'usage réel)Temps : heures (ordre de grandeur pour un modèle de 7 à 8 milliards de paramètres, sur un cas d'usage réel)poids nécessairespréférences A > B
Catégorie
DATA Apprendre à partir de données
SIGN Apprendre à partir d'un signal
EDIT Chirurgie du modèle
FORM Remodeler : étendre ou compresser
EXEC À l'exécution, sans toucher aux poids
Calcul
CPU ou API
1 GPU (inférence)
1 GPU (entraînement)
plusieurs GPU
Temps
minutes
heures
jours
Modèle
poids nécessaires
fermé (API) possible
Données à fournir
—aucune donnée
texte brut, documents
exemples annotés
préférences A > B
réponses vérifiables
Contre l'oubli
remélanger du général

Calcul et temps : ordre de grandeur pour un modèle de 7 à 8 milliards de paramètres, sur un cas d'usage réel.

Ces méthodes interviennent directement sur un modèle existant, de façon ciblée, sans long entraînement : quelques minutes de calcul, peu ou pas de données. Chacune répond à un besoin précis ; le choix se fait sur ce qu'il faut changer.

Réunir plusieurs modèles : fusion

Plusieurs versions affinées du même modèle de base (une pour le code, une pour le support, une pour le juridique) et un seul modèle à servir. La fusion combine leurs poids en quelques minutes sur CPU, sans données. Elle sert aussi à récupérer des capacités générales perdues pendant un fine-tuning, en refusionnant avec le modèle d'origine. Une fusion peut dégrader une compétence sans prévenir : il faut toujours mesurer le résultat.

Corriger quelques faits : édition de connaissances

Un fait faux ou périmé (« le PDG de l'entreprise est X »). L'édition de connaissances repère la couche où il est stocké et la modifie, sans toucher au reste. La correction reste locale : le modèle ne l'utilise pas toujours dans un raisonnement en plusieurs étapes. Pour des faits nombreux ou qui changent souvent, mieux vaut les faire consulter par RAG.

Faire oublier un contenu : désapprentissage

Une donnée personnelle à retirer, un contenu sous licence, une connaissance dangereuse. Le désapprentissage pousse le modèle à ne plus produire ce contenu tout en gardant le reste. Il n'offre aucune garantie formelle : l'information peut revenir par extraction ou par un léger fine-tuning. Si l'objectif est seulement de ne pas dire quelque chose, un filtre en sortie peut suffire.

Orienter un trait : pilotage par activations

Le modèle fait ce qu'on attend, mais on veut le rendre plus formel, plus positif, plus concis. Le pilotage par activations calcule une direction à partir de quelques paires de phrases et l'ajoute pendant la génération, avec une intensité réglable. Il réoriente ce que le modèle sait déjà, sans rien lui apprendre. Si l'effet est instable, on inscrit le trait dans les poids par DPO, avec les mêmes paires.

Comparer les méthodes

Méthode Calcul Temps Données à fournir Remélanger du général Exemples de code
EDIT08 · Fusion de modèles CPU ou API minutes — aucune donnée — démontré
EDIT09 · Édition de connaissances 1 GPU (inférence) minutes exemples annotés — démontré
EDIT10 · Désapprentissage 1 GPU (entraînement) minutes texte brut, documents oui démontré
EDIT11 · Pilotage par activations 1 GPU (inférence) minutes préférences A > B — démontré

Calcul et temps : ordre de grandeur pour un modèle de 7 à 8 milliards de paramètres, sur un cas d'usage réel. Statuts des exemples : Statut des exemples.