Adaptation par modèle auxiliaire

Définition

Technique d'adaptation ou d'affinage des résultats d'un grand modèle préentraîné en utilisant un modèle auxiliaire de petite taille.

Techniquement, ce modèle auxiliaire prend la forme une matrice de rang inférieur.

Cette technique peut s'appliquer à la fois aux grands modèles de langues et aux grands modèles en vision artificielle.

Compléments

L'idée est celle de l'apprentissage par transfert, c’est-à-dire qu'une fois que vous avez appris la tâche générale avec un préentraînement, on peut faire l'affinage avec beaucoup moins de données.

Dans ce processus de affinage, un modèle de petite taille (matrice de rang inférieur) est entraîné avec des données spécifiques à l’application alors que le grand modèle associé demeure inchangé. Ce petit modèle auxiliaire aura une influence sur les performances du grand modèle.

Note: Comme dans le cas de « blockchain », maladroitement traduit par « chaîne de blocs », nous avons créé le terme anglais « low-rank adaptation » à partir d'un détail d'implémentation informatique. Nous pensons que le concept de modèle auxiliaire est plus compréhensible et d'emploi plus général.

Voir aussi: Génération augmentée d'information(s) applicative(s) (GAIA)

Français

adaptation par modèle auxiliaire

APMA

affinage par modèle auxiliaire

APMA

adaptation par matrice de rang inférieur

APMRI

peaufinage par modèle auxiliaire

PPMA

adaptation de rangs faibles

LoRA

Anglais

low-rank adaptation

The idea is that of transfer learning, i.e. once you've learned the general task with pre-training, fine-tuning can be done with much less data. In this fine-tuning process, a small model (low-rank matrix) is trained with application-specific data, while the associated large model remains unchanged. This small auxiliary model will influence the performance of the large model. See also: retrieval augmented generation

Español

adaptación de bajo rango

La idea es la del aprendizaje por transferencia, es decir, una vez aprendida la tarea general con el preentrenamiento, el ajuste fino puede hacerse con muchos menos datos. En este proceso de ajuste fino, un modelo pequeño (matriz de bajo rango) se entrena con datos específicos de la aplicación, mientras que el modelo grande asociado permanece inalterado. Este pequeño modelo auxiliar influirá en el rendimiento del modelo grande.

Véase también: generación de información contextual aumentada.

Sources

Source : ML6

Source : TechTalks

Source : huggingface