Cet article présente des méthodes pour améliorer les performances des grands modèles de langage (GML) en les affinant à l'aide d'ensembles de données soigneusement sélectionnés. Au lieu de modifier l'architecture du modèle ou les algorithmes d'entraînement, l'accent est mis sur la modification des ensembles de données utilisés pour le finetuning basé sur les instructions. L'article fournit également des informations sur la préparation des ensembles de données personnels pour le finetuning des GML open-source.
Les stratégies mises en avant comprennent le finetuning par instruction supervisée, l'utilisation d'ensembles de données créés par des humains et générés par des GML, ainsi que l'application de ces techniques dans le contexte du défi d'efficacité des GML de NeurIPS. L'article suggère également de nouvelles expériences potentielles et aborde l'importance des ensembles de données de haute qualité générés par des humains.