В этой статье обсуждаются методы для улучшения производительности больших языковых моделей (LLM) путем донастройки их с использованием тщательно подобранных наборов данных. Вместо изменения архитектуры модели или алгоритмов обучения, акцент сделан на изменении наборов данных, используемых для донастройки на основе инструкций. В статье также дается информация о том, как подготовить личные наборы данных для донастройки открытых LLM.
Выделенные стратегии включают донастройку по инструкциям с учителем, использование наборов данных, созданных людьми и сгенерированных LLM, а также применение этих методов в контексте NeurIPS LLM Efficiency Challenge. В статье также предлагаются потенциальные новые эксперименты и обсуждается важность высококачественных наборов данных, созданных людьми.