Дообучение небольшой Gemma на MacBook снизило результат теста: опыт с LoRA
Разработчик локального помощника Lumi проверил, насколько несколько сотен обучающих примеров улучшат маленькую языковую модель. После первой настройки LoRA качество на независимом наборе вопросов упало, а более осторожная вторая попытка вернула исходный результат без заметного прироста.
Подробнее →