Дообучение, промпты или RAG: что выбрать и что такое LoRA?
Суть
Есть три способа настроить модель под задачу: промпт (объяснить словами и показать примеры), RAG (подставить нужные знания в запрос) и дообучение (fine-tuning — изменить веса модели на ваших данных). Порядок выбора почти всегда такой: сначала промпт, потом RAG, и только если этого не хватает — дообучение. Короткое правило: RAG добавляет знания, fine-tuning меняет поведение.
Продолжение ответа с кодом и уточняющими вопросами интервьюера — в приложении DevPrep.
Полный ответ — в DevPrep