Промпт, RAG или дообучение: что реально выучит вашу LLM

#Промпт #Локальная #QLoRA #Читать
Промпт, RAG или дообучение: что реально выучит вашу LLM

Локальная модель может уверенно отвечать на общие вопросы и так же уверенно ошибаться в вашем домене. В статье сравнили на одной задаче промпт с контекстом, RAG и дообучение методом QLoRA, замерили результат на 30 вопросах и разобрали, где каждый подход действительно полезен, а где создаёт новый класс проблем. Читать далее

Всем привет, меня зовут Сергей Прощаев, и в этой статье расскажу про эксперимент, который я давно хотел провести честно, а не на слайдах.

Ситуация, думаю, знакома многим: вы подняли локальную модель для внутренних задач — и первый же вопрос про ваш домен она уверенно завалила. У нас она придумала несуществующий код ответа эквайера, сослалась на регламент, которого никогда не было, и сделала это настолько убедительно, что джун из соседней команды чуть не понёс её ответ в тикет. Базовая модель не знает вашего домена — и знать не может. Вопрос в другом: как именно её этому научить и какой ценой.

Работаю Tech Lead и руководителем направления Java | Kotlin разработки в FinTech & E‑commerce и преподаю на курсах разработки и архитектуры в OTUS.

Способов по сути три: промпт с контекстом, RAG и дообучение. Вокруг каждого — свой лагерь евангелистов, и споры между ними в 2026 году напоминают мне старые холивары про монолит и микросервисы. Поэтому я взял одну задачу, одну видеокарту и один вечер (ладно, два) и прогнал все три подхода на одних и тех же вопросах. Ниже — что получилось, с цифрами, граблями и выводами, которые местами меня самого удивили.

Похожие статьи

URA.RU
URA.RU

За остановками в Сургуте присмотрит искусственный интеллект

За остановками в Сургуте присмотрит искусственный интеллект Нейросети будут автоматически фиксировать нарушения: лежащих людей, бродячих животных, разбитые стекла и переполненные урны. До конца года к...

URA.RU
РБК
РБК

Reuters узнал о поручении Брина ускорить развитие нейросети Gemini

На фоне отставания Gemini от конкурентов Брин призвал сотрудников Google DeepMind ускорить развитие модели и перераспределить ресурсы на ключевые направления, включая рекурсивное обучение

РБК
ТАСС
ТАСС

Злоумышленники используют инструментарий для кибершпионажа за российскими организациями под видом благотворительного фонда, сообщили ТАСС в "Лаборатории Касперского".

Злоумышленники используют инструментарий для кибершпионажа за российскими организациями под видом благотворительного фонда, сообщили ТАСС в "Лаборатории Касперского". Приманкой стало приложение-дроппе...

ТАСС
Роскошная яхта за €8 млн пошла ко дну у берегов Сардинии Life.ru
Life.ru

Роскошная яхта за €8 млн пошла ко дну у берегов Сардинии

30-метровая яхта Angiola II затонула у побережья Сардинии в районе Порто-Черво. Судно оказалось на морском дне после неисправности двигателя, которая привела к возникновению пожара и поступлению воды ...

Life.ru
В Германии потребовали привлечь M**a к уголовной ответственности из-за скрытой съёмки в умных очках 3DNews
3DNews

В Германии потребовали привлечь M**a к уголовной ответственности из-за скрытой съёмки в умных очках

Немецкая правозащитная организация HateAid подала против M**a исковое заявление с требованием возбудить уголовное дело из-за умных очков со встроенными камерами. Организация считает, что устройство по...

3DNews
Девушка проанализировала свою сексуальную жизнь и нашла причину всех несчастий Lenta.ru
Lenta.ru

Девушка проанализировала свою сексуальную жизнь и нашла причину всех несчастий

Пользовательница Reddit с ником Vissy1111 поделилась размышлениями на тему низкого либидо у многих женщин. В этом, по ее мнению, виноваты не умеющие за собой следить мужчины

Lenta.ru