Реклама

Few-shot: пристрелочная для ИИ-агента

#Few-shot #ИИ-агента #Модель #Провёл #Haiku
Few-shot: пристрелочная для ИИ-агента

Я использую GLM как «молотилку»: отдаю ей большой объём реализации. Модель хорошая, “рабочая лошадка”, но иногда тупит. Я решил проверить, помогут ли ему несколько готовых примеров поверх уже существующих контрактов и автоматических проверок. И получится ли внедрить эту семантику в протоколы. Провёл два небольших эксперимента: сначала на локальных моделях, затем на GLM и Haiku. Академической строгости здесь нет, но практический сигнал получился достаточно заметным, чтобы продолжить тесты на рабочих проектах. Читать далее

Я регулярно использую GLM как рабочую модель — «молотилку», которой можно отдавать большой объём реализации. Смысл понятен: не каждая задача требует самой дорогой frontier-модели. Если архитектура определена, требования собраны, а результат можно проверить, основную работу должна выполнять более дешёвая модель.

Для этого мы уже используем GRACE. Методология хранит не просто документацию, а модель проекта: требования и ограничения, граф модулей и потоков данных, активные изменения, утверждения и верификацию. В коде остаются семантические контракты с назначением модуля, областью ответственности, входами, выходами, зависимостями и связями с требованиями.

Это действительно помогает агентам ориентироваться в проекте. Но периодически возникает другая проблема: модель понимает, что требуется сделать, и всё равно полдня ходит кругами вокруг реализации. Повторяет один тип ошибки, переписывает рабочие части, меняет формат ответа, чинит компиляцию и снова ломает контракт.

Дешёвая модель, которая несколько часов не может дойти до проходящего результата, уже не такая дешёвая. Она расходует токены, контекст, машинное время и, главное — человеческое внимание.