В начале сентября Сбер неожиданно выложил открытые веса своей модели GigaChat 3.5 432B. Таким образом, любая компания в России может развернуть эту модель на своем сервере(при наличии мощного железа). И казалось бы, это может в корне переломить ситуацию с суверенными моделями в России, так как эта модель думающая. И у меня возник вопрос: а возможно ли использовать эту модель для создания ИИ‑агентов?
Приготовьтесь, в статье будет много скриншотов по нашим результатам на боевом сервере.
Сначала я попробовал в кодинге: я подключил её в VSCode и попросил взять наш текущий проект и сделать архитектурное подробное описание. Увы, модель напридумывала фреймворки и стеки, которые у меня не используются. Далее я попросил написать код. Но через некоторое время я решил вернутся к задаче описание но уже с температурой ответа 0.1. К сожалению, вылетела ошибка о том что у меня закончились деньги на балансе. Как‑то быстро улетели 180 рублей, хотя почти ничего не делал. Я закинул деньги, но ошибка не ушла, видимо нужно выждать некоторое время. В общем, бросил на в тот день это занятие.
Спустя время прочитал статью, как разработчики 1С попробовали эту модель как агента и получили нулевой результат из 5 попыток! И эта статья очень сильно откликнулась в моем опыте — попытке использовать эту модель для кодинга.
