От неопределенности к действию: обучение в качестве управляющих агентов LLM

arXiv: 2610,09115v1 Annuales Type: новый резюме: управление агентами LLM означает решение о том, следует ли его исправить, на каком этапе и с каким механизмом. Часто для принятия решения о том, когда исправить агента, используется неопределенность, однако остается неясным вопрос о том. Мы управляем агентом траектории отдельно на каждом неконтинентальном шагу с каждым из четырех механизмов и работаем над каждым продолжением до конца. В итоговой таблице поэтапных результатов (СЭП) содержится около 82 000 контрфактических данных о сохранении 1864 траекторий, полученных от трех контрольных показателей и двух агентов. Это показывает, что неопределенность может выявить неисправные траектории, но ни один сигнал не позволяет надежно определить шаги, на которых помогает рулевое управление. Поэтому мы предлагаем VOS (Value of Firement) - оффлайновый или онлайн-монитор, который извлекает уроки от SOT в отношении значения рулевого управления на каждом шагу и решает, куда ему управлять. Спусковой механизм, предусмотренный в бюджете на вред, решает, следует ли управлять, ограничивая долю успешных траекторий, которые беспокоят VOS. VOS i