Использование МЛМ в качестве агентов: сколько это стоит?
arXiv: 2610,02488v 1 Annualection Type: New Express: Language-Model Agents все чаще полагаются на привязки, которые регулируют ограниченный контекст, постоянную память, инструменты, проверку и повторное исполнение, однако существующие понятия потенциала модели не дают количественной оценки вычислительных ресурсов, потребляемых этими механизмами. Мы введём Language Model агент Машину (LAM), ресурсно привязанную абстракцию, которая восстанавливает лежащую в основе семантическую модель и при этом открыто заряжает ресурсы на уровне использования. Мы установим четыре класса результатов. Связь: исполнение LAM в качестве примера эквивалентно красному - синему прослушиванию при одновременном вызове - бюджетам передачи, перенос классических значений I/O на контекстный трафик. Доступ: интерфейсы памяти вызывают асимптотическое разделение, включая разрыв в размере $_Teta(n) долларов между случайным и неспекулятивным последовательным доступом при погоне за указателем. Рекомпьютерная оценка: для разрозненных ПАУ требуется модель в размере $ тета(n__2/(C+S) + n) долл. США с учетом контекстной пропускной способности и стойкой мемориальной мощности $S