Компьютерная наука > Распределённые, Параллельные и Кластерные Вычисления [представлен 8 мая 2026 (v1), последнее пересмотренное резюме: Выбор оптимальной конфигурации LLM-PHD Phoulding требует оценки по аппаратуре, сервисным двигателям, хронометрам внимания и архитектуре моделей, поскольку ни один из вариантов не позволяет лучше всего справляться со всем объемом работы. Симуляторы на основе профиля являются стандартным инструментом, однако они жестко кодируют свою работу в конкретной конфигурации и перепроверяют каждую операцию с нуля, что делает разведку непомерно дорогостоящей. Эти расходы обусловлены отсутствием понимания структуры: каждый аспект вводимой информации в каждой операции устанавливается конфигурацией модели или определяется исходящим запросом. Многие значения, связанные с перегруппировкой моделей (например, размер головы, количество слоев), повторяются в различных моделях, поэтому одна и та же операция осуществляется во многих конфигурациях; одноразовая проверка параметров, зависящих от запроса, может служить их всем. Мы представляем Дули, которая использует эту структуру для построения агностического и созвучного конфигурации профилирования. Dooly делает один пропуск, обозначает каждое входное измерение с его происхождением посредством распространения тайна и выборочно профилей только операции, отсутствующие в базе данных о запоздалости; такие состоятельные операции как внимание изолированы путем повторного использования собственного кода инициализации…
Dooly: Структура - Agnostic, редактирование на основе программы LLM
arXiv: 2605.07985v3 Annuate Type: заменить кросс-бюллетень: выбор оптимальной конфигурации LLM предполагает оценку по всему аппаратуру, сервисным двигателям, стопам внимания и архитектуре моделей, так как ни один из вариантов не выполняет наилучших функций в рамках всей рабочей нагрузки. Симуляторы на основе профиля являются стандартным инструментом, однако они жестко кодируют свою работу в конкретной конфигурации и перепроверяют каждую операцию с нуля, что делает разведку непомерно дорогостоящей. Эти расходы обусловлены отсутствием понимания структуры: каждый аспект вводимой информации в каждой операции устанавливается конфигурацией модели или определяется исходящим запросом. Многие значения, связанные с перегруппировкой моделей (например, размер головы, количество слоев), повторяются в различных моделях, поэтому одна и та же операция осуществляется во многих конфигурациях; одноразовая проверка параметров, зависящих от запроса, может служить их всем. Мы представляем Дули, которая использует эту структуру для построения агностического и созвучного конфигурации профилирования. Дули делает один шаг,