Минионы: Динамический и дистрибутивный виртуальный GPU Cloud Built на устройствах с кремниевыми приливами для холостого хода

arXiv: 2610.10.12970v1 Annualte Type: cross Brieft: Увеличение спроса на ускоренное машинное обучение выявило ограничения в централизованной инфраструктуре ГПС, включая высокую стоимость, ограниченную эластичность и продолжительные сроки ожидания из-за ограниченности ресурсов. В то же время современные устройства на основе Apple Silicon оснащены мощными GPU, которые остаются в основном пустыми при нормальном использовании. В настоящем документе представлены Minions, динамическое и распределенное виртуальное облако GPU, которое агрегирует холостые силиконовые ГПС по устройствам acOS для выполнения крупномасштабных машинных выводов. Миньоны позволяют командам использовать имеющиеся аппаратные средства, не требуя дополнительных закупок ГПС. Эта система обеспечивает гибкое выполнение задач ГПС, допуск к неисправностям и эффективное использование ресурсов. Наш опыт показывает, что в условиях ограничения централизованных ресурсов GPU можно преобразовать устройства для запуска никеля на холостом ходу в практическую распределенную платформу для вывода ГПС.