Компания Microchip Technology сообщила о разработке технологии ZeroQ, призванной повысить эффективность использования NVMe SSD в крупномасштабных ИИ-системах. Утверждается, что ZeroQ создаёт «зелёную супермагистраль», позволяя тысячам ИИ-ядер напрямую получать доступ к твердотельным накопителям с интерфейсом PCIe.
В традиционных архитектурах для связи CPU с NVMe SSD используется механизм пар очередей: для каждого ядра на стороне хоста формируются очереди отправки (Submission Queues, SQ) и завершения (Completion Queues, CQ). В SQ помещаются новые запросы на выполнение операций, тогда как в CQ записываются готовые результаты. Такой подход исключает лишние системные вызовы и копирование содержимого памяти.
Источник изображений: Microchip
Описанный механизм эффективно работает в обычных CPU-средах, но в случае тысяч ИИ-ядер возникают проблемы, связанные с задержками, сохранением корректного порядка команд и пропускной способностью. В результате, повышается энергопотребление и ухудшается производительность. Кроме того, требуется применение дорогостоящих NVMe ASIC, отвечающих за логику работы. Microchip отмечает, что по мере масштабирования систем ИИ решение этих проблем становится всё более сложным.
