С самого начала Азуре Майя строилась вокруг единой архитектурной философии: оптимизация всей системы для вывода LLM, чтобы каждый ватт и каждый доллар приносил больше интеллекта. Теперь в третьем поколении Майя 300 является самым полным выражением этой философии. Майя 300 построена как полная система, при этом программное обеспечение, кремний, физическая инфраструктура стеллажей, сети и центриры данных совместно разработаны в качестве единой платформы для удовлетворения потребностей, связанных с агентическим выводом в масштабах облаков. Такой системный подход становится все более необходимым, поскольку агентская рабочая нагрузка, включая многоэтапное выполнение, длительное декодирование текста и использование инструментов, изменяет вычислительный профиль и арифметическую интенсивность выводов. Для удовлетворения этих потребностей необходимо поддерживать местность, снабжать вычисления достаточной пропускной способностью и широте памяти, сводить к минимуму движение данных, эффективно расширять связь и устанавливать наибольшую мощность в рамках постоянного центра данных по мощности и холодильному конверту. В Microsoft мы видим эту трансформацию из первых рук через продукты и платформы, которыми пользуются наши клиенты каждый день: от Miccos Copilot и GitHub Copilt до Maximous Foundary. Использование этих объемов работы в масштабах дает нам уникальный взгляд на то, как ИИ внедряется во всех отраслях промышленности и какую инфраструктуру требуется для поддержки следующего…
Глубоко проникнуть в архитектуру Асуре Майя 300
Статья URL: https://azure.microsoft.com/en-us/blog/deep-dive-intto-azoure-maia-300-architecture/Commissions: httpss://news.ycombinator.com. partment?id=50057185.