Спасение еще 100-ти труб РАМ

Спасение еще 100-ти штук РАМ с математикой (и Растом) Клаудфлэр работает по такому масштабу, что даже после работы здесь годами это не кажется реальным. У нас есть тысячи серверов по всему миру с петабайтами РАМ и миллионами ядер процессора, и все это толкается к максимуму. Как бы огромные ресурсы ни чувствовали, они все еще ограничены. И когда вам нужно каждый узел для работы, это не оставляет места для пустого пространства. В таких масштабах значительно увеличены небольшие улучшения, поэтому даже 1% времён следует отметить. И некоторые изменения складываются в гораздо большее: в этом посте мы посмотрим, как небольшие изменения одного алгоритма значительно уменьшили след памяти одной из наших услуг на основе Pingora. Это позволило нам вернуть более 100-ти тБ РАМ во всем мире, в дополнение к 100ТБ памяти, которые команда ДНС смогла пролить в прошлом месяце. Не поддерживать справедливое распределение ресурсов между группами нелегко, особенно в крупных организациях. Один из способов обеспечения баланса — это неустанные усилия команды замечательных результатов. Эта история начинается с билета Ивана, который нашел: Чрезмерное использование памяти из пингора-кетамы в Pingora Backend Rounder. Был сделан вывод о том, что наша внутренняя служба балансирования нагрузки - " Pingora Backend Rounder > (да, PRR) использовала гораздо больше памяти, чем ожидалось, особенно в структурах, связанных с пингора-кетамой, которая является нашей открытой библиотекой для обработки…