В начале этого месяца был представлен стандарт памяти HBF, в разработке которого принимали непосредственное участие SK hynix и Sandisk, а вторая из них уже сообщила о наличии у неё готовых цифровых проектов, которые позволят приступить к производству соответствующих чипов в обозримом будущем. По имеющимся данным, первые образцы HBF в физическом воплощении Sandisk предложит в следующем году, а массовое производство будет развёрнуто в 2028 году.
Источник изображения: Sandisk
В этом представители Sandisk признались на мероприятии для инвесторов, которое состоялось вчера. По итогам их выступления стало понятно, что память типа HBF способна обеспечить скорость передачи информации на операциях чтения, характерную для HBM, но при этом увеличить ёмкость в шесть или восемь раз. Добавление HBF в вычислительную конфигурацию с GPU позволяет вырабатывать такое же количество токенов при вдвое меньшем количестве самих GPU по сравнению с классической компоновкой, использующей только память типа HBM. При функционировании больших языковых моделей комбинации из четырёх GPU с памятью HBF достаточно для обеспечения аналогичной производительности, исторически достигаемой восемью GPU с памятью HBM.
Технически, это позволяет надеяться на сокращение дефицита как HBM, так и GPU, а также на снижение затрат на создание вычислительной инфраструктуры ИИ. Впрочем, аппетиты разработчиков в этой сфере растут гораздо быстрее, чем появляются более эффективные технологии осуществления расчётов. HBF обходится…
