Добавлена поддержка Ежчана (
ejchan.net,
ejchan.site). Набегаем, тестируем архивацию,
сообщаем о замеченных проблемах.
К сожалению, значительная часть сохранённых до 2024 г. изображений и видео была потеряна (
подробности случившегося). Мы призываем всех неравнодушных
помочь нам с восстановлением утраченного контента!
Акции Samsung Electronics и SK Hynix накануне снизились на 3,5 и 2,2 % соответственно после сообщений о том, что новые модели DeepSeek используют меньше высокоскоростной памяти HBM.
Инвесторы опасаются, что повышение эффективности ИИ снизит спрос на дорогостоящую память. Оптимизация DeepSeek связана с KV-кэшем — областью памяти, где при работе с длинным контекстом хранятся данные механизма внимания. Архитектура Multi-Head Latent Attention (MLA) сжимает эти данные и снижает нагрузку на память. Другой подход, Engram, переносит часть условной памяти за пределы ускорителя.
Впрочем, эксперты заявляют, что память по-прежнему требуется для ИИ-моделей, активаций, вычислений и обмена данными между ускорителями. Более того, рост эффективности ИИ способен привести и к обратному эффекту. Снижение стоимости одного запроса может стимулировать компании запускать больше запросов и использовать более длинные контексты.
Поэтому реакция рынка отражает опасения инвесторов, но не доказывает устойчивого падения мирового спроса на HBM. Главный вопрос теперь — сможет ли рост эффективности DeepSeek уменьшить потребность в памяти. Или же, наоборот, ускорит масштабирование ИИ.