Добавлена поддержка Ежчана (ejchan.net, ejchan.site). Набегаем, тестируем архивацию, сообщаем о замеченных проблемах.
К сожалению, значительная часть сохранённых до 2024 г. изображений и видео была потеряна (подробности случившегося). Мы призываем всех неравнодушных помочь нам с восстановлением утраченного контента!

DeepSeek может обрушить спрос на дорогую HBM-память — это плохая новость для Samsung и SK hynix

 Аноним  OP 13/09/26 Вск 23:34:39 #1 №63472415 
IMG4640.png
IMG4641.png
https://club.dns-shop.ru/digest/183523-deepseek-mojet-obrushit-spros-na-doroguu-hbm-pamyat-eto-plohaya/
Акции Samsung Electronics и SK Hynix накануне снизились на 3,5 и 2,2 % соответственно после сообщений о том, что новые модели DeepSeek используют меньше высокоскоростной памяти HBM.
Инвесторы опасаются, что повышение эффективности ИИ снизит спрос на дорогостоящую память. Оптимизация DeepSeek связана с KV-кэшем — областью памяти, где при работе с длинным контекстом хранятся данные механизма внимания. Архитектура Multi-Head Latent Attention (MLA) сжимает эти данные и снижает нагрузку на память. Другой подход, Engram, переносит часть условной памяти за пределы ускорителя.
Впрочем, эксперты заявляют, что память по-прежнему требуется для ИИ-моделей, активаций, вычислений и обмена данными между ускорителями. Более того, рост эффективности ИИ способен привести и к обратному эффекту. Снижение стоимости одного запроса может стимулировать компании запускать больше запросов и использовать более длинные контексты.
Поэтому реакция рынка отражает опасения инвесторов, но не доказывает устойчивого падения мирового спроса на HBM. Главный вопрос теперь — сможет ли рост эффективности DeepSeek уменьшить потребность в памяти. Или же, наоборот, ускорит масштабирование ИИ.
Аноним ID: Умный Ежик в тумане  13/09/26 Вск 23:39:29 #2 №63472427 
ОП, а тебе что с того? Твоему компьютеру не хватаег памяти?
sageАноним ID: Heaven 13/09/26 Вск 23:49:25 #3 №63472459 
>>63472415 (OP)
Дегенерат, у тебя компа нету сука, ты с телефона капчуешь, уебок
Аноним ID: Злобный Гладиатор  13/09/26 Вск 23:52:52 #4 №63472469 
>>63472427
16Gb RAM стоит почти столько же, сколько мой новый компьютер весь. Это абсурд.

Трудно сказать является ли новость грязноштанной/прокитайской пропагандой, но Китай реально пиздец как хорошо себя показывает в области AI. Их режим - это тирания и не дай Бог жить в мире, где они станут гегемоном, но назвать их империей зла вообще не клеится с учётом вот этих вещей.

>>63472459
Насколько я понимаю, везде по сути аналогичная память. Устаревшие стандарты стоят дешевле, но вся современная память стоит совершенно абсурдно.
Аноним ID: Жадный Крейве-охотник  13/09/26 Вск 23:57:52 #5 №63472481 
>>63472427
Моему не хватает. Его вообще нет, только ноут. Хотел игровой ПуКа собрать, но жаба душит с нынешними ценами. Но похуй, всё равно пока ремонт идёт, некуда ставить. Но в случае удешевления закуплюсь памятью сразу даже с неоконченным ремонтом. Так заебало всё. Постоянно гоев ебут, искусственный дефицит создают, цены повышают, постоянно надо в окна успевать запрыгнуть от дефицита до дефицита. То майнинг, то хуяйнинг. XXI век, технологии, а производство нормально не могут якобы организовать.
Аноним ID: Воспитанный Орех Кракатук  14/09/26 Пнд 00:11:16 #6 №63472524 
>>63472415 (OP)

Недавно полудил, хотел что бы не ебаться через нейронку посмотреть счет на нишивые матчи, буквально низшие дивизионы.
Что Глубокая залупа, что Клоун не смогли найти результаты говоря что результатов нет или то что этого матча нет.
Заходишь в гугл, вбиваешь и буквально первые три ссылки - все есть.
Я правильно понимаю что вот это и есть нейронная сингулярность, замена кодерам и мегахакеры которые взламывают системы?
Эта хуйня буквально не смогла сделать то что сделал бы умственно отсталый дед, ну или ребенок в 4 года.
Аноним ID: Двуличный Дон Хуан  14/09/26 Пнд 00:28:15 #7 №63472566 
IMG1351.png
IMG1352.png
sageАноним ID: Heaven 14/09/26 Пнд 00:28:52 #8 №63472567 
>>63472524
Правильно тебя нейронка нахуй послала. Лудоблядь не человек.
Аноним ID: Опасная Клементина  14/09/26 Пнд 00:33:07 #9 №63472575 
>>63472459
>>63472427
ии лахта на подскоке
Аноним ID: Опасная Цири  14/09/26 Пнд 00:48:23 #10 №63472605 
image.png
>>63472415 (OP)
Подтверждаю.
Малёх сампадахуэл, когда всего на 24Гб VRAM на трех картах P104 запустил модель, которая до KV была 31b и раньше требовала минимум 48Гб, а лучше 64Гб VRAM если с картинками и видео.
И интеграция IDE заработала в AI-копилоте без костылей на моей сборке.
Короче нищим пекабоярам с лоупрайс выброшенным на помойку майнингговном вместо GPU дали вдохнуть что-то кроме пердежа на время.
Аноним ID: Вульгарная Курочка Ряба  14/09/26 Пнд 02:44:40 #11 №63472744 
>>63472415 (OP)
Тензорные ядра больше не спасают: почему ИИ-ускорители упрутся в память

Производители ИИ-ускорителей продолжают увеличивать количество тензорных ядер и осваивать всё более короткие форматы данных, включая FP8 и FP4. Производительность вроде как растет, причем впечатляющими темпами, но есть загвоздка. Вычислительные блоки нужно постоянно снабжать весами модели и промежуточными данными. Если память не успевает, дорогой чип с десятками миллиардов транзисторов натурально простаивает в ожидании очередной порции данных.
Samsung планирует решить проблему при помощи HBM 5: удвоить производительность относительно HBM 4E и на 20% повысить эффективность на ватт. Пропускная способность одного стека в перспективе может приблизиться к 4 ТБ/с благодаря 4096-битной шине. Давайте разбираться, что там и как.

https://habr.com/ru/companies/ru_mts/articles/1078518/
Аноним ID: Саркастичный Спанч Боб  14/09/26 Пнд 02:53:40 #12 №63472749 
>>63472469
чем плоха тирания над хуйней,можешь показать пример того как китай затиранил что-то хорошее?Там реально меритократия и она справляется с вызовами лучше чем если бы дать власть местному народу пидору,которые собак заживо в котлах варят
Аноним ID: Саркастичный Спанч Боб  14/09/26 Пнд 02:57:06 #13 №63472753 
>>63472567
удваиваю,то,к чему приводит лудомания можно на примере того ,что хуйло делает со страной наблюдать,ничего в этом хорошего нет
Аноним ID: Шкодливый Линфред Стинчкомбский  14/09/26 Пнд 05:05:41 #14 №63472866 
>>63472415 (OP)
А может не обрушить
comments powered by Disqus