Ну да ну да, верим же, мужики? Не может же быть так, что кабан кабаныч понял, что быдло не хочет покупать оперативку в 4 цены. Не может же?
че там, ценнники уже попадали?
>Технология сжатия TurboQuan обрушила акции производителей DRAM
Технология сжатия TurboSvin
обрушила акции и цены проводников к Тисе.
Мужчин, депортированных из США, сразу же отправили в ТЦК и на фронт, — CNN
В ноябре ICE депортировала из США 50 украинцев (45 мужчин и 5 женщин). Из 45 мужчин 24 были объявлены в розыск и сразу переданы полиции для доставки в ТЦК.
В ноябре ICE депортировала из США 50 украинцев (45 мужчин и 5 женщин). Из 45 мужчин 24 были объявлены в розыск и сразу переданы полиции для доставки в ТЦК.
Сынок, америка всегда предаст.
>америка всегда предаст
Хохол всегла педераст.
Технология сжатия должна называться TurboShakal.
Так Гугл же сам закупает оперативку, уменьшили в том числе и свои затраты. А вот производители теперь наверное в суд подадут за недополученную прибыль
Скорее железо уже не растёт. Закон Мура умер. Приходится заниматься оптимизацией.
Ни хрена в этом не понимаю, но как-то не совсем четко проговорено самое главное, - сколько теперь нужно будет памяти для ЛЛМок по сравнению с ранее требовавшийся?
С чем сравнивали? Сейчас, тоже, всякие ГГУФы могут требовать в разы меньше оригинального формата. Что они брали за образец? Там ведь какие-то BF16 и еще разные могут быть в качестве оригинала.
Простым языком кто-то может пояснить? На сколько примерно реальный выигрыш?
Хуйня. На дваче анон изобретал бесконечное сжатие.
Помню этого шиза. Ну там суть сводилась к тому что нужно хранить огромные словари (вавилонская библиотека) и вместо самих данных передавать ссылки на данные в словарях. Для юзеров не особо, а вот для передачи данных между дц которые могут зранить сотни терабайт словарей вполне себе
Это для увеличения размера контекста. Если модель или квантизация не влезали в твою карточку, они так и не будут влезать.
Так вроде ж в какой то универ для тестов отправлял он?Идея так то приставив палец к носу нормально вроде выглядела.
Спасибо. Вот теперь понятно о чем речь.
Для обычных консьюмеров изменится нихуя. Если у тебч большой ии датацентр - сможешь экономить прилично шекелей
Понял.
А я уже размечтался, что даже на мобилках можно будет запускать нечто сейчас в них никак не влезающее.
>Технология обрушила
Гугл и без всяких технологий может обрушивать эти акции манипулируя акциями. Скорее всего так и было сделано, чтобы придать вес своей технологии в глазах быдла, мол, смотрите, аж акции обрушились. Они пизданулись, глядите!
Значит ли это, что оперативку теперь можно будет купить не за 90к рублей за 64 гига, а за 30к рублей?
Старое название Тисы - Стикс.
Охуенный график - от 48 до 50, лол
За 85к
С чего бы? Производство не резиновое, просто придется компенсировать проседание продаж для датацентров, повышением ценника для розницы.
Столько же и больше. Планка AGI еще не достигнута. Туда рвутся все от Маска до скромняшки Хуанга.
Да
Но кванта пока ни у кого нет
Только интел сраный
Но кванта пока ни у кого нет
Только интел сраный
Молодой человек это не для вас снижение
Судя по его словам 1ТБ словаря хватит буквально на все.
DOOM3 на максималках запустится?
Ващет 36гб весит весь словарь.
>бесконечное сжатие
>сводилась к тому что нужно хранить огромные словари
>Идея так то приставив палец к носу нормально вроде выглядела
>1ТБ словаря хватит буквально на все
Сука с кем я сижу!?
Да похуй какой у вас словарь, если у тебя данные абсолютно рандомные, то указатели на значения в словаре будут в сумме весить как минимум столько же сколько и сами значения. Я даже в универе эту хуйню не проходил, чисто на досуге изучил матчасть.
Вбейте в свою башку: данные со 100% энтропией не сжать не на бит!
А сжатие до ~100% энтропии могут производить и обычные архиваторы.
1
Если pk4 в base распаковать.
Тестирование технологии на открытых языковых моделях Gemma, Mistral и Llama-3.1-8B-Instruct показало впечатляющие результаты. В бенчмарках LongBench, Needle In A Haystack, ZeroSCROLLS, RULER и L-Eval алгоритм TurboQuant добился сокращения размера памяти в 6 раз без потери точности. На серверных графических ускорителях H100 зафиксирован 8-кратный прирост производительности вычислений по сравнению с использованием неквантованных ключей.
Финансовые рынки отреагировали на программный анонс резким падением котировок крупных производителей компьютерной памяти. По данным портала Investing.com, на фоне роста индекса Nasdaq 100 акции SanDisk Corporation упали на 5,7%, а бумаги Western Digital просели на 4,7%. Активы компаний Micron Technology и Seagate Technology также снизились на 3% и 4% соответственно из-за опасений инвесторов о грядущем падении спроса на оборудование.
https://gamegpu.com/news/zhelezo/tekhnologiya-szhatiya-turboquan-obrushila-aktsii-proizvoditelej-dram