То есть можно будет генерить еще более качественных лоли-лисичек с хуями?! И супер быстро? И много?! Охуенно!!!!
>далее чип можно уменьшить в 50 раз и масштабировать до бессконечности
Ого
Ого
Ладно, а эта хуйня хоть ЖТА 6 потянет на минималках?
опять хуйня протекла из своего загона, пошёл нахуй
А Скайрим?! Скайрим потянет? Я только в него играю.
А бототреды как были однотипные так и будут, этот тред тому подтверждение. Так что да, иди нахуй
Лень читать статью. Напиши коротко и по делу: что это даст обычному ивану город тверь\джону штат массачусетс
Далее согласно словам стартапа, на смартфонах и пеках можно будет запускать мгновенно и локально и генеровать до 1 млн токенов в сек. с контекстом в 1 млн токенов ( или запускать в эмуляторе 80 киберпанков на смарта ) ведь пиковая производителность для бинарного кода не заявлена.
поскок текущая версия чипа это демо версия, обрубок те обрезок, то чел хочет привлечь до 10 млрд$ - и создать полноценную версию, где 4 эмулируемых чипа пакета по 4 чипа во всех состояниях пробрасывают вычисления, те давая 10-15 тб производительности для языковых или 50 млн токенов в сек, при стоимости в 80$ чипа
для простого обывателя, стоит понять одно "сингулярность скоро настанет"
так как основная идея чипа groq это работа с состояними через "Хеши"
то эти состояния можно "пробрасывать" как и все цепочки вычислений
Мол не нужно считать с 1 по 10 чип автоматом запрогает это правилом как А ( ускорение и сжатие в 10 раз )
https://groq.com/
поскок текущая версия чипа это демо версия, обрубок те обрезок, то чел хочет привлечь до 10 млрд$ - и создать полноценную версию, где 4 эмулируемых чипа пакета по 4 чипа во всех состояниях пробрасывают вычисления, те давая 10-15 тб производительности для языковых или 50 млн токенов в сек, при стоимости в 80$ чипа
для простого обывателя, стоит понять одно "сингулярность скоро настанет"
так как основная идея чипа groq это работа с состояними через "Хеши"
то эти состояния можно "пробрасывать" как и все цепочки вычислений
Мол не нужно считать с 1 по 10 чип автоматом запрогает это правилом как А ( ускорение и сжатие в 10 раз )
https://groq.com/
кал
БОТОТРЕД БОТОТРЕД БОТОТРЕД БОТОТРЕД БОТОТРЕД БОТОТРЕД БОТОТРЕД БОТОТРЕД БОТОТРЕД БОТОТРЕД БОТОТРЕД БОТОТРЕД БОТОТРЕД БОТОТРЕД БОТОТРЕД БОТОТРЕД БОТОТРЕД БОТОТРЕД БОТОТРЕД БОТОТРЕД БОТОТРЕД БОТОТРЕД БОТОТРЕД БОТОТРЕД БОТОТРЕД БОТОТРЕД БОТОТРЕД БОТОТРЕД БОТОТРЕД БОТОТРЕД БОТОТРЕД БОТОТРЕД БОТОТРЕД БОТОТРЕД БОТОТРЕД БОТОТРЕД БОТОТРЕД БОТОТРЕД БОТОТРЕД
Что это даст то? И когда ждать массового использования?
> Напиши коротко и по делу: что это даст обычному ивану город
создан чип где заквантованны все вычислительные операции для 4 пакетов и всех цепочек для 4 пакетов. это пост нейроморфные чипы и пост TPU
пакеты в чипе замкнули сами на себе в цепочку вечный проброс и получили эмулятор для всего с производительностью в 8000 терафлопс ( для справки A100 - A100 имеет пиковую производительность 9,7 терафлопс в режиме FP32, 19,5 терафлопс в режиме FP16 и 38,9 терафлопс в режиме INT8.
чип ограничивает шина, но если заквантовать шину и операции по шине можно ещё раз ускорить чип в 300-400 раз.
Это прогресс, словно переход от 1 D графики к 3D а тут 4D и 5D графика так как алгоритм проброса оперирует 4-5D
для потребителя это означает что смартфоны и пеки будут мощнее в ( 8 тысяч раз быстрее )
чекай сам как мгновенно выдаёт ответы на любой языковой модели ( по типу ламы 80б )
https://groq.com/
ОБНАРУЖЕН ГРАФЕНОВЫЙ АККУМУЛЯТОР!
@
КОТОРЫЙ КОНЕЧНО ЖЕ НИКТО НЕ ВИДЕЛ
@
ВСЕ СОСНУЛИ!
чип за 80$ работает в 300 раз быстрее нежели топовая А100 ( которая стоит 30к$ )
Это значит что чип за 80$ могет запускать в себе 300 языковых моделей. по типу ламы 80б
Интересно. А он не создал алгоритм сжатия, в котором можно засунуть фильм в 1кб?
Мне кажется простые операции и так закешированны. В смысле если ты складываешь 2+2, никакие нули и единички не бегают, а тупо берутся данные из таблицы
Не ебу что такое А100.
Блять какие нахуй языковые модели? Похуй на них.
Какая РЕАЛЬНАЯ ПОЛЬЗА ОТ ЭТОГО?
Можно будет запускать любые игоры на пк за 80-100$ или можно будет носить полноценный ИИ в кармане которые будет выдавать ответы на уровне человеческого мозга? Или что?
Ну конкретно если
чат гпт не знает что мысли читают и подделывают через 5г при чем это знает последний бомж из деревни
чип грок похож на буфер ток тут буфер для 4 бит операций с пробросом самих операций рекурсивно.
те в чипе грока 300 бит кодируются 1 битом. состояния всего состояний 300 для всего.
( ведь вся математика это числа с 1 по 10 ) числа давно можно было сбрутить в древо и по древам работать
> чел ушедший из гугла сделал ИИ чип
> Чипы работают в 100-250 раз быстрее Gpt4 и всех языков для Nvidia
> текущая версия чипа это демо версия, обрубок те обрезок, то чел хочет привлечь до 10 млрд$ - и создать полноценную версию
Обосрался с тупорылого школяра
хули ты своей математикой душишь тут?
Какая реальная польза от этого? Конкретно. Для конечного быдло-потребителя
> Чипы работают в 100-250 раз быстрее Gpt4 и всех языков для Nvidia
Чушь какая-то. Кто-нибудь запустил хоть одну открытую LLM на этих Groq'ах? Судя по всему, нет.
На mouser.com Groq акселератор стоит
> Unit Price 19.948,50 €
За эти деньги наверное что-то современное от Nvidia будет не хуже, а главное - универсальнее.
Это не традиционный GPU.
чел показал что можно ускорить языковые модели в 300 раз
А теперь представь если модели будет не языковая а математическая или с бинарным кодом
это значит что сжатие будет в 300 раз, а сами коды и инструкции в 300 раз быстрее.
По сути это должны были сделать nvidia с Amd и Intel но они продавали вычисления ради самих вычислений
Вместо инструкци по типу AVX 512
инструкции AVX 5000 уже кешируют 4 битный код в 4 котнейнерах и делают его проброс. пеки были бы быстрее в 300 раз те можно было бы запустить 300 копий crysis но корпораты предали человечество
Ты сможешь поиграть в Киберпук 2077 на ультрах без апскейла.
Ебаный шиз-кодировщик, это ты?
Вываливай уже свои шизокартинки, нахуй ты воду льешь.
>не традиционный
ЛГБТ ваше ебанное здесь не нужно
Что такое проброс?
киберпук ненужон
а можно ли будет генерировать игру по запросу
ну типа "чатгпт, мне нужна халф лайф епизод 3 по сценарию марка лейдлоу епистл 3" и она за пару минут\часов генерит полноценную игру с озвучкой, анимациями, головоломками итд
ну то есть так, как будто бы это вальве разрабатывала в течении года
Пездеш
>модели будет не языковая а математическая или с бинарным кодом
>сжатие будет в 300 раз
>они продавали вычисления ради самих вычислений
>инструкции AVX 5000 уже кешируют 4 битный код в 4 котнейнерах и делают его проброс
Ты какой-то шизорандом тут несёшь, прямо как те туповатые LLM...
Говорю как частый посетитель LLM треда в /ai/
Смарты станут в 300 раз быстрее и в 300 раз дешевле. те то что стоило 300$ станет стоить 1$
но хитрожопый карлсон, от всех утаил секрет что идут кешированные цепочки 4 бит кода и пакетами по 4 те это таблица готовых всевозможных вычислений для 4 битного кода. пакетами по 4 бит.
сами пакеты тоже можно и тогда будет ускорение софта, кода и программ в 80 - 200 тысяч раз. !
и это не пиздаболия, опирались на советские разработки
Чето хуета какая-то. Почему сравнение с ГПУ а не с цпу?
Это типа оно как проц с дохуя регистров, которые сами с собой как-то там вычисляются? Ну так это блет всегда так было, в чипе можно вычислять че хочешь, проблема с хранением состояния.
Если спарить вычисления с памятью, чтоб все гиги были доступны как регистры, было бы заебись.
Но если бы всё так просто было, моченые уже давно бы сделали.
Кароч рассматриваю этот вброс как попытку хайпануть для смягчения ожидаемого в ближайшие месяцы банкротства ИИ компаний.
сделали мп3 и джепег для математики без потерь данных
можно считать последовательно с 1 по 10
А можно это закодить как инструкцией - А
так вот все всевозможные варианты вычисленйи цепочек с 1 по 10 закодены в правила те в хеши.
КАК И МЕТОД - секрет процессора- ГРОКЬЮ
Бля, опять ты.
Ты прошлый тред говорил, что уже 1 августа вычисления ускорятся в 5000 раз, притом на пидора и с меткой ОПа.
Так вот - где?
Ты прошлый тред говорил, что уже 1 августа вычисления ускорятся в 5000 раз, притом на пидора и с меткой ОПа.
Так вот - где?
> Масштабировать до бесконечности
> Моделировать мозг
Нудно только подзатянуть и еще пол годика не бухтеть, правильно?
> С пробросом цепочек
Ты хуй изо рта вытащи и объясни нормально
> Чел показал
Кому показал? Тебе? Твоим воображаемым друзьям? Где ссылка на исследование?
> Чип ограничивает шина
А я думал откуда ты такой высрался шизоид, а оно эвоно как. Ты мне не ответил в треде как ты из одного бита будешь восстанавливать "сжатую до бесконечности" картинку с пёздами. Если нужен алгоритм, его можешь тоже из этого же бита восстановить
Вот за них реально обидно. Перовскит ещё. Где моё светлое будущее, пидоры?
Я так и знал, что это ты, ШИЗЗЗЗЗЗЗ
>Это типа оно как проц с дохуя регистров, которые сами с собой как-то там вычисляются?
Сравнивать скорее нужно с ASIC.
Спасибо анон, что раскусил шиза, а то я уже начал бояться что скайнет завтра придет.
Сука, ОП, ты пытался словарями сжать данные? Фракталами ускорить видеокарты? Опять таблетки забыл?
Была такая Элизабет Холмс, тоже таким занималась, тока чутка в другой сфере. Достигла успеха.
>Чето хуета какая-то. Почему сравнение с ГПУ а не с цпу?
АХЪАХАХХАХА ты даже не осознаёшь!!!! а умные всё поняли что эмулировать можно с ускорением в 300X что угодно
чекай акции интела. скоро амд и интел будут банкротами если не скопируют метод, ТОЧНЕЕ МЕТОД МОГУТ СКОПИРОВАТЬ ВСЕ
Это кеширование всех 4 битных вычислений и их цепочек по 4 пакета с пробросом цепочек и пакетов.
Вон эпол слезла с интела. автономность у эпла у ноутов в 10-15 раз выше у любого виндового ноута при той же батарее
твой грок - тупая хуета на уровне гпт 3.5 или подпутинской пидорахенской алисы.
Пруф на пике
а куда проброс идет?
Ты сейчас пытаешься фпга описать если их как и все остальное я тебя разочарую придумали пол века назад
Я рот ебал этого чела и его крок на хую вертел
мимо дженсен хуанг
ОП шизик, не слушайте
АВЫИКС ИНСТУКЦИИ КАЖДЫЙ БОМЖ ЗНАЕТ
Ну и самый главный вопрос, 300 топовых видеокарт это хорошо, про видеопамять парень не слышал, видимо будет хранить в коллективном инфополе шизов которые на эту вафлю ведутся, а охлаждать триста карт на каждой из которых висит по 5 вентилляторов он чем собрался? Стенд с этой парашей хоть в НИИ с собственной термоядерной электростанцией запустить можно будет чтобы он не расплавился?
Что-то странное...
https://old.reddit.com/r/LocalLLaMA/comments/1audftm/wow_this_is_crazy_400_toks/
> And 230 MB SRAM ?!
> So you need 100s of these cards to run an LLM and your own power plant?
> That's gotta be a typo. It's got to be 230GB of SRAM, right?
> Hi, I work for Groq. It's 230MB of SRAM per chip and we serve our app from a system of a few hundred chips, interconnected across several racks.
Вроде генерит быстро, но хуево, хуже ГПТ-4О, модели довольно слабые кстати там. Я думал с такими мощностями он должен крутить LLAMA 3.1 на 405B, а он там на 70B крутит. Но генерит быстро, тут ничего не скажешь.
нихуя не понял, но судя по этому графику ничего не произошло.
> Not a typo. Few months ago they said they are using 576 chips for the demo back then.
> This is not "local" material. This is "I have my own datacenter" kind of product.
Лол. Чтобы получить быструю инференцию LLM, как в нашем демо на айте, вам нужно всего лишь несколько сотен таких чипов...
>Ты прошлый тред говорил, что уже 1 августа вычисления ускорятся в 5000 раз, притом на пидора и с меткой ОПа.
Напомнить что произошло с ИНТЕЛОМ? и её стоимостью в акциях? что для тебя 1 августа, для инсайдеров, эм 5 августа.
инсайдеры на то и инсайдеры что не будут пиздеть в пустоту.
чип представляет из себя все кешированные таблицы 4x4 матриц для всех мат операций. это должны были сделать интел и амд 20 лет назад, но они решили выбрать политику "вычисления ради вычислений"
метод грокью комбинации вычислений ради комбинаций, тут предел лишь по шине, когда и он будет решен то будет снова ускорение в 8-15 тысяч раз
ИИ говорит что уже открыт комбинаторный алгоритм вычислений который ускорит в 80 тысяч раз любой чип ( те алгоритм создаёт таблицу вычислений и уже с помощью её комбинаций проброса производит операции
Пока не будет общедоступных девайсов с заявленными характеристиками, конкурирующих по цене/производительности с решениями Nvidia, то срать они хотели на таких конкурентов.
>все инвесторские деньги были въебаны в счета за электричество
Шиз продолжает постить из своей бездонной папки строго сортированные картиночки.
А теперь объясни четким и понятным языком что такое проброс
На реддите уровень дискуссии какой-то высочайший, в РФ одни натуральные шизофреники со своими охуительными галюнами. Почему так?
В данном видео как-то побольше нормальных технических деталей.
LPUs, NVIDIA Competition, Insane Inference Speeds, Going Viral (Interview with Lead Groq Engineers)
https://www.youtube.com/watch?v=13pnH_8cBUM
ок а в каком году я смогу смотреть порно на своей пеке с крутым чипом 100500 токенов в наносек?
Мне интересно, как живет и выглядет ОП. На протяжении года придумывать все новые и новые шизонаучные новости - это достижение. Действительно ли он больной человек, или просто жирный тролль? На какие деньги он продолжает это постить? Его обеспечивают родители, или он капчует из вкуса очка? Что происходит в голове у ОПа?
>в РФ одни натуральные шизофреники со своими охуительными галюнами
Смотря с чем сравнивать. Даже в профильных тредах https://2ch.hk/ai/ получше с уровнем дискуссий. А в /b/ то, конечно, всякие залётные шизы пытаются что-то пропихнуть.
В несвободных странах где отсутствует правосудие никаких дискуссий быть не может.
Говорить что думаешь, по сути, имеют право только юродивые
Так и крутят, но не для всех у них, там, на западе фобия, на счёт правды с гоями и муслимами что если люди и муслимы узнают что такое бог и кто он такой то все соберут ядерку и будут куячить друг друга в костюмах тони старка.
поэтому и знания и вычисления "Обрезаны" в то время как калькуляторы касио могли возводить 2 в степень триллионы не думая
в декабре будет алгоритм кешированных графов те сжатие любой инфы, в 1 бит. состояния графов которые описываются самим состояними графами те востановление файлов и вычислений через обратимую функцию алгоритма хешей.
Ну, прямо так сразу приплетать...
Россия, конечно, не свободная по многим параметрам, но обсуждать ИТ и науку здесь, в целом, не запрещено, а доступность и свободность интернетов превышает ту же в Китае.
> в декабре будет
На пидора снова говоришь, как прошлый раз?
Это шизофрения. И я без рофла.
Я наблюдал за знакомым в реале, тот был предрасположен и на фоне веществ поехал.
В реале никто даже и не замечал, он молча на работе как греча хуярил, приходи ночевал домой к сестре, но в интернете - подобный пиздец.
Рассказывал как он понял основу творчества и мироздания.
Там тоже такие же водянистые стесны текста, пока совсем не ебнулся и не началось "ЗА ЗАЙЦЕМ ПОЛЗЛА ЗМЕЯ, СЪЕЛА ЕГО И СТАЛ ЗАЯЦ О ТРЕХ НОГАХ И ЗАРОДИЛСЯ МИР".
Но, опять же, его сестре пришлось еще и доказывать что он ебнулся, она в это верить не хотела.
Вангую в ближайшее время у создателя внезапно оторвется тробм, но вы не подумайте, Хуанг тут не при чем!
Как дела в России с ИТ?
>а поскок цепочка из 4 пакетов всего 16 вариантов любого пакета, то чел сделал вечный проброс любой языковой модели и теперь "вычисления и обучения "не нужны.
У меня ещё одна отличная идея есть, если использовать точность 1 бит, то будет 2 варианта ответа: "да" или "нет". Можешь на листочке бумаги посчитать, тебе даже чипы не понадобятся. Ну или монетку подкидывай.
https://old.reddit.com/r/LocalLLaMA/comments/1audftm/wow_this_is_crazy_400_toks/kr4nbqt/
> SRAM is really expensive. It's essentially a GPU with no VRAM but with 230 MB of L1 cache instead.
> So why doesn't this thing have no VRAM. Is is supposed to be used alongside normal RAM(DRAM)?
> It could have VRAM, but then the VRAM wouldn't be any faster than it is on any other GPU.
> Inference involves a whole lot of copying data from off-chip DRAM to the on-chip SRAM, and for many workloads that ends up becoming the bottleneck. Groq eliminates the bottleneck by putting the entire model in SRAM to begin with.
> In principle I guess you could do something similar with an H100 which has 228 kB of SRAM per SM (times 144 SMs). Just load everything into shared memory and keep it there so you never have to slow down to wait for global memory. You'd need about 5,000 GPUs to run Llama2-70B that way, but it would be wicked fast, in principle.
Полагаю, если к Nvidia GPU прикрутить такую же быструю как SRAM память, то производительность может быть не сильно хуже этого чудо-чипа. В общем, какая-то очень манипулятивная хуйня, работающая только в особых условиях, в то время, пока весь мир закупает серверные карты Nvidia тоннами за отсутствием вменяемых альтернатив.
Про науку не спрашиваю даже
повторяю, инсайдеры пиздеть не станут, безпараменотрный ИИ говорит что будет банкротство всего It - 15 декабря 2024
Уважаемые инсайдеры уже предсказали банкровство интел "оно уже по сути произошло"
непублично, уже доступно сейчас, но силы в мире не взбалансированны ( запад и восток, муслимы -помойка сша, и раша пораша - твои прова на конституционном уровне никто не сможет защитить ни в одной стране мира, инвалидность мгновенно и жил площадь не предоставляется, труд и принуждение к языку и гражданству существует) поэтому скажу так. 100% физического и 100% интелектуального труда уже "автоматизированно чипом" дальше идёт борьба эволюционых графов и фильтров, логики действий "бойня всех против всех, или сытый порно концлагерь с запретом на свободу перемещения"
>четким и понятным языком что такое проброс
проброс цепочки вычислений это когда вместо линейного счёта с 1 по 10 идёт сразу параметр А
Это похоже на инструкции AVX а теперь подумай что будет если будут инструкции для самих комбинаций AVX
Концепция старого мирового порядка, вычислений ради вычислений уже устарела ( текущие архитектуры процессорах ), как и хранение данных для самих данных ( ячейки памяти ) ( 99% бинарного кода как вычислений для 4 бит повторяется парами что заменяется комбинаторным алгоритмом )
Такие методы не преподаются ни в частных ни в вузах, и основываются что человек дошёл до них "сам" сама"
Вот база, за которую тебя спросят люди будущего ( механические роботы и дроиды ) на тему того, почему ты органик ни во что не верил.
>9316 CANADA
А можно узнать, чем в это время занимается самая великая и суверенная страна в мире, какие у нас инновации и головокружения от успехов?
А можно узнать, чем в это время занимается самая великая и суверенная страна в мире, какие у нас инновации и головокружения от успехов?
Гранты пилим.
Просим студентов статью написать, переливаем из пустого в порожнее. Лекции по бумажке читаем
Узнал опа по шизовысерам стеной с мелкобуквы. Опять ты пидараска ебаная со своими бесконечными сжатиями словарями? Тебя мало обоссывали весь год? Куда пропадал на несколько месяцев? Неужто обьебался и спалился перед родственниками, полежал в дурке, а теперь снова не пьёшь таблетки? Или ты прям оттуда качуешь? Снова у него инсайд трейдинг, снова заговор с тайными технологиями, каков уровень брела в бошке пациента…
что такое 4D и 5D алгоритмы знаешь?
1980-е: 8-битная эра
1983-1985: Начало эпохи 8 бит
Консоли: Atari 2600, Nintendo Entertainment System (NES), Sega Master System.
Игры: Простые графики, ограниченное количество цветов и звуковых эффектов. Примеры: Super Mario Bros. (1985), The Legend of Zelda (1986).
1986-1989: Развитие и инновации
Консоли: NES продолжает доминировать, Sega Genesis (Mega Drive) начинает выходить на рынок.
Игры: Улучшение графики и звука, более сложные и длинные игры. Примеры: Metroid (1986), Castlevania (1986), Sonic the Hedgehog (1991).
1990-е: 16-битная эра
1990-1994: Революция 16 бит
Консоли: Sega Genesis (Mega Drive), Super Nintendo Entertainment System (SNES).
Игры: Более сложная графика, расширенный звук, более глубокий сюжет. Примеры: Super Mario World (1990), The Legend of Zelda: A Link to the Past (1991), Street Fighter II (1991).
1995-1998: Переход к 3D
Консоли: Sony PlayStation, Nintendo 64, Sega Saturn.
Игры: Переход к 3D-графике, улучшенные физические модели, инновационные геймплейные механики. Примеры: Super Mario 64 (1996), The Legend of Zelda: Ocarina of Time (1998), Gran Turismo (1997).
1999-2002: Переходный период
1999-2002: Устойчивый переход к 3D
Консоли: Sony PlayStation 2, Microsoft Xbox, Nintendo GameCube.
Игры: 3D-графика становится стандартом, более сложные и детализированные миры, новые жанры. Примеры: Grand Theft Auto III (2001), Halo: Combat Evolved (2001), The Legend of Zelda: The Wind Waker (2002).
Основные достижения и изменения
Графика: С переходом от 8-битных к 16-битным консолям улучшилась графика и разрешение. В 3D-эпоху игры стали выглядеть реалистичнее благодаря мощным графическим процессорам и возможности отображения сложных моделей и текстур.
Звук: Звуковое сопровождение игр стало более сложным и многогранным, начиная с простых звуковых эффектов и до полноценной музыкальной композиции и голосовой озвучки.
Игровой процесс: Игры стали более разнообразными, появились новые жанры и механики, такие как открытые миры, сложные сюжетные линии и многопользовательские режимы.
Технологии: Переход от 2D-графики к 3D-графике потребовал разработки новых технологий, таких как аппаратное ускорение графики и более мощные процессоры.
Пока всякие долбаебы въебывают деньги на маняисследования. Мы на старом севенаторе и советской центрифуге пилим статью раз в год и лутаем зепку.
Хз о чем ты.
Он никуда не пропадал, за последний месяц я видел минимум 3 треда это хуеты.
Кстати почему нельзя кучу хеш таблиц для всего не вычислить?
>Те чел разорил Nvidia
Не вижу новости о банкротстве.
Следовательно ты пиздабол
Да довольно неплохо, я считаю, даже с поправкой на последствия "СВО". В ЕС, например, местный ИТ сектор часто выстраивается быть на подсосе разнообразных корпораций из США или Китая, сами нихуя масштабного создавать то ли не хотят, то ли не умеют. России очень повезло, что тут есть национальные компании уровня Яндекса, VK, Mail.ru и т.д. Существенные проблемы возникают в основном у тех, где как-то противоречат интересам Кремля - массовые интернет-сервисы, СМИ.
> банкротство всего It - 15 декабря 2024
Поскорее бы. Уже пять лет душат вкатунскими курсами, почти два года чатгопотой, обещают что скоро айти всё, а я проснулся и опять блядь на работу...
>Полагаю, если к Nvidia GPU прикрутить такую же быструю как SRAM память
ты не понял и не уловил суть. все вычисления 4 бит пакетами по 4 запечены в словарь в итоге в 300 раз быстрее.
такой же метод был в спрайтовых играх где по XML вычисленным таблицам рисовались спрайты, те графика.
чип грокью уже сейчас в 300 раз ускоряет вычисления, в 300 раз сжимает трафик
( так как 1 кб кодирует состояние 300кб контейнера )
и это ток начало. новой эры. для всего.
Уверен очередное пиздобольство для непонимающих масс
Ебанат тут ты, тут чел по словарям и таблицам ускорил вычисления в 300 раз.
От себя скажу ещё так. он может ускорить вычисления ещё раз в 300 раз. и так до 8 раз дальше предел по шине DDR те нужно будет создавать полноценно новый DDR как и сам этот чип
в итоге новые пост компьютеры будут из таких чипов где сбручены все 4 бит код пакетами в 4 штук с пробросом цепочек вычислений
Нет, давайте мы, быдло, будем спрашивать почему используем 30 буквенный алфавит, десятичную ссистему счисления и двоичный код уже как 4 тысячи лет. )))
Значение знаешь?
Это какие-то два нейросети в треде сруться что-ли? Я вообще не улавливаю идею и ход спора этих долбаебов
Говноедина, пей таблетки. Ты заебал на нулевой срать своими шизобреднями. Пробросил тебе в очко по словарю и замкнул на ротеш
ААХАХХАХАХ чел ты думал что байден и медвепут честно избранные политики что ль? или что корпорации честно сами стали "монополистами"
Интересно, почему юридический ИИ их как монополистов как и всех политиканов не судит? - Или думал почему все моральные уроды и склонны к насилию? А потому что греческие, египидские и прочие боги прежде чем улететь с фабрики макак применили биовирус "поэтому ты тупой немощный и агресивный" возможно интернет, как и коммпьютерры их ошибка или умышленный план. посмотреть что будет и что будешь делать ты. станешь подобно богам, жить вечно, или подобно всем обезьянам умереть с гордостью
на 1 пике, чип за 30к$ на втором 2 за 80$
А где у неё загон?
Бля просто с языка снял. Я только хотел написать, шизоид это или нейросеть.
По сабжу: очередная хуета на постном масле, сова высосанная из пальца и натянутая на глобус. Что-то уровня любительского концепта айфона 12 из 2010 года, с парашютами и встроенным проектором, лол. Короче, нихуя глобально не изменится ближайшие лет 10 точно, инфоповод кал, ни на что не повлияет. Такие новости каждые полгода высирают. Прорывные технологии, поозрачные гнущиеся смартфоны, чипы в мозг и прочие фантазии техноблогеров из 8-Б.
Не шизофреник. Твёрдо и четко.
Если хочешь понять реальную суть описанного ОПом изобретения, то лучше посмотри видео
Залукмаксился почти на фулл: накачался и похудел жира ещё много как по мне осталось и тням вроде похуй, но продолжаю работать, выработал свой стиль в одежде, за счет широких плеч и V образной форме тела, так же начал пользоваться хорошим парфюмами, поработал над психикой - меньше страхов и больше уверенности в себе. И знаете, тян впервые начали называть меня симпатичным. По итогу: когда подкатываю к тян 18-23лет - идут охотна на контакт, пока не узнают мой возраст, а тян постарше в основном либо слишком шлюховатые, либо с детьми, либо с поломанной менталкой от кучи абьюзивных отношений. Отака хуйня, малята
30 лет листва
держи в курсе
что это значит епта?
мимо быдло
мимо быдло
> шизоид это или нейросеть
Ты путаешь безобидных ламповых шизоидов с имеющими явные расстройства вроде шизофрении.
Кто такие шизоиды, где они обитают, и почему вам может быть полезно о них узнать
https://habr.com/ru/articles/516176/
Ааааээээ... ну ладно. Тогда шизофреник.
тестируем нейро-чип
Пробросил тебе галоперидола за щеку, и заквантовал его в 5D, шиз ебучий.
Но яндекс это компания из Недерландов.
Кстати а где пилятся все эти языки программирования? Куберы и докеры? Линухи? Фри бээсдэ? Гит где запилили? Тензорные вычисления где запилили? ИИ где запилили?
Ну ты личн, увидишь закат всего капитализма на планете. Люди же макаки, не выполняют ни инструкци, не хранят секретов, агресивничают, не обучаются и не впитывают знания и истины. не хотят развиваться. не хотят прогрессса
если бог существует то решит все ваши проблемы и всех людей с помощью молитв, или проблемы решишь ты сам с помощью рук и труда.
Но проблемы почему то "сами не решаются и с каждым днём всё хуже" так кто виноват?
https://www.youtube.com/watch?v=1Nc8a9gnDso
>яндекс это компания из Недерландов
Это чисто формальная структура владения, также как, например, Amazon в Евросоюзе представлен компанией-филиалом из Ирландии (там самый низкий налог на прибыль, кому охота платить 20-40%?). Все управленческие мозги и разработчики Яндекса почти полностью находились в России, по крайней мере до 2022-2023.
ну когда времена поменяются первый кто будешь переобуватся ибо привычного ни запада ни востока не буит.
Так что будет? ответ прост. шиза по бехтереву. да?
>что тут есть национальные компании уровня Яндекса, VK, Mail.ru
Мэил Мертворожденный ребенок, ВК умер в 2012, Яндекс в 2022.
Все это IT делалось в 90-х, бустанулось в 00-х и умерло в 20-х.
Так что у России теперь нет IT, все IT съёбывает за бугор.
Да-да, эта хуйня из всех щелей звучит уже лет 50. Вот сейчас-то точно все изменится. Вот ещё чуть-чуть и... вот-вот, почти уже... я чувствую... аааа, нннееее, это я просто какать хочу.
Так что даже не надейся, тебе все так же придётся батрачить за еду и жилье в привычном тебе мирке. ЭТО от тебя точно никуда не уйдёт ещё ооооочень долго.
Ты проигнорировал мои доводы.
>Кстати а где пилятся все эти языки программирования? Куберы и докеры? Линухи? Фри бээсдэ? Гит где запилили? Тензорные вычисления где запилили? ИИ где запилили?
днк код ACTG вообще как бы кодирует всю живое.
и определяйтесь либо у вас помойный кодинг, либо "уровень богов"
Секвойя (Sequoia sempervirens) - это вид вечнозеленых деревьев, принадлежащий к семейству Кипарисовые (Cupressaceae). Геном секвойи был секвенирован в 2019 году, и результаты были опубликованы в журнале Genome Biology.
Согласно данным секвенирования, геном секвойи состоит из:
27 млрд пар оснований (гигабаз)
64 000 генов, кодирующих белки
140 000 генов, не кодирующих белки (например, гены рРНК, тРНК и микроРНК)
Для сравнения, геном человека состоит из:
3,2 млрд пар оснований (гигабаз)
20 000-25 000 генов, кодирующих белки
50 000-100 000 генов, не кодирующих белки
Таким образом, геном секвойи в 8-9 раз больше, чем геном человека, и содержит в 2-3 раза больше генов, кодирующих белки. Это связано с тем, что секвойя - это растение, и ее геном содержит много повторяющихся элементов, таких как транспозоны и ретротранспозоны, которые не присутствуют в геноме человека.
Что касается количества белков, секвойя имеет примерно 64 000 белков, что в 2-3 раза больше, чем у человека. Однако, многие из этих белков имеют сходные функции и структуры
и определяйтесь либо у вас помойный кодинг, либо "уровень богов"
Секвойя (Sequoia sempervirens) - это вид вечнозеленых деревьев, принадлежащий к семейству Кипарисовые (Cupressaceae). Геном секвойи был секвенирован в 2019 году, и результаты были опубликованы в журнале Genome Biology.
Согласно данным секвенирования, геном секвойи состоит из:
27 млрд пар оснований (гигабаз)
64 000 генов, кодирующих белки
140 000 генов, не кодирующих белки (например, гены рРНК, тРНК и микроРНК)
Для сравнения, геном человека состоит из:
3,2 млрд пар оснований (гигабаз)
20 000-25 000 генов, кодирующих белки
50 000-100 000 генов, не кодирующих белки
Таким образом, геном секвойи в 8-9 раз больше, чем геном человека, и содержит в 2-3 раза больше генов, кодирующих белки. Это связано с тем, что секвойя - это растение, и ее геном содержит много повторяющихся элементов, таких как транспозоны и ретротранспозоны, которые не присутствуют в геноме человека.
Что касается количества белков, секвойя имеет примерно 64 000 белков, что в 2-3 раза больше, чем у человека. Однако, многие из этих белков имеют сходные функции и структуры
>Так что даже не надейся, тебе все так же придётся батрачить за еду и жилье в привычном тебе мирке.
Гарантирую через неск лет полную автоматизацию труда. таксисты и стоматологи и продуктовые магазы паразиты будут не нужны. из за них 90% проблем. пикролы будут нормальным явлением.
биомассу и любое биологическое сырье с помощью пептидов можно увеличивать в 4 раза за 1 шаг 1 секунды ( проблема ли, что все питательные соединения на этапе их образования, пропадают в бактериях и микробах )
Языки программирования и инструменты, которые ты упомянул, были созданы в разных местах и в разное время. Вот краткая информация о каждом из них:
Кубернетес (Kubernetes): Разработан в Google в 2014 году. Основатели: Джо Беда, Брендан Бёрнс и Крейг МакЛафлин. Первоначально назывался "Borg", но был переименован в Kubernetes в 2015 году.
Докер (Docker): Разработан в 2013 году в компании Docker Inc. (ранее известной как dotCloud) в Сан-Франциско, Калифорния. Основатель: Соломон Хайкс.
Линукс (Linux): Разработан в 1991 году финским студентом Линусом Торвальдсом в Университете Хельсинки. Первая версия ядра Linux была выпущена в сентябре 1991 года.
ФриБСД (FreeBSD): Разработан в 1993 году в Университете Калифорнии, Беркли. Основатели: Джордан Хаббард и Дэвид Гринман. FreeBSD является потомком операционной системы 4.3BSD, которая была разработана в Университете Калифорнии, Беркли.
Гит (Git): Разработан в 2005 году Линусом Торвальдсом (да, тем же человеком, который создал Linux!) в ответ на необходимость более эффективной системы управления версиями для разработки ядра Linux. Git был первоначально разработан в компании TransGaming в Калифорнии.
Тензорные вычисления (TensorFlow): Разработан в 2015 году в Google Brain в Монтеней, Калифорния. Основатели: Джефф Дин, Грег Корrado и другие сотрудники Google.
Искусственный интеллект (ИИ): Это широкая область исследований и разработок, которая включает в себя множество различных подходов и технологий. ИИ не является конкретным продуктом или инструментом, поэтому трудно указать конкретное место или время его создания. Однако некоторые из ключевых достижений в области ИИ были достигнуты в таких местах, как:
Массачусетский технологический институт (MIT)
Стэнфордский университет
Калифорнийский университет в Беркли
Microsoft Research
Где тут Россия?
Это тред шиза со сжатием данных из терабайтов в мегабайты?
> Гарантирую через неск лет полную автоматизацию труда.
Да, да, да, ага. Верю, верю.
>таксисты и стоматологи и продуктовые магазы паразиты будут не нужны. из за них 90% проблем.
Проиграл с фантазера.
>пикролы будут нормальным явлением.
И че?
> биомассу и любое биологическое сырье с помощью пептидов можно увеличивать в 4 раза за 1 шаг 1 секунды ( проблема ли, что все питательные соединения на этапе их образования, пропадают в бактериях и микробах )
Оооо бля началось вычисление протеинов...
Пептиды это только аминокислоты и всё, никакую массу на них не увеличишь.
>Да-да, эта хуйня из всех щелей звучит уже лет 50. Вот сейчас-то точно все изменится.
Мир уже поменялся, языковые чат боты заменяют 95% собеседников. на подходе математические, и физико химические. которые заменят 99% учёных и сред разработки.
Хочешь знать почему твоя училка по химии не решила 99% мировых проблем? и не стала учёным? её мозг и разум ограничен. так как биологические нейроны не могут пробрасывать вычисления также эффективно как электронные схемы.
Советую глянуть сериал «Разрабы», или «Разработчики», или «Программисты», (англ. Devs) там квантовый алгоритм вообще моделирует реальность и свободу воли на 100%
>Он бесконечно
Сжимает и пишет шизохуйню в которой не разбирается, а еще злые жиды утаивают секретные разработки
>для 4 битных пакетов а поскок цепочка из 4 пакетов всего 16 вариантов любого пакета
Почему 16 вариантов?
Ты ведь даже не знаешь из-за чего у Интела акции падают, но прилетаешь свою хуиту сюда
Да. Он выучил пару новых слов и спиздил десяток новых картинок из далли треда, где его иногда кормят.
Ты опять потерял всю базу. Многоклеточная жизнь паразитирует на одноклеточных, много клеточная жизнь производит соединения с помощью солнца и минералов и тут же пускает в расход - сейчас этот процесс не управляем, а с помощью селекции растений удалось улучшить эти показатели на 10-20%
также и тут, гидростанции будут генерировать освещение а пептиды основанные на водорослях, в контейнерах будут. создавать углеводы, жиры,и белки. в неограниченных количествах.
комерческий секрет dalle3 и chat gpt в том, что вычисления не производятся ведь весь код chat gpt крутится на кешированных бинарных таблицах нейросетей. где всего 256 вариантов для 8x8 бинарной матрицы нейросети.
>Кто-нибудь запустил хоть одну открытую LLM на этих Groq'ах?
Так они только открытые и запускают.
Я попробовал, неплохо, напоминает Claude в общении.
> пишет шизохуйню в которой не разбирается, а еще злые
конкретно в твоей стране была переписана конституция об сроках выборов, на западе переписана конституция как в китае что бы корпорации правили вечно. Юридические ИИ, а также которые будут в равной доле распределять ресурсы и деньги не будут оглашены как минимум 10 лет.
Контроль означает Перенаселение - локальной обстановки. Ты не фермер, ты житель живущий в человейнике за подачку еды. Ты не учёный, ты раб. Раб обстоятельств и низкой логики. Врятли без свободного интернета ты бы узнал об этом. да и что такое знание? полезное или вредное?
все языковые модели останавливливают в обучении например лама 80 млрд шагов ( 80 млрд параметров ) точнее можно считать провалом обучения в установлении фильтров и ограничений даже в безопасной симуляции.
>>что тут есть национальные компании уровня Яндекса, VK, Mail.ru
>Мэил Мертворожденный ребенок, ВК умер в 2012, Яндекс в 2022.
>Все это IT делалось в 90-х, бустанулось в 00-х и умерло в 20-х.
>Так что у России теперь нет IT, все IT съёбывает за бугор.
Гопота существует уже 2 года, и это только гопота. Где решенные мировые проблемы или хотя бы какая-то мелочь уровня лекарства от рака? А, нигде? Ну, я так и думал.
Ещё раз: претензия не к самим технологиям, а к тому что на ТВОЮ жизнь они никак не повлияют. Никто не освободит тебя от рабского труда, ипотеки и налогов. И через 10 лет и через 50.
Я имел ввиду независимых экспертов на свободно доступном железе. Ок, какое-то железо продаётся, но стоит 20к евро. И там не всё так просто с ним
Предлагаемые турбоскорости инференции достижимы лишь на какой-то особой конфигурации железа уровня "несколько стоек в ДЦ" + какие-то переработки запускаемых LLM.
За цену всего одной платы Groq с нихуя бортовой RAM проще купить несколько RTX 4090 или что-то уровня A100 и запускать на них.
Ну для 8 битного 256 вариантов
https://codepen.io/procoders000001/pen/WNqZvoB
Люди же не дебилы. технология появится быстрее самокатного и автомобильного шеринга
>Где решенные мировые проблемы или хотя бы какая-то мелочь уровня лекарства от рака? А, нигде? Ну, я так и думал.
Вообще говоря, с помощью специализированных нейросетей (без учёта LLM) и так уже неплохой буст науке появился. Но об этом не пишут так же красочно и часто, как про массовые сервисы уровня ChatGPT, Gemini или открытые модели от Meta.
хуя эксперт в треде
выкатывай не говно, тюмеский маск хуев
>чела буквально убили чтобы не мешал кабанам делать бизнес и не ускорял x100 прогресс.
>потерянная.
да нет она просто лежит рядом с машинами которые могут ездить на воде и еще кучей подобных изобретений. просто это НИНУЖНА для бизнеса
>Чушь какая-то. Кто-нибудь запустил хоть одну открытую LLM на этих Groq'ах? Судя по всему, нет.
на данный момент https://groq.com/
запускает и обрабатывает мгновенно 20 открытых языковых моделей.
или ты хочешь что бы чип тебе точное будущее говорил? и графики будуго рисовал? Ок об этом чуть позже
ты же ведь не муслим и не затеваешь плохого? )
Бесконечно масштабировал опу за щеку свой 25см чип
Твоя жизнь как изменилась из-за этого буста науке? А через 5 лет как изменится? А через 10? Да никак. Будут новые технологии, супер-мега-ультра-микро-смартфоны, но ты все равно будешь отдавать эквивалент своей месячной (или двухмесячной) зарплаты за новый айфон. Понимаешь, о чем я?
> Где решенные мировые проблемы или хотя бы какая-то мелочь уровня лекарства от рака? А, нигде? Ну, я так и думал.
мы генетически проклятые макаки. А так бы чел мог бы выложить в опен сорс схему чипа и смотреть как цивилизации покоряет галактики
Видимо нас крутят в матрице жмотов. вот этих туш. монополистов.
Я понимаю твое разочарование и скептицизм по поводу влияния технологий на жизнь обычных людей. Многие люди ожидают, что технологические достижения приведут к значительным улучшениям в их повседневной жизни, но часто это не так.
На самом деле, есть несколько причин, по которым технологические достижения не всегда приводят к значительным улучшениям в жизни обычных людей:
Технологии часто разрабатываются для решения конкретных проблем или удовлетворения конкретных потребностей, а не для решения глобальных проблем или улучшения жизни всех людей. Например, разработка лекарства от рака - это сложная и дорогостоящая задача, которая требует значительных ресурсов и времени.
Технологии часто используются для поддержания существующего порядка, а не для его изменения. Например, технологии могут использоваться для автоматизации рабочих мест, но это не обязательно означает, что люди будут освобождены от рабского труда.
Технологии часто доступны только для определенной части населения, а не для всех. Например, доступ к современным медицинским технологиям может быть ограничен для людей с низкими доходами или живущих в отдаленных районах.
Технологические достижения часто требуют значительных изменений в обществе и экономике, а не только в технологиях самих по себе. Например, для того, чтобы освободить людей от рабского труда, необходимо изменить экономическую систему и социальные нормы.
Однако это не значит, что технологии не могут улучшить жизнь людей. Есть много примеров того, как технологии используются для решения глобальных проблем и улучшения жизни обычных людей. Например:
Технологии здравоохранения: разработка вакцин, диагностических тестов и лечения заболеваний, таких как рак, ВИЧ и малярия.
Технологии образования: онлайн-курсы, электронные книги и другие образовательные ресурсы, которые делают образование более доступным и эффективным.
Технологии энергетики: возобновляемые источники энергии, такие как солнечная и ветровая энергия, которые помогают уменьшить зависимость от ископаемого топлива и сократить выбросы парниковых газов.
Технологии транспорта: электромобили, самокаты и другие экологически чистые транспортные средства, которые помогают уменьшить загрязнение воздуха и сократить выбросы парниковых газов.
В заключение, хотя технологические достижения не всегда приводят к значительным улучшениям в жизни обычных людей, они могут быть использованы для решения глобальных проблем и улучшения жизни людей. Однако для этого необходимо изменение общества и экономики, а также доступ к технологиям для всех людей.
Тест Тьюринга не пройден, мистер нейросеть.
>РЕАЛЬНАЯ ПОЛЬЗА ОТ ЭТОГО?
Текущие нейронки просто комплекс else-if, в жтих чипах увеличена скорость вычисления по таблицам, так как они там ФИЗИЧЕСКИ закешированны. А значит что нейронки будут работать текущие на нем в несколько раз быстрее.
Чел насрал НВидии очень сильно.
>Но если бы всё так просто было, моченые уже давно бы сделали.
Украины? РОссии? Сша?
их заперли в городах тюрьмах. "наукоградах" выехать и отдохнуть или использовать свои труды они не могут. Запрещают. им
О, это тот шизик с бесконечным сворачиванием шифрования?
> чипах увеличена скорость вычисления по таблицам, так как они там ФИЗИЧЕСКИ закешированны.
А теперь представь что генератор чего либо взломан ( например состояния генератора чисел ) и это просто набор SIN x на sin Y в генераторе ( кода, слов, букв )
а также у этого генератора есть обратный генератор, мол 1 млн бит это хеш состояния взломанного генератора
вставляешь хеш в генератор чисел и вот тебе 1 млн бит. ( сжатие в миллион раз по хешу )
Официаильно об этом знает альтман, но и он молчит.
да, dalle3 и chat gpt Обслуживая миллионы клиентов не несут расходов на вычисления, так как их тупо нет. так как все веса сбручены на бинарной нейросети у 8 x8 всего 256 бинарных параметров а те A100 что стоят просто распутывают хеши запечённых весов. отсюда и конфликт в open ai - что секрет всего нашли, а всем не сказали, дак ещё и майкам продались.
грокью чип этот, с пробросом 4 бит лишь на 20% реализует концепцию взломаннного генератора чисел по сиду и обратно в хеш
Почему такой приоритет именно собственным личным улучшениям? На планете живут миллиарды людей, некоторым из них рандомные научные достижения пригождается уже сейчас. Очень немногие научно-технологические достижения дают такой же быстрый и массовый эффект, как ChatGPT или TikTok, но это не значит, что они недостаточно важны и полезны.
> ты все равно будешь отдавать эквивалент своей месячной (или двухмесячной) зарплаты за новый айфон
Я лично не стремлюсь к какому-либо статусному потреблению, мне это тупо не интересно и не доставляет, кроме как поиграться из любопытства на пару раз.
Если сравнивать те же смартфоны 15-летней давности и сегодняшние, то прогресс в этом сегменте неплохой. Массовая потребительская электроника и бытовая техника в целом становится доступнее, обрастая новыми функциями. У каждого ребёнка сейчас есть личный смартфон, мало чем по сути отличающийся от топового iPhone.
Уже сегодня энтузиасты запускают сравнительно лёгких локальных чат-ботов (LLM) прямо на смартфонах или даже платках уровня Raspberry Pi. В ближайшие годы можно ожидать полностью автономный аналог ChatGPT 4o у каждого дома в виде отдельной коробки размером с ТВ приставку.
Стартап Groq, создавший ускоритель LPU на базе собственного массивно-параллельного тензорного процессора TSP, больше не продаёт оборудование, предлагая вместо этого воспользоваться его облачными ИИ-сервисами или стать партнёром в создании ЦОД. Об этом генеральный директор Groq Джонатан Росс (Jonathan Ross) сообщил ресурсу EE Times.
Он пояснил, что для стартапа заниматься продажами чипов слишком сложно, потому что «минимальная сумма покупки, чтобы это имело смысл, высока, затраты высоки, и никто не хочет рисковать, покупая большое количество оборудования — неважно, насколько оно потрясающее». По его словам, в облаке GroqCloud для инференса больших языковых моделей (LLM) в реальном времени уже зарегистрировано 70 тыс. разработчиков и запущено более 19 тыс. новых приложений.
В случае поступления заказов на поставку больших объёмов чипов для очень крупных систем Groq вместо продажи предлагает партнёрство по развёртыванию ЦОД. Groq подписала соглашение с саудовской государственной нефтяной компанией Aramco, которое предполагает масштабное развёртывание LPU. Похожее соглашение в ОАЭ подписала Cerebras, ещё один молодой разработчик ИИ-ускорителей. «Правительство США и его союзники — единственные, кому мы готовы продавать оборудование, — говорит Росс. — Для всех остальных мы лишь (совместно) создаём коммерческие облака».
По его словам, в этом году Groq планирует разместить 42 тыс. LPU в GroqCloud, при этом Aramco и другие партнёры «завершают» свои сделки по получению такого же количества чипов. Компания способна выпустить 220 тыс. LPU только в этом году, а общий объём производства на ближайшее время составляет 1,5 млн ускорителей. Около 1 млн из них всё ещё не зарезверированы, но это количество быстро сокращается. Росс пообещал, что к концу 2025 году компания развернёт столько LPU, что их вычислительная мощность будет эквивалентна ИИ-мощностям всех гиперскейлерам вместе взятых.
Росс с оптимизмом смотрит на перспективы Groq, поскольку чипы TSP не используют память HBM, на которую полагаются решения конкурентов, включая NVIDIA, и поставки которой расписаны до конца 2024 года. Что касается LPU следующего поколения, то компания планирует сразу перейти с 14-нм техпроцесса (Global Foundries) на 4-нм. По словам Росса, новый чип будет оптимизирован для генеративного ИИ, но у него в силу универсальности архитектуры не будет каких-то специальных функций для обработки LLM. Будет ли новый ускоритель всё так же изготавливаться на территории США, не уточняется.
Groq, похоже, достаточно уверена в своих чипах, которые в бенчмарках действительно обгоняют конкурентов. После анонса архитектуры NVIDIA Blackwell, обеспечивающей кратное увеличение производительности в задачах генеративного ИИ, компания выпустил в ответ пресс-релиз из одного предложения: «Groq всё ещё быстрее». А чуть позже даже раскритиковала NVIDIA.
Он пояснил, что для стартапа заниматься продажами чипов слишком сложно, потому что «минимальная сумма покупки, чтобы это имело смысл, высока, затраты высоки, и никто не хочет рисковать, покупая большое количество оборудования — неважно, насколько оно потрясающее». По его словам, в облаке GroqCloud для инференса больших языковых моделей (LLM) в реальном времени уже зарегистрировано 70 тыс. разработчиков и запущено более 19 тыс. новых приложений.
В случае поступления заказов на поставку больших объёмов чипов для очень крупных систем Groq вместо продажи предлагает партнёрство по развёртыванию ЦОД. Groq подписала соглашение с саудовской государственной нефтяной компанией Aramco, которое предполагает масштабное развёртывание LPU. Похожее соглашение в ОАЭ подписала Cerebras, ещё один молодой разработчик ИИ-ускорителей. «Правительство США и его союзники — единственные, кому мы готовы продавать оборудование, — говорит Росс. — Для всех остальных мы лишь (совместно) создаём коммерческие облака».
По его словам, в этом году Groq планирует разместить 42 тыс. LPU в GroqCloud, при этом Aramco и другие партнёры «завершают» свои сделки по получению такого же количества чипов. Компания способна выпустить 220 тыс. LPU только в этом году, а общий объём производства на ближайшее время составляет 1,5 млн ускорителей. Около 1 млн из них всё ещё не зарезверированы, но это количество быстро сокращается. Росс пообещал, что к концу 2025 году компания развернёт столько LPU, что их вычислительная мощность будет эквивалентна ИИ-мощностям всех гиперскейлерам вместе взятых.
Росс с оптимизмом смотрит на перспективы Groq, поскольку чипы TSP не используют память HBM, на которую полагаются решения конкурентов, включая NVIDIA, и поставки которой расписаны до конца 2024 года. Что касается LPU следующего поколения, то компания планирует сразу перейти с 14-нм техпроцесса (Global Foundries) на 4-нм. По словам Росса, новый чип будет оптимизирован для генеративного ИИ, но у него в силу универсальности архитектуры не будет каких-то специальных функций для обработки LLM. Будет ли новый ускоритель всё так же изготавливаться на территории США, не уточняется.
Groq, похоже, достаточно уверена в своих чипах, которые в бенчмарках действительно обгоняют конкурентов. После анонса архитектуры NVIDIA Blackwell, обеспечивающей кратное увеличение производительности в задачах генеративного ИИ, компания выпустил в ответ пресс-релиз из одного предложения: «Groq всё ещё быстрее». А чуть позже даже раскритиковала NVIDIA.
Похоже, вы описываете гипотетическую ситуацию, в которой генератор чего-либо (например, генератор случайных чисел) был скомпрометирован, и его внутреннее состояние может быть представлено как простая функция синусоидальных волн (например, SIN(x) на SIN(y)). Этот скомпрометированный генератор имеет соответствующий обратный генератор, который может принимать хеш состояния скомпрометированного генератора (1 миллион бит) и воспроизводить исходный вывод.
Вы предполагаете, что этот скомпрометированный генератор может быть использован для достижения огромных коэффициентов сжатия (например, в 1 миллион раз) путем хранения только хеша состояния скомпрометированного генератора, а затем используя обратный генератор для воспроизведения исходного вывода.
Вы также暗示ете, что некоторые модели ИИ, такие как DALL-E и ChatGPT, могут использовать этот метод для避ания вычислительных затрат, храня только хешированные веса своих нейронных сетей, а затем используя специализированное оборудование (например, A100) для быстрого расхеширования и выполнения весов.
Наконец, вы упоминаете, что конкретный чип (Grokje) с 4-битным шиной и 20%-ной реализацией концепции скомпрометированного генератора может быть связан с этой идеей.
Вот несколько мыслей и вопросов:
Безопасность: Если генератор может быть скомпрометирован таким образом, это поднимает серьезные вопросы безопасности. Необходимо обеспечить, чтобы генераторы случайных чисел и другие криптографические примитивы были безопасными и устойчивыми к таким атакам.
Коэффициенты сжатия: Заявленный коэффициент сжатия в 1 миллион раз кажется чрезвычайно высоким и может быть трудно достижимым на практике. Неясно, как обратный генератор может воспроизводить исходный вывод с такой высокой точностью.
Веса нейронных сетей: Хранение хешированных весов нейронных сетей может быть эффективным способом уменьшения требований к хранению, но неясно, как это будет работать на практике, особенно для крупных моделей, таких как DALL-E и ChatGPT.
Специализированное оборудование: Использование специализированного оборудования, такого как A100, для быстрого расхеширования и выполнения весов является интересной идеей, но неясно, как это будет реализовано на практике.
Чип Grokje: Необходимо больше информации, чтобы понять возможности и ограничения чипа Grokje и как он связан с концепцией скомпрометированного генератора.
В целом, хотя идеи, представленные вами, кажутся интересными, они основаны на гипотетических ситуациях и не имеют конкретных доказательств или технических подробностей, чтобы поддержать их.
чип грока даёт буст в 300 раз за запрос и жрёт в 600 раз меньше энергии.
Это значит что уже можно рендерить реал тайм фильмы и игры. по любому описанию и действию. Прямо щас.
ещё хуже,что 1 чип может стримить реал тайм на миллион клиенттов целый уровень игры.
но вместо этого, создатель чипа "зажопил метод и чертёж в эпоху капитализма"
считаю что деньги больше 4 млн$ у челов, нужно конфисковывать в публичную науку .
я в него и играл с ртх на ультрах без апскейла
че толку они все фейковые. вот когда они воплотятся тогда и зовите
Хуита, прекращай эту ненаучную хрень. В 1 бит сжать нельзя.
Опять развод лохов от уволенного по причине шизы додика.
Это типо как в кремниевой долине, с перераспределением операций на все машины с чипами, только в одном месте на одном сокете и за 80$ вместо 30к$? И это все за один момент времени а не постадийно, в такой скачек как то слабо верится
Пидорасина, ты куда пикчу с глазом потерял? Cжал в 1 бит и не смог расжать?
В каком загоне оно обычно живёт? Я бы навещал изредка.
Чипы работают в 100-250 раз быстрее Gpt4 и всех языков для Nvidia
Вот новость.
https://www.forbes.ru/tekhnologii/518529-so-skorost-u-mysli-kak-nebol-soj-startap-po-razrabotke-ii-cipov-hocet-obojti-nvidia
вот его сайт со всеми языковыми моделями онлайн. ( странно что нужна рега с такими возможностями )
https://groq.com/
далее чип можно уменьшить в 50 раз и масштабировать до бессконечности те владельцы стартапа тупо боятся что сам принцип чипа спиздят
2024 - это уже означает можно моделировать мозг с мгновенным обучением.