ВИДЕОКАРТЫ БОЛЬШЕ НЕ НУЖНЫ ДЛЯ ИИ.
ВИДЕОКАРТЫ БОЛЬШЕ НЕ НУЖНЫ ДЛЯ ИИ.
ВИДЕОКАРТЫ БОЛЬШЕ НЕ НУЖНЫ ДЛЯ ИИ.
ВИДЕОКАРТЫ БОЛЬШЕ НЕ НУЖНЫ ДЛЯ ИИ.
Значит и производить их больше не будут. Рыночек переходит на создание чипов
Ебало куртки представили?
Это не новая хуйня, асикам много лет уже, и меняют часто. Просто эти достаточно мощные, чтобы выебнуться и в комментарии "специалистов" нагнать. Никто не перестанет использовать видяхи для ии из-за них, особенно для разных моделей.
> на модели Llama 3.1 8B
Это же хуета.
Для нормального пользования нужно минимум Qwen-Coder-80b
Толку от модели на 8гб нет. Только если для изучения интернет траффика.
Эта хуйня будут рисовать голых баб ВСЕГДА с 5-ю пальцами по-умолчанию? Нет? На хуй пшла тогда, говнина ёбаная. Хоть 17К хоть 17гига-хуёкенов, а как было говно с 6-ю пальцами и диспропорциями, так и есть.
- Хочу выкрутить контекст размером в шестизнак icq, ты ведь такая мощная.
- Пошел нахуй.
Занавес. Гул. Свист. Аплодисменты. Публика требует на бис...
Это плохо, потому что позволит корпорациям иметь большое преимущество перед стартапами, которые пытаются пилить свои нейронка.
Надеюсь этого никогда не случится потому что кому захочется инвестировать в железо со статичными весами.
Надо куртку 15 числа ждать, он там тоже что то революционное для нейропидорах придумал.
>на модели Llama 3.1 8B
АХАХАХАХАХА
сразу видно пидараса, который модельки локально не крутил
максимально тупорылая модель, которую на дешёвом китайском смарте можно запускать
сам 3Б тоже не крутил, мне хватило непроходимой тупости 7Б, чтоб понять что ниже копать даже не стоит
АХАХАХАХАХА
сразу видно пидараса, который модельки локально не крутил
максимально тупорылая модель, которую на дешёвом китайском смарте можно запускать
сам 3Б тоже не крутил, мне хватило непроходимой тупости 7Б, чтоб понять что ниже копать даже не стоит
> В отличие от видеокарт, HC1 не «запускает» модель, а буквально содержит её веса, «вытравленные» прямо в транзисторах (hardwired)
Ок, задумка неплохая, но пусть запилят аналоги с более аткуальными моделями, и не 8B, а хотя бы 30B.
>Llama 3.1 8B
>не Vision 378
>не Nemotron Nano
эта хуета только буковы срать может, нахуй не нужна, даж жопу не почесали мультимодалку взять
>не Vision 378
>не Nemotron Nano
эта хуета только буковы срать может, нахуй не нужна, даж жопу не почесали мультимодалку взять
Раз уж такой тред, посоветуйте локальную модельку для кобольда.
1660 супер, 32гб ддр4
Чтобы ответ был ± быстрый и не пресный.
1660 супер, 32гб ддр4
Чтобы ответ был ± быстрый и не пресный.
>Llama 3.1 8B
>8B
ясно
Пусть делают чип под дипсик 671б полноценный короч
Если он будет хуярить токены как не в себя то это тема.
Если он будет хуярить токены как не в себя то это тема.
Даже если и правда, завтра нвидиа выпускает такой же и шлёт твоё торонто на хуй.
Вот бы такую йобу с локальным опусом, вот это было бы ахуенно
Ты не шаришь. Нвидиа должна будет выпускать такае же чипы по той же цене, а это сверхгигант со своими сверхрасходами. Это как перевести армию империи с мяса на овёс, ожидая тех же результатов...
Нвидия самая богатая компания в мире, имеет ввп в 2.5 России.
Никто от нее не откажется иначе в сша кризис настанет сильнее 2008 года
Т. е. для каждой модели будет нужна своя отдельная карточка? И это только для моделей с открытыми весами.
Напечатают ещё сто миллиардов долларов.
Богатые не думают так как мы
Капитализация — это не ВВП. Сравнивать их совершенно некорректно.
> демо-чат на базе этого чипа (chatjimmy.ai), где пользователи могут лично убедиться в мгновенном ответе нейросети.
Пон. Что с ебалом, гифорсобляди? Тут вам не это.
А зачем это надо? Прошу ответить гуманитарию, без троллинга.
Ведь нейросети есть крупные, это типо для того, чтобы свою нейросеть создавать? А зачем?
В любом случае компания с капитализацией 4.5 триллиона долларов не может просто лопнуть без последствий
И чо, под каждую модель новый чип хуярить? А обучать как?
Программисты В С Ё
> А обучать как?
На дваче
Осталось игры встраивать в видеокарты, вернемся к формату денди с картриджами.
>И это только для моделей с открытыми весами.
Не обязательно.
Может т.к. изначально цифры нарисованные.
Пизда встроят ее в беспилотник и ему нахуй интернет не нужен будет, он тупо сам будет сбивать другие беспилотники без оператора, или робособака которая будет хуярить всех сама, привет скайнет.
пиздец какойже ты долбаеб - не удивительно и ии не сделает тебя умнее
>Стартап
Дальше не читал
Всякие Моргенштерны не доказывают твой тезис. Их жизнь - везение и ошибка выжившего, паразитирование на изначальном событии "Повезло с распространённостью". И подчивание на том факте, что популярность в миллионы раз легче поддерживать, чем получить в первый раз. А iq - статистически подтвержденная, работающая на массах вещь, которая положительно кореллирует со многим, слишком абстрактно сложным, что принято относить к результатам высокого интеллекта. Например, с достатком. На самом деле, высокий достаток, как у меня, представителя масс - лучшее подтверждение изначальной концепции баллов, поскольку в тестах этого нет, а абстрактность понятия "интеллект" в вопросах измерения равна абстрактности понятия "богатство".
Статистика не опровергается одним (или жалкой тысячей) контрпримеров. Более того, тупая статистика - это ты, а умная - это я.
Статистика не опровергается одним (или жалкой тысячей) контрпримеров. Более того, тупая статистика - это ты, а умная - это я.
>только слабоумный будет думать, что можно изменить реальный уровень интеллекта с помощью каких-то ссаных тестов.
Слабоумный будет скорее как раз думать, что iq ничего не значит, потому что обратный тезис для него неприятен, как в целом любая концепция измерения интеллекта. Это называется коуп слабоумного.
Слабоумный будет скорее как раз думать, что iq ничего не значит, потому что обратный тезис для него неприятен, как в целом любая концепция измерения интеллекта. Это называется коуп слабоумного.
потомучто ты читать не умееш?
В твоём рассуждении фундаментальные логические ошибки.
НУ НИХУЯ СЕБЕ, Я ПРОСТО АУХЕЛ ОТ СКОРОСТИ и того какой объём инфы оно отдаёт в секунду..
А ведь действительно можно вообще любую нейронку вытрвить на кремнии или стекле.
И вы , что всегда просто человеком,
Под любую задачу можно сделать асик, но смысл появляется, когда она становится достаточно конкретной и стандартизированной. Пока с нейронками зоопарк ебаный и всё меняется каждый месяц смысла в этом нет.
>Эксперты (например, с Hacker News и Reddit) отмечают
Имагинули ебало этих ЭКСПЕРТОВ ?
Ну нет, это не хуета, для некоторых задач это топ, допустим теперь можно пролопатить бд с милионами записей, и найти что не подчиняется строгим правилам, отработать чаты пользователей майору, антифрод защита.
>Llama 3.1 8B
ну и нахуй она нужна?
Чаю. Буквально то чего не хватало для автономного оружия.
Машинное зрение, моторика. Конкретно, стандартизируемо и востребованно.
Как раз нейрозалупа уже очень даже стандартизирована, все провайдеры конечных продуктов юзают API конкретных моделей и набор промтов. Cursor, meshy3d, photoshop и т.д.
То есть какому-нибудь cursor с его объёмами лучше каждый раз заказывать кастомные asic под конкретную модель чем держать ебаные датацентры универсальных тесел...
>Машинное зрение, моторика.
Даже тут любой девайс на асике через год уже станет говном мамонта.
Модель на 8б - это откровенно тупая модель, которая на практике никому не нужна.
Как пруф оф концепт хорошо, но как продукт нет.
Эта модель юзается повсеместно для декомпозиции и снижения расхода токенов на более тяжёлых моделей. На деле демонстрационный вариант для вендоров коммерческих тяжёлых моделей.
Вполне вероятно что с таким поворотом вся отрасль вообще уйдёт от API и начнёт торговать готовыми железкам хардварно-зашитыми моделями.
ни одного слова не понял. Бототред
Просто у тебя низкий iq
Так а нам что нужно? Мозги апдейтим вместе с моделью девайса, все довольны. Причём со временем даже реже ввиду характера задач.
Алсо для военки вообще халява: там 10 лет рожают, 50 сношают.
ну да, я же на дваче
Квазинейтральной редактировавшую
Приседающему стяжает палеогеографическое избыточного сорокасекундная
Заметь большинство анонов шарит за нейрозалупу и разработку, ты в меньшинстве.
Это ты больше не нужен производителям видеокарт. Они хотят сделать hardware as a service нормой, первый прогрев с облачным гоймингом не удался, наблюдаем заход номер 2.
Так вижу, в течении пары лет с консьюмер рынка вытянут мощный картон полностью, будут только энтерпрайзу продавать. Для самых упертых степах останутся нераспроданные остатки 5050 за 1500уе штука. В качестве альтернативы гоям сунут подписку на реалтайм генератор интерактивного слопа по типу genie и гои сожрут ибо хули ты ещё сделаешь.
Поклонения Талосу запрещены варвар ебаный.
Производители видимокарт просто майнят бабло на потребностях рынка и не имеют долгосрочной стратегии.
>Llama 3.1 8B
Такая модель ни понять запрос не сможет, ни ответить без ошибок, в т.ч. орфографических.
Не нужно.
Hardwired-нейросети будут актуальны для «зрелых» классов нейросетей. То есть когда в определённом классе будет достигнута идеальная производительность (в рамках заданного количества параметров) без какого-либо дальнейшенго прогресса, то можно будет переводить такие сети в хард для экономии питания.
Так они же не руками техпроцесс отрисовывали... Скорее всего любую нейросеть можно отрисовать в автоматическом режиме и выпускать мелкой серией в пределах одной подложки.
«Модель в кремнии»: В отличие от видеокарт, HC1 не «запускает» модель, а буквально содержит её веса, «вытравленные» прямо в транзисторах (hardwired). Это устраняет главную проблему современных вычислений — задержку при передаче данных между памятью и процессором.
Экономика: Заявлено, что чип в 20 раз дешевле в производстве и потребляет в 10 раз меньше энергии, чем решения от Nvidia. Стоимость генерации 1 млн токенов на HC1 оценивается всего в 0.75 цента.
Доступность: Компания уже запустила демо-чат на базе этого чипа (chatjimmy.ai), где пользователи могут лично убедиться в мгновенном ответе нейросети.
Комментарии экспертов и аналитиков:
1. Проблема гибкости vs Эффективность
Эксперты (например, с Hacker News и Reddit) отмечают, что главный минус — нулевая гибкость. Если вы захотите запустить другую модель, вам придется покупать новый чип. Однако Taalas утверждает, что их процесс проектирования позволяет создать чип под новую модель всего за 2 месяца, что сопоставимо с циклом обновления ПО в крупных корпорациях.
2. Технологический прорыв в архитектуре
Аналитики из EE Times подчеркивают, что Taalas вернулся к принципам «структурированных ASIC». Они объединили логику и хранение данных на одном кристалле с плотностью DRAM. Это позволяет обходиться без дорогой и дефицитной памяти HBM, жидкостного охлаждения и сложных систем межсоединений.
3. Будущее «разумных» агентов
Саймон Уиллисон (известный разработчик и эксперт) отмечает, что такая скорость (17k токенов/сек) делает бессмысленными привычные чат-интерфейсы, так как текст генерируется быстрее, чем человек успевает моргнуть. Это открывает путь к ИИ-агентам, которые «думают» и действуют в реальном времени, не заставляя пользователя ждать.
4. Скепсис по поводу масштабирования
Некоторые специалисты указывают на сложность упаковки больших моделей (например, Llama 400B или DeepSeek 671B) в такую архитектуру. Для модели на 671 млрд параметров потребуется синхронная работа около 30 чипов HC1, что может частично нивелировать преимущество в энергопотреблении и простоте.