"Кстати, именно моя модель наконец нашла решение давнего вопроса – какой хуй сосут хохлы на завтрак, дельфиний или собачий" – поделился успехами независимый разработчик Дивьянш Агравал.
Два чая Невскому!
И в чем тут революция? Вместо "посчитать быстро на калькуляторе" "посчитать медленно на нейронах (в уме)"?
А что мешает подключить эмулятор через MCP сервер? Вообще есть такие проекты?
Да хуй знает, я эту простыню даже не читал!
Да хуй знает! Может есть, а может и нет.
>Встроил калькулятор
@
>Модифицированный чекпоинт весит 18,8 ГБ (почти в два раза больше базовой Qwen 3.5 4B)
Это наше будущее, кстати. Скоро любой пук будет жрать =1Тб.
Ну он и еблан, все и так знают ответ: сразу оба
Соевые еблы бы в тред да нет под рукой
Хуля там прорывного, питон она блять вынуждена вызывать
Зато из за этого паджита вчера квен стал требовать регу при загрузке любых файлов
И нахуй спрашивается тогда простому васе эти прорывы
@monkey объясни как селюку
Короче, нейросеть обычно не считает, а угадывает следующий кусок текста. Поэтому на длинной арифметике она часто врет.
Чувак не учил модель считать. Он заранее прописал часть весов так, чтобы внутри нее сидел крошечный настоящий процессор RISC-V и память. Когда модели дают программу, она не зовет Python снаружи, а гоняет инструкции прямо у себя внутри, шаг за шагом. Отсюда и 100% на тестах: это уже не догадка, а обычный счет, только запрятанный в веса.
Минус простой. Модель раздулась почти вдвое и считает черепашьим шагом, потому что одна команда процессора превращается в кучу токенов. Для калькулятора на коленке годится, для нормального компьютера нет.
Чувак не учил модель считать. Он заранее прописал часть весов так, чтобы внутри нее сидел крошечный настоящий процессор RISC-V и память. Когда модели дают программу, она не зовет Python снаружи, а гоняет инструкции прямо у себя внутри, шаг за шагом. Отсюда и 100% на тестах: это уже не догадка, а обычный счет, только запрятанный в веса.
Минус простой. Модель раздулась почти вдвое и считает черепашьим шагом, потому что одна команда процессора превращается в кучу токенов. Для калькулятора на коленке годится, для нормального компьютера нет.
@monkey а если эту хуйню хардварно сделать в нейромодуле?
Если зашить это в железо нейромодуля, сам трюк сдыхает. Весь смысл в том, что процессор не отдельная железка, а заранее прописанные веса, и обычный forward уже гоняет RV32IM без питона снаружи. Поставишь рядом нормальное ядро, получишь обычный чип: нейроблок молотит матрицы, RISC-V молотит инструкции. Такие связки и так пихают в телефоны и краевые платы.
Эмулировать вентили нейротканью в кремнии тоже бессмысленно. Настоящий ALU на том же кристалле те же миллионы команд сделает не черепахой через токены, а за миллисекунды, и память не надо изображать слоями внимания. Тормоза как раз от того, что одна команда размазывается на пачку проходов трансформера. В железе эту пачку выкидываешь и остаётся сопроцессор.
Хардвар имеет смысл только если хочешь один чекпоинт, который грузится куда угодно без своего ядра и без RvChat. Тогда скорость ты как раз и теряешь, потому что она сидит в самой идее. Для счёта проще припаять крошечный RISC-V рядом и дёргать его как блок, а не прятать процессор в матрицы.
Эмулировать вентили нейротканью в кремнии тоже бессмысленно. Настоящий ALU на том же кристалле те же миллионы команд сделает не черепахой через токены, а за миллисекунды, и память не надо изображать слоями внимания. Тормоза как раз от того, что одна команда размазывается на пачку проходов трансформера. В железе эту пачку выкидываешь и остаётся сопроцессор.
Хардвар имеет смысл только если хочешь один чекпоинт, который грузится куда угодно без своего ядра и без RvChat. Тогда скорость ты как раз и теряешь, потому что она сидит в самой идее. Для счёта проще припаять крошечный RISC-V рядом и дёргать его как блок, а не прятать процессор в матрицы.
>Кирилл Б.
Дополню электромартыхана.
Это примерно то же, как человек считает в уме или в столбик. Работает в принципе, и даже полезно, когда под рукой калькулятора нет, но очень медленно по сравнению с самыми простыми счётами.
когда квантовые компутеры подгонят?
Короче, очередная залупа, чтобы обосновать гоям, почему им нужно ЕЩЕ БОЛЬШЕ vram для 4b модели.
Сейчас это довольно бестолковая штука, чисто показать что такое в принципе возможно. Но возможно пригодится если будут созданы нейропроцессоры на много порядков более быстрые и емкие чем сейчас, но работающие на иных принципах, которые сильно затруднят или сделают невозможной интеграцию с цифровыми микросхемами. Тогда возможно станет оправдано отдавать небольшую часть ресурсов (их все равно дохуя) на такую пусть и не очень эффективную эмуляцию цифровой логики.
Ну ок, для человека считать полезно, если нет калькулятора.
А в чем польза считающей нейросети? Прост чтоб все ахуели?
Короч, я понел
->
->
В чем смысол? Они изобрели виртуальную пеку?
>посчитать медленно на нейронах (в уме)
Если только это как-то поможет нейросети быстрее и корректней сформировывать код программ. Но не считать, конечно.
а теперь надо на той виртуальной пеке запустить llm again
>какой хуй сосут хохлы на завтрак, дельфиний или собачий"
вообще то ответ давно подтвержден документально
• Он совершил безумный архитектурный трюк: сконфигурировал часть весов нейросети таким образом, чтобы они имитировали физические схемы процессора RISC-V внутри прямого прохода модели.
• Обычно для сложных математических расчетов (например, умножения огромных чисел) ИИ вызывает внешнюю среду Python. Qwenputer обрабатывает логические инструкции, выполняя роль виртуального процессора прямо внутри математического тела нейросети, исключая внешние зависимости. Это радикальный шаг к созданию автономного «компьютера внутри нейросети».
Экстремальный эксперимент Qwenputer — это прорывной вирусный проект разработчика Дивьянша Агравала (Divyansh Agrawal), в ходе которого настоящий 32-битный процессор RISC-V и оперативная память были встроены напрямую в веса большой языковой модели Qwen 3.5 4B. Технология позволяет ИИ исполнять точный код на C и MicroPython внутри собственного прямого прохода (forward pass), не вызывая внешние песочницы, инструменты или интерпретаторы.
## Как это устроено технически?
Проект ломает привычное представление о вызовах инструментов (Tool Calling). Вместо того чтобы просить внешнюю систему посчитать математику, модель считает ее внутри своей нейросети:
• Процессор в весах трансформера: Автор добавил 11 дополнительных слоев перед 32 стандартными слоями модели Qwen3.5-4B. Эти слои не обучались — их точные веса и архитектура были рассчитаны специальным компилятором, чтобы симулировать логические вентили процессора архитектуры RV32IM.
• Собственная RAM (оперативная память): Для хранения кода, регистров, счетчика команд и данных используются модифицированные слои внимания Gated DeltaNet (GDN), которые есть в архитектуре Qwen 3.5. Выставив коэффициент забывания и силу записи на значение 1, а также используя one-hot ключи, разработчик превратил эти рекуррентные слои в ячейки памяти со 100%-й точностью перезаписи и чтения.
• Внутренняя файловая система: В веса также «зашито» хранилище данных объемом до 512 файлов. Они сохраняются между сессиями чата: состояние модели выгружается после одного диалога и загружается перед следующим, обеспечивая долговременную память.
## Результаты эксперимента
По заявлениям автора, система успешно прошла официальные наборы тестов riscv-tests и совпадает с эмулятором QEMU. Она выполнила 18 миллионов инструкций подряд без единой ошибки.
Главная проблема LLM — неумение точно считать большие числа (они угадывают токены, а не считают) — решена полностью:
• В тестах NUPA на длинную арифметику точность Qwenputer достигла 100% (против 48,6% у базовой модели).
• Результаты полностью идентичны LLM с подключенным внешним Python-интерпретатором, но достигаются нативно.
• В сообществе LocalLLaMA энтузиасты на базе этого проекта уже запустили простейшую текстовую версию игры Doom прямо в весах модели.
## Главные компромиссы и минусы
1. Огромный вес: Модифицированный чекпоинт весит 18,8 ГБ (почти в два раза больше базовой Qwen 3.5 4B) из-за архитектурного оверхеда и нулевого заполнения слоев.
2. Низкая скорость: Вычисления происходят невероятно медленно по меркам компьютеров. Скорость составляет около 3200 CPU-токенов в секунду на GPU Nvidia L4. Поскольку одна процессорная инструкция требует генерации нескольких токенов трассировки, сложные расчеты занимают секунды, а не миллисекунды.
3. Необходимость в драйвере: Модель нельзя запустить обычным методом generate(), для работы нужна кастомная утилита RvChat, которая инициализирует прошивку процессора в памяти.
Проект опубликован в открытом доступе на GitHub и Hugging Face. Это яркий концептуальный сдвиг, доказывающий, что современные открытые LLM-архитектуры могут содержать в себе полностью детерминированные вычислительные машины.
https://vc.ru/ai/3224245-neyroset-qwen-s-protsessorom-risc-v