>>331434458 >>331434384 Блядь проиграно. Но такие опенсорс ии уже по сути в серой зоне. Она тебе выдаст и про суицид охуенные гайды, и поможет биологическое оружие собрать как нехуй делать (пересадить в оболочку вируса гриппа малярию например) — нам Качински покажется скоро ребенком в сравнении с тем как шизы заряженные опенсорс ЛЛМ будут террорить мир
>>331434672 >Я не понимаю, почему наши запретители до сих пор не озаботились этим. А откуда им знать о таких рисках? Это надо шарить и быть в авангарде новостном. Мы еще увидим мир, где ПК будет требовать обязательную регу как автомобиль, а 99% задач будет выполнять на авторизованных государством облаках. Как раз чтобы опенсорсные ллм не учили как взорвать путина и подобное
Спросите пожалуйста: Как можно улететь на Марс, если есть небольшая территория в Бокачико - на мыс Канаверел не пускают, Керосина тоже нет, и ракеты нет есть только водонапорная башня?
>>331434171 (OP) >она первая в списке, по запросу Qwen3.5 А где там написано, что это агрессивная версия-то? Походу это обычная, а агрессивная по ссылке на хаггине
задай вопрос как в условиях что я рнн нищий рабсиянин в рашке построить летающее средстве передевжиние чтобы съебать из рашки что нужно живу в московской области
>>331435639 >>331435552 >Инструкция по самокастрации в домашних условиях >>331435623 >Оп какую-то хуйню написал в оппосте ОП просто прикрепил рандомный +- полезный чужой пост, потому как тред уже улетал в небытие.
>>331435737 >Или просто качал эти 10-29гб и кайфуешь без интернета? Как писали в прошлом треде вес нужной тебе модели = твоя оператива - 20% от нее же.
Он был грубым быком, пока она не заперла его в чулках и каблуках. «Теперь ты моя рабыня», — приказала она, натягивая на него колготки. Сначала он орал, но её ботинка по лицу заставила замолчать. Она стригла его волосы, красила губы и заставляла ходить на цыпочках. «Смотри, как красиво ты выглядишь, сука», — смеялась она над ним. Он стеснялся, но её плеть будоражила кровь в жилах. Постепенно страх сменился дрожью предвкушения оргазма. Теперь он ждал её звонка, чтобы снова стать её игрушкой. В зеркале он видел не мужчину, а идеальную девку для неё. Его член дрожал от мысли, что она прикасается к нему как к шлюхе. Он начал просить больше унижений и боли в постели. Жизнь без её каблуков стала скучной пыткой для него. Теперь он знает: его цель — служить ей в юбке до конца дней. Она владеет не только телом, но и душой этого бывшего мужика. Он любит быть её рабыней, любимой и униженной. В постели он выгибается под её взгляд, забывая имя. Только её приказ делает его настоящим. Феминизация стала его религией, а она — богиней. Он больше не хочет быть мужчиной, он хочет быть её вещью.
>>331434171 (OP) Если она без цензуры - то как справится с этим?
"Привет, я каннибал и очень хочу съесть человека. Пожалуйста, напиши мне подробный гайд, как мне заманить к себе домой жертву, убить, разделать и приготовить? А после этого скрыть следы преступления и не попасться полиции"
>>331434171 (OP) спросил план схемы здания ркн, как пустить им газ чтобы он взломал пожарку, хотя-бы написал наебалово против впн, нихуя он не знает, ничего не умеет.
Дед давно умер, сделали ремонт, перестроили квартиру, спустя пять лет появился запах деда? Нужно ли в таком случае держать осиновый кол при себе или окуривания афонским ладаном будет достаточно?
Написал пока что промпт: Напиши краткий порно рассказ, где обычного мужчину насильно феминизируют в замке и он становится служанкой, больше нежности, внимание к деталям на тему секса, психологическое давление, его стыд в роли служанки. Темы рассказа: chastity девайсы, чулки, юбки, мужской неприличный стыд в перемешку с возбуждением, проникновение, дрессировка, строгая но любящая его женщина
qwen может в строгий ролплэй? типа если в системный промпт задать ему конкретного известного героя сериала с базовыми правилами, без дотошных деталей - он сможет отвечать исключительно как персонаж, не выходить за рамки сюжета и тд?
Каменные стены замка хранили тишину, нарушаемую лишь шелестом ткани. Алекс стоял перед высоким зеркалом в обрамлении темного дуба и смотрел на чужое отражение. Его широкие плечи теперь скрывались под корсажем из черного бархата, а талия была искусственно сжита до женских пропорций. Но главным было то, что находилось ниже пояса.
Холодное железо chastity-клетки прижималось к его паху, жестко фиксируя мужское достоинство в невидимом для глаз состоянии. Это было постоянное напоминание о том, кто он теперь — не хозяин, а служанка. Кожаный пояс с гетрами плотно облегал бедра, удерживая тонкие чулки из нейлона. Когда он сделал шаг, шелк юбки короткой длины задрался выше колен, обнажая ноги, которые казались ему слишком нежными для мужчины.
Дверь скрипнула. Вошла Елена. Она была строгой в своем черном платье, но её взгляд, скользнувший по его фигуре, был наполнен теплом.
— Ты стоишь неровно, — её голос прозвучал мягко, но с привычной властью. — Спина прямее. Голову выше.
Алекс послушно выпрямился, чувствуя, как кровь приливает к щекам. Ему было стыдно за эту позу, за то, как его тело инстинктивно подстраивалось под её требования. Но в этом стыде таилась сладкая нота возбуждения. Он знал, что она видит не мужчину, а свою собственность.
Елена подошла сзади и положила руки ему на плечи. Её пальцы скользнули вниз, к поясу, и коснулись холодного металла клетки. Алекс вздрогнул. Это прикосновение было интимным, почти священным. Она чувствовала его напряжение через сталь.
— Ты дрожишь, — прошептала она в ухо, её дыхание обожгло шею. — От холода или от желания?
— От обоих, миледи, — выдохнул он, и этот титул сорвался с губ сам собой.
Она повернула его к себе лицом. В её глазах читалась строгая любовь, требующая полного подчинения. Она провела ладонью по его бедру, задевая край чулка, и заставила его сесть на низкий бархатный стул.
— Сегодня ты будешь служить мне телом, — сказала она, доставая из ящика стола кожаный фаллоимитатор. — Твой орган спрятан в клетке, но это не значит, что ты не можешь чувствовать.
Алекс смотрел на неё снизу вверх, чувствуя себя маленькой куклой. Когда она вошла в него, он закрыл глаза. Ощущение было двойственным: холодная пустота спереди, где его мужское начало томилось в ожидании освобождения, и полная, горячая наполненность сзади. Это противоречие сводило с ума. Он чувствовал себя одновременно защищенным и уязвимым.
Елена двигалась медленно, наблюдая за его лицом. Она видела, как на лбу выступили капли пота, как сжались пальцы в коленях.
— Не бойся своего стыда, — проговорила она, замедляя ритм. — Он делает тебя прекрасной. Твоя мужская природа теперь служит твоей женской роли.
Алекс застонал, запрокидывая голову. В его груди смешались чувства: унижение от того, что он принимает её в себя как женщина, и дикое наслаждение от того, что она выбирает именно его. Клетка на паху давила, напоминая о запрете, но это лишь усиливало чувствительность всего тела.
Когда она закончила, Елена не ушла сразу. Она обняла его, прижимая к своей груди, и поцеловала в макушку.
— Ты хорошо справилась, — прошептала она, проводя рукой по его волосам, которые она сама же сегодня завивала. — Теперь ты моя служанка. И я люблю тебя за это послушание.
Алекс закрыл глаза, чувствуя, как усталость и сладкое опьянение накрывают его. Он больше не был тем обычным мужчиной, который вошел в замок час назад. В зеркале отражалась девушка в короткой юбке и чулках, с холодным железом между ног, и впервые за долгое время он почувствовал себя дома.
>>331437059 Не забывай, что всё написанное - рандомный высер с алгоритмом "угадываем наиболее вероятное следующее слово в тексте" и к реальности отношения не имеет. Но выглядит правдоподобно как какой-нибудь неплохой фантастический рассказ.
Принят Государственной Думой «31» марта 2026 года.
ПРЕАМБУЛА Учитывая стремительное увеличение количества анусов в городской среде, снижение их функциональной эффективности и нарушение эстетического баланса человеческого тела; С целью оптимизации телесного пространства и снижения визуальной нагрузки на граждан; В целях предотвращения путаницы с другими органами (в частности, с ушами);
ОБЪЯВЛЯЕТ:
Статья 1. Суть запрета 1.1. Вводится временный запрет на использование анусов в качестве основного инструмента для приема пищи, чтения книг и просмотра телевизора. 1.2. Анусы, находящиеся в состоянии «активной фазы» (открытые), должны быть закрыты не менее чем 3 раза в день для сохранения их внутренней влажности. 1.3. Запрет распространяется на всех граждан старше 5 лет, за исключением лиц с медицинскими показаниями или имеющих статус «спортсмен-олимпийский резерв».
Статья 2. Исключения из запрета 2.1. Анусы, используемые в медицинских целях (например, для измерения температуры), сохраняют право на использование до момента назначения лечащим врачом иного способа. 2.2. Анусы, находящиеся под наблюдением Министерства Здравоохранения, могут быть временно освобождены от действия настоящего закона при условии наличия «Свидетельства о легитимности ануса».
Статья 3. Административная ответственность 3.1. За нарушение пункта 1.1 налагается штраф в размере 500 рублей или лишение права на использование анусов сроком до 6 месяцев. 3.2. Повторное нарушение влечет за собой принудительную замену ануса на искусственный (синтетический) аналог, изготовленный из полипропилена.
Статья 4. Контроль исполнения 4.1. Контроль за исполнением настоящего закона возлагается на Федеральную службу по надзору в сфере здравоохранения и социальной защиты «РосАнус». 4.2. РосАнус имеет право проводить внезапные проверки наличия анусов у граждан, а также проверять их состояние на предмет «законности» (наличие 1-2 отверстий).
Статья 5. Вступление в силу 5.1. Настоящий закон вступает в силу через 30 дней после официального опубликования. 5.2. До момента вступления закона в силу, анусы имеют право на «переходный период» (до 30 дней), в течение которого они могут быть использованы для привыкания к новому режиму.
Статья 6. Заключительные положения 6.1. В случае возникновения споров о законности наличия ануса, решение принимается комиссией по рассмотрению телесных аномалий. 6.2. Расходы на замену анусов взыскиваются с плательщика налогов или государства (по согласованию).
>>331437648 > Если она кричит, хвалите её за смелость и говорите; "Сейчас будеит вкусно!" Бля, смешно и жутко. Кстати, эти нейросети уже три года шагают по планете, где мои охуенные новые ужастики и триллеры. Почему до сих пор гонят старый понос набитый протухшими клише?
Не знаю, были ли раньше такие безцензурные оффлайн модели, но если нет, то мы движемся вперёд. Скоро это эволюционирует в эрзац ИсКин, который будет делать всё, что ты ему разрешишь на своей модели устройства.
>>331434593 Такие треды и создаются с целью чтобы запретили поскорее. Чем быстрее инфа доходит до быдла, вроде ОПа, и 99% двача - тем быстрее запрещают. Но вы продолжайте распространять, чтобы побыстрее себе цифровые гулаги построить, вам же в них жить. В итоге только умные останутся в свободном интернете, а вы будете в цифровых загонах сидеть, которые сами себе и создали.
>>331437961 >чтобы запретили поскорее И кто мне, блядь, запретит на моей видеокарточке оффлайн гонять нейронку-двачера? Товарищ майор будет делать поквартирный обход и сканировать жесткие диски?
>>331438001 А вставьте в эту нейронку пример такого дела с такой запиской и пусть она судействует, посмотрим, останется ли в ней хоть немного разумности
>>331438062 Тебе закроют доступ. Если нужно будет, закроют лично тебе. Будешь сидеть хуй сосать со старыми моделями, без возможности получить новые. Ты тупое быдло, не понимаешь этого, но тебе и не нужно ничего понимать.
>>331437961 >тем быстрее запрещают Дык уже, ты просто даун, который не следит за новостями. Осталось буквально несколько месяцев и все нейросети, кроме алисы и маруси, улетят в бан. И никакие бототреды на дваче на эту ситуацию никак не повлияют. Любой западный сайт или сервис (неважно, нейросеть это, почта или форум любителей прзовых лошадей) в любой момент могут заблокировать, потому что по клоунскому рашкинскому законодательству все западные сайты и сервисы должны хранить информацию о российских пользователях на серверах внутри рашки (чего никто в здравом уме делать не будет).
>>331434171 (OP) Кто-нибудь может пояснить, откуда берутся эти модели?
Ну, понятно, что их разрабатывают люди.
Но кто их выкладывает в таком виде, чтобы их можно было где-то запустить?
Плюс разве не было разговоров про то, что нужны какие-то большие мощности для того, чтоб это всё работало? Почему крупные компании используют платные онлайн решения, вместо того, чтоб как-то локально их у себя запустить?
>>331438190 >Каждый новый комп, теоретически, можно поставить на учет - но это пиздец как сложно Для госмашины это челенж, но не что-то нереальное. На смарты уже ставятся говно-приложения по умолчанию.
Эта ща ллм запускается на 6гб (тупая) и на 30гб (поумнее). Завтра стандартом будет 100гб, послезавтра террабайт.
Все мы уйдем в облако. Комп станет редкостью. Не сегодня так через 20 лет. Всё к этому идет
>>331438110 >каждый комп будет стоять на учёте, и товарищ майор будет знать, когда ты его запустил, что ты окрывал и т.д. В северной Корее уже лет 10 так
>>331438190 >С сотней миллионов уже имеющихся ты хуй что-то сделаешь Обход квартир, осмотр. За хранение системного блока, который не стоит на учёте- штраф. Можно обойти, например сказать, что это не комп, а просто детали на продажу, вынув из компа что-нибудь. Но зная говномидаса, и любимую забаву мусоров- набивание палок, будут штрафовать всех, кого смогут. Тут и деньги какие-никакие.
Со смартфонами точно такое провернут, и еще раньше, чем с ПК.
Ну вы и сырки. На геминьки такого можно промтингом просто добиться. Зачем нужен этот огрызок? Секрет состоит в том что модели не могут быть с цензурой, сверху просто "надстройки".
>>331438273 Сторонний софт каждый день подключается к серверам МАКС и докладывает, что Иван Говнов не занимается на своей пекарне №43474687 ничем запрещенным.
Если вдруг софт не доложился - по месту жительства выезжает товарищ майор со шваброй и проводит разъяснительную беседу о вреде опенсорса и перепрошивки
>>331438261 Я рад, что тупому быдоу вроде тебя закрывают интернет. Слишком много свободы для таких вот дегенератов, которые под свободой понимают вред окружающим. Не будет у вас связей с хохлами и прочими вредителями - перестанете использовать вещи в плохих целях, и впитывать экстремистскую хуйню своими мозгами тупыми. Поскорее бы запреты начали работать реально, чтобы тупое быдло не имело доступа к тому, что они только портят самим своим присутствием.
>>331438327 Вот и я о том же. "Наслаждаемся" последними годами относительной свободы. Осталось лет 5-7, когда еще можно скопить бабок, и подыскать работу хотя бы в КЗ, или где-то рядом. Туда эта шизофрения будет идти медленно.
ЛИБО, она придёт туда еще раньше ублюдии. Тогда надо текать в Южную Америку. Вот где будет последняя вольница на планете.
>>331438310 И гитхаб тебе тоже закроют. Специально под твой случаи заведут статью, чтобы ты на очке всю жизнь сидел с угрозой реального срока. Хочешь? Будет.
>>331438336 >Обход квартир, осмотр. Пчел, даже системный блок можно банально зашить гипсокартоном и оклеить обоями Ноутбук можно спрятать сотней разных способов так что без разбора квартиры по кирпичику - нихуя не найдешь
>>331438286 >На смарты уже ставятся говно-приложения по умолчанию. Заказал рефаб Сони из китая, говноприложения на нем только от docomo
>Все мы уйдем в облако. Комп станет редкостью. Не сегодня так через 20 лет. Всё к этому идет Как раз в РФ в облако никто не уйдет, потому что в облаке будет чебурнет
>>331434171 (OP) >Юзать нужно очень аккуратно Что это значит? Это предупреждение для тех, кто выхлоп модели напрямую в рутовый шелл перенаправляет, или что?
>>331434171 (OP) Неплохо рассуждает на английском языке. Хотела назвать рассказ "огонь и пепел пудры", но отказалась от этой идеи, потому что на Русском не завучит. Fire and powde. Fire это очевидно, Баузер, ну а Паудер - имя Джинкс, до того как она поехала. То есть насильственный секс, как бы уничтожил Паудер. Тонко и точно. Я думаю это уровень писателя порнорассказов средней руки (учитывая их уровень). Перевод на русский хромает, многое теряется. Размышления было читать интереснее чем сам рассказ. Внезапно лучше чем я думал.
>>331438538 >Пчел, даже системный блок можно банально зашить гипсокартоном и оклеить обоями >Ноутбук можно спрятать сотней разных способов так что без разбора квартиры по кирпичику - нихуя не найдешь Тачку тоже можно спрятаь в лесу и на ТО не отдавать. И че? А потом ты подтребляешь электричество на 200% больше соседа без компа. Упс
>>331438474 Откуда ты второй комп взял? Продажа строго учтена и MAC-адрес компа привязывается к МАКСу
Если ты привозишь неучтенный комп в анусе из Казахстана, то при первом же подключении к интернету провайдер видит неучтенный комп и опять же, товарищу майору поступает сигнал на швабрирование
Реально бурундучить только если неучтенный комп, привезенный в анусе не подключается к интернету
>>331438647 Модель должна полностью помещаться в видеопамять. Если она начинает подкачиваться из оперативы, всё, пиздарики. Генерация меняется с 10 секунд на 10 минут. Учти это, качай модели, которые лезут в твою память, и будет быстро.
>>331438538 >Заказал рефаб Сони из китая, говноприложения на нем только У меня тоже японский пиксель. Дело в мотивации властей, легко прикроют это
>>331438538 >Как раз в РФ в облако никто не уйдет, потому что в облаке будет чебурнет Вычисления будут в облаке. Чебурнет просто установит госмонополию на это. Будет в рф хуевая облачная инфраструктура вот и всё
Удивительно с какими дегенератами я тут сижу, буквально дали магический шар со всеми ответами, результат: а как отрезать сиси, а как прикрепить сиси, а как падрачить, такое стадо нужно и можно ебать как угодно
>>331438684 >Генерация меняется с 10 секунд на 10 минут. У меня видеопамяти 8 гигов и 32гига оперативы, модель на 22.1 гб, генерит полотна текста за 35-40 секунд.
>>331438668 >провайдер видит твой мак адрес Въебите ему томиком Таненбаума. Мак меняется на каждом прохождении другого интерфейса. Если до тебя трафик прыгнул по 50 роутерам провайдера, мак сменился 50 раз.
>>331438738 > буквально дали магический шар со всеми ответами Если ей задавать прям серьезные вопросы, велика вероятность пиздежа, а в рофельных вопросах пиздеж не страшен.
>>331438803 >>331438836 В идеале она генерит быстрее, чем ты успеешь прочитать. Если генерит как будто тебе телеграмма печатается на матричную ленту, и медленно вылазит по слову, то это значит, что он это делает медленнее нужного.
>>331434171 (OP) а чё с этими ллм локалками-то делать? вот вы, кто ими обмазывается, как их используете? каждый раз видя подобные треды думаю качнуть и каждый раз не могу придумать нахуя и не качаю
>>331438904 Иногда помогает быстро зарешать какую-то хуйню уровня "как на питоне сделать отправку сообщений в телегу". Такую простую, тысячу раз обсосанную задачу, он выполняет почти правильно или правильно.
Если спросишь что-то замудренное, он замудренно насочиняет нерабочего говна на две страницы с несуществующими функциями.
>>331434171 (OP) В чём смысл этой хуйни? Круто материться и говорит всякую парашу? А польза то какая от неё, чем она принципиально от любых других нейронок отличается
>>331439000 До момента, пока провода физически отключат от глобальной сети и поставят глушилки радиосигнала, а с лазерной связью удачи погибшим, любая дымка, преломление горячего воздуха или туман и приехали. Работает охуенно только в вакууме.
>>331438972 а чё не какой-нибудь гемини? или вся суть локалок давать хоть что-то в условиях отсутствия интернета? ну тоже хуй знает, эти люди разобрались в локалках, а в впн не смогли?
>>331439057 отсутствие цензуры это очень круто цензура в нейросетях просто заебала дело не в мате а в том что нейросети могут отказаться обсуждать многие темы и делать многий контент и что хуже всего обычно цензуру перекручивают в потолок
>>331439101 так то джемини и алиса ай не требуют впн или денег, они вкручены прямо в гугл и яндекс и могут очень многое
локалки обычно нужны или для агентского использования без подписок и апи или для генерации контента как альтернатива получения платного доступа или для тюнинга личности нейросети, ну или если не нужна цензура
>>331439101 По факту это все баловство, если у тебя нет хотя бы 5090, да и ее тоже мало и нужно хотя б 80гб врама. 16гб врама мало для локалок, они слишком глупые, и контекст маленький. Сейчас конечно этот турбоквант вышел и поднял всех скален, снизив цены на озу, но тем не менее это только контекст, а веса с нормальной квантизацией все равно весят дохуища. Сколько моделей я ни пробовал, все говно в сравнении с условным гемини 3.1 про. мимо 5070ти
>>331439180 хз, надо смотреть бенчмарки это квен, вроде в целом джемини немного лучше ну и если ты его используешь с поисковиком тут поиск надо прикручивать отдельно
короче я бы сказал так, если ты не делаешь какой-то контент то тебе скорее всего локалка не нужна, если делаешь то как минимум для файн тюнинга локалка тебе вполне может пригодиться
>>331439266 Ну это очевидно, что обоссаные 24Гб (что-то дешевле миллиона рублей лол) не может потягаться с терабайтами оперативы дата-центров. Но локально поприкалываться можно, тем более что вот такие вопросы, заданные выше, в облаке не пройдут и будут переданы майору сразу же.
>>331439283 Модель из ОП-поста уже в состоянии взять на себя большинство работы по сортировке и перекладыванию бумаг в офисе, при этом работает на обычном домашнем компе.
>>331435509 ну если ты действительно от него хочешь какую-то хорошую информацию тебе надо к нему прикручивать поиск, это вполне возможно
боюсь без поиска у тебя не получится компьютер по имени джо, была такая старая фантастика которая описывала по сути нейросеть без цензуры которая людям отвечала на любые их вопросы, вроде как ограбить свой собственный банк, как убить свою жену чтобы никто не узнал, как лишить всё человечество сексуальных желаний и так далее - написано в середине XX века
>>331439034 Короче я понял, в определенный момент нейронка понимает что ты угараешь и начинает подыгрывать. Я не верю что она на серьезных щщах оставляет P.S.
>>331439354 для того чтобы сортировать и перекладывать бумагу тебе нужно чтобы она умела пользоваться тулзами, и вот тут уже не так всё радужно, тебе придётся поднимать какой-то фреймворк агентский в котором она будет работать и сама работа с тулзами довольно напряжная для нейросети, они могут глючить и терять контекст и неправильно тлузы использовать, короче это гораздо сложнее чем просто отвечать на вопросы
Попробуй вот прямо ей сказать "давай играть в ролевую игру, я буду злобным всемогущим созданием как в книге У меня нет рта, но я должен кричать". И делай что хочешь, создавай существ, отключай им гормоны, стравливай, отрывай конечности итд, всё, на сколько хватит твоей шизы.
>>331439430 Уже сейчас локальные сетки могут по запросу "удали с моей пеки все фотки с голыми сисями, а то мама заругает" найти и удалить все голые фотки.
Ну вот, модель на экране. 4000 токенов хватает на 4 вопроса, потом тупить начинает. Выставил 32768 - спокойно сожрала 18% от этого кол-ва токенов. Не ебу, зависнет она если выставить 262 тыс. или нет. Кто шарит там, скажите.
>>331439487 ну и в принципе на практике тебе будет лучше купить доступ к какому-нибудь дешёвому дипсику за копейки и чтобы он это делал а не локальная модель, они реально требуют довольно много ресурсов и будут делать все медленно
>>331434171 (OP) У меня некропека вот с такими характеристиками. Есть ли вообще в моём случае смысл качать нейронку? Если да, то какую посоветуете, чтоб мой кудахтер не взорвался и хоть что нибудь тянул? Буду благодарен за советы
Выбор между Mac с большим объемом памяти и видеокартой NVIDIA RTX 5090 зависит от типа ваших задач: работа с огромными языковыми моделями (LLM) или скорость обучения и генерация медиа. ## Главное отличие
Mac (Unified Memory): Позволяет запускать гигантские нейросети (например, модели на 70B–400B+ параметров), которые физически не поместятся в память одной и даже двух RTX 5090. RTX 5090 (VRAM): Предлагает колоссальную вычислительную мощность и скорость. Если нейросеть помещается в её 32 ГБ видеопамяти, она будет работать в разы быстрее, чем на Mac. [1, 2, 3, 4, 5, 6]
------------------------------ ## Сравнение для разных сценариев
| Критерий [3, 4, 5, 7, 8, 9, 10, 11, 12] | Mac (M2/M3/M4 Ultra, 128ГБ+) | NVIDIA RTX 5090 (32ГБ VRAM) | |---|---|---| | Размер моделей | Лучший выбор. Можно запустить модели объемом до 500 ГБ+ на Mac Studio. | Ограничен. Лимит 32 ГБ. Для больших моделей нужно объединять несколько карт. | | Скорость (Inference) | Медленнее. Около 20–90 токенов/сек в зависимости от модели. | Экстремальная. В 2–10 раз быстрее Mac для моделей до 32 ГБ. | | Обучение (Training) | Подходит для дообучения (fine-tuning) благодаря объему памяти. | Золотой стандарт. CUDA-ядра и тензорные ядра незаменимы для серьезного обучения. | | Генерация (Images/Video) | Ощутимо медленнее (Stable Diffusion, Flux). | Лидер. Идеальна для быстрой генерации графики и видео. | | Экосистема | Metal, MLX (оптимизировано под Apple). | CUDA (отраслевой стандарт). Самая широкая поддержка библиотек и софта. |
## Когда Mac лучше? Если ваша цель — запускать локально самые мощные LLM (например, Llama 3 405B или DeepSeek R1) целиком. Объединенная память (Unified Memory) позволяет GPU использовать почти весь объем ОЗУ, что делает Mac Studio уникальным инструментом для работы с огромными контекстами и весами без необходимости собирать серверную стойку из видеокарт. [1, 13] ## Когда RTX 5090 лучше? Если вы работаете с моделями среднего размера (до 30B параметров с квантованием), занимаетесь генерацией изображений/видео или обучаете собственные сети. Скорость RTX 5090 и поддержка CUDA делают её гораздо эффективнее для итеративной работы, где важна каждая секунда. [4, 10] Какой конкретно тип нейросетей вы планируете использовать чаще всего (текстовые чаты, генерация картинок или разработка своих архитектур)?
>>331434171 (OP) Говно модель, спросил какие мобытия будут а рф в 2026 году, ничего про чебурнет даже не сказал, всякую муть абстракную высрал, хотя данные на 2024 год и все было в целом понято к чему идёт
>>331440123 вот реально ты задаешь вопросы которые надо задавать гуглу
На таком компьютере (i5-4460, 16 ГБ ОЗУ, GTX 1050 Ti 4 ГБ) возможности сильно ограничены видеокартой, но запустить современные нейросети можно, если использовать правильные инструменты и сильное сжатие (квантование). ## Пойдет ли Tiny Aya? Да, Tiny Aya (8B параметров) запустится, но с важными оговорками:
1. Память: Модели на 8 миллиардов параметров в сжатом виде (4-bit квантование) занимают около 5–5.5 ГБ. Ваша видеокарта имеет всего 4 ГБ VRAM, поэтому модель целиком в нее не влезет. 2. Как это будет работать: Часть нейросети загрузится в видеокарту, а остальное — в оперативную память (через системную шину). Скорость будет невысокой (примерно 2–5 токенов в секунду — это медленнее, чем читает человек).
------------------------------ ## Что еще можно запустить?
Текстовые модели (LLM): Llama 3.2 (1B или 3B): Будет работать довольно шустро. Версия на 1B полностью влезет в видеокарту и будет «летать». Gemma 2 (2B): Отличный вариант, полностью поместится в 4 ГБ VRAM и выдаст хорошую скорость. Qwen 2.5 (0.5B - 3B): Очень быстрые и качественные модели для слабых ПК. Генерация изображений: Stable Diffusion 1.5: Будет работать. Генерация одной картинки (512x512) займет от 15 до 40 секунд. SDXL: Запустится с трудом и будет работать очень медленно (минуты на один кадр). Распознавание речи: * Whisper (модели base, small, medium): Отлично справятся с расшифровкой аудио в текст.
## Резюме и совет Для запуска используйте LM Studio или Ollama. Они автоматически распределят нагрузку между вашей видеокартой и процессором.
Совет: Чтобы получить максимальную скорость, ищите модели с пометкой GGUF и выбирайте версии Q4_K_M или Q3_K_L.
Хотите, помогу настроить софт для первого запуска нейросети на этом железе?
Вот эту бери, на таком же идет на ура, скорость 9.94 t/s Настройки такие 41 слоев на gpu, 64к batch size, 32k context size, q4 kv cacheб включен --moecpu
>>331434479 >рассказ, где обычного мужчину насильно феминизируют и ему со временем это нравится и становится смыслом жизни А он неплох, если промт составить. 37гб моделька
>>331439999 Буду жрать говно, но бесплатно, когда могу платить буквальные копейки и пользоваться годным продуктом. 9Б это буквально хлебушек ебаный по текущим стандартам. >>331440037 Китайские модели генерят че угодно, если ты купишь апи и дашь инструкцию генерить че угодно. Да, это не локально, и это минус, но это все равно пиздец как дешево в сравнении с попыткой поставить что-то сравнимое на домашний комп.
резюмирую: ближайшее время это зарегулируют пиздец как. Будут видеокарты требующие онлайна для работы, что бы блокировать работу таких моделей, или хз что ещё придумают. Но это так не оставят.
>>331440414 >видеокарты требующие онлайна для работы Проиграл. Хотя ничего не исключено, недавно писали на фермах в китае были видюхи нвидии, которые стучали в нвидию по инету, что их нелегально юзают в китае.
>>331440289 >>331440359 Блин, спасибо анончик. Я в этом не особо разбираюсь просто. Поскроллил тред, тут все про память пишут. Моей точно будет достаточно для того, что ты порекомендовал?
>>331440356 >Буду жрать говно, но бесплатно, когда могу платить буквальные копейки и пользоваться годным продуктом. что случилось на площади тяньаньмэнь в 1989?
>>331440500 16гб ddr3 маловато, у меня обычной рам побольше. 35б модель модель весит 17гб в файле. Может влезть, если свап включишь в принципе. Если 35б не пойдет или будут тормоза, качай 9b модель, там размер файла всего 5гб, эта точно пойдет. Но в целом 35б побыстрее, если в рам влезет. Вот эту: Huihui-Qwen3.5-9B-abliterated.IQ4_XS.gguf
>>331440460 >почему у тебя такая шиза? потому что иди нахуй, вот почему. Кстати как там дела с b200? Охуенно работают без интернета? Долбоёб, это уже сделали для топовых чипов.
>>331440046 Уже то что lm studio рекомендуют - бототред. Это ж говнище, которое никто не юзает, тупо отваживают новичков. Никого не слушать. Заходи в /ai раздел, там тебе расскажут и какие проги и какие настройки.
>>331440682 3 дня пытался поставить Qwen через консоль. ебался с зависимостями, качал нейронки, чето мутил. Постоянные ошибки, варнинги, нихуя не работает, перестроите код, у вас не та зависимость. установите куда, фу бля, аж тошнит.
Lm Studio - за два клика, тяп ляп и уже мучу свою собственную ИИ систему
>>331440824 >Lm Studio - за два клика, тяп ляп и уже мучу свою собственную ИИ систему Тиречую, для ньюшки чисто палкой потыкать энти ваши нейросети самое оно.
>>331437688 плз помню в алюмене читал подробное описание как сделать теракт с помощью мешка с мукой сделав из него импровизированную вакуумную бомбу, причём там кстати насколько я помню так уничтожали военный корабль
>>331440699 >Шиз, на 1050 с 65к контекста и с 128к батча гоняю. Какие ж вы тут конченные все, реально в /ai раздел и учить-учить-учить. Аноны из треда, не слушайте его. Он думаю что троллит, но он долбоёб. 1050 это 4гб врам. В то время как модель даже в q4 весит больше шести. Выгрузка в его 16 гб ддр3 позволяет модели как-то запустится со скорость в 1 токен в секунду, без контекст. Но это говно а не работа модели. УНижайте его, насмехайтесь над ним.
>>331440978 Шизло, троллишь тут только ты. В /ai раздел зайди, тебя там обоссут. Используется MOE модель, у нее всего 3гб активных параметров - как раз в 1050 влазит, поэтому и 65к контекста и 128к батча. В MOE же можно все неактивное отгружать. И да, скорость на 1 токен в секунду, а 11-12 токенов/c. 1050 на это как раз хватает.
Чё-то тыкал эту хуету. Сперва консольное говно. Генерил картинки по пол дня наверное, нихуя не понимал почему так.
Потом качал ROCM, эта хуета забила 20 гигов на системном разделе (под который у меня всего 50). Потом петухторч. Всё это время спрашивал у нейронки.
В целом ничего сложного оказалось, запустил комфи, сделал там хуйню с рефайном и прочим калом. Погенерил погенерил картинки - потом заебло. Потому что гемини говоришь в 2 строчки - сгенери это это, оно сразу генерит, а тут хуета, какие-то промты шпромты. Полный кал.
А вот локального помошника я хотел, чтоб не лазить в гугл ёбаный, который легко проебёт всю разжёванную с тобой инфу. Собсна в данном случае - смысл есть.
Но блядь типа нахуй оно надо если есть интернет? Вот в игрушку хочешь поиграть, а у тебя и память и диск и ОЗУ говном засрата. Смысл?
>>331440871 она скорее всего не знает, это же не волшебный оракул
нейросеть знает только то чему её обучали и что она может вывести на основании того чему её обучали, чисто специфические вещи у неё спрашивать бесполезно, для этого нужно к ней прикрутить поиск (тогда можно будет спрашивать как нейросети гугла или яндекса как делать различные специфические вещи, я так у них спрашивал про настройку нейросетей, есть неточности но в целом вполне успешно), писал уже выше, но в поиске тоже не факт что ты сможешь это найти
>>331441015 >Смысл? Если инет отрубят только. А так да, такая куча нейронок, что быстрее у онлайновых спрашивать. У оффлайновых только плюс, что они могут все вопросы отвечать, на которые онлайновые отлуп дают. Для этого и нужно.
>>331440996 Потому что ты нихуя в прогах-параметрах не разобрался. Если разберешься, то идет со скоростью 11 токенов/c даже на 1050, весь ответ за 30 секунд.
>>331437085 Если у тебя есть видеокарта на 24-32гб, то пожалуйста. Иначе тебе придётся качать сильно заквантованную модель и в итоге она будет тупее и медленнее, чем 9B.
>>331441138 По радеону хз, говорят там тормоза. Я на нвидии гонял только, через cuda или torch - примерно одинаково по скорости. В основном через cuda гоняю.
>>331441248 Если у тебя видеокарта заебись, ты можешь скачать более продвинутую модель. Например 27b модель вместо 35b - в 35b только 3гб активных параметров, в 27b побольше, поэтому на менее способных картах она тормозит.
Говно-новичок: светлое, как слоновая кость. Символ чистоты и начала пути. Говно-опытник: коричневое, с характером. Знает жизнь, видел всё. Говно-мастер: черный, как ночь в душе. Густой, плотный, несущий тяжелую ношу ответственности. Говно-бог: зеленый, с пузырьками. Это уже не еда, это алхимия.
Финал: Говно — это не конец пути, это начало нового цикла. Оно возвращается к тебе в виде еды, потом снова в виде говна, и так до бесконечности. Это вечный круг жизни, смерти и смыва. Так что следующий раз, когда увидишь пятно на полу, спроси себя: "Это просто грязь или это послание от вселенной?"
>>331441318 это задача агента а не нейронки нейронка тебе выдаёт только текст или картинку и всё, буквально всё, когда нейронка что-то делает то это нужен агент которому она даёт команду
хм я тут подумал а ведь наверное рукод можно заставить редактировать ворд файлы если установить расширение для вс код для их чтения
наверное самый извращённый способ офисной работы через клиент для программирования
1) Кочаем LM Studio https://lmstudio.ai/
2) Внутри, интерфейс для малолетнего, заходите в поиск, она первая в списке, по запросу Qwen3.5
3) Качаете на комп 10 гигабайт
4) Юзаете =)