К сожалению, значительная часть сохранённых до 2024 г. изображений и видео была потеряна (подробности случившегося). Мы призываем всех неравнодушных помочь нам с восстановлением утраченного контента!
Сортировка: за
Активный
13
вчера 20:57
Сохранен
8
вчера 14:05
Сохранен
5
вчера 5:49
Активный
501
Локальные языковые модели (LLM): LLaMA, Gemma, Qwen и прочие №196 /llama/ — В этом треде обсуждаем генерацию охуительных историй и просто общение с большими языковыми моделями (LLM). Всё локально, большие дяди больше не нужны! Здесь мы делимся рецептами запуска, настроек и годных промтов, расширяем сознание контекст и бугуртим с кривейшего тормозного говна. Тред для обладателей топовых карт NVidia с кучей VRAM или мажоров с проф. картами уровня A100, или любителей подождать, если есть оперативная память. Особо терпеливые могут использовать даже подкачку и запускать модели, квантованные до 8 5 4 3 2 0,58 бит, на кофеварке с подкачкой на микроволновку. Официальная вики треда с гайдами по запуску и базовой информацией: https://2ch-ai.github.io/wiki/llama/ Инструменты для запуска на десктопах: • Отец и мать всех инструментов, позволяющий гонять GGML и GGUF форматы: https://github.com/ggml-org/llama.cpp • Самый простой в использовании и установке форк llamacpp: https://github.com/LostRuins/koboldcpp • Более функциональный и универсальный интерфейс для работы с остальными форматами: https://github.com/oobabooga/text-generation-webui • Заточенный под Exllama (V2 и V3) и в консоли: https://github.com/theroyallab/tabbyAPI • Однокнопочные инструменты на базе llamacpp с ограниченными возможностями: https://github.com/ollama/ollama, https://lmstudio.ai • Универсальный фронтенд, поддерживающий сопряжение с koboldcpp и text-generation-webui: https://github.com/SillyTavern/SillyTavern • Альтернативный фронт: https://github.com/kwaroran/RisuAI Инструменты для запуска на мобилках: • Интерфейс для локального запуска моделей под андроид с llamacpp под капотом: https://github.com/Mobile-Artificial-Intelligence/maid • Альтернативный вариант для локального запуска под андроид (фронтенд и бекенд сепарированы): https://github.com/Vali-98/ChatterUI • Гайд по установке SillyTavern на ведроид через Termux: https://rentry.co/STAI-Termux Модели и всё что их касается: • Актуальный список моделей с отзывами от тредовичков: https://rentry.co/2ch_llm_moe_2026 • Неактуальные списки моделей в архивных целях: 2025: https://rentry.co/2ch_llm_2025 (версия для бомжей: https://rentry.co/z4nr8ztd ), 2024: https://rentry.co/llm-models , 2023: https://rentry.co/lmg_models • Миксы от тредовичков с уклоном в русский РП: https://huggingface.co/Aleteian и https://huggingface.co/Moraliane • Рейтинг моделей по уровню их закошмаренности цензурой: https://huggingface.co/spaces/DontPlanToEnd/UGI-Leaderboard • Сравнение моделей по сомнительным метрикам: https://huggingface.co/spaces/HuggingFaceH4/open_llm_leaderboard • Сравнение моделей реальными пользователями по чуть менее сомнительным метрикам: https://chat.lmsys.org/?leaderboard Дополнительные ссылки: • Готовые карточки персонажей для ролплея в таверне: https://www.characterhub.org • Перевод нейронками для таверны: https://rentry.co/magic-translation • Пресеты под локальный ролплей в различных форматах: https://huggingface.co/Virt-io/SillyTavern-Presets • Шапка почившего треда PygmalionAI с некоторой интересной информацией: https://rentry.co/2ch-pygma-thread • Официальная вики koboldcpp с руководством по более тонкой настройке: https://github.com/LostRuins/koboldcpp/wiki • Официальный гайд по сопряжению бекендов с таверной: https://docs.sillytavern.app/usage/how-to-use-a-self-hosted-model/ • Последний известный колаб для обладателей отсутствия любых возможностей запустить локально: https://colab.research.google.com/drive/11U-bC6AxdmMhd3PF9vWZpLdi6LdfnBQ8?usp=sharing • Инструкции для запуска базы при помощи Docker Compose: https://rentry.co/oddx5sgq https://rentry.co/7kp5avrk • Пошаговое мышление от тредовичка для таверны: https://github.com/cierru/st-stepped-thinking • Потрогать, как работают семплеры: https://artefact2.github.io/llm-sampling/ • Выгрузка избранных тензоров, позволяет ускорить генерацию при недостатке VRAM: https://www.reddit.com/r/LocalLLaMA/comments/1ki7tg7 • Инфа по запуску на MI50: https://github.com/mixa3607/ML-gfx906 • Тесты tensor_parallel: https://rentry.org/8cruvnyw Архив тредов можно найти на архиваче: https://arhivach.vc/?tags=14780%2C14985 Шапка в https://rentry.co/llama-2ch, предложения принимаются в треде. Предыдущие треды тонут здесь: >>1513797 (OP) >>1509647 (OP)
25 февраля 14:53
Сохранен
10
2ch
3 марта 14:02
Сохранен
15
3 марта 1:34
Активный
389
ДНО-тред #1093 - дно-минутная жизнь — Тред о выживании в наше непростое время. Набираемся смелости перед тем, как позвонить/пойти на собеседование/выйти в первую смену. Мечтаем о достойном жаловании. Бугуртим из-за нечестных работодателей, тупых эйчаров, ленивых кадровиков, глупышек с ресепшена, наглых коллег, подлых начальников, угнетателей, энергетических вампиров, офисных крыс, общей плачевной ситуации на рынке труда и рухнувшей экономики, собственной никчемности и личной деградации. Хиккуем/чилим/флексим на последние гроши. Поддерживаем анонов, вкалывающих 6/1 по 12 часов. Ищем оправдания для пустой трудовой книжки, посуточную подработку и смысл дальнейшего существования. Выживаем на МРОТ/ставочку/пособие/остатки после оплаты всех долгов. Безработные, понаехи, лимита, грузчики, мойщики, охранники, рабы фастфуд-забегаловок, подсобники, заводские трудяги, беженцы и граждане бывших советских республик, работники колл- и процессинговых центров, консультанты, техподдержка, младшие специалисты, кассиры, менеджеры среднего и младшего звена, офисный планктон, ведущие специалисты департаментов, стартаперы, недостримеры, студенты, стажёры, кассиры, сторожи, кладовщики, дворники, дизайнеры, журналисты, мамкины программисты, банковские операционисты, продажники всего и вся, разносчики листовок, попрошайки, люди без образования, прочие бездари-двачеры и глупые гуманитарии без связей, друзей, блата и простого везения находят здесь прибежище и единомышленников. Добро пожаловать в ДНО-тред, самый грустный тред на двощах! Ты - один из нас! Я/МЫ-ДНО!!! #ДНАЧ #ДНОТРЕД #ДНО ------------------------------------------------------------ Официальный чатик дно-треда: https://2ch.su/ch/res/172576.html ------------------------------------------------------------ Часто задаваемые вопросы: https://pastebin.com/zfgWx4k9 (Upd 14.08.23) Старый FAQ, давно не обновлялся: https://pastebin.com/bM0VAd0C Предыдущий тред тонет тут: >>3272706 (OP)
сегодня 0:07
Сохранен
58
1 марта 17:11
Сохранен
37
Пусть тут будет колодцетред. Да, ещё зима, но уже скоро весна, ебучие сугробы стаят и можно будет ка — Пусть тут будет колодцетред. Да, ещё зима, но уже скоро весна, ебучие сугробы стаят и можно будет катать лягушек в ведре бурить скважину. Снова. Делаю сейчас новый бур, 150 мм диаметр. Наплавил на кромки твердосплав электродами т-590 и обточил. Штанги переделываю, они были кривые. В этот раз я привариваю длинные дюймовые сгоны. Они довольно плотно насаживаются на трубу 20ю и таким образом центрируются. Получается плюс-минус ровно. Ещё надо переделать буровую поворотную муфту. Но как ее сделать, не имея токарного станка, чтобы сальники не текли - хуй его знает. Вооот. Напомню, чем закончилось в прошлом году: я пробурил 21 метр и наткнулся на камень. Да и диаметр был всего 70 мм. В этот раз буду делать скважину в новом месте. Главное обсадить плывун 159-й трубой. Ну и не наткнуться на камень опять.
28 февраля 22:48
Сохранен
29
28 февраля 9:20
Сохранен
18
27 февраля 20:28
Сохранен
7
26 февраля 11:33
Сохранен
13
25 февраля 17:50
Сохранен
14
9 февраля 17:48
Сохранен
1
9 февраля 6:35
Сохранен
25
В Госдуме задумались над запретом порносайтов для бездетных — Всё так, руки на стол и вперёд — повышать демографию. Депутат Госдумы Татьяна Буцкая ответила на вопрос журналистки Наталии Троицкой о том, как повысить демографию, если зумеры не хотят вести интимную жизнь. По её словам, проблема в том числе заключается в сайтах для взрослых: Так устроена природа — у подростков идет буйство гормонов, и им просто необходимо заниматься сексом. Если они им не занимаются, видимо, есть какие-то суррогаты, мы даже знаем, как эти суррогаты называются, — это сайты для взрослых. Буцкая предложила подумать, что можно с этим сделать: Может эти сайты сделать только для тех, у кого есть дети. Потому что если мы просто закроем глаза на эту ситуацию, то, вероятно, тот самый сперматозоид никогда не соединиться с той самой яйцеклеткой. Люди должны заниматься любовью, чтобы у них рождались дети, — заключила Буцкая. Согласно результатам исследования компании «Гедеон Рихтер» и Аналитического центра НАФИ, среди россиян в возрасте 18–23 лет 22% не занимаются сексом. Причина в недопонимании и проблемах с коммуникацией. У опрошенных в возрасте 24–45 лет основание другое — отсутствие влечения (54%).
9 февраля 13:29
Сохранен
519
Встречаюсь с РСП 26 лвла уже полтора года. Отношения чисто гостевые, она приезжает на выходных ко мн — Встречаюсь с РСП 26 лвла уже полтора года. Отношения чисто гостевые, она приезжает на выходных ко мне когда ребенка забирают бабушка или папа. Ребенок 6 лвла, девочка, мы смогли подружиться, когда я приезжал к ней домой. РСП намекает о том что хочет жить вместе, типо "мне мужчины рядом не хватает". Я не против, просто смущает много моментов. Во первых она постоянно ноет что не хочет работать и хочет в декрет. Сама она живет в маленькой комнате в коммуналке в ДС2, а у меня однушка, тоже не вариант ее к себе с ребенком перевозить, плюс я на другом конце города от ее работы живу. Думаю продать свою однушку, достать денег и кубышки и купить трешку в хрущевке(естественно до свадьбы) и там уже строить счастливую семью. Единственное что меня смущает: -она без всяких причин бросила своего мужа от которого дочка(типо перестала видеть в нем мужчину из-за алкоголя, но как то она проговорилась что в последний год их совместной жизни у них не было секса и ее бывший муж приходил домой, они ругались и он выходил и садился под домом на скамеечке с бутылкой пива) -у нее кредит в 500к -мама у нее тоже РСП -Все подруги РСП -Прямо говорит что не хочет работать, постоянно ноет что устает, спит на выходных по 12 часов Для тех Анонов кто будет писать "РСП ЭТО ДНО, БЕГИ ОТ НЕЕ", сразу уточню, что мне уже 32 года, это мои первые отношения, обычные тянки не рсп мне не дают, только жирухи. Вот и остается выбирать: или моя сочная худенькая РСПшка, которая дает в жопу и глотает или огромный жирный бегемот, но не РСП. Плюс с моей РСПшкой у нас классное общение, это реально как родственная душа, с другими тянками такого нет. Ну и уровень заботы обо мне прям подкупает Опытные куны, распишите что меня ожидает когда мы сьедемся и начнем жить вместе
8 февраля 15:00
Сохранен
263
7 февраля 22:50
Сохранен
167
6 февраля 22:09
Сохранен
469
12 февраля 17:55
Активный
418
вчера 18:26
Сохранен
173
Настало время обратиться к психиатру. Нужна помощь анона Это будет мой первый раз. Обращаться буду — Настало время обратиться к психиатру. Нужна помощь анона Это будет мой первый раз. Обращаться буду по поводу тревожного-депрессивного(на депрессивное похуй на самом деле) расстройства. Пришло время уже что-то менять. Назрели следующие вопросы: Мне психотерапевт или психиатр нужен? Можно ли в частную поликлинику обратиться? Или обязательно государственную? В будущем я хочу получить лицензию на травматическое оружие. Может ли обращение к психиатру как-то навредить этому процессу? Есть ли у них там база единая? Что мне ему вообще рассказывать? Свои симптомы, свое поведение рядом с людьми? Расскажите свой опыт. Могу ли я просто дать ему телефон с текстом где я все заранее расписал о себе? Могу ли я просить у него выписать мне конкретные таблетки? Какие таблетки просить? Антидепрессанты точно не хочу - это для гоев пускай оставят. Хочу транквилизаторы, но хорошие сука. Чтобы по соотношению вред-польза топовыми были. Чтобы никаких синдромов отмены, онемения конечностей и подобное. Хочу просто не бояться людей. Что доктор будет спрашивать, к чему готовиться? И в конце концов - какие подводные?
5 февраля 12:35
Активный
64
Сап физач. Есть физики кто в теме Квантовой Электродинамики и релятивистской физики? Можете сказать — Сап физач. Есть физики кто в теме Квантовой Электродинамики и релятивистской физики? Можете сказать возможно ли в рамках существующей физической теории, или конкретно исходя из выкладок КЭД и релятивистской физики построить машину способную манипулировать или хотябы притягивать и отталкивать макроскопические тела путём перемодулирования взаимодействия основанного на электрическом заряде? Наверное подобно тому как это происходит с магнитной сило где происходит перемодуляция электрического заряда в простанстве времени только ещё с использованием квантовых эффектов и аналогично тому как работает фазированная антенна направляющая радиоволны узким пучком. Тоесть я имею ввиду машину спосбную давать эффект аналогичный телекинезу только без магии. У ИИ спрашивал, он говорит иногда что можно но тяжело иногда говорит что практически нельзя, хуй знает вобщем.
6 февраля 18:21
Сохранен
6
3 февраля 18:51
Активный
1066
15 февраля 10:55