24 декабря 2023 г. Архивач восстановлен после серьёзной аварии. К сожалению, значительная часть сохранённых изображений и видео была потеряна. Подробности случившегося. Мы призываем всех неравнодушных помочь нам с восстановлением утраченного контента!
Сортировка: за
Сохранен
166
Что делать если ты всю жизнь был сычом и омежкой, а сейчас тебя выгоняют из дома? У мамы мужик появ — Что делать если ты всю жизнь был сычом и омежкой, а сейчас тебя выгоняют из дома? У мамы мужик появился, и когда ее не было дома, сказал чтобы я съебывался и не мешался здесь, взрослый лоб уже, хули тут делаю вообще (это буквально дословно). Угрожал мокрухой, если из хаты не съеду через месяц уже (мокруха это убийство если что), но у меня никаких записей нет, поэтому в полицию идти не вариант, да и там бытовые конфликты не рассматривают обычно. Рассказал маме об этом, а она как будто с ума сошла, или под гипнозом, говорит, мол, ну да, пора бы уже, взрослый всё таки, не 15 лет тебе, а 20 уже, хотя до этого таких разговоров НИКОГДА вообще не было, и слова про макруху будто мимо ушей пропустила вообще. Не знаю что с ней случилось и как он ее охмурил, но это пиздец. Что делать, двачик?
17 октября 9:26
Сохранен
13
Неиронично хочу оформить инвалидность по хронической депрессии. Ситуация такая. Когда-то я не мог вс — Неиронично хочу оформить инвалидность по хронической депрессии. Ситуация такая. Когда-то я не мог встать с кровати, ни ел, ни пил, фулл потерял дееспособность, похудел за год на 15кг. Я уже даже не вьебываю какая там хронология событий, почему мне не хотелось существовать, как я этого добился и чем заслужил. Пошёл к психиатору, он поставил диагнозы, намекнул на инвалидность и дурку. Ещё походил по психиаторам, попил таблетки, ничего не помогло. Как я понял сам глав врач на похуй лечил, и мне уже ничего не поможет. Сейчас я задумываюсь, мб пенсию по шизе хотябы получать. Как это работает? нужно ли в дурке отлежать?
17 октября 4:33
Сохранен
31
Аноны, можете обьяснить одну вещь? Вот познакомился с тян, ИРЛ, обменялись контактами. В жизни прак — Аноны, можете обьяснить одну вещь? Вот познакомился с тян, ИРЛ, обменялись контактами. В жизни практически не контачим, но она регулярно написывает. Зачем? Я уже вырос из того меня, который бы поверил в то, что я могу быть кому-то небезразличен. Я не чед. Мне, например, жизни других людей и их состояние совершенно индифферентно, я не чувствую к ним интереса. Какой смысл вот так написывать незнакомому хую, т.е. мне? И даже более того, у неё скорее всего уже есть ёбырь, и откидывая искренний интерес к моей персоне и "дружбу", у меня больше не остается вариантов, хуле ей надо. И у меня так со всеми тнями, которых я знаю. Я искренне не понимаю, в чем смысл вот этих бессмысленных переписок "как дела" и "что делаешь". В моей методичке вообще указано, что у них хвост из парней, так какое им до меня дело?
17 октября 3:33
Сохранен
36
ВНИМАНИЕ ! ТРИВА ВОПРОСА К ЗНАТОКАМ: 1. насколько надо ебланом чтобы ходить в черных очках не на — ВНИМАНИЕ ! ТРИВА ВОПРОСА К ЗНАТОКАМ: 1. насколько надо ебланом чтобы ходить в черных очках не на солнце? >ряяя ета имиш, ета асисусар 2. насколько надо быть опущенкой без самооценки чтобы нацепливать на себя пластмасски и думать что они тебя делают крутым? 3. от чего у деда сгнили все зубы, что аж пришлось вместо них вставить фарфор?
17 октября 9:11
Активный
4
Астрономия не наука, потому что неверифицируема. Дискасс. — Астрономия не наука, потому что неверифицируема. Дискасс.
сегодня 9:38
Сохранен
11
Оцените жопу — Оцените жопу
17 октября 2:42
Сохранен
261
Чо там по мелкобордам на 2025-2026? — Чо там по мелкобордам на 2025-2026?
17 октября 4:26
Сохранен
515
2D Нейрореквест/фап тред (формально Генерач) В этом треде можно: — Попросить нарисовать нейро-шеде — 2D Нейрореквест/фап тред (формально Генерач) В этом треде можно: — Попросить нарисовать нейро-шедевр со своей вайфу (sfw/nsfw) — Поделиться своими нейро-шедеврами — Задать вопросы по генерации и настройке нейросетей [!] Свои реквесты прикрепляй к шапке. [!] Выполнение реквестов — дело сугубо добровольное. [!] Не все реквесты технически возможно выполнить. FAQ: https://teletype.in/@aranon/welcome — комплексный гайд для новичков. От установки UI до inpaint и работы с Wildcards. https://rentry.co/wan22-generach — генерация видео локально на WAN2.2. Гайд по установке + оптимизированный воркфлоу. https://grok.com/imagine - генерация видео онлайн (для обхода "content moderated" см. https://arhivach.vc/thread/1245976/#325443616 ) https://2ch-ai.gitgud.site/wiki/nai — общая информация от анонов. https://civitai.com — генерация онлайн, огромная библиотека чекпоинтов, лор, гайдов и промтов. https://civitai.com/articles/4808/making-images-great-again-remastered — базовый гайд по промптингу на английском. https://danbooru.donmai.us/wiki_pages/tag_groups — список тегов, которые понимает большинство нейронок. https://rentry.co/NAIwildcards — сборник wildcards. Архив предыдущих тредов: https://arhivach.vc/?tags=14905 Прошлый тред тонет тут: https://2ch.su/b/res/325606631.html Прошлый тред в архиве: https://arhivach.vc/thread/1248782/ Шаблон для переката: https://rentry.co/t2yxzo7u
17 октября 21:55
Сохранен
103
В чем он не прав? — «Мыдолжны учить африканские языки» «Русские— белые понедоразумению». Захар Прилепин рассказал, как прекрасна КНДР и что Россия должна вернуть ГДР Прокремлевский писатель Захар Прилепин прибыл на открытие Дней литературы в Калининградской области. Там Прилепин выступил с несколькими тезисами, которые приводит местное издание «Новый Калининград»: «Мысвами прекрасно знаем, как вРоссии выглядят кладбища вовсех наших крупнейших городах. Какие они стали огромные. Мыпотеряли огромное количество людей. Ихубили европейцы самериканцами. Мы, как будущая политическая элита, должны как-то всердце нести эту зарубку». «Европеец— это тот, кто кидает. Это тот, кто нарушает все договоренности, нарушает все параграфы. Тот, который ставит целью убивать русских людей. Причем без весомых натообстоятельств». «Ясчитаю, что получится новый виток отношений сЕвропой иСША только после того, как мысоздадим реальные, весомые экономические ивоенные блоки состранами Глобального Юга. Вот чем лучше, выше иответственнее наши отношения сКНДР, сКНР, сИндией, супомянутыми странами Латинской Америки, тем больше унас шансов заново задружиться сЕвропой». «Мыдолжны учить африканские языки. Икитайский. Это гораздо более важно иполезно, как мне кажется, вближайшей идолгой перспективе, чем английский. Его тоже ненадо забывать, ноэто большое пространство для работы. Для нас целый мир открыт. Какая прекрасная страна Северная Корея! Какой Китай необъятный! Индия, Латинская Америка... Черт сэтой Францией исними совсеми. Если мыпоможем Германии разделиться заново, амыдолжны помочь отделить отних ГДР... Это нужно ставить твердой испокойной политической целью. Мыпросто этого неделаем, нооднажды кэтому придем. Трамп вон нестесняется, когда говорит: „Мне нужна Венесуэла, мне нужна Канада, Гренландия иПанамский канал“. Амытоже скажем: „Нам нужна ГДР, мыскучаем без ГДР“. Ато, что нужно Калининграду, так это вообще понятно совершенно. Нужно присоединение кбольшой территории. Однажды мыперестанем стесняться ибудем обэтом говорить вслух». «Мы— единственные белые вмире, которые белые антиколониальные, которые всегда боролись зацветных, помогали цветным. Посути, нынешний цветной мир создан нами. Мысоздали КНДР, КНР, Индию, Африку, Латинскую Америку. Весь колониальный мировой блок снеслимы, белые. Яобычно говорю, что мыбелые понедоразумению. Мытакие цветные белые».
19 октября 16:21
Сохранен
17
Почему девушку задержали за песню за 1 день, а Хусейн Хамидович Джамбетов за участие в боевые действ — Почему девушку задержали за песню за 1 день, а Хусейн Хамидович Джамбетов за участие в боевые действия против ВСРФ не задержан?
17 октября 13:29
Сохранен
417
ЖИВОТВОРЯЩИЙ ТОМАГАВК — По инициативе российской стороны состоялся звонок Путина Трампу. ⚡️США и Россия проведут встречу на высоком уровне на следующей неделе, об этом договорились Путин и Трамп, — Белый Дом. Белый дом не исключает, что Трамп и Путин проведут еще одну встречу. ⚡️Трамп: Путин и я встретимся в Будапеште, чтобы обсудить, сможем ли мы положить конец этой «бесславной» войне между Россией и Украиной. ⚡️Подготовка к мирному саммиту США-Россия идёт полным ходом, — Орбан после телефонного разговора с Трампом.
18 октября 10:30
Сохранен
224
А ведь это поколение пыниксов, которому на момент начала гойды было лет 12-15. Получается, не все ещ — А ведь это поколение пыниксов, которому на момент начала гойды было лет 12-15. Получается, не все еще потеряно.
18 октября 10:12
Сохранен
80
Ха-ха. Смешное видео. Хорошо, что в России этого в итоге не произошло. — Ха-ха. Смешное видео. Хорошо, что в России этого в итоге не произошло.
18 октября 15:01
Сохранен
14
Хохлы и рунет — Свиньи, че вы пасётесь в рунете? Вы же булькнули остаточнэ прощавай - ну так идите нахуй! Скатертью вам дорога и земля стекловатой Везде куда в рунете не зайдешь в комментарии или на ютубе - везде свиноконтент и комментарии от свиней - соответствующего качества и содержания. Я мечтаю, чтобы хохлы забыли русский, искренне украинизировались и больше к нам не лезли.
17 октября 16:14
Сохранен
30
ТОНИ ТУТ КОНТОРСКИЙ? — Как думаете? Может ли этот армяшка быть подзалупкой? С одной стороны всё логично. Куча видиков с обсиранием всевозможных стран, при этом ни слова про пидорашку, чтобы пидорашки это всё потребляли и думали "ммм, а у нас не так уж и плохо". С таким успехом можно и ндс, и утильсбор, и ёбку интернета потерпеть. Вообще забавно, как чувак, который типа правду-матку рубит, трясётся прогнать пару матов про родину для большинства зрителей его канала.
16 октября 22:22
Сохранен
26
Почему ребенок из детдома получает квартиру от государства, а ребенок, который до 18 лет жил (и живе — Почему ребенок из детдома получает квартиру от государства, а ребенок, который до 18 лет жил (и живет очевидно) В ТРАДИЦИОННОЙ РУССКОЙ СКРЕПНОЙ СЕМЬЕ, от родителей-заводчан не получает ничего? Что за несправедливость?
17 октября 13:32
Сохранен
56
Ну и в чём она не права? —
19 октября 8:25
Сохранен
7
Повышение цен на осаго. Теперь базовые ставки для легковых автомобилей увеличат на 15 % в обе сторо — Повышение цен на осаго. Теперь базовые ставки для легковых автомобилей увеличат на 15 % в обе стороны, а для мотоциклов — на 40 %. Это позволит страховщикам точнее формировать цену полиса с учётом индивидуальных рисков. По расчётам Российского союза автостраховщиков, после изменений верхняя граница для легковых авто составит 8665 рублей, нижняя — 1399. Вы ёбнулись? Какого хуя цена осаго только растёт, а страховая премия нет? Какого хуя я вынужден покупать полис ценой 41к на машину за 150к? А в Ингушетии и Новосибирской области вообще цена в 2 раза подскочет из-за злоупотребления осаго. То есть вместо борьбы с мошенниками мы просто выкрутим цены на полисы для всех. Ахуенно, да? В НСК полис в 2 раза дороже, чем в Москве будет.
16 октября 20:02
Сохранен
6
Жителя Тюмени Александра Долгоногова оштрафовали на 50 000 рублей за размещенную в соцсети картинку, — Жителя Тюмени Александра Долгоногова оштрафовали на 50 000 рублей за размещенную в соцсети картинку, на которой президент Путин был изображен в виде злодея из компьютерной игры "Half-Life 2". Тюменец перепостил этот отфотошопленный скриншот еще в 2013 году, будучи школьником, и теперь сотрудники местного центра "Э", заметив ее, донесли на Александра в суд. "Half-Life 2" - продолжение культовой истории о борьбе землян с инопланетными захватчиками, в ходе которой доктор Брин (а именно в его образе предстал на картинке Владимир Путин), выступает в роли предателя и коллаборациониста, продавшегося инопланетянам и установившего на земле фашистскую диктатуру.
16 октября 19:34
Сохранен
21
В чем секрет нарастающей популярности правых идей среди молодежи? Моя объяснение такое. Во-первых — В чем секрет нарастающей популярности правых идей среди молодежи? Моя объяснение такое. Во-первых, это мемы. Правые мемы и смешные, и умные, содержат всегда что-то поучительное. Левые мемы это ебаный стыд. Типичный левый мем это перерисовка правого мема с добавлением лекции на 10000 символов из книги Маркса или стотомника Ленина. Левые мемы это само по себе мем. Во-вторых, это эстетика. Красивая форма, красивая техника, красивые люди на агитках. Всё это правые. Левые опять же пытались копировать, кое-что даже получалось, не отрицаю, но в целом красота это к правым. В том же СССР не делали ничего красиво, делали дешево и сердито. В-третьих, простые решения. Коммунизм невозможен на данном этапе развития человечества, это признают даже адекватные левые. Прогнать мигрантов и поднять рождаемость можно всегда, это простое решение. Даже тупой зумер поймет. Добавляйте.
17 октября 14:00
Сохранен
4
Какое ржачное видео. Сионист, женатый на индуске, сказал, что разъебёт Фуэнтеса на дебатах и для это — Какое ржачное видео. Сионист, женатый на индуске, сказал, что разъебёт Фуэнтеса на дебатах и для этого позвонил своим двум базированным друзьям-евреям, которые якобы поддерживают свободу слова и ненавидят евреев-атеистов-марксистов. Первый друг-еврей сказал, что он и все евреи поддержали бы депортацию американцев и обладателей грин-кард, которые поддерживают Палестину. Второй друг-еврей сказал, что евреи действительно чувствуют в Соросе родственную душу и не стали бы настаивать на его казни. Фуэнтес оказался прав в обоих случаях, как знатный жидовед. Звуковая дорожка на украинском языке присутствует, русский язык спросить забыли: https://www.youtube.com/watch?v=QoFACkxFkik
16 октября 20:02
Активный
508
Локальные языковые модели (LLM): LLaMA, Gemma, DeepSeek и прочие №171 /llama/ — В этом треде обсуждаем генерацию охуительных историй и просто общение с большими языковыми моделями (LLM). Всё локально, большие дяди больше не нужны! Здесь мы делимся рецептами запуска, настроек и годных промтов, расширяем сознание контекст и бугуртим с кривейшего тормозного говна. Тред для обладателей топовых карт NVidia с кучей VRAM или мажоров с проф. картами уровня A100, или любителей подождать, если есть оперативная память. Особо терпеливые могут использовать даже подкачку и запускать модели, квантованные до 8 5 4 3 2 0,58 бит, на кофеварке с подкачкой на микроволновку. Официальная вики треда с гайдами по запуску и базовой информацией: https://2ch-ai.gitgud.site/wiki/llama/ Инструменты для запуска на десктопах: • Отец и мать всех инструментов, позволяющий гонять GGML и GGUF форматы: https://github.com/ggml-org/llama.cpp • Самый простой в использовании и установке форк llamacpp: https://github.com/LostRuins/koboldcpp • Более функциональный и универсальный интерфейс для работы с остальными форматами: https://github.com/oobabooga/text-generation-webui • Заточенный под ExllamaV2 (а в будущем и под v3) и в консоли: https://github.com/theroyallab/tabbyAPI • Однокнопочные инструменты на базе llamacpp с ограниченными возможностями: https://github.com/ollama/ollama, https://lmstudio.ai • Универсальный фронтенд, поддерживающий сопряжение с koboldcpp и text-generation-webui: https://github.com/SillyTavern/SillyTavern • Альтернативный фронт: https://github.com/kwaroran/RisuAI Инструменты для запуска на мобилках: • Интерфейс для локального запуска моделей под андроид с llamacpp под капотом: https://github.com/Mobile-Artificial-Intelligence/maid • Альтернативный вариант для локального запуска под андроид (фронтенд и бекенд сепарированы): https://github.com/Vali-98/ChatterUI • Гайд по установке SillyTavern на ведроид через Termux: https://rentry.co/STAI-Termux Модели и всё что их касается: • Актуальный список моделей с отзывами от тредовичков: https://rentry.co/2ch_llm_2025 (версия для бомжей: https://rentry.co/z4nr8ztd ) • Неактуальные списки моделей в архивных целях: 2024: https://rentry.co/llm-models , 2023: https://rentry.co/lmg_models • Миксы от тредовичков с уклоном в русский РП: https://huggingface.co/Aleteian и https://huggingface.co/Moraliane • Рейтинг моделей по уровню их закошмаренности цензурой: https://huggingface.co/spaces/DontPlanToEnd/UGI-Leaderboard • Сравнение моделей по сомнительным метрикам: https://huggingface.co/spaces/HuggingFaceH4/open_llm_leaderboard • Сравнение моделей реальными пользователями по чуть менее сомнительным метрикам: https://chat.lmsys.org/?leaderboard Дополнительные ссылки: • Готовые карточки персонажей для ролплея в таверне: https://www.characterhub.org • Перевод нейронками для таверны: https://rentry.co/magic-translation • Пресеты под локальный ролплей в различных форматах: https://huggingface.co/Virt-io/SillyTavern-Presets • Шапка почившего треда PygmalionAI с некоторой интересной информацией: https://rentry.co/2ch-pygma-thread • Официальная вики koboldcpp с руководством по более тонкой настройке: https://github.com/LostRuins/koboldcpp/wiki • Официальный гайд по сопряжению бекендов с таверной: https://docs.sillytavern.app/usage/how-to-use-a-self-hosted-model/ • Последний известный колаб для обладателей отсутствия любых возможностей запустить локально: https://colab.research.google.com/drive/11U-bC6AxdmMhd3PF9vWZpLdi6LdfnBQ8?usp=sharing • Инструкции для запуска базы при помощи Docker Compose: https://rentry.co/oddx5sgq https://rentry.co/7kp5avrk • Пошаговое мышление от тредовичка для таверны: https://github.com/cierru/st-stepped-thinking • Потрогать, как работают семплеры: https://artefact2.github.io/llm-sampling/ • Выгрузка избранных тензоров, позволяет ускорить генерацию при недостатке VRAM: https://www.reddit.com/r/LocalLLaMA/comments/1ki7tg7 Архив тредов можно найти на архиваче: https://arhivach.hk/?tags=14780%2C14985 Шапка в https://rentry.co/llama-2ch, предложения принимаются в треде. Предыдущие треды тонут здесь: >>1378253 (OP) >>1372399 (OP)
20 октября 23:51
Активный
502
Локальные языковые модели (LLM): LLaMA, Gemma, DeepSeek и прочие №170 /llama/ — В этом треде обсуждаем генерацию охуительных историй и просто общение с большими языковыми моделями (LLM). Всё локально, большие дяди больше не нужны! Здесь мы делимся рецептами запуска, настроек и годных промтов, расширяем сознание контекст и бугуртим с кривейшего тормозного говна. Тред для обладателей топовых карт NVidia с кучей VRAM или мажоров с проф. картами уровня A100, или любителей подождать, если есть оперативная память. Особо терпеливые могут использовать даже подкачку и запускать модели, квантованные до 8 5 4 3 2 0,58 бит, на кофеварке с подкачкой на микроволновку. Официальная вики треда с гайдами по запуску и базовой информацией: https://2ch-ai.gitgud.site/wiki/llama/ Инструменты для запуска на десктопах: • Отец и мать всех инструментов, позволяющий гонять GGML и GGUF форматы: https://github.com/ggml-org/llama.cpp • Самый простой в использовании и установке форк llamacpp: https://github.com/LostRuins/koboldcpp • Более функциональный и универсальный интерфейс для работы с остальными форматами: https://github.com/oobabooga/text-generation-webui • Заточенный под ExllamaV2 (а в будущем и под v3) и в консоли: https://github.com/theroyallab/tabbyAPI • Однокнопочные инструменты на базе llamacpp с ограниченными возможностями: https://github.com/ollama/ollama, https://lmstudio.ai • Универсальный фронтенд, поддерживающий сопряжение с koboldcpp и text-generation-webui: https://github.com/SillyTavern/SillyTavern • Альтернативный фронт: https://github.com/kwaroran/RisuAI Инструменты для запуска на мобилках: • Интерфейс для локального запуска моделей под андроид с llamacpp под капотом: https://github.com/Mobile-Artificial-Intelligence/maid • Альтернативный вариант для локального запуска под андроид (фронтенд и бекенд сепарированы): https://github.com/Vali-98/ChatterUI • Гайд по установке SillyTavern на ведроид через Termux: https://rentry.co/STAI-Termux Модели и всё что их касается: • Актуальный список моделей с отзывами от тредовичков: https://rentry.co/2ch_llm_2025 (версия для бомжей: https://rentry.co/z4nr8ztd ) • Неактуальные списки моделей в архивных целях: 2024: https://rentry.co/llm-models , 2023: https://rentry.co/lmg_models • Миксы от тредовичков с уклоном в русский РП: https://huggingface.co/Aleteian и https://huggingface.co/Moraliane • Рейтинг моделей по уровню их закошмаренности цензурой: https://huggingface.co/spaces/DontPlanToEnd/UGI-Leaderboard • Сравнение моделей по сомнительным метрикам: https://huggingface.co/spaces/HuggingFaceH4/open_llm_leaderboard • Сравнение моделей реальными пользователями по чуть менее сомнительным метрикам: https://chat.lmsys.org/?leaderboard Дополнительные ссылки: • Готовые карточки персонажей для ролплея в таверне: https://www.characterhub.org • Перевод нейронками для таверны: https://rentry.co/magic-translation • Пресеты под локальный ролплей в различных форматах: https://huggingface.co/Virt-io/SillyTavern-Presets • Шапка почившего треда PygmalionAI с некоторой интересной информацией: https://rentry.co/2ch-pygma-thread • Официальная вики koboldcpp с руководством по более тонкой настройке: https://github.com/LostRuins/koboldcpp/wiki • Официальный гайд по сопряжению бекендов с таверной: https://docs.sillytavern.app/usage/how-to-use-a-self-hosted-model/ • Последний известный колаб для обладателей отсутствия любых возможностей запустить локально: https://colab.research.google.com/drive/11U-bC6AxdmMhd3PF9vWZpLdi6LdfnBQ8?usp=sharing • Инструкции для запуска базы при помощи Docker Compose: https://rentry.co/oddx5sgq https://rentry.co/7kp5avrk • Пошаговое мышление от тредовичка для таверны: https://github.com/cierru/st-stepped-thinking • Потрогать, как работают семплеры: https://artefact2.github.io/llm-sampling/ • Выгрузка избранных тензоров, позволяет ускорить генерацию при недостатке VRAM: https://www.reddit.com/r/LocalLLaMA/comments/1ki7tg7 Архив тредов можно найти на архиваче: https://arhivach.hk/?tags=14780%2C14985 Шапка в https://rentry.co/llama-2ch, предложения принимаются в треде. Предыдущие треды тонут здесь: >>1372399 (OP) >>1367731 (OP)
20 октября 23:51
Сохранен
75
Люблю почитывать свой мухосранский паблик. Скуф пожаловался на цены на бензин, и началось такое взаи — Люблю почитывать свой мухосранский паблик. Скуф пожаловался на цены на бензин, и началось такое взаимное выписывание в хохлов и подсвинков, что закреп двачей просто отдыхает.
17 октября 16:05
Активный
507
Локальные языковые модели (LLM): LLaMA, Gemma, DeepSeek и прочие №169 /llama/ — В этом треде обсуждаем генерацию охуительных историй и просто общение с большими языковыми моделями (LLM). Всё локально, большие дяди больше не нужны! Здесь мы делимся рецептами запуска, настроек и годных промтов, расширяем сознание контекст и бугуртим с кривейшего тормозного говна. Тред для обладателей топовых карт NVidia с кучей VRAM или мажоров с проф. картами уровня A100, или любителей подождать, если есть оперативная память. Особо терпеливые могут использовать даже подкачку и запускать модели, квантованные до 8 5 4 3 2 0,58 бит, на кофеварке с подкачкой на микроволновку. Официальная вики треда с гайдами по запуску и базовой информацией: https://2ch-ai.gitgud.site/wiki/llama/ Инструменты для запуска на десктопах: • Отец и мать всех инструментов, позволяющий гонять GGML и GGUF форматы: https://github.com/ggml-org/llama.cpp • Самый простой в использовании и установке форк llamacpp: https://github.com/LostRuins/koboldcpp • Более функциональный и универсальный интерфейс для работы с остальными форматами: https://github.com/oobabooga/text-generation-webui • Заточенный под ExllamaV2 (а в будущем и под v3) и в консоли: https://github.com/theroyallab/tabbyAPI • Однокнопочные инструменты на базе llamacpp с ограниченными возможностями: https://github.com/ollama/ollama, https://lmstudio.ai • Универсальный фронтенд, поддерживающий сопряжение с koboldcpp и text-generation-webui: https://github.com/SillyTavern/SillyTavern • Альтернативный фронт: https://github.com/kwaroran/RisuAI Инструменты для запуска на мобилках: • Интерфейс для локального запуска моделей под андроид с llamacpp под капотом: https://github.com/Mobile-Artificial-Intelligence/maid • Альтернативный вариант для локального запуска под андроид (фронтенд и бекенд сепарированы): https://github.com/Vali-98/ChatterUI • Гайд по установке SillyTavern на ведроид через Termux: https://rentry.co/STAI-Termux Модели и всё что их касается: • Актуальный список моделей с отзывами от тредовичков: https://rentry.co/2ch_llm_2025 (версия для бомжей: https://rentry.co/z4nr8ztd ) • Неактуальные списки моделей в архивных целях: 2024: https://rentry.co/llm-models , 2023: https://rentry.co/lmg_models • Миксы от тредовичков с уклоном в русский РП: https://huggingface.co/Aleteian и https://huggingface.co/Moraliane • Рейтинг моделей по уровню их закошмаренности цензурой: https://huggingface.co/spaces/DontPlanToEnd/UGI-Leaderboard • Сравнение моделей по сомнительным метрикам: https://huggingface.co/spaces/HuggingFaceH4/open_llm_leaderboard • Сравнение моделей реальными пользователями по чуть менее сомнительным метрикам: https://chat.lmsys.org/?leaderboard Дополнительные ссылки: • Готовые карточки персонажей для ролплея в таверне: https://www.characterhub.org • Перевод нейронками для таверны: https://rentry.co/magic-translation • Пресеты под локальный ролплей в различных форматах: https://huggingface.co/Virt-io/SillyTavern-Presets • Шапка почившего треда PygmalionAI с некоторой интересной информацией: https://rentry.co/2ch-pygma-thread • Официальная вики koboldcpp с руководством по более тонкой настройке: https://github.com/LostRuins/koboldcpp/wiki • Официальный гайд по сопряжению бекендов с таверной: https://docs.sillytavern.app/usage/how-to-use-a-self-hosted-model/ • Последний известный колаб для обладателей отсутствия любых возможностей запустить локально: https://colab.research.google.com/drive/11U-bC6AxdmMhd3PF9vWZpLdi6LdfnBQ8?usp=sharing • Инструкции для запуска базы при помощи Docker Compose: https://rentry.co/oddx5sgq https://rentry.co/7kp5avrk • Пошаговое мышление от тредовичка для таверны: https://github.com/cierru/st-stepped-thinking • Потрогать, как работают семплеры: https://artefact2.github.io/llm-sampling/ • Выгрузка избранных тензоров, позволяет ускорить генерацию при недостатке VRAM: https://www.reddit.com/r/LocalLLaMA/comments/1ki7tg7 Архив тредов можно найти на архиваче: https://arhivach.hk/?tags=14780%2C14985 Шапка в https://rentry.co/llama-2ch, предложения принимаются в треде. Предыдущие треды тонут здесь: >>1367731 (OP) >>1362911 (OP)
20 октября 23:51


жалоба / abuse: arhivach@airmail.cc