Добавлена поддержка ЭЧ/Ech (ex-Escapechan) и Ежчана (ejchan.net, ejchan.site). Набегаем, тестируем архивацию, сообщаем о замеченных проблемах.
К сожалению, значительная часть сохранённых до 2024 г. изображений и видео была потеряна (подробности случившегося). Мы призываем всех неравнодушных помочь нам с восстановлением утраченного контента!
Сортировка: за
Сохранен
122
2026-11-06 10:15:29
Сохранен
124
2026-11-03 09:54:27
Сохранен
17
2026-11-01 17:23:46
Активный
1052
2026-11-04 20:49:41
Сохранен
180
2026-10-29 14:18:13
Сохранен
81
2026-10-28 05:33:36
Сохранен
155
2026-10-26 13:18:52
Сохранен
9
2026-10-24 20:05:40
Сохранен
96
2026-10-24 17:14:51
Сохранен
4
2026-10-24 01:50:27
Активный
550
Локальные языковые модели (LLM): Gemma, Qwen, GLM и прочие №275 /llama/ — В этом треде обсуждаем генерацию охуительных историй и просто общение с большими языковыми моделями (LLM). Всё локально, большие дяди больше не нужны! Здесь мы делимся рецептами запуска, настроек и годных промтов, расширяем сознание контекст и бугуртим с нано флеш моделей на 1488B параметров. Тред для обладателей топовых карт NVidia с кучей VRAM или мажоров с проф. картами уровня A100, или любителей подождать, если есть оперативная память. Особо терпеливые могут использовать даже подкачку и запускать модели, квантованные до 8 5 4 3 2 0,58 бит, на кофеварке с подкачкой на микроволновку. Официальная, но слегка тухлая вики треда с гайдами по запуску и базовой информацией: https://2ch-ai.github.io/wiki/llama/ Гайд для новичков: https://rentry.org/2ch-llama-inference Не вошедшее в шапку и архив полезных ссылок: https://rentry.co/llama-2ch-archive Инструменты для запуска на десктопах: • llamacpp - отец и мать всех инструментов, позволяющий гонять GGML и GGUF форматы: https://github.com/ggml-org/llama.cpp • koboldcpp - самый простой в использовании и установке форк llamacpp: https://github.com/LostRuins/koboldcpp • Обертка над llama.cpp с закрытым исходным кодом: https://lmstudio.ai • Обертка над llama.cpp с ограниченными возможностями: https://github.com/ollama/ollama Универсальные десктопные фронтенды: • SillyTavern - всеядное, сопрягается почти со всем, имеет большую коллекцию расширений: https://github.com/SillyTavern/SillyTavern • Marinara Engine - вариация на тему таверны, больше возможностей из коробки: https://github.com/Pasta-Devs/Marinara-Engine • Risuai - еще одна вариация, на этот раз в профиль, излишеств по минимуму: https://github.com/kwaroran/RisuAI Инструменты для запуска на мобилках: • PocketPal - интерфейс для локального запуска моделей под андроид и IOS на llamacpp (CPU, GPU, и NPU инференс): https://github.com/a-ghorbani/pocketpal-ai • Maid - интерфейс для локального запуска моделей под андроид с llamacpp под капотом: https://github.com/Mobile-Artificial-Intelligence/maid • ChatterUI - альтернативный вариант для локального запуска под андроид (фронтенд и бекенд сепарированы): https://github.com/Vali-98/ChatterUI • Гайд по установке SillyTavern на ведроид через Termux: https://web.archive.org/web/20241201232031/https://rentry.co/STAI-Termux Поставщики локальных моделей: • Hugging Face - платформа куда загружается всё и во всех форматах: https://huggingface.co/models • Проверенные квантоделы: https://huggingface.co/bartowski, https://huggingface.co/mradermacher, https://huggingface.co/unsloth Рейтинги и списки локальных моделей: • Актуальный список моделей с отзывами от тредовичков: https://rentry.co/2ch_llm_moe_2026 • Рейтинг моделей по уровню их закошмаренности цензурой: https://huggingface.co/spaces/DontPlanToEnd/UGI-Leaderboard • Сравнение моделей по сомнительным метрикам: https://huggingface.co/spaces/HuggingFaceH4/open_llm_leaderboard • Сравнение моделей реальными пользователями по чуть менее сомнительным метрикам: https://chat.lmsys.org/?leaderboard Готовые карточки для таверны: • Botbooru - текущая мета (регистрируйтесь для отображения всего спектра, и/или меняйте страну): https://botbooru.com • Прошлая мета, откуда массово удалили карточки сомнительного содержания: https://www.characterhub.org, https://www.chub.ai • Архив карточек, удадённых с chub: https://gottasaveemall.github.io/ Официальные документации к инструментам: • llamacpp: https://github.com/ggml-org/llama.cpp/blob/master/tools/server/README.md • koboldcpp: https://github.com/LostRuins/koboldcpp/wiki • SillyTavern: https://docs.sillytavern.app/usage/quick-start Архив тредов можно найти на архиваче: https://arhivach.vc/?tags=14780%2C14985 Шапка в https://rentry.co/llama-2ch, предложения принимаются в треде. Предыдущие треды тонут здесь: >>1718049 (OP) >>1715908 (OP)
2026-11-04 22:57:25
Сохранен
12
2026-10-21 12:46:19
Сохранен
47
Красный смех захватил Россию — Самый годный период в этой стране был именно с отмены крепостного рабства и вплоть до первой мировой. Например благодаря судебной реформе 1864 года от Александра Освободителя, в России несмотря на многовековой опыт бесправия, отсутствия независимой юриспруденции, судебной системы и правовой культуры в целом, за очень короткое время появились реальные суды, грамотные юристы (тот же ленин был неплохим юристом, и лучше бы им и оставался), понимание права и гражданских свобод в обществе хотя побочным эффектом этого стало появление различных террористических организаций народников а после эсеров Но к сожалению наша страна не смогла преодолеть инерцию крестьянских общин (против которых пытался бороться Столыпин, за что его убили), которые несли в себе тот самый крепостной и социалистический (из-за общинного уклада и тяжёлых условий жизни) менталитет. Впоследствии выросшие на их почве большевики (непосредственно как эволюционный синтез авторитарного социализма общины и европейского марксизма) на пару с эсерами ебнули адекватое российское государство, а появившееся на его место совковое государство уничтожило зарождавшиеся институты капитализма, демократии и правосознания. Короче глубинная болезнь организма взяла над ним вверх, и с 1917 года мы имеем дело с прокаженной красной чумой Россией (РСФСР/РФ)
2026-10-19 08:12:50
Сохранен
553
2026-10-22 10:58:35
Сохранен
54
Я ТУТ ПУЗОЖИТЕЛЯ ЗАДЕЛАЛ Будучи великовозрастным долбоёбом-японодрочером, залутавшим хату, захотел — Я ТУТ ПУЗОЖИТЕЛЯ ЗАДЕЛАЛ Будучи великовозрастным долбоёбом-японодрочером, залутавшим хату, захотел тян-японку, но в центральной россии японка это значит праворульный кейкар с функцией дезинтеграции жопы по щёлчку камаза, и даже советскую кореянку хуй найдёшь. Я случайно нашёл выход и болгары восхитились: подкатил к узбечке-уборщице в дикси. Спустя некоторое время пробил целку, развратил, да спиздил у мамки. Скоро как год живём вместе, и честно говоря уже успели подвсосаться в друг друга. Вчера мне было сообщено, что месячные не начинаются уже неделю. Всучив тне бутылку воды наупой, я поехал в город за тестами. 4/5 тестов показали две полоски. Сижу второй день в ахуе. Мне 30, тне 20 будет в ноябре. У меня долгов на 600к под 26%. Через 40 км от села были сообщения о военкоматчиках. Чё в будущем хуй знает. Тня нихуя несамостоятельна и жизни не нюхала, работает сборщицей заказов у ип-еблуши за шисят. Я хз чё делать, пусть анон на свежую голову подкинет чего, может быть пазл худо-бедно сложится.
2026-10-14 23:22:25
Сохранен
22
2026-10-13 08:21:01
Сохранен
3
2026-10-12 16:29:29
Сохранен
506
2026-10-17 15:33:41
Сохранен
90
2026-10-12 06:23:39
Сохранен
29
2026-10-11 17:00:22
Сохранен
103
2026-10-11 21:02:41
Сохранен
198
2026-10-11 04:18:30
Сохранен
5
2026-10-09 20:43:21
Сохранен
5
2026-10-09 22:36:58
Сохранен
59
2026-10-09 06:38:01