К сожалению, значительная часть сохранённых до 2024 г. изображений и видео была потеряна (подробности случившегося). Мы призываем всех неравнодушных помочь нам с восстановлением утраченного контента!
Сортировка: за
Сохранен
5
14 марта 23:58
Сохранен
13
14 марта 16:42
Сохранен
31
14 марта 9:27
Сохранен
445
14 марта 14:35
Сохранен
51
14 марта 7:18
Сохранен
85
12 марта 21:45
Сохранен
291
12 марта 18:50
Сохранен
25
11 марта 17:51
Сохранен
140
11 марта 14:05
Сохранен
6
10 марта 20:31
Сохранен
49
9 марта 23:18
Сохранен
50
9 марта 11:34
Сохранен
548
9 марта 19:02
Активный
2
31 января 1:30
Сохранен
545
8 марта 5:36
Сохранен
532
5 марта 7:46
Сохранен
5
Я В НАЧАЛЕ БОЛЬШОГО 2К26 @ ХОЧУ ПОХУДЕТЬ НО НЕ ЗНАЮ КАК БЕЗ МОТИВАЦИИ @ РЕШАЮ СПРОСИТЬ У ДВАЧА @ СОВ — Я В НАЧАЛЕ БОЛЬШОГО 2К26 @ ХОЧУ ПОХУДЕТЬ НО НЕ ЗНАЮ КАК БЕЗ МОТИВАЦИИ @ РЕШАЮ СПРОСИТЬ У ДВАЧА @ СОВЕТУЮТ ВКАТИТЬСЯ В ФЕМБОЙСТВО @ БУДЕШЬ ХОТЕТЬ ВЫГЛЯДЕТЬ ЖЕНСТВЕННО И ПОХУДЕЕШЬ @ ВСЕГДА МОЖЕШЬ ПЕРЕДУМАТЬ И ОТКАЗАТЬСЯ @ ПОХУЙ ПОГНАЛИ @ ... @ СПУСТЯ НЕСКОЛЬКО НЕДЕЛЬ "ТРЕНИРОВОК" ВТИХУЮ ПЫТАЮСЬ СПИЗДИТЬ У СЕСТРЫ ШМОТОК @ НЕ ВЛЕЗАЮ, РАЗМЕР S, СЛИШКОМ МАЛЫ ДЛЯ МЕНЯ @ РЕШАЮ ЧТО НЕТ, Я ВЛЕЗУ, БУДУ ТРЕНИТЬ @ ТРИ МЕСЯЦА СПУСТЯ СКИДЫВАЮ 20 КИЛО @ ЖИВОТА БОЛЬШЕ НЕТ, ОН СТАЛ ПЛОСКИМ, ПРОЯВИЛСЯ ПРЕСС @ ЖИР ПЕРЕТЁК НА ЖОПУ @ РУКИ СТАЛИ ЖИЛИСТЕЕ @ РЕШАЮ ЧТО ВРЕМЯ ПРИШЛО И ПОРА ОСТАНАВЛИВАТЬСЯ С ЭТИМИ СИССИ ГИПНО И ПРОЧИМ СЛОПОМ @ ВКЛЮЧАЮ ОБЫЧНУЮ ПОРНУХУ, ДОСТАЮ ЧЛЕН ЧТОБЫ ПОДРОЧИТЬ @ НЕ ВСТАЁТ @ СНОВА НАЧИНАЮ ДВИГАТЬСЯ В МУЖСКИХ ШМОТКАХ @ НЕУЮТНО @ ПРОБУЮ ОТРАСТИТЬ ВОЛОСЫ В ПАХУ, НА НОГАХ, РУКАХ И ПОДМЫШКАХ @ МЕШАЮТ, ЧЕШУТСЯ, НЕУДОБНО, ВОНЯЮ, ЧУВСТВУЮ СЕБЯ СТРЁМНО @ РЕШАЮ ПО ПРИВЫЧКЕ СНОВА ВСЁ СБРИТЬ @ ОСОЗНАЮ, ЧТО НЕ МОГУ С ЭТИМ ПОКОНЧИТЬ @ ОЙ @ ОЙ ЕЙ ЕЙ...
6 марта 13:48
Сохранен
2
5 марта 17:17
Сохранен
63
5 марта 14:04
Сохранен
1
4 марта 18:21
Сохранен
8
4 марта 13:44
Сохранен
1
4 марта 5:04
Активный
500
Локальные языковые модели (LLM): LLaMA, Gemma, Qwen и прочие №197 /llama/ — В этом треде обсуждаем генерацию охуительных историй и просто общение с большими языковыми моделями (LLM). Всё локально, большие дяди больше не нужны! Здесь мы делимся рецептами запуска, настроек и годных промтов, расширяем сознание контекст и бугуртим с кривейшего тормозного говна. Тред для обладателей топовых карт NVidia с кучей VRAM или мажоров с проф. картами уровня A100, или любителей подождать, если есть оперативная память. Особо терпеливые могут использовать даже подкачку и запускать модели, квантованные до 8 5 4 3 2 0,58 бит, на кофеварке с подкачкой на микроволновку. Официальная вики треда с гайдами по запуску и базовой информацией: https://2ch-ai.github.io/wiki/llama/ Инструменты для запуска на десктопах: • Отец и мать всех инструментов, позволяющий гонять GGML и GGUF форматы: https://github.com/ggml-org/llama.cpp • Самый простой в использовании и установке форк llamacpp: https://github.com/LostRuins/koboldcpp • Более функциональный и универсальный интерфейс для работы с остальными форматами: https://github.com/oobabooga/text-generation-webui • Заточенный под Exllama (V2 и V3) и в консоли: https://github.com/theroyallab/tabbyAPI • Однокнопочные инструменты на базе llamacpp с ограниченными возможностями: https://github.com/ollama/ollama, https://lmstudio.ai • Универсальный фронтенд, поддерживающий сопряжение с koboldcpp и text-generation-webui: https://github.com/SillyTavern/SillyTavern • Альтернативный фронт: https://github.com/kwaroran/RisuAI Инструменты для запуска на мобилках: • Интерфейс для локального запуска моделей под андроид с llamacpp под капотом: https://github.com/Mobile-Artificial-Intelligence/maid • Альтернативный вариант для локального запуска под андроид (фронтенд и бекенд сепарированы): https://github.com/Vali-98/ChatterUI • Гайд по установке SillyTavern на ведроид через Termux: https://rentry.co/STAI-Termux Модели и всё что их касается: • Актуальный список моделей с отзывами от тредовичков: https://rentry.co/2ch_llm_moe_2026 • Неактуальные списки моделей в архивных целях: 2025: https://rentry.co/2ch_llm_2025 (версия для бомжей: https://rentry.co/z4nr8ztd ), 2024: https://rentry.co/llm-models , 2023: https://rentry.co/lmg_models • Миксы от тредовичков с уклоном в русский РП: https://huggingface.co/Aleteian и https://huggingface.co/Moraliane • Рейтинг моделей по уровню их закошмаренности цензурой: https://huggingface.co/spaces/DontPlanToEnd/UGI-Leaderboard • Сравнение моделей по сомнительным метрикам: https://huggingface.co/spaces/HuggingFaceH4/open_llm_leaderboard • Сравнение моделей реальными пользователями по чуть менее сомнительным метрикам: https://chat.lmsys.org/?leaderboard Дополнительные ссылки: • Готовые карточки персонажей для ролплея в таверне: https://www.characterhub.org • Перевод нейронками для таверны: https://rentry.co/magic-translation • Пресеты под локальный ролплей в различных форматах: http://web.archive.org/web/20250222044730/https://huggingface.co/Virt-io/SillyTavern-Presets • Шапка почившего треда PygmalionAI с некоторой интересной информацией: https://rentry.co/2ch-pygma-thread • Официальная вики koboldcpp с руководством по более тонкой настройке: https://github.com/LostRuins/koboldcpp/wiki • Официальный гайд по сопряжению бекендов с таверной: https://docs.sillytavern.app/usage/how-to-use-a-self-hosted-model/ • Последний известный колаб для обладателей отсутствия любых возможностей запустить локально: https://colab.research.google.com/drive/11U-bC6AxdmMhd3PF9vWZpLdi6LdfnBQ8?usp=sharing • Инструкции для запуска базы при помощи Docker Compose: https://rentry.co/oddx5sgq https://rentry.co/7kp5avrk • Пошаговое мышление от тредовичка для таверны: https://github.com/cierru/st-stepped-thinking • Потрогать, как работают семплеры: https://artefact2.github.io/llm-sampling/ • Выгрузка избранных тензоров, позволяет ускорить генерацию при недостатке VRAM: https://www.reddit.com/r/LocalLLaMA/comments/1ki7tg7 • Инфа по запуску на MI50: https://github.com/mixa3607/ML-gfx906 • Тесты tensor_parallel: https://rentry.org/8cruvnyw Архив тредов можно найти на архиваче: https://arhivach.vc/?tags=14780%2C14985 Шапка в https://rentry.co/llama-2ch, предложения принимаются в треде. Предыдущие треды тонут здесь: >> >>
вчера 18:15
Сохранен
23
3 марта 12:24
Сохранен
285
3 марта 10:44