К сожалению, значительная часть сохранённых до 2024 г. изображений и видео была потеряна (подробности случившегося). Мы призываем всех неравнодушных помочь нам с восстановлением утраченного контента!
Сортировка: за
Активный
501
Локальные языковые модели (LLM): LLaMA, Gemma, Qwen и прочие №194 /llama/ — В этом треде обсуждаем генерацию охуительных историй и просто общение с большими языковыми моделями (LLM). Всё локально, большие дяди больше не нужны! Здесь мы делимся рецептами запуска, настроек и годных промтов, расширяем сознание контекст и бугуртим с кривейшего тормозного говна. Тред для обладателей топовых карт NVidia с кучей VRAM или мажоров с проф. картами уровня A100, или любителей подождать, если есть оперативная память. Особо терпеливые могут использовать даже подкачку и запускать модели, квантованные до 8 5 4 3 2 0,58 бит, на кофеварке с подкачкой на микроволновку. Вниманиеблядство будет караться репортами. Официальная вики треда с гайдами по запуску и базовой информацией: https://2ch-ai.github.io/wiki/llama/ Инструменты для запуска на десктопах: • Отец и мать всех инструментов, позволяющий гонять GGML и GGUF форматы: https://github.com/ggml-org/llama.cpp • Самый простой в использовании и установке форк llamacpp: https://github.com/LostRuins/koboldcpp • Более функциональный и универсальный интерфейс для работы с остальными форматами: https://github.com/oobabooga/text-generation-webui • Заточенный под Exllama (V2 и V3) и в консоли: https://github.com/theroyallab/tabbyAPI • Однокнопочные инструменты на базе llamacpp с ограниченными возможностями: https://github.com/ollama/ollama, https://lmstudio.ai • Универсальный фронтенд, поддерживающий сопряжение с koboldcpp и text-generation-webui: https://github.com/SillyTavern/SillyTavern • Альтернативный фронт: https://github.com/kwaroran/RisuAI Инструменты для запуска на мобилках: • Интерфейс для локального запуска моделей под андроид с llamacpp под капотом: https://github.com/Mobile-Artificial-Intelligence/maid • Альтернативный вариант для локального запуска под андроид (фронтенд и бекенд сепарированы): https://github.com/Vali-98/ChatterUI • Гайд по установке SillyTavern на ведроид через Termux: https://rentry.co/STAI-Termux Модели и всё что их касается: • Актуальный список моделей с отзывами от тредовичков: https://rentry.co/2ch_llm_2025 (версия для бомжей: https://rentry.co/z4nr8ztd ) • Неактуальные списки моделей в архивных целях: 2024: https://rentry.co/llm-models , 2023: https://rentry.co/lmg_models • Миксы от тредовичков с уклоном в русский РП: https://huggingface.co/Aleteian и https://huggingface.co/Moraliane • Рейтинг моделей по уровню их закошмаренности цензурой: https://huggingface.co/spaces/DontPlanToEnd/UGI-Leaderboard • Сравнение моделей по сомнительным метрикам: https://huggingface.co/spaces/HuggingFaceH4/open_llm_leaderboard • Сравнение моделей реальными пользователями по чуть менее сомнительным метрикам: https://chat.lmsys.org/?leaderboard Дополнительные ссылки: • Готовые карточки персонажей для ролплея в таверне: https://www.characterhub.org • Перевод нейронками для таверны: https://rentry.co/magic-translation • Пресеты под локальный ролплей в различных форматах: https://huggingface.co/Virt-io/SillyTavern-Presets • Шапка почившего треда PygmalionAI с некоторой интересной информацией: https://rentry.co/2ch-pygma-thread • Официальная вики koboldcpp с руководством по более тонкой настройке: https://github.com/LostRuins/koboldcpp/wiki • Официальный гайд по сопряжению бекендов с таверной: https://docs.sillytavern.app/usage/how-to-use-a-self-hosted-model/ • Последний известный колаб для обладателей отсутствия любых возможностей запустить локально: https://colab.research.google.com/drive/11U-bC6AxdmMhd3PF9vWZpLdi6LdfnBQ8?usp=sharing • Инструкции для запуска базы при помощи Docker Compose: https://rentry.co/oddx5sgq https://rentry.co/7kp5avrk • Пошаговое мышление от тредовичка для таверны: https://github.com/cierru/st-stepped-thinking • Потрогать, как работают семплеры: https://artefact2.github.io/llm-sampling/ • Выгрузка избранных тензоров, позволяет ускорить генерацию при недостатке VRAM: https://www.reddit.com/r/LocalLLaMA/comments/1ki7tg7 • Инфа по запуску на MI50: https://github.com/mixa3607/ML-gfx906 • Тесты tensor_parallel: https://rentry.org/8cruvnyw Архив тредов можно найти на архиваче: https://arhivach.vc/?tags=14780%2C14985 Шапка в https://rentry.co/llama-2ch, предложения принимаются в треде. Предыдущие треды тонут здесь: >>1504260 (OP) >>1500759 (OP)
8 февраля 19:07
Активный
501
Подсосов Мэда тред №12751 — >>26214999 (OP)
вчера 20:21
Сохранен
501
АНОНЫ ЭТО АХУЙ я такого абсурда ирл еще не видел, сюда недавно сюда писал что тян на 11 неделе берем — АНОНЫ ЭТО АХУЙ я такого абсурда ирл еще не видел, сюда недавно сюда писал что тян на 11 неделе беременности, потом писал что ура аборт состоялся, вчера тян поехала в другую больничку по причине болей в пизде, ОКАЗАЛОСЬ У НЕЕ СРОК 4 МЕСЯЦА И ОНО ЕЩЕ ТАМ, кто работает нахуй в госбольницах, КАК можно это допустить, как блять можно сделать человеку узи, сказать что там 11 недель и СДЕЛАТЬ АБОРТ ВАКУУМНЫЙ, мне че блять сжечь нахуй эту контору пидорасов, по итогу из за аборта того, ребенок недоносок и инвалид и сейчас из вариантов это таблеточно вызвать выкидыш или донашивать инвалида, мать тянки бтв сказала если будет делать выкидыш то они откажутся от тян, хуй пойми че у них в голове, что за сюр блять творится
10 февраля 4:53
Активный
501
Летсплееры, обзорщики, стримеры #3792 — Аринян, Германика, Генсуха, не русскоговорящие пиздоглазые, всякого рода бонгостримерши, Чмарьяна, Чмадейра, арапетухи и бимбоунитазы вне закона. Прошлый ЛОС тред: >>26199267 (OP)
сегодня 1:00
Активный
500
One Piece #572 — Предыдущий: >>2483714 (OP)
9 февраля 0:28
Активный
500
Локальные языковые модели (LLM): LLaMA, Gemma, Qwen и прочие №195 /llama/ — В этом треде обсуждаем генерацию охуительных историй и просто общение с большими языковыми моделями (LLM). Всё локально, большие дяди больше не нужны! Здесь мы делимся рецептами запуска, настроек и годных промтов, расширяем сознание контекст и бугуртим с кривейшего тормозного говна. Тред для обладателей топовых карт NVidia с кучей VRAM или мажоров с проф. картами уровня A100, или любителей подождать, если есть оперативная память. Особо терпеливые могут использовать даже подкачку и запускать модели, квантованные до 8 5 4 3 2 0,58 бит, на кофеварке с подкачкой на микроволновку. Вниманиеблядство будет караться репортами. Официальная вики треда с гайдами по запуску и базовой информацией: https://2ch-ai.github.io/wiki/llama/ Инструменты для запуска на десктопах: • Отец и мать всех инструментов, позволяющий гонять GGML и GGUF форматы: https://github.com/ggml-org/llama.cpp • Самый простой в использовании и установке форк llamacpp: https://github.com/LostRuins/koboldcpp • Более функциональный и универсальный интерфейс для работы с остальными форматами: https://github.com/oobabooga/text-generation-webui • Заточенный под Exllama (V2 и V3) и в консоли: https://github.com/theroyallab/tabbyAPI • Однокнопочные инструменты на базе llamacpp с ограниченными возможностями: https://github.com/ollama/ollama, https://lmstudio.ai • Универсальный фронтенд, поддерживающий сопряжение с koboldcpp и text-generation-webui: https://github.com/SillyTavern/SillyTavern • Альтернативный фронт: https://github.com/kwaroran/RisuAI Инструменты для запуска на мобилках: • Интерфейс для локального запуска моделей под андроид с llamacpp под капотом: https://github.com/Mobile-Artificial-Intelligence/maid • Альтернативный вариант для локального запуска под андроид (фронтенд и бекенд сепарированы): https://github.com/Vali-98/ChatterUI • Гайд по установке SillyTavern на ведроид через Termux: https://rentry.co/STAI-Termux Модели и всё что их касается: • Актуальный список моделей с отзывами от тредовичков: https://rentry.co/2ch_llm_2025 (версия для бомжей: https://rentry.co/z4nr8ztd ) • Неактуальные списки моделей в архивных целях: 2024: https://rentry.co/llm-models , 2023: https://rentry.co/lmg_models • Миксы от тредовичков с уклоном в русский РП: https://huggingface.co/Aleteian и https://huggingface.co/Moraliane • Рейтинг моделей по уровню их закошмаренности цензурой: https://huggingface.co/spaces/DontPlanToEnd/UGI-Leaderboard • Сравнение моделей по сомнительным метрикам: https://huggingface.co/spaces/HuggingFaceH4/open_llm_leaderboard • Сравнение моделей реальными пользователями по чуть менее сомнительным метрикам: https://chat.lmsys.org/?leaderboard Дополнительные ссылки: • Готовые карточки персонажей для ролплея в таверне: https://www.characterhub.org • Перевод нейронками для таверны: https://rentry.co/magic-translation • Пресеты под локальный ролплей в различных форматах: https://huggingface.co/Virt-io/SillyTavern-Presets • Шапка почившего треда PygmalionAI с некоторой интересной информацией: https://rentry.co/2ch-pygma-thread • Официальная вики koboldcpp с руководством по более тонкой настройке: https://github.com/LostRuins/koboldcpp/wiki • Официальный гайд по сопряжению бекендов с таверной: https://docs.sillytavern.app/usage/how-to-use-a-self-hosted-model/ • Последний известный колаб для обладателей отсутствия любых возможностей запустить локально: https://colab.research.google.com/drive/11U-bC6AxdmMhd3PF9vWZpLdi6LdfnBQ8?usp=sharing • Инструкции для запуска базы при помощи Docker Compose: https://rentry.co/oddx5sgq https://rentry.co/7kp5avrk • Пошаговое мышление от тредовичка для таверны: https://github.com/cierru/st-stepped-thinking • Потрогать, как работают семплеры: https://artefact2.github.io/llm-sampling/ • Выгрузка избранных тензоров, позволяет ускорить генерацию при недостатке VRAM: https://www.reddit.com/r/LocalLLaMA/comments/1ki7tg7 • Инфа по запуску на MI50: https://github.com/mixa3607/ML-gfx906 • Тесты tensor_parallel: https://rentry.org/8cruvnyw Архив тредов можно найти на архиваче: https://arhivach.vc/?tags=14780%2C14985 Шапка в https://rentry.co/llama-2ch, предложения принимаются в треде. Предыдущие треды тонут здесь: >>1509647 (OP) >>1504260 (OP)
вчера 22:29
Сохранен
500
???? Девушка подверглась домогательствам в подмосковном фитнес-клубе. Тренеры лишь предложили ей носить — ???? Девушка подверглась домогательствам в подмосковном фитнес-клубе. Тренеры лишь предложили ей носить с собой шокер. Инцидент произошёл в клубе «FitnessON». Сначала незнакомец снимал клиентку на телефон во время упражнений, администрация лишь посоветовала «не реагировать категорично». Позже в хаммаме группа мужчин преградила ей путь, один из них облил ее из лейки. Девушка была вынуждена прятаться в раздевалке и просить знакомых о помощи. Сначала так одеваются, а потом жалуются, что на них смотрят.
10 февраля 19:36
Активный
500
Арчилэнд №74 — Twitch: https://www.twitch.tv/archiedos Vkvideo: https://live.vkvideo.ru/archiedos Kick: https://kick.com/archiedos2 Telegram: https://t.me/archiedos Прошлый: >>26157782 (OP) https://arhivach.vc/thread/1300874
сегодня 1:00
Сохранен
500
webm mp4 — webm mp4
9 февраля 8:56
Активный
500
Служба ответов на тупые вопросы №434 — Не знаешь, куда зайти? Тебе сюда! Даём умные ответы на тупые вопросы! Прошлый тонет >>6747918 (OP)
8 февраля 20:23
Сохранен
500
Аниме тред (webm, вебм, цуиь, mp4) — Аниме тред (webm, вебм, цуиь, mp4)
7 февраля 15:40
Активный
499
Чеды рушат нормальную счастливую семью,из за них жены уходят от хороших и замечательных мужей Как ж — Чеды рушат нормальную счастливую семью,из за них жены уходят от хороших и замечательных мужей Как же меня это бесит
вчера 23:11
Активный
499
Подсосов Мэда тред №12748 — >>26211278 (OP)
вчера 20:21
Сохранен
499
Подсосов Мэда тред №12710 — >>26169475 (OP)
7 февраля 13:27
Сохранен
498
Подсосов Мэда тред №12732 — >>26194061 (OP)
10 февраля 16:47
Сохранен
498
Подсосов Мэда тред №12726 — >>26186481 (OP)
9 февраля 21:01
Сохранен
498
Почему бабы никогда не уступают дорогу? — Почему бабы никогда не уступают дорогу?
9 февраля 8:48
Активный
497
Подсосов Мэда тред №12744 — >>26207570 (OP)
вчера 20:21
Сохранен
496
Подсосов Мэда тред №12731 — >>26193099 (OP)
10 февраля 14:36
Сохранен
493
Подсосов Мэда тред №12715 — >>26175406 (OP)
7 февраля 23:51
Активный
490
Подсосов Мэда тред №12760 — >>26226772 (OP)
сегодня 1:00
Сохранен
490
Подсосов Мэда тред №12713 — >>26173169 (OP) https://kick.com/maddyson
7 февраля 20:36
Сохранен
487
Задавайте вопросы — Задавайте вопросы
вчера 9:28
Активный
483
Femdom thread 24 — Общий тред женского доминирования Обсуждаем кулстори по теме из интернетов, рассказываем про воображаемый опыт, высказываем охуительные (и не очень) манятеории о том почему женщина не может доминировать паприроде, отбиваемся от залетных зелёных, жалуемся на недостаток Верхних тян, выясняем кто тут Настоящий Тематик, а кто жалкая ванилька, кроем хуями шиза бабкопостера, прогоняем скуфопостера, соревнуемся в душноте. И конечно, постим красивых няшных Госпожей. Предыдущий тред там >>766606 (OP)
10 февраля 19:25
Сохранен
483
Хочу поговорить про блокировки, точнее не про сами блокировки, а про то с насколько ублюдским рвение — Хочу поговорить про блокировки, точнее не про сами блокировки, а про то с насколько ублюдским рвением и жестокостью они внедряются. Я бы понял, если бы это было как у нас обычно всё делается, на бумаге. Бешеный принтер выдает списки сайтов/ip/групп, бешеный молоток стукает провайдеров, провайдер блокирует любые неугодные депутуткам сайты и приложения. Проверка успешности это когда опечатанный аккредитованный чистый компьютер с астралинух и браузером чебураха не может зайти на сайт. Итогом пишется отчёт, что доступа к расиян нет. Однако даже заблокировав что угодно для доступа 99,9% людей, они на этом не остановились. Они вкладывают десятки миллиардов рублей в то, чтобы оставшемуся проценту сделать жизнь просто невыносимой. Оборудование, специалисты, несколько подразделений чинуш. Я хотел написать ещё, но только от написания этого ловлю депресняк. Самым адекватным объяснением происходящему здесь давно считатаю какое-то мощнейшее проклятие, это земля натурально проклята.
6 февраля 15:06


жалоба / abuse: arhivach@airmail.cc