/ai/ - Искусственный интеллект | Архивач

Сортировка:

за


Активный 376	Локальные языковые модели (LLM): Gemma, Qwen, GLM и прочие №264 /llama/ — В этом треде обсуждаем генерацию охуительных историй и просто общение с большими языковыми моделями (LLM). Всё локально, большие дяди больше не нужны! Здесь мы делимся рецептами запуска, настроек и годных промтов, расширяем сознание контекст и бугуртим с кривейшего тормозного говна. Тред для обладателей топовых карт NVidia с кучей VRAM или мажоров с проф. картами уровня A100, или любителей подождать, если есть оперативная память. Особо терпеливые могут использовать даже подкачку и запускать модели, квантованные до 8 5 4 3 2 0,58 бит, на кофеварке с подкачкой на микроволновку. Официальная вики треда с гайдами по запуску и базовой информацией: https://2ch-ai.github.io/wiki/llama/ Гайд для новичков: https://rentry.org/2ch-llama-inference Инструменты для запуска на десктопах: • llamacpp - отец и мать всех инструментов, позволяющий гонять GGML и GGUF форматы: https://github.com/ggml-org/llama.cpp • koboldcpp - самый простой в использовании и установке форк llamacpp: https://github.com/LostRuins/koboldcpp • TextGen (в девичестве text-generation-webui) - если необходимы другие форматы и больше контроля: https://github.com/oobabooga/textgen • TabbyAPI - заточенный под Exllama (V2 и V3) и в консоли: https://github.com/theroyallab/tabbyAPI • Однокнопочные инструменты на базе llamacpp с ограниченными возможностями: https://github.com/ollama/ollama, https://lmstudio.ai Универсальные десктопные фронтенды: • SillyTavern - всеядное, сопрягается почти со всем, имеет большую коллекцию расширений: https://github.com/SillyTavern/SillyTavern • Marinara Engine - вариация на тему таверны, больше возможностей из коробки: https://github.com/Pasta-Devs/Marinara-Engine • Risuai - еще одна вариация, на этот раз в профиль, излишеств по минимуму: https://github.com/kwaroran/RisuAI Инструменты для запуска на мобилках: • Maid - интерфейс для локального запуска моделей под андроид с llamacpp под капотом: https://github.com/Mobile-Artificial-Intelligence/maid • ChatterUI - альтернативный вариант для локального запуска под андроид (фронтенд и бекенд сепарированы): https://github.com/Vali-98/ChatterUI • Гайд по установке SillyTavern на ведроид через Termux: https://web.archive.org/web/20241201232031/https://rentry.co/STAI-Termux Поставщики локальных моделей: • Hugging Face - платформа куда загружается всё и во всех форматах: https://huggingface.co/models • Проверенные квантоделы: https://huggingface.co/bartowski, https://huggingface.co/mradermacher, https://huggingface.co/unsloth Рейтинги и списки локальных моделей: • Актуальный список моделей с отзывами от тредовичков: https://rentry.co/2ch_llm_moe_2026 • Неактуальные списки моделей в архивных целях: 2025: https://rentry.co/2ch_llm_2025 (версия для бомжей: https://rentry.co/z4nr8ztd ), 2024: https://rentry.co/llm-models , 2023: https://rentry.co/lmg_models • Миксы от тредовичков с уклоном в русский РП: https://huggingface.co/Aleteian и https://huggingface.co/Moraliane • Рейтинг моделей по уровню их закошмаренности цензурой: https://huggingface.co/spaces/DontPlanToEnd/UGI-Leaderboard • Сравнение моделей по сомнительным метрикам: https://huggingface.co/spaces/HuggingFaceH4/open_llm_leaderboard • Сравнение моделей реальными пользователями по чуть менее сомнительным метрикам: https://chat.lmsys.org/?leaderboard Готовые карточки для таверны: • Botbooru - текущая мета (регистрируйтесь для отображения всего спектра, и/или меняйте страну): https://botbooru.com • Прошлая мета, откуда массово удалили карточки сомнительного содержания: https://www.characterhub.org, https://www.chub.ai • Архив карточек, удадённых с chub: https://gottasaveemall.github.io/ Официальные документации к инструментам: • llamacpp: https://github.com/ggml-org/llama.cpp/blob/master/tools/server/README.md • koboldcpp: https://github.com/LostRuins/koboldcpp/wiki • SillyTavern: https://docs.sillytavern.app/usage/quick-start Дополнительные ссылки: • Перевод нейронками для таверны: https://rentry.co/magic-translation • Пресеты под локальный ролплей в различных форматах: http://web.archive.org/web/20250222044730/https://huggingface.co/Virt-io/SillyTavern-Presets • Шапка почившего треда PygmalionAI с некоторой интересной информацией: https://rentry.co/2ch-pygma-thread • Последний известный колаб для обладателей отсутствия любых возможностей запустить локально: https://colab.research.google.com/drive/11U-bC6AxdmMhd3PF9vWZpLdi6LdfnBQ8?usp=sharing • Инструкции для запуска базы при помощи Docker Compose: https://rentry.co/oddx5sgq https://rentry.co/7kp5avrk • Пошаговое мышление от тредовичка для таверны: https://github.com/cierru/st-stepped-thinking • Потрогать, как работают семплеры: https://artefact2.github.io/llm-sampling/ • Выгрузка избранных тензоров, позволяет ускорить генерацию при недостатке VRAM: https://www.reddit.com/r/LocalLLaMA/comments/1ki7tg7 • Инфа по запуску на MI50, тесты производительности и прочее: https://arkprojects.space/wiki/AMD_GFX906 • Тесты tensor_parallel: https://rentry.org/8cruvnyw Архив тредов можно найти на архиваче: https://arhivach.vc/?tags=14780%2C14985 Шапка в https://rentry.co/llama-2ch, предложения принимаются в треде. Предыдущие треды тонут здесь: >>1694457 (OP) >>1692081 (OP) Локальные языковые модели большие языковые модели /ai/ - Искусственный интеллект 2ch	2026-09-07 20:24:40
Активный 311	Тред для альтернативных классическим играм режимов, включающим в себя интерактивные элементы участия игроков в процессе игры. Приветствуются любые форматы от рпг приключений по спасению принцессы от дракона до стратегических симуляторов покраса карты. Ежчан /ai/ - Искусственный интеллект	2026-06-15 16:57:15
Активный 98	Закреплённый тред /ai/ — Это раздел для тредов АИ БИТВ и любых других тредов АИ творчества, которые захотят поселиться тут. В этом треде можно задавать вопросы и получать на них ответы, анонсировать игры на этой и других бордах. Таверна https://github.com/SillyTavern/SillyTavern гитхаб https://docs.sillytavern.app/installation/windows/ - гайд по установке https://rentry.co/Tavern4Retards - подробный гайд по установке с форчана Полезные ссылки https://lmarena.ai/?mode=direct - здесь можно бесплатно попробовать разные нейросети https://disk.yandex.ru/d/FXdLhti4L6jaLw Генерач курс от Гей_Машины ☝????: Пресеты: skynet_enjoyer: https://rentry.org/bySkynetAIBattles Классический. Баланс между вниманием к деталям и интересным повествованием. Феешиз: https://rentry.org/AiBattlesPromptByFeeshiz Альтернативный. Максимальный упор на кинематографичность повествования, эмоции и динамичный экшен. Паскаль: https://files.catbox.moe/ikbbs9.rar Переработанный феешизов прессет под киношность, пафос и генерацию АХУЯ! + более глубокая система оценок. /b/шный: ПвП: https://files.catbox.moe/e5lius.json модифицированный пресет Скайнета. ПвЕ: https://files.catbox.moe/xcod41.json пресет для отряда самоубийц. Лорбук: https://rentry.org/LurePukeAIArena Переписанный пресет Скайнета с дополнениями. Больший упор на сюжет, управляется одной рукой без нужды писать в чат. Шаблон персонажа: https://rentry.org/aibattlestemplate Уровень сил: https://rentry.org/AIBattlesPowerScale Архив: https://rentry.org/smiecxn9 Ежчан /ai/ - Искусственный интеллект	2026-08-22 20:18:41
Активный 91	AI Chatbot General № 837 /aicg/ — AI Chatbot General № 837 БОТОДЕЛЫ!!!! Прикрепляйте новых ботов к оп-посту!!!! Общий вопросов по чат-ботам и прочего тред. Фронтенды • SillyTavern: https://github.com/SillyTavern/SillyTavern \| https://docs.sillytavern.app \| https://github.com/ntvm/SillyTavern (форк нв-куна) • Гайды на таверну: https://rentry.co/Tavern4Retards • Risu: https://risuai.xyz/ \| https://rentry.org/ox5cw9p8 Модели • Claude: https://docs.anthropic.com/en/docs • GPT: https://platform.openai.com/docs • Gemini: https://ai.google.dev/gemini-api/docs • DeepSeek: https://api-docs.deepseek.com/ • GLM: https://docs.z.ai Ботоводчество • /aicg/hub: https://aicg-hub.ru/characters.html • Чуб: https://characterhub.org \| https://chub.ai/characters • Ботбуру: https://botbooru.com/ • CharIsChar: https://charischar.net/ • Гайды: https://aicg.neocities.org/botmaking • Боты анонов: https://rentry.org/2chaicgtavernbots \| https://rentry.org/2chaicgtavernbots2 \| https://rentry.org/2chaicgtavernbots3 \| https://rentry.org/2chaicgtavernbots4 • Бургерские боты: https://aicg.neocities.org/bots Ресурсы • Бесплатные API: https://github.com/cheahjs/free-llm-api-resources • OpenRouter: https://openrouter.ai/ • Арена: https://lmarena.ai/ • Чай: https://character.ai/ Прочее • Термины LLM: https://2ch-ai.gitgud.site/wiki/llama/ Мета • Архив тредов: https://rentry.org/2ch-aicg-archives4 • Шаблон шапки: https://rentry.org/aicg_shapka Прошлый тред: >>1683502 (OP) aicg CharacterAI AI Chatbot /ai/ - Искусственный интеллект 2ch	2026-09-07 21:15:54
Активный 84	делимся лорами, промптами и методами обход цензуры в runninghub 1. Регаетесь тут: https://www.runni — делимся лорами, промптами и методами обход цензуры в runninghub 1. Регаетесь тут: https://www.runninghub.ai/ 2. Переходите по ссылке: https://www.runninghub.ai/enterprise-api/consumerApi Это ваш api. 3. Далее переходите на страницу Wan2.2 Generator. Open the link: https:// www.runninghub.ai?inviteCode=dcb5umqd. ПОСЛЕ ТОГО КАК ПРОЖАЛИ КНОПКУ GENERATE VIDEO: Нажмите Techinal Log, чтобы посмотреть как идет прогресс. Если все ОК, то каждые 10 секунд должно идти RUNNING. Генерация долгая, первый раз сгенерировалось у меня за 10 минут, второй раз аж за 20. Если не закрывали страницу с Wan2.2 Generator, то через время скинет ссылку на скачивание. ЕСЛИ ЗАКРЫЛИ, то переходите сюда https://www.runninghub.ai/call-api/bill-task Если статус генерации Running, то значит нихуя не готово еще. Ждите, когда будет Success. После Success'a копируете Task Id из первой колонки, переходите сюда: https://yaplamyayaogon.github.io/javascript/download_and_decode.html Вставляете во вторую строчку Task ID ваш скопированный файл и скачиваете сгенерированный видос. А теперь, жалкий куколд, живо скинул сюда [email protected] свою жену / девушку / мамку или на кого ты там хотел вздрочнуть. Я тоже подрочить хочу. /ai/ - Искусственный интеллект 2ch	2026-09-07 18:48:23
Активный 49	Первый! Ежчан /ai/ - Искусственный интеллект	2026-06-15 16:57:14