К сожалению, значительная часть сохранённых до 2024 г. изображений и видео была потеряна (подробности случившегося). Мы призываем всех неравнодушных помочь нам с восстановлением утраченного контента!
Сортировка: за
Сохранен
504
28 января 17:58
Сохранен
504
25 января 10:21
Активный
504
Локальные языковые модели (LLM): LLaMA, Gemma, Qwen и прочие №188 /llama/ — В этом треде обсуждаем генерацию охуительных историй и просто общение с большими языковыми моделями (LLM). Всё локально, большие дяди больше не нужны! Здесь мы делимся рецептами запуска, настроек и годных промтов, расширяем сознание контекст и бугуртим с кривейшего тормозного говна. Тред для обладателей топовых карт NVidia с кучей VRAM или мажоров с проф. картами уровня A100, или любителей подождать, если есть оперативная память. Особо терпеливые могут использовать даже подкачку и запускать модели, квантованные до 8 5 4 3 2 0,58 бит, на кофеварке с подкачкой на микроволновку. Вниманиеблядство будет караться репортами. Официальная вики треда с гайдами по запуску и базовой информацией: https://2ch-ai.github.io/wiki/llama/ Инструменты для запуска на десктопах: • Отец и мать всех инструментов, позволяющий гонять GGML и GGUF форматы: https://github.com/ggml-org/llama.cpp • Самый простой в использовании и установке форк llamacpp: https://github.com/LostRuins/koboldcpp • Более функциональный и универсальный интерфейс для работы с остальными форматами: https://github.com/oobabooga/text-generation-webui • Заточенный под Exllama (V2 и V3) и в консоли: https://github.com/theroyallab/tabbyAPI • Однокнопочные инструменты на базе llamacpp с ограниченными возможностями: https://github.com/ollama/ollama, https://lmstudio.ai • Универсальный фронтенд, поддерживающий сопряжение с koboldcpp и text-generation-webui: https://github.com/SillyTavern/SillyTavern • Альтернативный фронт: https://github.com/kwaroran/RisuAI Инструменты для запуска на мобилках: • Интерфейс для локального запуска моделей под андроид с llamacpp под капотом: https://github.com/Mobile-Artificial-Intelligence/maid • Альтернативный вариант для локального запуска под андроид (фронтенд и бекенд сепарированы): https://github.com/Vali-98/ChatterUI • Гайд по установке SillyTavern на ведроид через Termux: https://rentry.co/STAI-Termux Модели и всё что их касается: • Актуальный список моделей с отзывами от тредовичков: https://rentry.co/2ch_llm_2025 (версия для бомжей: https://rentry.co/z4nr8ztd ) • Неактуальные списки моделей в архивных целях: 2024: https://rentry.co/llm-models , 2023: https://rentry.co/lmg_models • Миксы от тредовичков с уклоном в русский РП: https://huggingface.co/Aleteian и https://huggingface.co/Moraliane • Рейтинг моделей по уровню их закошмаренности цензурой: https://huggingface.co/spaces/DontPlanToEnd/UGI-Leaderboard • Сравнение моделей по сомнительным метрикам: https://huggingface.co/spaces/HuggingFaceH4/open_llm_leaderboard • Сравнение моделей реальными пользователями по чуть менее сомнительным метрикам: https://chat.lmsys.org/?leaderboard Дополнительные ссылки: • Готовые карточки персонажей для ролплея в таверне: https://www.characterhub.org • Перевод нейронками для таверны: https://rentry.co/magic-translation • Пресеты под локальный ролплей в различных форматах: https://huggingface.co/Virt-io/SillyTavern-Presets • Шапка почившего треда PygmalionAI с некоторой интересной информацией: https://rentry.co/2ch-pygma-thread • Официальная вики koboldcpp с руководством по более тонкой настройке: https://github.com/LostRuins/koboldcpp/wiki • Официальный гайд по сопряжению бекендов с таверной: https://docs.sillytavern.app/usage/how-to-use-a-self-hosted-model/ • Последний известный колаб для обладателей отсутствия любых возможностей запустить локально: https://colab.research.google.com/drive/11U-bC6AxdmMhd3PF9vWZpLdi6LdfnBQ8?usp=sharing • Инструкции для запуска базы при помощи Docker Compose: https://rentry.co/oddx5sgq https://rentry.co/7kp5avrk • Пошаговое мышление от тредовичка для таверны: https://github.com/cierru/st-stepped-thinking • Потрогать, как работают семплеры: https://artefact2.github.io/llm-sampling/ • Выгрузка избранных тензоров, позволяет ускорить генерацию при недостатке VRAM: https://www.reddit.com/r/LocalLLaMA/comments/1ki7tg7 • Инфа по запуску на MI50: https://github.com/mixa3607/ML-gfx906 • Тесты tensor_parallel: https://rentry.org/8cruvnyw Архив тредов можно найти на архиваче: https://arhivach.hk/?tags=14780%2C14985 Шапка в https://rentry.co/llama-2ch, предложения принимаются в треде. Предыдущие треды тонут здесь: >>1480267 (OP) >>1475911 (OP)
31 января 1:32
Активный
504
сегодня 1:14
Сохранен
504
25 января 12:34
Активный
504
Бесконечное нейроговно №13 /es2/ — "Бесконечное нейроговно" №13 12 числа сего месяца, запойный алкоголик, известный как сРиточка, заанонсил в стиме свой гнойный нейровысер - так называемое "Бесконечное Лето 2". К той самой наполненной датфилом игре это поделие не имеет никакого отношения, ибо он решил во избежание проблем с авторскими правами насрать туда какими-то совершенно ниочёмными и не относящимися к бордам персонажами. Кроме того, с порога видно открыто наплевательское отношение к качеству - те самые уже меметичные 6 пальцев, отражающие то, насколько ему насрать на качество. И как вишенка на торте из говна - оно решило это всратое поделие продавать, по цене от 900 до 6000р. В стиме ценника нет, предзаказы открыты на его сайте (ведь в стиме и возврат оформить легко, а у него с такого жопа сгорит!). Так в чем проблема помимо откровенного плохого качества и использования ИИ в работе? Проблема в плохом отношении сритана к тем кто будет потреблять его комбикорм произведение. Своими откровенными высказываниями и невозможностью работать с аудиторией откровенно закопал себе возможность для мирного решения конфликта. Анон! Не ведись на эту погань! Хочешь ли ты покупать поделие которое дай бог если отдаёт ТЕМ "Бесконечным летом" и то только в названии? Хочешь ли ты покупать у людей которые тебя считают тупой р*сней и посылают на любую критику нахуй? Не ешь это говно и не делай предзаказы! А если сделал - трахай возвратами! Положняк треда: 1) Алконавт в пьяном угаре спросил в конфе у какого-то мимохуя "Ты башкир или русня тупая". Это разошлось по крупным СМИ. Из-за этого Ритану грозит бутыль, а Леста уже разорвала сотрудничество с ним в корабликах. 2)После долгого алкосна нурглист по имени Риточка проснулся. Выкатив пост, в нем он обощенно на отъебись извинивялся за свои высказывания, и вообще осокрбления на национальной почве были вырваны из контекста, а так-же про то что улетает (на дупной тяге) из медиа пространства на неопределённый срок (возможно в рехаб). Пифакту следующий пост в тележечке развенчивает пиздешь ибо манера речи и повествование сохраняется схожим со сриточкиным. Для слоупков. "Извинения" были от некоего RT (ранее упоминавшегося в ГовноМаниРокнРолл как режиссёр), но по факту - это инициалы одного из неймов сритана, Риточка Тайнакова 3) В стиме его поделие сочно оттеговано как содержащее гомосню и ИИ. Если накидать жалоб - есть вероятность вообще уебать распространение этого нейроговна в ру-сегменте (но это неточно). 4) Оно угрожало сломать пальцы некоему постеру, рассказывало про свой короткий член и пыталось отмазаться после той политоты, что напиздело. 5) Высрались и более нишевые блогеры к примеру: бэралусы из иксбити, а также виноградный, тема про разработку поделия "Летосодержащие-2" и сриточку в частности. Если первые достаточно точно описали ситуацию: про скандал и отношение сриточки внутри комьюнити, а также разработку в частности, то второй сделал ролик ради рекламы очередной залупы. 6) Сританопараша решила высрать конкурс среди подписоты. При этом заявляя в условиях, что без нейровысеров - но на пике к посту сам насрав очередным нейрокалом! Видимо, ему нравится струёй мочи окатывать свою подписоту, а та и рада. С большой вероятностью в треде резвятся его идейные подсосы или троли на зарплате, загаживая тред нейросраньём с шаболдами и стараясь развести срач. Призываем репортить этих чертей. В одном из прошлых тредов один особо упёртый нейропидор уже сочно попал под бан. Так называемое "Бесконечное Лето 2" фактически никак не связано ни с БЛом, ни с бордами и несёт лишь единственную цель - наглое паразитирование на оригинале, рожденном в кузницах отечественных имиджборд! Драконьте запойную гадину дальше! От троллинга в его говногруппках и шкодного творчества, мажущего жиденьким калом лысеющего алкаша - до залития говном ИРЛ! No Pasaran, жирный хуесос! Слитая альфа: https://mega.nz/file/q0hTCAwC#21qc1DqbWQtS6J14cLYmgD-pACpoBCJTiTMlf_UQfEo https://mega.nz/file/WoQHVRBJ#maICb71t4FTth541TpyT41VqhrZnW1_4dA6DBlwaLBw Предыдущие треды: 1. >>1171038 (OP) 2. >>1256102 (OP) 3. >>1265935 (OP) 4. >>1266502 (OP) 5. >>1267096 (OP) 6. >>1267847 (OP) 7. >>1268496 (OP) 8. >>1269076 (OP) 9. >>1269930 (OP) 10. >>1270683 (OP) 11. >>1271542 (OP) 12. >>1272404 (OP)
31 января 1:32
Сохранен
504
27 января 14:39
Сохранен
504
26 января 12:15
Сохранен
504
22 января 11:39
Активный
504
2ch
31 января 1:32
Сохранен
504
21 января 14:17
Сохранен
504
21 января 21:22
Сохранен
504
ВАНОМАС ТРЕД № 508 ГОРБАТОЕ ПУГАЛО — VANOMAS (он же Иван Маслаков, Посраков, Посрачков, Пасра, Бомж, Вислопис, Козёл, Козлиец, Зашуганная Крыса, Глиномес, Ванограз, Шизомас, Говномас, Маслопитек, Поллюционер) — кринжовый российский фрик нижнего интернета, стример и обзорщик видеоигр, автор геополитической аналитики, создатель философии разумизма, лицемерный одинокий шизофреник с запредельным уровнем тупизны, бреда величия, нарциссизма и злобы. Завистник, ненавидящий всех и скамящий своих донатеров, эпично проебывающий собственную жизнь в засранной нищей маслушке, за чем мы все и наблюдаем. Ничего не знает и ничего не умеет в 41 год. Родился 9 февраля 1984 года и медленно, но верно движется к полной деградации и забвению. Основные каналы: https://www.youtube.com/@VANOMAS — главный канал. https://www.youtube.com/@VanomasTrash — канал для менее важных видео. https://kick.com/thevanomas — канал на кике. ВК — https://vk.com/vanomas ТГ — https://t.me/vanomasofficial Предыдущий тред: >>26049884 (OP)
27 января 14:39
Активный
504
вчера 18:00
Активный
504
вчера 20:53
Активный
504
31 января 1:31
Сохранен
504
17 января 5:08
Сохранен
504
19 января 17:22
Активный
504
Отголоски — - Ты справился... Холодный, безэмоциональный голос Перебежчика, по которому нельзя было даже определить пол незримого союзника, пробудил вас от плавно накатившего на тело состояния дрёма, вызванного физичесим утомлением, которое вскоре отступило, давая возможность вашим мыслям и восприятию стать слегка чётче. Скорее всего, вы всё ещё лежите на полу, среди обломков крыши и разнесённой вдребезги мебели. Почему "скорее всего"? Что заставило вас усомниться в своём восприятии окружения? Ощущение пустоты и немоты тела, неспособность различить хотя бы освещение в том месте, где вы теперь оказались. Даже пытаясь зафиксировать внимание на своём дыхании, чтобы подышать без помощи саморегулирующих механизмов тела, у вас не выходит. Впрочем, чувство почти полного сенсорного вакуума не заставило вас встревожиться. То ли потому, что ваши эмоции временно и щадящим способом погасили, утихомиривая перевозбуждённый битвой дух, то ли по той причине, что безмолвный транс вам был уже знаком и не вызывал естественного страха неизвестного. - У меня теперь достаточно сил, чтобы общаться с тобой непрерывно, лидер, - сухо продолжило создание. - Но не... свободно. Контакт продолжает отнимать у меня энергию. Меня всё ещё стесняет нечто, тяжёлое к восприятию и осмыслению даже для меня. Всё же... - из-за полного отсутствия эмоций и многих привычных интонаций в механическом, искуственном голосе сущности, разговор ощущался неописуемо странно. - Наблюдая за тобой, за невидимой другим духовной связью между тобой и твоими спутниками... Я пришла к возможному решению. Персонификация. Ты владеешь правом подарить мне составляющие личности. Самые основные черты, подобные тем, что составляют твоё видение доверивших тебе: пол, живой голос, мышление, характер, субъективное восприятие тех или иных явлений твоего окружения. А также имя. То, которое ты дашь мне осознанно. Которое выберешь ты. Но мне стоит уточнить, что всё, чем ты примешь решение меня наделить, должно быть уникальным. Твоего создания. Чужое имя и голос рано или поздно станут причиной неизбежного и губительного внутреннего конфликта. Здоровье: ??? Запас сил: ??? Время суток: Неизвестно. Способности: Звуковая концентрация [ЗК]. Уровень 2. До следующего уровня: 8/20 Объединённые Несчастьем (Кардия, Болдер, Ваша, Свитч) [ОН]. Уровень 2. До следующего уровня: 37/60 Перебежчик(?). Уровень 1. До следующего уровня: ??? Эффекты: Полная сенсорная депривация.
31 января 1:31
Сохранен
504
11 января 17:14
Сохранен
504
15 января 10:17
Сохранен
504
13 января 22:48
Сохранен
504
13 января 14:58
Сохранен
504
12 января 23:17
Сохранен
504
12 января 9:40