большие языковые модели | Архивач — Архив тредов имиджборд

Сортировка:

за


Активный 479	Локальные языковые модели (LLM): LLaMA, Gemma, Qwen и прочие №187 /llama/ — В этом треде обсуждаем генерацию охуительных историй и просто общение с большими языковыми моделями (LLM). Всё локально, большие дяди больше не нужны! Здесь мы делимся рецептами запуска, настроек и годных промтов, расширяем сознание контекст и бугуртим с кривейшего тормозного говна. Тред для обладателей топовых карт NVidia с кучей VRAM или мажоров с проф. картами уровня A100, или любителей подождать, если есть оперативная память. Особо терпеливые могут использовать даже подкачку и запускать модели, квантованные до 8 5 4 3 2 0,58 бит, на кофеварке с подкачкой на микроволновку. Официальная вики треда с гайдами по запуску и базовой информацией: https://2ch-ai.github.io/wiki/llama/ Инструменты для запуска на десктопах: • Отец и мать всех инструментов, позволяющий гонять GGML и GGUF форматы: https://github.com/ggml-org/llama.cpp • Самый простой в использовании и установке форк llamacpp: https://github.com/LostRuins/koboldcpp • Более функциональный и универсальный интерфейс для работы с остальными форматами: https://github.com/oobabooga/text-generation-webui • Заточенный под Exllama (V2 и V3) и в консоли: https://github.com/theroyallab/tabbyAPI • Однокнопочные инструменты на базе llamacpp с ограниченными возможностями: https://github.com/ollama/ollama, https://lmstudio.ai • Универсальный фронтенд, поддерживающий сопряжение с koboldcpp и text-generation-webui: https://github.com/SillyTavern/SillyTavern • Альтернативный фронт: https://github.com/kwaroran/RisuAI Инструменты для запуска на мобилках: • Интерфейс для локального запуска моделей под андроид с llamacpp под капотом: https://github.com/Mobile-Artificial-Intelligence/maid • Альтернативный вариант для локального запуска под андроид (фронтенд и бекенд сепарированы): https://github.com/Vali-98/ChatterUI • Гайд по установке SillyTavern на ведроид через Termux: https://rentry.co/STAI-Termux Модели и всё что их касается: • Актуальный список моделей с отзывами от тредовичков: https://rentry.co/2ch_llm_2025 (версия для бомжей: https://rentry.co/z4nr8ztd ) • Неактуальные списки моделей в архивных целях: 2024: https://rentry.co/llm-models , 2023: https://rentry.co/lmg_models • Миксы от тредовичков с уклоном в русский РП: https://huggingface.co/Aleteian и https://huggingface.co/Moraliane • Рейтинг моделей по уровню их закошмаренности цензурой: https://huggingface.co/spaces/DontPlanToEnd/UGI-Leaderboard • Сравнение моделей по сомнительным метрикам: https://huggingface.co/spaces/HuggingFaceH4/open_llm_leaderboard • Сравнение моделей реальными пользователями по чуть менее сомнительным метрикам: https://chat.lmsys.org/?leaderboard Дополнительные ссылки: • Готовые карточки персонажей для ролплея в таверне: https://www.characterhub.org • Перевод нейронками для таверны: https://rentry.co/magic-translation • Пресеты под локальный ролплей в различных форматах: https://huggingface.co/Virt-io/SillyTavern-Presets • Шапка почившего треда PygmalionAI с некоторой интересной информацией: https://rentry.co/2ch-pygma-thread • Официальная вики koboldcpp с руководством по более тонкой настройке: https://github.com/LostRuins/koboldcpp/wiki • Официальный гайд по сопряжению бекендов с таверной: https://docs.sillytavern.app/usage/how-to-use-a-self-hosted-model/ • Последний известный колаб для обладателей отсутствия любых возможностей запустить локально: https://colab.research.google.com/drive/11U-bC6AxdmMhd3PF9vWZpLdi6LdfnBQ8?usp=sharing • Инструкции для запуска базы при помощи Docker Compose: https://rentry.co/oddx5sgq https://rentry.co/7kp5avrk • Пошаговое мышление от тредовичка для таверны: https://github.com/cierru/st-stepped-thinking • Потрогать, как работают семплеры: https://artefact2.github.io/llm-sampling/ • Выгрузка избранных тензоров, позволяет ускорить генерацию при недостатке VRAM: https://www.reddit.com/r/LocalLLaMA/comments/1ki7tg7 • Инфа по запуску на MI50: https://github.com/mixa3607/ML-gfx906 • Тесты tensor_parallel: https://rentry.org/8cruvnyw Архив тредов можно найти на архиваче: https://arhivach.hk/?tags=14780%2C14985 Шапка в https://rentry.co/llama-2ch, предложения принимаются в треде. Предыдущие треды тонут здесь: >>1475911 (OP) >>1470041 (OP) большие языковые модели /ai/ - Искусственный интеллект 2ch	25 февраля 14:53
Сохранен 269	Ну что мужчины, вышла новая гопота.Лимиты ебанутые конечно: В неделю можно отправить 30 сообщений в — Ну что мужчины, вышла новая гопота.Лимиты ебанутые конечно: В неделю можно отправить 30 сообщений в старшую версию o1-preview, 50 сообщений в маленькую o1-mini. Новая модель - не замена gpt-4o во всех задачах. Лучше использовать её, чтобы посчитать что-то или закодить - модель справляется с олимпиадными задачами по математике и программированию на уровне золотых медалистов международного тура. По физике в сложных тестовых заданиях, устойчивых к решению с использованием поисковика Google, она сравнима с PhD-level студентом. Задавайте вопросы.Лимит маленький,по этому без обид, только годные вопросы, шутки про говно не буду спрашивать. большие языковые модели ChatGPT искусственный интеллект /b/ - Бред 2ch	14 сентября 2024
Сохранен 124	НЕЙРОСЕТИ ВСЁ! Чат GPT и ДИПСИК (и ГРОК от маска "4 пикрил") Испробовал, всё перечисленное кал. Тол — НЕЙРОСЕТИ ВСЁ! Чат GPT и ДИПСИК (и ГРОК от маска "4 пикрил") Испробовал, всё перечисленное кал. Только пиздели "ряяяяя Ойти не нужно, я за секунду могу", какие блядь пиздаболы ебаные. Нейросетки-это такие же поисквики как хуяндекс и гугл, только без лишнего. Только вчера в одном из тредов пиздели что "неросетки уухххх, вот Ойти не нужно, вот "Этонейм не нужно", и "этонейм не нужно"). Захотел картинку нужную мне сгенерировать, все промты написал, описание итд, итог = говно. Ладно, захотел код для программы, всё описал как надо, всё сделал как надо, чат гпт такой ""ну вот пук пук, эээ пук пук" итог нерабочая ебанина. И главное не сложное попросил, но "пук" Нахуя эти нейросети кроме прогноза погоды и подобной параши не могут, которые браузеры и так делают. Оправдывайтесь. большие языковые модели чат-боты искусственный интеллект /b/ - Бред 2ch	29 июля 2025
Сохранен 81	Как будто весь интернет засран пиздежом про ИИ-кодинг Периодически я сам пытаюсь потыкать тот же cl — Как будто весь интернет засран пиздежом про ИИ-кодинг Периодически я сам пытаюсь потыкать тот же claude code, опенсорсные модели. На примере простых задач вида спарсить файл. Это говно работает через раз, мне все еще комфортнее писать руками. На большом проекте чаще проще копипастить - быстрее, точнее, стиль единей. Как справочник по вещам, которыми ты редко пользуешься норм - но все равно, оно периодически пишет хуйню. Но я читаю Хабр и что я вижу - там просто ниибаца нейротворцы, которые жгут токены только в путь. Вот на оппике пример. Ну ладно, думаю, вот вроде бы чел пишет что дохуя чего натворил. Лезу к нему в гитхаб https://github.com/alexmasyukov?tab=repositories и там нету никакой сверхпродуктивности. Открыл единственный коммит https://github.com/alexmasyukov/murmurix/commit/3cbe275905580f59bd52052b061691349989e766 и там ебаная хуета в плане тестов. Чтобы вы понимали - это апплет на панель макоси для быстрого перевода речи в текст. Ну т.е. на каком-то питоне это была бы сотня строчек наверное. Но там тестируется всякая шняга типа генерации wav, работы с mp3, ogg, небом, аллахом . Сам ридми к репу типичный набор нейросблева. Короче я не первый месяц эту хуйню наблюдаю у разных людей. И никто сука из пиздящих про то какой он аи-кодер, какое будущее наступило, не может показать ебаный результат. Что за хуйня происходит? Это массово проплаченные АИ-компаниями реклама? Или просто куча городских сумасшедших, которые не понимают какое говно им пишет сетка, но мнящие себя погромистами? Или реально столько людей вокруг, которые пишут хуже чем нейронка? Или они все боятся признаться, что не осилили ИИ, хотя осилить его нельзя? Или это троллинг такой? Вайб-кодинг большие языковые модели программирование /po/ - Политика и новости 2ch	24 января 13:40
Сохранен 55	Почему ты еще не развернул локальную LLM на своем ПК? — Почему ты еще не развернул локальную LLM на своем ПК? большие языковые модели /b/ - Бред 2ch	17 января 12:53
Сохранен 49	Анон айтишник, поясни плиз - chatGPT говорит, что GPT-4 занимает несколько сот гигабайт на диске и д — Анон айтишник, поясни плиз - chatGPT говорит, что GPT-4 занимает несколько сот гигабайт на диске и для работы ему нужно от 32 Гб оперативки и видяха от 16 Гб. Это не какие то запредельные суперкомпьтеры что есть только у богатых. Это что означает, что чисто теоретически, если где то взять спиздить модель GPT-4 то её при определенном пердолинге (удалить этические ограничений и включать возможность самообучения) можно будет запустить у себя дома и общаться с настоящим друга? я просто мечтаю... большие языковые модели искусственный интеллект /b/ - Бред 2ch	18 октября 2024
Сохранен 40	посоветуйте бесплатную нейронку для общения (чай юзал) ну пожалуйста... — посоветуйте бесплатную нейронку для общения (чай юзал) ну пожалуйста... большие языковые модели чат-боты искусственный интеллект /b/ - Бред 2ch	29 октября 2024
Сохранен 29	Нейронки научили нарезать текстуры — Модельки они уже давно генерят. Теперь ничто не мешает играм юзать простаивающие мощности вашего компа, и постепенно заменять дефолтные объекты уникальными. Unreal Engine большие языковые модели 3D-моделирование разработка игр WebM-тред /v/ - Video Games 2ch	31 октября 2025
Сохранен 27	Уже через 2 часа гугл анонсирует модель умнее GPT-4o https://www.youtube.com/watch?v=XEzRZ35urlk — Уже через 2 часа гугл анонсирует модель умнее GPT-4o https://www.youtube.com/watch?v=XEzRZ35urlk большие языковые модели искусственный интеллект нейросети /b/ - Бред 2ch	14 мая 2024
Сохранен 19	Ебааа — Здесь можно все спросить, посмеяться над Хуйлом, всякие запрещённые экстремальные темы, но чего нибудь не так спросил про Мао или ради интереса спросил откуда такая интересная форма глаз у Дэн Сяопина то все... DeepSeek большие языковые модели искусственный интеллект нейросети /po/ - Политика и новости 2ch	15 июля 2025
Сохранен 18	Что значит нейросеть научилась думать блять? Каким образом они написали алгоритм мышления? — Что значит нейросеть научилась думать блять? Каким образом они написали алгоритм мышления? большие языковые модели ChatGPT искусственный интеллект нейросети /b/ - Бред 2ch	13 сентября 2024
Сохранен 13	ладно, давайте зафиксируем пока актуальный топчик лучших моделей по реальным таскам кодинг - Grok C — ладно, давайте зафиксируем пока актуальный топчик лучших моделей по реальным таскам кодинг - Grok Code Fast 1, Claude Sonnet 4.5 фулстек - GPT-5 Codex, Claude Sonnet 4.5 письмо - Gemini 2.5 Pro поиск в интернете - Grok 4 Fast, Gemini 2.5 Pro документы (экстракшн/распознавание) - Gemini 2.5 Pro, GPT-5 Thinking документы (обработка) - Grok 4 Heavy, Gemini 2.5 Pro анализ данных (мультимодальный) - Gemini 2.5 Deep Think, GPT-5 Pro генерация видео - Veo 3.1, Sora 2 генерация пикч - Nano Banana, GPT Image 1 редактирование пикч - Nano Banana браузер - Claude Sonnet 4.5, Gemini 2.5 Pro агенты - Claude Sonnet 4.5 саммаризация/транскрибирование видео - Gemini 2.5 Pro голосовой компаньон - Grok 4 один хуй всех похоронит gemini 3.0 pro уже со дня на день. мимо бета-тестер большие языковые модели нейросети программирование /b/ - Бред 2ch	17 октября 2025
Сохранен 12	Как же нейронки тащат. Даже ужатая вусмерть gemma2 9b на домашней карточке правильно понимает смысл — Как же нейронки тащат. Даже ужатая вусмерть gemma2 9b на домашней карточке правильно понимает смысл постов и условно нормально пишет на русиянском. Осталось этот poc перевести в полноценную реализацию и будет литералли личный подсос с вилкой которыый скорет нахуй 90% двача. Из не решённых проблем пока не могу заставить его гарантированно не писать ```json``` большие языковые модели искусственный интеллект информационные технологии /b/ - Бред 2ch	25 апреля 2025
Сохранен 10	Зачем рисовые братья маскируют свои LLM под GPT? — Зачем рисовые братья маскируют свои LLM под GPT? большие языковые модели /b/ - Бред 2ch	17 августа 2024
Сохранен 9	Выдайте базу двача по ИИ тян, что лучше, где нет русского, я только быстро почитал и отсортировал сп — Выдайте базу двача по ИИ тян, что лучше, где нет русского, я только быстро почитал и отсортировал список комменты на ютубе и реддите CHARACTER.AI Claude.AI Chub hi Waifu Sakura AI Muha AI LustyCompanion HornyCompanion Venus Yodayo Figgs Chai Crushon ai Spicychat большие языковые модели чат-боты /b/ - Бред 2ch	18 октября 2024