Добавлена поддержка Ежчана (ejchan.net, ejchan.site). Набегаем, тестируем архивацию, сообщаем о замеченных проблемах.
К сожалению, значительная часть сохранённых до 2024 г. изображений и видео была потеряна (подробности случившегося). Мы призываем всех неравнодушных помочь нам с восстановлением утраченного контента!
Сортировка: за
Сохранен
11
2025-06-22 17:48:29
Сохранен
269
2025-05-28 17:20:11
Сохранен
177
Владимир Крылов: «Считать современные LLM просто предсказателями токенов — это техническая безграмот — Владимир Крылов: «Считать современные LLM просто предсказателями токенов — это техническая безграмотность». Да, внутренний механизм работы современных LLM действительно опирается на выборку из вероятностного распределения. Из-за этого многие утверждают, что в основе всего лежит банальное предсказание следующего токена (Next Token Prediction). Но представьте, что вы смотрите на фрески Сикстинской капеллы и заявляете: то, что мы видим, — это просто специфическое математическое распределение красок на поверхности стены. Технически это, конечно, верно, но ведь суть фресок не сводится к краске на штукатурке. Так же и языковая модель не является просто генератором случайных выборок, работающим алгоритмом Next Token Prediction. По этому поводу отлично высказался Илья Суцкевер. Он отметил, что если вы до сих пор повторяете мантру о том, что модель всего лишь предсказывает следующий токен, то вы не просто скептик, вы технически неграмотны. Сегодня нельзя считать, что ИИ просто обучен угадывать слова. Это лишь грубое начальное приближение. Дальше модель, как принято говорить, «выращивается». Здесь уже уместнее использовать биологические метафоры. Вспомните, как появился метод RLHF (обучение с подкреплением на отзывах людей) и алгоритм PPO (Proximal Policy Optimization). Это было похоже на дрессировку: модель генерирует ответ, а человек-разметчик смотрит и оценивает — «хороший мальчик» или «плохой». Эта эра продлилась недолго. Модели стали вежливыми, безопасными, ориентированными на угождение пользователю, но большого ума у них не прибавилось. Затем произошел переход к методам, направленным на прямую оптимизацию предпочтений, — DPO (Direct Preference Optimization). Оказалось, что DPO настолько глубоко корректирует веса, что у модели меняется фундаментальное понимание языка. Первичный этап мы стали называть просто предобучением (pre-training) — после него модель еще не готова к полноценной работе. А в конце 2024 – начале 2025 года правила игры и вовсе изменились. Когда китайские исследователи опубликовали данные по модели DeepSeek-R1, они перестали просто заставлять сеть давать быстрые ответы. Модели начали обучать рассуждению, появился алгоритм GRPO (Group Relative Policy Optimization). Теперь качество модели во многом зависит от того, как выстроен этот процесс внутреннего логического поиска. По сути, внутри проходит турнир: модель генерирует, скажем, 16 различных путей решения задачи. Причем для оценки не используется внешний алгоритм-критик: модель сама сравнивает эти попытки друг с другом и определяет лучшую. Поэтому сегодня можно смело утверждать: LLM — это не текстовый предсказатель. Это система логического мышления, обернутая в текстовый интерфейс. Да, внутри зашит аппроксиматор, а предсказание токена — это первая грубая настройка сети. Но сейчас мы живем в новом мире, где в эти искусственные архитектуры закладывается «понимание» контекста и сути решаемых задач, основанное на слабо декомпозируемых отображениях в многомерных пространствах.
2026-06-08 14:45:38
Сохранен
307
2024-03-13 19:01:22
Сохранен
25
2023-04-01 13:49:39
Сохранен
13
2023-03-15 01:10:31
Сохранен
116
2022-12-17 18:19:54
Сохранен
120
2022-11-17 02:37:58
Сохранен
559
2022-08-29 14:10:06
Сохранен
83
2024-06-27 09:56:53
Сохранен
27
2024-04-08 05:29:22
Сохранен
8
2024-03-29 14:12:56
Сохранен
561
2022-08-23 19:36:01
Сохранен
125
2025-09-09 22:56:11
Сохранен
529
Нейросети это движение в мир посредственностей, в мир серости. Никто ничего по настоящему не умеет и — Нейросети это движение в мир посредственностей, в мир серости. Никто ничего по настоящему не умеет и все всё умеют. Представьте себе Емелю которому выпала золотая рыбка - что он загадает? Какую нибудь глупость. Но у Емели всего три желание, а у нейросетевых "творцов" их бесконечность. И будут они творить низкопробное, максимально серое и неумелое "творчество". Художники(с недавнего времени и 3д тоже), музыканты, может скоро и писатели, все утонут в этом дерьме. Или тоже станут пользоваться этим дерьмом что еще хуже. "Нейросети это всего лишь инструмент!" кричат незнайки и посредственности - а где мастерство ремесла? Где наслаждение процессом творчества? Где муки дум? Слова забил и готово какое то убожество. Потом чуть подкалякал. Это уже не искусство а комбинаторика. Думаю разницу объяснять не нужно. Дурачки, серости что ничего за свою жизнь не освоили по настоящему ликуют - они теперь тоже хуЁжники и музыканты. Да хуйня вы из под коня. Какие вы творцы если вы времени своего потратить ленились чтоб реально что то освоить, а теперь получив волшебную палочку сидите на всем готовом и генерируете какой то максимально примитивный шлак? Вы еще взвоете в этом говномире без человеческой души в искусстве и ремесле. Сами будете потом писать что я прав и нейрокал это ошибка, но пока ликуйте, ликуйте. Посредственности.
2025-03-01 11:40:52
Сохранен
123
2023-04-02 00:30:30
Сохранен
546
2024-09-13 11:19:03
Сохранен
55
2024-06-18 01:25:35
Сохранен
503
2024-03-28 09:03:32
Сохранен
230
2023-04-06 20:18:39
Сохранен
295
2026-01-18 15:24:36
Сохранен
71
Ну всё, итс овер. Нейросеть ведь реально заменит всех наносеков. Жаль, конечно, задротов-красноглаз — Ну всё, итс овер. Нейросеть ведь реально заменит всех наносеков. Жаль, конечно, задротов-красноглазиков, пожертвовших всей юностью ради выжигания глаз кодом 24/7 в пропёрженной сычевальне, пока сверстники общались, гуляли, занимались спортом, катались на великах, прыгали по гаражам, ходили по впискам и концертам ноунейм говнварских групп, тусовались на раёне и трахали ЕОТовых в подсобке после школьной дискотеки. Задроты думали, что вот выучат линух и с++, и тогда директоры корпораций выстроятся в очередь пожать руку, предложить много долларов и гринкарту, и начнётся красивая жизнь. Что он как-нибудь приедет на собрание выпускников, и ЕОТова сразу прибежит извиниться за многолетнее презрение и предложит отсосать, а дававший всю школу поджопники Ероха зарыдает и выпилится от осознания собственной ничтожности. Но не срослось, пацан к успеху шёл - не фартануло. Всем спасибо, все свободны! Добро пожаловать в капитализм. Кабанчики нашли способ срезать косты. Пора вернуться в реальность - переехать обратно к мамке в хрущёвку, питаться макаронами по акции из дристёрочки, носить одежду срынка или из сэконда, работать на дноработах с быдлом. Может, если повезёт, Ероха по старой памяти ещё возьмёт чернорабочим к себе на стройку или автосервис. Наносеки, доложить уровень тряски. А ведь Сталин и коммунисты были правы. Кибернетика - лженаука и продажная девка капитализма, развитие кибернетики после определённого порога ведёт только к обнищанию и закабалению трудящихся и тирании крупного капитала. Замена людей на ИИ, слежка ИИ 24/7 через камеры и девайсы - нахер это нужно вообще? Технологии развиваются, а жить стали почему-то только хуже.
2025-09-03 02:50:57
Сохранен
110
2025-04-08 18:56:32
Сохранен
9
2024-04-08 19:13:23
Сохранен
79
2022-10-02 06:08:07