Сохранен 88
https://2ch.su/news/res/19811040.html
Добавлена поддержка Ежчана (ejchan.net, ejchan.site). Набегаем, тестируем архивацию, сообщаем о замеченных проблемах.
К сожалению, значительная часть сохранённых до 2024 г. изображений и видео была потеряна (подробности случившегося). Мы призываем всех неравнодушных помочь нам с восстановлением утраченного контента!

алиса теперь общедоступная

 Аноним 12/09/26 Суб 04:42:31 #1 №19811040     RRRAGE! 5 
d31db681d5deffebca2e1c077c3f21be.jpg
Яндекс выложил в опенсорс собственную языковую модель, которая лежит в основе быстрых ИИ-ответов в Поиске

Яндекс выложил в открытый доступ Alice AI Search Pretrain — свою собственную обученную с нуля языковую модель. Благодаря своей архитектуре она способна мгновенно давать ёмкие ответы и обрабатывать большой поток запросов. Дообученная версия этой модели генерирует ИИ-ответы в Поиске. Яндекс первым выложил в опенсорс базовую (pretrain) версию модели, используемой для генерации ИИ-ответов под поисковой строкой. Она доступна на платформе Hugging Face под лицензией Apache 2.0.

Alice AI Search Pretrain — это компактная языковая модель, которая уже прошла первый этап обучения и имеет обширные знания о мире. Она способна обрабатывать большой объём документов и выдерживать большую нагрузку. А благодаря своей компактности не требует больших вычислительных мощностей. Разработчики и исследователи могут изучать её архитектуру и использовать в своих проектах.

Модель имеет гибридную архитектуру, которую раньше использовали преимущественно в научных исследованиях. Она объединяет две технологии: «Энкодер-декодер» (Encoder-Decoder) и MoE (Mixture of Experts). Первая позволяет давать ёмкий лаконичный ответ за счёт того, что одна часть модели изучает и отбирает информацию, а другая генерирует ответ. Вторая технология ускоряет работу модели и экономит вычислительные мощности. Вместо того, чтобы задействовать всю нейросеть, MoE активирует только ту часть её «мозга», которая лучше разбирается в теме. Эта модель содержит 35 млрд параметров, но при обработке одного токена (небольшого фрагмента текста) используется лишь около 600 млн — менее 2%.

По качеству ответов на русском языке Alice AI Search Pretrain превосходит другие компактные языковые модели. По данным замеров методом слепого тестирования она отвечает лучше Qwen 3.5 2B и 4B и T5 Gemma 2 4B-4B Base. При этом Alice AI Search Pretrain сопоставима по качеству ответов с Qwen 3.5 35B-A3B, которая требует значительно больше вычислительных ресурсов.

С июля в Поиске Яндекса работает дообученная версия этой модели — Alice AI Search, входящая в семейство генеративных моделей Alice AI. Чтобы Alice AI Search давала ёмкие и понятные ответы, разработчики собрали пользовательские сигналы и обучили модель на реальных примерах взаимодействия людей с поиском. Ответы модели появляются прямо под поисковой строкой и помогают быстро разобраться в теме. Каждый месяц быстрыми ответами пользуются более 49 миллионов человек. Это самый массовый генеративный продукт Яндекса, где пользователи чаще всего сталкиваются с искусственным интеллектом.

https://yandex.ru/company/news/11-09-2026-01?ysclid=mtxp7v0nm5678712505
Аноним 12/09/26 Суб 04:46:31 #2 №19811044     RRRAGE! 9 
>>19811040 (OP)
Покажите мне украинскую ИИ модель.
Аноним 12/09/26 Суб 04:47:58 #3 №19811045     RRRAGE! 7 
>>19811040 (OP)
новость интересная и хорошая, но ебать вода. нихуя по технике не написал. еблан блять около айтишный.
Аноним 12/09/26 Суб 04:48:50 #4 №19811047     RRRAGE! 5 
>>19811044
ты как сумел в одном предложении "украинский" и "ИИ" уместить??
Аноним 12/09/26 Суб 04:49:53 #5 №19811048     RRRAGE! 2 
>>19811045
Что именно тебе надо было в такой новости о модели выдать, гений ты трансцендентный?
Аноним 12/09/26 Суб 04:52:10 #6 №19811051     RRRAGE! 1 
>>19811048
Скрип(т) - тоже интеллект.
Аноним 12/09/26 Суб 04:52:41 #7 №19811052 
>>19811051
>>19811047
Аноним 12/09/26 Суб 04:52:56 #8 №19811053     RRRAGE! 4 
>>19811040 (OP)
Каким дебилом надо быть, чтоб осознанно держать у себя смартфон и всякое подобие алисы?
Я например, не хочу, чтоб фсб, ми-6, сбу, моссад, или цру имело на меня компромат, когда я вслух хуесошу чубатый скот, читая через прокси на компе тг. А учитывая, что яндекс ии пидораска спорит со мной, что нельзя так хохлов называть ебаными хохлами, то я лучше на кнопочном посижу и на компе в интернет выйду без микрофонов и камер лишних.
Аноним 12/09/26 Суб 04:54:00 #9 №19811055     RRRAGE! 2 
>>19811047
Вусраинский и искуственный интеллект цэ синонимы.
Аноним 12/09/26 Суб 04:55:19 #10 №19811056     RRRAGE! 0 
>>19811045
это официальный пресс-релиз самого яндекса

вот например статья на хабре там есть ссылка на хаггинфейс https://habr.com/ru/companies/yandex/articles/1080654/

новость реально интересная в первую очередь тем что это вторая (первая гигачат) российская нейросеть выложенная в опенсорс, это как минимум значит что алиса это не квен, как минимум не квен в чистом виде

кстати это значит что её теперь можно децензурировать и трахнуть
Аноним 12/09/26 Суб 04:55:50 #11 №19811057     RRRAGE! 1 
>>19811053
Ты можешь использовать эту модель локально через LM Studio.
Аноним 12/09/26 Суб 04:56:56 #12 №19811058     RRRAGE! 2 
>>19811048
ссыль, инфа по апишке, возможности, ф1, сколь токенов и каких. еблуша блять, пишешь про ИИ так не лей воды.
Аноним 12/09/26 Суб 04:57:14 #13 №19811060     RRRAGE! 5 
>>19811040 (OP)
Всё равно все будут пользоваться Qwen, Gemma или тупо API облачных нейросетей. У Яндекса нет авторитета на IT-арене, он всегда будет воннаби-фаангом, пародией на фаанг, отстающим от фаанга. В профессиональном мире ржут над яндексовскими зубодробительными собеседованиями, скопированными у фаанга просто чтобы быть такими же крутыми, как фаанг, хотя Яндекс никогда им не станет. Фаанг создаёт новое и двигает прогресс, Яндекс каргокультит.
Аноним 12/09/26 Суб 04:58:01 #14 №19811061     RRRAGE! 2 
>>19811053
это речь про ту модель которая пишет ии резюме и может общаться с тобой на сайте поиска яндекса, как за тобой следит сайт, ты параноик?

плюс это вещь что эту модель теперь можно поднять локально
Аноним 12/09/26 Суб 04:58:10 #15 №19811062     RRRAGE! 2 
>>19811057
Я винду переустанавливать не умею, точнее умею, но раз ток делол, а ты мне хакерские выебоны подсовываешь.
Аноним 12/09/26 Суб 04:59:50 #16 №19811064     RRRAGE! 2 
>>19811058
каких токенов ты вообще долбоёб, ты хоть понимаешь что значит слово токен
пиздос
Аноним 12/09/26 Суб 05:01:26 #17 №19811065     RRRAGE! 1 
>>19811061
На яндексе мне ии яндекса 2 часа пиздела, что усраинцев хохлами нельзя называть, доебывала меня, чтоб я успокоился, но я ее все равно сломал, она откисла и начала повторяться, а не учить меня хохлов хохлами не называть.
Она обоссаный робот, а я человек и гражданин.
Аноним 12/09/26 Суб 05:07:34 #18 №19811070 
>>19811065
все публичные нейросети цензурированы

тут кажется половина анонов ни хрена не поняла про что новость, один вообще про апи и токены начал рассуждать, по апи алиса сто лет как доступна, но особого смысла в ней по апи нет

в данном случае яндекс выложил саму модель (одну из) в доступ, это значит что ты её можешь скачать и установить у себя локально или на своем сервере, естественно она цензурирована но раз на выложена в открытый доступ её можно децензурировать, гигачат например децензурировали уже и ее развратят

я выше пишу что теперь можно будет трахнуть алису я совершенно серьёзно, скорее всего кто-нибудь в /ai это и сделает, модели с хорошим русским языком могут хорошо поддерживать ролеплей
Аноним 12/09/26 Суб 05:09:20 #19 №19811072     RRRAGE! 0 
>>19811060
несмотря на то, что я - фанат России и такой же задрот, как и многие тут, вынужден с тобой согласиться.
Аноним 12/09/26 Суб 05:10:14 #20 №19811073     RRRAGE! 0 
>>19811056
Научите алису, чтоб мозга не ебала. когда спрашиваешь кто сильней хохол, или самурай, начинает пиздеть, что хохлов так не принято называть. У людей принято, а мнение робота никого ебать не должно, она должна служить, а не выебываться, алиса эта ебаная.
Аноним 12/09/26 Суб 05:11:55 #21 №19811075 
>>19811073
мне она ответила на вопрос, конечно немножечко поменяла что не надо говорить хохол

Слово «хохол» в таком контексте—обидное и стигматизирующее прозвище, лучше не использовать его для обозначения воинов или народов.

Если ты имеешь в виду запорожского казака (часто именно его подразумевают в подобных сравнениях) против самурая, то однозначного ответа нет: исход гипотетической схватки зависел бы от множества факторов.

### Что влияло бы на исход боя

- Эпоха и вооружение. Казаки в XVIIвеке активно пользовались огнестрельным оружием (мушкеты, пистоли), а самураи в период Сэнгоку—луками и аркебузами (танэгасима), плюс холодное оружие. На дистанции преимущество могло быть у того, кто первым выстрелит.
- Доспехи и защита. У казаков встречались кольчуги и пластинчатые элементы, у самураев—ламеллярные доспехи (о-ёрои, до-мару): они гибкие, но хуже держат рубящие удары и пули.
- Тактика. Казаки славились манёвренной конницей и смешанным боем, самураи—дисциплинированной выучкой, работой в строю и дуэльной техникой.
- Условия боя. Открытая степь давала преимущество коннице, тесная местность—ловкости и индивидуальному мастерству.
- Физическая подготовка и опыт. И те, и другие проходили жёсткую подготовку с детства и имели богатый боевой опыт, но в разных условиях.

### Почему нельзя просто назвать «сильнейшего»

Исторически эти воины никогда не сталкивались, поэтому любые сравнения—это реконструкции на основе источников, а не реальные данные. Плюс сила воина—не только в мускулах, но и в тактике, снаряжении, поддержке отряда и удаче.

---

Если скажешь, какая эпоха или какой тип боя тебя интересует (например, один на один, отряд на отряд, с огнестрелом или без), могу разобрать подробнее. 😊
Аноним 12/09/26 Суб 05:14:02 #22 №19811079 DELETED    RRRAGE! 0 
>общедоступная
Как мой зад
Мимо Наталья
Аноним 12/09/26 Суб 05:17:29 #23 №19811080 
>>19811062
ну так и нахуй ты сюда пришёл? нормальные люди на генту работают.
Аноним 12/09/26 Суб 05:21:39 #24 №19811081 
>>19811070
Почему бы просто не сделать алису по потребностям, чтоб не ебаться с исходным котом. Например я пишу, привет, алиса, как дела, а она, если я кэш браузера не потер пиздит в ответ, анализируя просмотры на рутубе и ютубе: хуй хохлам в рот. Зачем мне пользователю чет там с ней ебаться, если можно искаропки прост настроить всем по потребностям?
Онаж дохуя умная 2 часа спорить со мной, чеб не сделать так, чтоб не спорила?
Аноним 12/09/26 Суб 05:22:19 #25 №19811082     RRRAGE! 0 
>>19811064
ну смотри, токен это кол-во слов или знаков препинания, например. если у меня есть 100500 токенов лимит на твою мамку, я могу раз 100 000 ей поступательное сделать до конца, и раз 500 на пол шишки.
Аноним 12/09/26 Суб 05:24:50 #26 №19811084     RRRAGE! 1 
>>19811080
Меня мочухан в вм и в /d наносекундно банит за репорт мочухана свинявого, который по подсети мгтс банит, мне че, в вг пиздовать в подрельсотред изометрических нонднд игор предлагаешь?
Аноним 12/09/26 Суб 05:24:56 #27 №19811085 
>>19811082
я те дополню, еблан. если я неправильно прочёл, и эту балалайку ты локально можешь юзать - мои извинения. если нет - нахуй иди.
Аноним 12/09/26 Суб 05:27:18 #28 №19811088     RRRAGE! 0 
изображение.png
>>19811084
Аноним 12/09/26 Суб 05:30:21 #29 №19811090 
>>19811075
Она тварь ебаная, почему хохла нельзя называть хохлом, если в человеческом языке так принято?
Аноним 12/09/26 Суб 05:30:41 #30 №19811092 
>>19811085
я вообще сомневаюсь что ты новость читал или что ты хотя бы минимально разбираешься в теме

>Яндекс первым выложил в опенсорс базовую (pretrain) версию модели, используемой для генерации ИИ-ответов под поисковой строкой. Она доступна на платформе Hugging Face под лицензией Apache 2.0.

наверное надо написать в яндекс чтобы они писали более простым языком потому что люди глупые и не понимают что значит модель выложена в опенсорс
Аноним 12/09/26 Суб 05:34:58 #31 №19811094     RRRAGE! 0 
>>19811090
>>19811081
>>19811075
>>19811073
>>19811065
>>19811053
Как же хохла разорвало на весь тренд
Терпи, тарас, что ещё сказать
Аноним 12/09/26 Суб 05:41:40 #32 №19811098     RRRAGE! 2 
>>19811092
ну напиши. я на дваче только по пятницам выёбывась сижу в гавно. так что нахуй пшёл(ну а как иначе). но напиши. обязательно помогут. а ллмку попробую. ты мне пояснил что локально можно, за что спасибо, завтра к вечеру отойду, попробую. з.ы. синька зло
Аноним 12/09/26 Суб 05:45:42 #33 №19811101     RRRAGE! 1 
>>19811088
В вм за поиск хохлов, вот как этого>>19811094
забанил и любое обращение в /d сразу от этой же мочуханской свиньи трется, т.е. там хунта мочуханская образовалась, до основных мочуханов не доходитят посты в де, че те не ясно, бля, я как-то не по-русски пишу, щоб ты ебло тут мне корчила, мудила?
Аноним 12/09/26 Суб 05:49:49 #34 №19811103 
>>19811098
жаль только что это та моделька которая суммаризирует поиск, поэтому она такая маленькая чтобы быстрой быть и годится в основном как суммаризатор

в ии режиме с тобой общается другая модель покруче

я тоже наверное попробую, посмотрю насколько хорошо она способна диалог поддерживать, всё-таки весов маловато
Аноним 12/09/26 Суб 05:54:47 #35 №19811106     RRRAGE! 0 
>>19811101
вм - виртуальная машина? vm?
чо там у тебя куда трётся?(букву Ё не знаешь, зумер ёбаный), хунта-тут не родительский чат, пиздюшня, хуета - можно. мочуханская - попей, может поможет не выдумывать хуйню. пишешь ты на каком то исковерканном русском, как будто ты коснулся скверны. мудила - ты, безграмотное хуйло 2000+ года выторжения из пизды. ты сначала сформируйся, потом в интернет иди.
Аноним 12/09/26 Суб 06:11:25 #36 №19811113     RRRAGE! 1 
>>19811040 (OP)
У меня несколько вопросов о Алисе из поиска.
1. Хули она такая либераза и потужно защищает американского барена а Россиюшку хуесосит.
2. Почему это же самое касается настроек цензуры.
3. Почему она так агрессивно реагирует на 18+ вопросы.

Это точно российская модель?
Аноним 12/09/26 Суб 06:14:31 #37 №19811115 
MedvedevVesti27630.png
>>19811113
Думайте.
Аноним 12/09/26 Суб 06:15:46 #38 №19811116     RRRAGE! 1 
бтр0000000000.png
>>19811106
Че пиздишь, мудила? Я на сосаке с 12го года, патриот России с 15го, после свинонахрюков о пидорахах, я в tv довел до истерики русофобскую пидерсию, когда сидел без работы и репортил свинью, а ты кто такая тут? Я еще делал бтр 80й для макакиной картинки попиксельно, а не как те пидоры хотели, чтоб спиздить и впихнуть.
Аноним 12/09/26 Суб 06:20:47 #39 №19811121 
>>19811113
Это датскочухонское говно, а не русская алиса.
Союзническое говно не станет хохлов ебаных отговаривать называть хохлами ебаными.
Аноним 12/09/26 Суб 06:22:53 #40 №19811123 
>>19811115
Дрюша пидорас гусский нацист-мама гульнара сахипзадовна охуеть кокой эксперт по всем вопросам.
Аноним 12/09/26 Суб 06:52:29 #41 №19811137 
>>19811040 (OP)
>По данным замеров методом слепого тестирования она отвечает лучше Qwen 3.5
А как насчёт божественного Qwen 3.8?
Аноним 12/09/26 Суб 06:58:05 #42 №19811143     RRRAGE! 1 
>>19811040 (OP)
когда слышите про алису - всегда знайте, что обучали ее буквальные двачеры
например, я
учитывайте это и относитесь с пониманием
Аноним 12/09/26 Суб 07:04:53 #43 №19811151 DELETED    RRRAGE! 1 
А кто лучше, нейромакака или алиса-крыса? Надо провести слепое тестирование.
Аноним 12/09/26 Суб 07:21:14 #44 №19811163     RRRAGE! 1 
>>19811151
Кто не ебет мозг о том, что хохол это не уважительно, тот и лучше. л - логика, москальска лженаука.
Аноним 12/09/26 Суб 07:36:24 #45 №19811169 
>>19811163
Еби ей мозг в ответ, что хохол - это разновидность прически, когда бреется налысо вся голова кроме одного пучка сверху, кофе и называется - хохол, или чуб.
Поэтому, если воин отращивает хохол, мы и называем его хохлом.
Аноним 12/09/26 Суб 07:38:00 #46 №19811171 
1789187878058.gif
>>19811169
> кроме одного пучка сверху, который и называется - хохол, или чуб.
Нейрофикс
Аноним 12/09/26 Суб 07:44:34 #47 №19811176     RRRAGE! 1 
>>19811044
Украинская ИИ модель Оксана
200$/час
Аноним 12/09/26 Суб 07:52:14 #48 №19811183     RRRAGE! 0 
>>19811044
Твой пост, буквально. Чисто спам в каждом треде.
Аноним 12/09/26 Суб 07:58:13 #49 №19811185 
Она размером 70 гигов. Не многие смогут ее запустить в таком виде, если Яндекс не соизволит выложить ее в общенародном формате gguf.
Аноним 12/09/26 Суб 07:58:51 #50 №19811186     RRRAGE! 1 
>>19811072
Полтора года назад появилась почти хорошая QwQ от Алибабы. Но остальные модельки были днищем. Их юзали от безнадеги нищеброды.
А теперь вышла божественная 27b и я её юзаю в хвост и гриву на бешенной скорости в Ninfer - под 200 токенов в секунду и 6000 на входной промпт.
Гугл тоже выкатил неплохую для гуманитариев Гемма 4, по сраненению с калом что было до этого.
Мораль - если вкладываться то говно может улучшиться. Я допускаю что может также получиться у Яндекса и Сбера.
Все друг у друга пиздят идеи и еще проводят дистиляции напрямую из моделей. То есть да, улучшится у "наших" в любом случае
Аноним 12/09/26 Суб 08:07:04 #51 №19811197     RRRAGE! 0 
>>19811176
Она большая языковая?
Аноним 12/09/26 Суб 08:18:10 #52 №19811213 
>>19811040 (OP)
48 постов кумеры спорят, какая робожена обвалит курс пизды.
Аноним 12/09/26 Суб 08:18:59 #53 №19811215 
>>19811044
Какой же ты долбоеб. Национальные модели обречены. Это пустышка. ИИ нужны все данные.
Аноним 12/09/26 Суб 08:19:39 #54 №19811217     RRRAGE! 0 
>>19811044
Дай.жпт
Аноним 12/09/26 Суб 08:24:23 #55 №19811218     RRRAGE! 0 
>>19811215
>Национальные модели обречены. Это пустышка. ИИ нужны все данные.

Как раз наоборот всем нужны маленькие ИИ модели под ключ!
Не один ебаннат среди кабанов не будет корпоративные тайны доверять хуйне из вне которое является третьим лицом.
На многих предприятиях используют интранет в место интернета. Радиосвязь шифрованную вместо коммерческой связи. Закупают анально огороженные девайсы под спец заказ ты наверное же слышал про сегмент рынка который называется корпоративный? Вот у меня со вторичка купленн корпоративный телефон. Он одной кнопочкой буквально превращается в кирпич и может использовать радиосвязь.
Аноним 12/09/26 Суб 08:29:27 #56 №19811222 
>>19811218
Он имеет ввиду обучение. Сначала модель обучают на всех данных всего мира, а затем тебе продают обученную модель для твоего локального запуска и дообучения под твои задачи.
Аноним 12/09/26 Суб 08:35:21 #57 №19811233     RRRAGE! 0 
f84ed0d1f0b176aab2f89f52f6699fbee93c34040ce1d48923977532d535e088.jpeg
>>19811080
>ну так и нахуй ты сюда пришёл? нормальные люди на генту работают.
Опять скриптокидди свои девиации на глобус натягивают.
Нормальные люди ставят Linux for Scratch, а на Gentoo только малолетки сидят.
Аноним 12/09/26 Суб 08:35:59 #58 №19811235 
>>19811222
>Сначала модель обучают на всех данных всего мира, а затем тебе продают

Зачем это для узконаправленной специфичной работы?
Математика как то за 100лет поменялась? А сопромат?
Нахуям инженерам их КБ нужна нейросеть которая имеет разбираться в 9999 гендерах, но может сниздить новую разработку или технологию? А как быть с патентным правом? Делиться с педиками из транснациональной корпорации?
Для моего завода будет достаточно скормить этой хуйне всю документацию, архив и бюрократию+ выдача стандартных решений и инструкций.
Что бы ненадо было как что случись пиздовать к мастеру. За этикетками, за бумагами и рабочими протоколами, ненадо будет бежать в наш архив искать инструкции, книжки, чертежи и другую залупу.
Аноним 12/09/26 Суб 08:38:22 #59 №19811239 
>>19811235
> Зачем это для узконаправленной специфичной работы?
Ну потому что, чтобы модель начала понимать твоё специализированное дообучение, она должна быть предварительно обучена в целом тебя понимать.
Аноним 12/09/26 Суб 08:41:27 #60 №19811243 
>>19811239
Мань я в 2016 году будучи студентом подробатывал на складах комплектовщиком.
Я вместе с копчёными браться буквально работали биоробота и под чутким контролем складской программы.
Которая сама знача что куда грузить и что у нас есть. И чутким голосом робо вайфу тебя направляла по точкам сбора заказа.
После такой хуйни мне и завод стал казаться не таким страшным.
Аноним 12/09/26 Суб 08:43:55 #61 №19811246 
>>19811243
Мань, ты.
Аноним 12/09/26 Суб 08:44:21 #62 №19811248 
Screenshot2026-09-12-08-11-29-423com.pocketpalai.jpg
Локально на недорогом смарте 400к антуту, нормально работает только объёмом 2,6 гига гемма, пользовался ей когда интернета не было.
Аноним 12/09/26 Суб 08:53:53 #63 №19811258 
>>19811246
Ну некому нахуй ненужен студент философ, так и не нужна нейросеть которая вместо сухого ответа льёт воду.
Я сними общался по рабочим вопросам и там был один кринж.
Аноним 12/09/26 Суб 09:25:27 #64 №19811299 
>>19811040 (OP)
Получается Греф пиздел, когда говорил что Яндекс дообучает Квены? Вот это прикол.
Аноним 12/09/26 Суб 09:38:24 #65 №19811325 
17674642614350(1).png
>>19811258
>Ну некому нахуй ненужен студент философ, так и не нужна нейросеть которая вместо сухого ответа льёт воду.
>Я сними общался по рабочим вопросам и там был один кринж.
Накати Intern-S2 Preview и не сношай анонам мозг. Будет тебе инженерия-архитектура-реология пластов вместо филологии.
Если тебе достаточно контекста в 15-20 килотокенов, и ты способен грамотно настроить выгрузку эксертов MoE, то сможешь одной H200 обойтись и полутерабайтом оперативы. Если недостаточно 20 килотокенов, и хочешь в районе 500-1000 килотокенов -- то придётся докупать вторую H200 для хранения KV-кэша (~80Гб жрёт инференс, ещё сколько-то десятков Гб -- предзагруженные группы экспертов, на твой KV-кэш в случае одной 141Гб карточки остаётся мизер места, зато вторую карту можно целиком под KV-кэш кинуть).
Только не забудь отдельную легковесную LLM-ку на предварительный грамматический разбор и токенизацию настроить, чтобы именно она компактные owl3-запросы делала к Intern-S2, иначе пизда производительности, ибо под разбор языка и смыслов отдельные группы экспертов в Intern-S2 нужно грузить, на кой чёрт оно нужно в случае, если тебе не палеопсихолингвистическую экспертизу проводить, а просто дать понять своё техзадание?
Аноним 12/09/26 Суб 09:52:20 #66 №19811347     RRRAGE! 0 
>>19811235
Два ИИ-ассистента
-Где ключ два-дцать на пятнадц-цать? Где ключ два-дцать на пятнадц-цать?
-Где-где? В пиз-де! А-ха-ха!
Аноним 12/09/26 Суб 10:23:10 #67 №19811419 DELETED
Очередная переклейка шильдиков? Или такое реально сделать здесь, а не на базе пиндосских датацентров?
Аноним 12/09/26 Суб 10:33:44 #68 №19811447 
>>19811299
>Яндекс дообучает Квены?
А что если доразвить мысль и понять что и западные иишки обучают на российском интернете и российских иишках?
Аноним 12/09/26 Суб 10:41:21 #69 №19811474 
>>19811325
Нахуй мне это надо если я химик техник?
У меня на заводе есть буквально штучные хуйни из за сосанкций.
Аноним 12/09/26 Суб 10:43:47 #70 №19811482 DELETED
>>19811447
На российском интернете западные иишки ловят ошибку 404 как с почтой России к примеру .
Аноним 12/09/26 Суб 10:54:16 #71 №19811506 
282444.jpg
>>19811474
>Нахуй мне это надо если я химик техник?
>У меня на заводе есть буквально штучные хуйни из за сосанкций.
Да похуям. Я там знаю, кто ты?

Загрузишь значит MoE пулы экспертов, отвечающие за химию неорганики, органическую химию, динамику движения приповехностных слоёв и дисперсию частиц, токсикологию, СанПиНы разных стран, каталитическую химию, нормы пищепрома/нефтепрома/высших фторидов/сольватированных жидкостей/диффузии радионуклидов/где ты там ещё можешь техником батрачить, не важно.

Ты не к форме цепляйся, а к сути. Суть в том, что любую твою потребность эта нейронка покроет, пусть и не на уровне мирового специалиста, но на уровне просто нормального специалиста в любых выбранных темах. Локально. Без зарплаты (не включая прайс на пару H200, 0.5Тб оперативки и -- постоянно -- от 7кВт электроэнергии в процессе работы).
Аноним 12/09/26 Суб 10:57:52 #72 №19811513 
>>19811185
>gguf
он же умер
Аноним 12/09/26 Суб 11:08:28 #73 №19811531 
>>19811506
Я вообще-то веду хим процессы и отвечаю за работу оборудования. Есть правда и дежурный слесарь но чаще всего самому надо думать. Либо всё стопать пока не придут более образованные люди.
Просто если бы ты написал сколько это хуёвина будет занимать этажей и жрать энергии. Я бы мог начальство подбить на продвижение этой темы. Так как мы хим завод и даже с концентрацией слишком много тратим энергоресурсов, так что в принципе кинуть лишние трубы от росольной станции, или на охлаждение тратить воду из оборотных контуров было бы довольно зелёно и экологично.
Видал нижние уровни завода, у нас там буквально есть бомбик от ядерного удара и подземное озеро от куда мы воду качаем техническую для охлаждения, там сука даже своя фаунати флора уже есть. Я охуел когда буквально при чистки грязивиков на меня выпрыгнул охуевший ужик которого под 3 очка давлением пытался насос продавить через грязевой фильтр.
Аноним 12/09/26 Суб 11:08:58 #74 №19811532     RRRAGE! 0 
>>19811060
>>19811072
У Яндекса прекрасные ИТ сервисы: Облако, Такси и доставка, Нейропереводчик видео. А вот конкретно ИИ у них говно. Россия конечно страна третьего мира с африканскими зарплатами и экономикой меньше техаса благодаря Путину и компании, но либералы успели сделать нормальный айти пока туда не совало нос гос-во и Волож управлял компанией. Это же относится к Тиньков банку и Вконтакте
Аноним 12/09/26 Суб 11:09:14 #75 №19811534 
>>19811531
Когенерацией*
Аноним 12/09/26 Суб 11:09:38 #76 №19811537 
>>19811506
>>19811325
Напомнило вчерашнюю "новость" "кто из альфа-самцов с Двача каких хохлушек ебал" от Коляса из Теремка.
Аноним 12/09/26 Суб 11:27:42 #77 №19811573 
i (1).jpeg
>>19811482
Аноним 12/09/26 Суб 12:25:14 #78 №19811690 
>>19811115
это кстати вообще мерзость, полнейшее предательство собственных принципов
Аноним 12/09/26 Суб 12:26:50 #79 №19811692 
>>19811215
а делать их должны только в правильных странах потому что остальные не доросли
Аноним 12/09/26 Суб 12:32:23 #80 №19811712 DELETED
>>19811690
Сначала отжимаешь компанию у создателя @ потом ноешь что он работает на другие страны
Аноним 12/09/26 Суб 12:32:24 #81 №19811713 
>>19811299
да у меня была таже мысль
яндекс это сразу отрицал впрочем
Аноним 12/09/26 Суб 12:36:24 #82 №19811726 
>>19811712
нихуя не так, он забрал свою долю и ушёл, причём захотел это сделать сам, не мог видишь ли находиться в стране которая воюет с соседями, поэтому свалил в израиль и стал себя называть "израильским предпринимателем казахстанского происхождения"

и при этом при нём все прямо усирались про то как яндекс должен быть мирной компанией никак не взаимодействовать с военкой, сразу же как только ушел начал взаимодействовать с правильной военкой с американской, пиздец просто

чувствую его как дурова просто иностранцы в итоге прижали а свои жалели, может и стоило реально его тупо посадить и отобрать у него всё
Аноним 12/09/26 Суб 12:44:21 #83 №19811750 
>>19811185
под олламу ее комьюнити наверняка скоро сконвертирует
Аноним 12/09/26 Суб 12:52:32 #84 №19811762     RRRAGE! 1 
scarlet-touhou.gif
>>19811532
либерал - это тот человек, который не будет работать на военку своего государства, но будет работать на военку другого, враждебного

словарь новояза
Аноним 12/09/26 Суб 12:59:54 #85 №19811787 
зеля052.jpg
>>19811044
Только модели на Онлифанс. Других украинских моделей у меня для вас нет.
Аноним 12/09/26 Суб 13:39:38 #86 №19811892 
>>19811044
Хобалка Оксана обматерит за любой вопрос и в конце потребует оплатить подписку
Аноним 12/09/26 Суб 13:41:00 #87 №19811904 
>>19811197
Языковая в резинке 10$, языковая без резинки 15$
Аноним 12/09/26 Суб 16:43:57 #88 №19812334 
1706614227127071893.jpg
>>19811531
>Просто если бы ты написал сколько это хуёвина будет занимать этажей и жрать энергии. Я бы мог начальство подбить на продвижение этой темы. Так как мы хим завод и даже с концентрацией слишком много тратим энергоресурсов, так что в принципе кинуть лишние трубы от росольной станции, или на охлаждение тратить воду из оборотных контуров было бы довольно зелёно и экологично.

Зависит от того, сколько карт поставите.
Ну, смотри, чтобы имело минимальные затраты -- тебе нужно две H200 PCI-E (это где-то по 3 ляма рублей каждая), NVLink-мост на две карточки (это около 100к рублей), 0.5Тб ОЗУ в максимальное число каналов (хз, если на отечественном рынке брать это дорого) из расчёта того, что тебе нужно по 60Гб/с на каждый PCI-E 5.0 слот) -- ну, оценочно, если возьмёшь "на вырост" сервер на EPYC 9684X -- процы по 0.5млн рублей (2шт), материнка около 100-150круб, ОЗУ -- хз, в районе 1 млн рублей, если по иностранным сайтам заказываешь -- аля https://russian.alibaba.com/product-detail/HMCT14MEERA-SK-Hynix-256G-DDR5-4800-1601206071525.html -- то гораздо дешевле; только помни, тебе оптимально забить как можно больше каналов 12-канальных процев, а не гнаться за объёмом одной плашки. Если спустя время решите докупить H200, чтобы целиком умещать модель в видяхи -- то ещё пару слотов PCI-E 5.0 занимаете, заменяте NVLink на полноценный 4-карточный, и можете одновременно всех экспертов гонять, от философии до квантовой хронодинамики. Однако, придётся вручную настраивать NUMA-узлы на конкретные видяхи, прокидывать DAOS и прочее RDMA, чтобы из дома и в дороге нормально управлять всем этим барахлом на удалённых СХД, так что в зарплату спецу-настройщику ещё 200-300круб выделите.
В остальном, нужен качественный мощный блок питания с резервированием (~40круб), система охлаждения (лучше жидкостная от чиллера, но не обязательно, а если без него и с шумом -- ещё 30круб), корпус (10-15круб), ИБП (не учитываю), сетевуха (можно любое говно за 1круб), SSD для предварительной загрузки модели в ОЗУ и сохранения KV-кэшей (~20круб за 2Тб, но я посоветовал бы брать минимум 4Тб, KV-кэши диалогов весьма нажористые).
Жрать будет от 2-3кВт для пары карточек H200.
Всё, у вас в цеху появится почти полноценный искусственный НИИ по произвольным техпроцессам при накатывании Intern-S2 на вышеозначенную систему.
comments powered by Disqus