Сохранен 58
https://2ch.su/b/res/330634358.html
К сожалению, значительная часть сохранённых до 2024 г. изображений и видео была потеряна (подробности случившегося). Мы призываем всех неравнодушных помочь нам с восстановлением утраченного контента!

Что взять для нейронок: 4090 48GB на водоблоке, Asus Ascent GX10 или дальше использовать сервисы?

 Аноним 10/03/26 Втр 20:51:37 #1 №330634358 
image.png
image.png
Что взять для нейронок: 4090 48GB на водоблоке, Asus Ascent GX10 или дальше использовать сервисы?

Задачи на каждый день: кодинг - чаще всего багфиксы, рефакторинг, объясни эту ебалу, возьми из БД.

Чуть реже: генерация картинок, видео, 3D болванок под скульпт.

Топ затрат на нейронки в месяц около 30.000 руб.
Средний чек: 10.000 руб.
Аноним 10/03/26 Втр 21:01:02 #2 №330634638 
>>330634358 (OP)
> 4090 48GB на водоблоке
Сколько такая штука стоит?
>Топ затрат на нейронки в месяц около 30.000 руб. Средний чек: 10.000 руб.
Разве топовый GPT стоит не 200 долларов в месяц?

На 48гб врам ты запустишь 70б модель в q4. Я не особо знаком с нюансами по кодингу. Но думаю такая модель будет сносной для рутины, но всё же хуже чем за 200 долларов по подписке.
Аноним 10/03/26 Втр 21:11:30 #3 №330634961 
Никита, ты? Чек за что, моделями банчишь?
Аноним 10/03/26 Втр 21:13:27 #4 №330635017 
>>330634961
>Никита, ты?
Никита похоже слился из своего же треда. А вот жаль. Было бы интересно узнать на что и зачем он тратил 30к.
Аноним 10/03/26 Втр 21:16:26 #5 №330635101 
>>330635017
Да это пиздец какой-то, скок ватт эта хуита жрет? Это какой прокаченный патреон нужен чтобы быстро отбивать, или где банчит. Ну и плюс код, анальник походу
Аноним 10/03/26 Втр 21:25:44 #6 №330635372 
>>330634358 (OP)
ОГО! СУПИРКАНПУХТЕР!

однокласники обзавидуются!
Аноним 10/03/26 Втр 21:30:43 #7 №330635503 
>>330634358 (OP)
Возьми епл машину от 1 до 4, там выкатили софт апдейт на кластеринг. На одной машине 512 гб общей памяти (озу/возу), 4 стакается в 2 тб, можно запустить кими 2 (1.2 трилиона параметров) на 27 токен/сек.
Цена 48к$ за 4 машины (без расстаможки). Для локалки/дева самый бюджетный/качественный варик, в десятки раз дешевле чем собирать вариант для прода на A100/H100/H200 (но и перфоманс конечно хуже да, но мы ведь за локалку и говорим).
Думайте.
Аноним 10/03/26 Втр 21:31:14 #8 №330635522 
>>330634358 (OP)
Возьми епл машину от 1 до 4, там выкатили софт апдейт на кластеринг. На одной машине 512 гб общей памяти (озу/возу), 4 стакается в 2 тб, можно запустить кими 2 (1.2 трилиона параметров) на 27 токен/сек.
Цена 48к$ за 4 машины (без расстаможки). Для локалки/дева самый бюджетный/качественный варик, в десятки раз дешевле чем собирать вариант для прода на A100/H100/H200 (но и перфоманс конечно хуже да, но мы ведь за локалку и говорим).
Думайте.
Аноним 10/03/26 Втр 21:34:13 #9 №330635613 
>>330634358 (OP)
Возьми епл машину от 1 до 4, там выкатили софт апдейт на кластеринг. На одной машине 512 гб общей памяти (озу/возу), 4 стакается в 2 тб, можно запустить кими 2 (1.2 трилиона параметров) на 27 токен/сек.
Цена 48к$ за 4 машины (без расстаможки). Для локалки/дева самый бюджетный/качественный варик, в десятки раз дешевле чем собирать вариант для прода на A100/H100/H200 (но и перфоманс конечно хуже да, но мы ведь за локалку и говорим).
Думайте.
Аноним 10/03/26 Втр 21:36:41 #10 №330635696 
>>330635503
>>330635522
>>330635613
рекламный бот сломался
Аноним 10/03/26 Втр 21:36:47 #11 №330635700 
17731675679818975761159489283406.jpg
>>330634358 (OP)
>Что взять для нейронок:
RTX PRO 6000 Blackwell на 96 гигов памяти.
Какие тут могут быть варианты?
Если деньги позволяют, возьми несколько
Аноним 10/03/26 Втр 21:37:06 #12 №330635717 
>>330634358 (OP)
А выхлопа сколько (в плане дохода) идет за месяц?

Такие игрушки на полмиллиона потянут.

Я то нищий говнюк, и боюсь даже 100к вложить в пеку, работаю на выданном на работе ноуте (но и задачи попроще).
Аноним 10/03/26 Втр 21:37:22 #13 №330635722 
16710054747570.jpg
>>330634358 (OP)
> Задачи на каждый день: кодинг - чаще всего багфиксы, рефакторинг, объясни эту ебалу, возьми из БД.
>локалка
И как такая мысль в голову пришла вообще?
Аноним 10/03/26 Втр 21:38:02 #14 №330635743 
>>330635700
Сколько надо получать, чтобы это хотя бы оправдало себя?
Аноним 10/03/26 Втр 21:38:13 #15 №330635749 
>>330634358 (OP)
Тебя твой барин должен снабжать средствами производства, долбоёб.
Аноним 10/03/26 Втр 21:39:31 #16 №330635784 
>>330635743
60 000 рублей в месяц до вычета НДФЛ.
Аноним 10/03/26 Втр 21:40:34 #17 №330635820 
>>330635749
Да нынче ТЕНДЕНЦИЯ, что лопату ты покупаешь сам - и сам и отвечаешь за ее работоспособность.

НЕТУ НОЖЕК - НЕТУ КОНФЕТ.

Даже на нищеработах уже так, сраному репетитору англюсика нужно чуть ли не новый мак иметь, чтобы его хотя бы расссматривала платформа с учениками, а что уже говорить о наносеках
Аноним 10/03/26 Втр 21:42:11 #18 №330635856 
>>330635784
Смешно. И грустно. Я столько получаю (но ноут, скрипя зубами, выдали, хотя и постоянно напоминают,что неплохо было бы уже обзавестись пекой посвежее, или ноутом. Но чуть снизили требования для платформы, переписали штоле, и теперь уже о "ай5-14400 и 5060" речь не идет).
Аноним 10/03/26 Втр 21:42:57 #19 №330635882 
>>330635743
Анон нацелился на 5090. Блеквелл стоит всего-то в два раза дороже, что при таких бюджетах некритично.
А если же он собрался на последние деньги покупать, то он конченный идиот.
Аноним 10/03/26 Втр 21:43:23 #20 №330635892 
>>330635820
а роллсройс не надо иметь, чтобы в такси работать?
Аноним 10/03/26 Втр 21:44:48 #21 №330635934 
>>330635696
>рекламный бот сломался
Тот чел написал базу. Реклманый бот ниже рекламирует покупать RTX на 96гб по цене одной машины на 512 гб за ту же цену.
Аноним 10/03/26 Втр 21:44:49 #22 №330635936 
>>330635892
Как не странно - ДА, в некоторых случаях нужен "роллс-ройс", чтобы тебе платили больше.

На одной из прошлых работ было, что если у тебя мак, то и рейты оплаты выше могут капать из платформы.
Аноним 10/03/26 Втр 21:47:37 #23 №330636008 
>>330635882
А, в глаза ебусь. Там 4090
Тогда можно Pro 5000 или Тесла Л20
Аноним 10/03/26 Втр 21:47:46 #24 №330636016 
>>330635696
Нет, абу просто пидорас и у меня нажатие на кнопку отправки сразу отменяет отправку (хотя само отправляет) какого-то хуя (или у меня старческая тряска уже).
Аноним 10/03/26 Втр 21:47:58 #25 №330636025 
>>330635503
>>330635522
Тим кук успокойся, долбоеб
Аноним 10/03/26 Втр 21:49:57 #26 №330636083 
>>330634358 (OP)
вот ты анальник, а считать не умеешь.

Максимальный тариф на Claude/Gpt/Google - 200 бачей в мес.
Стоимость GX10 здесь и сейчас - 320 тыс руб ( 4000 тыс $)
Пердосклейка 4090 на 48Гб - столько же.

4000 бачинских - это почти 2 года подписки, которой ты можешь пользоваться с ЛЮБОГО устройства.
Через 2 года что GX10, что пердосклей станет днищем без задач.

Ну и если ты включишь мозг и будет роутить дорогие токены от Антропика, ОпенАИ и гугла с копеечными Дипсика, Квэна, Минимакса и Кими, то 4К долларов тебе хватит года на 4.
Аноним 10/03/26 Втр 21:50:46 #27 №330636106 
Чё вы там хоть вычисляте то в своих маня-компьютерах? ВВЙБКОДЕРЫ штоле? или просто генерити каринки с голыми одноклассницами?
Аноним 10/03/26 Втр 21:51:40 #28 №330636140 
>>330636083
Да он просто зеленый
Аноним 10/03/26 Втр 21:53:29 #29 №330636199 
>>330634358 (OP)
коденг - Claude
объясни эту ебалу - Gemini
генерацию картинок окей можно локально
видео - veo 3.1
остальное не ебу, багфиксы тоже гемини
Аноним 10/03/26 Втр 21:55:49 #30 №330636264 
>>330636106
>или просто генерити каринки с голыми одноклассницами?
Да, всё так. Проходи мимо.
Аноним 10/03/26 Втр 21:57:39 #31 №330636320 
>>330634961
>>330635017

Нет, не Никита.


Сложные вещи сначала разрабатываю самостоятельно, далее с ИИ.

Топовый ГПТ и клод не беру.

Беру у барыг про подписки: курсор или виндсёрф под задачу. Как только упираюсь в лимит, беру новый акк. Иногда пробую другие IDE с ИИ.

>>330635700
Такая на работе есть. Постоянно занята дешакалингом после других ИИ. Взять себе - оверкилл, если за 1 проект не отобъется. А у меня не отобъётся

>>330635717
Я на дядьку работаю. Доход стабильный, но говорить не прилично о таком. ЗП мидла+ программиста до кризиса.

>>330635722
Надоела ебатня с впн, надоело обращаться к барыгам. На самом деле приходится лишний раз не воспользоваться помощью ИИ, потому что как-будто дорого выходит, а объемы могут быть большими.

>>330636083
Ну это как бы математики в вакууме.
В реальности очень сомнительно.

>>330636199
Плюс\минус сейчас так и есть.
Аноним 10/03/26 Втр 21:59:18 #32 №330636368 
>4090 48GB

И сколько это говно стоит? Потому что 4 3090 с авито по 50к дадут в два раза больше vram и позволят запускать почти все что есть в 20+ т/с. А для картинок вообще 4060 ti достаточно.
Аноним 10/03/26 Втр 21:59:53 #33 №330636383 
>>330635936
ну а если я куплю свой аэродром и парк самолетов то еще больше заработаю.

только кто меня наймет тогда?
Аноним 10/03/26 Втр 22:00:05 #34 №330636391 
>>330636368
Это говно стоит ~350 000 руб.
Аноним 10/03/26 Втр 22:01:51 #35 №330636444 
>>330636368
>4 3090 позволят запускать почти все что есть в 20+ т/с
лол
Аноним 10/03/26 Втр 22:03:23 #36 №330636489 
>>330636444
Не, ну если ты какойнить дипсик хочешь в 16 кванте запустить, то тогда иди продавай бабкину хату и скупай все что есть в магазинах.
Аноним 10/03/26 Втр 22:07:11 #37 №330636603 
>>330636320
>Надоела ебатня с впн
https://dns.geohide.ru:8443/ скачиваешь оттуда hosts файл и заменяешь им файл hosts в своей операционной системе
вуаля, не нужно ебаться с впн в копронейронках.
>Плюс\минус сейчас так и есть.
Ну а лучше сейчас и нет. По видео так точно, по программированию я бы присмотрелся к геминьке с ее антигравити, там ещё и 2 терабайта... но я нищук прост и мне как-то неоч дохуя денег за подписки отдавать
Аноним 10/03/26 Втр 22:08:14 #38 №330636632 
>>330636320
>Такая на работе есть. Постоянно занята дешакалингом после других ИИ
Что вы там на работе такое генерируете?
sage[mailto:sage] Аноним 10/03/26 Втр 22:08:33 #39 №330636644 
какой то тролловской тред.

чат жпт 10 миллиаардов параметров на любом ноуте со встройкой звпускается.
Аноним 10/03/26 Втр 22:08:43 #40 №330636651 
00099-2885791644.jpg
Если не притязателен к интерфейсу, то можно просто бесплатно тут
https://arena.ai/text/direct
И клоды и гпт и всё остальное. Лимиты вроде только на самые дорогие клоды.

Но вообще главный тред двача по нейронкам вот тута https://2ch.su/ai/res/1546892.html

Если и знают где бесплатные/дешевые источники, то там
Аноним 10/03/26 Втр 22:10:16 #41 №330636699 
>>330636651
>Если и знают где бесплатные/дешевые источники, то там
Там все окуклились и не дают ключики
Аноним 10/03/26 Втр 22:11:24 #42 №330636727 
17615866644460.jpeg
>>330636651
+ сильных ЛОКАЛЬНЫХ текстовых нейронок не существует.

Никакое домашнее железо за миллион не запустит нейронку, которая сравнится даже с околобесплатным дипсиком.
Аноним 10/03/26 Втр 22:12:15 #43 №330636756 
>>330636699
> ключики
не жирно ли
Аноним 10/03/26 Втр 22:13:23 #44 №330636789 
>>330634358 (OP)
Прикиньте какая тупая эта обезьяна и как много она зарабатывает? заработок обратно пропорционален интеллекту
Аноним 10/03/26 Втр 22:13:38 #45 №330636793 
>>330636603
У меня антигравити поработал 2 дня.
Затем перепробовал 2 акка, устанавливается, но не даёт заллогиниться.

>>330636632
В основном всякий материал для собственного IP.

>>330636651
Этим часто пользуюсь для тупых вопросов и для генерации всяких иконок.

>>330636727
А они и не всегда нужны сильные. Для какого-нибудь бота ревьювера хватит Qwen Next. Но нужно больше инстансов, агентов и ботов.
Аноним 10/03/26 Втр 22:14:13 #46 №330636802 
>>330636727
Сильных нейронок в принципе не существует. Нейронка - это копиумовыдавалка на ферме гавваха
Аноним 10/03/26 Втр 22:16:20 #47 №330636855 
19575wfiytuf1.jpg
>>330636727
>Никакое домашнее железо за миллион не запустит нейронку, которая сравнится даже с околобесплатным дипсиком.
На 8 блеквелов влезет и ещё останется где-то гигов 50 на генерацию школьниц в каком нибудь флюксе
Аноним 10/03/26 Втр 22:18:10 #48 №330636907 
>>330636802
Это сильный инструмент
Аноним 10/03/26 Втр 22:19:09 #49 №330636931 
17698652069880.jpg
>>330636756
Раньше раздавали и шарили бесплатные прокси
Аноним 10/03/26 Втр 22:23:34 #50 №330637066 
>>330636083
>пердосклей станет днищем без задач.
Потому что окирпичится nahoooy от постоянных ударных нагрузок.
sage[mailto:sage] Аноним 10/03/26 Втр 22:23:36 #51 №330637069 
>>330634358 (OP)
>одинг - чаще всего багфиксы, рефакторинг, объясни эту ебалу, возьми из БД.
сейчас бы тратить куча бабок на хуйню, когда можно с друзьями скинуться за клаудкод и платить по 2-3к в месяц
Аноним 10/03/26 Втр 22:25:57 #52 №330637144 
>>330637069
С друзьями не получится. Слишком много чувствительной информации под NDA - это тоже один из поинтов перейти на локал, пока заказчик не спалил.
Аноним 10/03/26 Втр 23:05:47 #53 №330638383 
>>330636907
Какой инструмент, манька?
Аноним 10/03/26 Втр 23:10:58 #54 №330638492 
>>330636727
>+ сильных ЛОКАЛЬНЫХ текстовых нейронок не существует.
Несёшь хуйню - растёшь дебилом. ллама маверик на нормальном железе и квантовании это уровень GPT 4o. А там выше говорили вообще о 1 трлн+ агентских моделях.
Аноним 10/03/26 Втр 23:52:25 #55 №330639695 
>>330636320
Тащемта тогда можно подумать
Аноним 11/03/26 Срд 01:57:34 #56 №330642289 
17727409634240669603.mp4
>>330639695
Ташемта, да, например.
Аноним 11/03/26 Срд 02:01:09 #57 №330642341 
Соснешь хуйца. Локальные нейронки говно, без исключения. Возьми лучше подписку на гпт за 200 баксов и не еби голову.
Аноним 11/03/26 Срд 06:07:07 #58 №330645261 
Ю вилл овн нафинг.
Локалки юзлесс Медленный кал.
Енд и вилл би хеппи.
comments powered by Disqus