>>330634358 (OP) > 4090 48GB на водоблоке Сколько такая штука стоит? >Топ затрат на нейронки в месяц около 30.000 руб. Средний чек: 10.000 руб. Разве топовый GPT стоит не 200 долларов в месяц?
На 48гб врам ты запустишь 70б модель в q4. Я не особо знаком с нюансами по кодингу. Но думаю такая модель будет сносной для рутины, но всё же хуже чем за 200 долларов по подписке.
>>330635017 Да это пиздец какой-то, скок ватт эта хуита жрет? Это какой прокаченный патреон нужен чтобы быстро отбивать, или где банчит. Ну и плюс код, анальник походу
>>330634358 (OP) Возьми епл машину от 1 до 4, там выкатили софт апдейт на кластеринг. На одной машине 512 гб общей памяти (озу/возу), 4 стакается в 2 тб, можно запустить кими 2 (1.2 трилиона параметров) на 27 токен/сек. Цена 48к$ за 4 машины (без расстаможки). Для локалки/дева самый бюджетный/качественный варик, в десятки раз дешевле чем собирать вариант для прода на A100/H100/H200 (но и перфоманс конечно хуже да, но мы ведь за локалку и говорим). Думайте.
>>330634358 (OP) Возьми епл машину от 1 до 4, там выкатили софт апдейт на кластеринг. На одной машине 512 гб общей памяти (озу/возу), 4 стакается в 2 тб, можно запустить кими 2 (1.2 трилиона параметров) на 27 токен/сек. Цена 48к$ за 4 машины (без расстаможки). Для локалки/дева самый бюджетный/качественный варик, в десятки раз дешевле чем собирать вариант для прода на A100/H100/H200 (но и перфоманс конечно хуже да, но мы ведь за локалку и говорим). Думайте.
>>330634358 (OP) Возьми епл машину от 1 до 4, там выкатили софт апдейт на кластеринг. На одной машине 512 гб общей памяти (озу/возу), 4 стакается в 2 тб, можно запустить кими 2 (1.2 трилиона параметров) на 27 токен/сек. Цена 48к$ за 4 машины (без расстаможки). Для локалки/дева самый бюджетный/качественный варик, в десятки раз дешевле чем собирать вариант для прода на A100/H100/H200 (но и перфоманс конечно хуже да, но мы ведь за локалку и говорим). Думайте.
>>330634358 (OP) >Что взять для нейронок: RTX PRO 6000 Blackwell на 96 гигов памяти. Какие тут могут быть варианты? Если деньги позволяют, возьми несколько
>>330634358 (OP) > Задачи на каждый день: кодинг - чаще всего багфиксы, рефакторинг, объясни эту ебалу, возьми из БД. >локалка И как такая мысль в голову пришла вообще?
>>330635749 Да нынче ТЕНДЕНЦИЯ, что лопату ты покупаешь сам - и сам и отвечаешь за ее работоспособность.
НЕТУ НОЖЕК - НЕТУ КОНФЕТ.
Даже на нищеработах уже так, сраному репетитору англюсика нужно чуть ли не новый мак иметь, чтобы его хотя бы расссматривала платформа с учениками, а что уже говорить о наносеках
>>330635784 Смешно. И грустно. Я столько получаю (но ноут, скрипя зубами, выдали, хотя и постоянно напоминают,что неплохо было бы уже обзавестись пекой посвежее, или ноутом. Но чуть снизили требования для платформы, переписали штоле, и теперь уже о "ай5-14400 и 5060" речь не идет).
>>330635743 Анон нацелился на 5090. Блеквелл стоит всего-то в два раза дороже, что при таких бюджетах некритично. А если же он собрался на последние деньги покупать, то он конченный идиот.
>>330635696 >рекламный бот сломался Тот чел написал базу. Реклманый бот ниже рекламирует покупать RTX на 96гб по цене одной машины на 512 гб за ту же цену.
>>330635696 Нет, абу просто пидорас и у меня нажатие на кнопку отправки сразу отменяет отправку (хотя само отправляет) какого-то хуя (или у меня старческая тряска уже).
Максимальный тариф на Claude/Gpt/Google - 200 бачей в мес. Стоимость GX10 здесь и сейчас - 320 тыс руб ( 4000 тыс $) Пердосклейка 4090 на 48Гб - столько же.
4000 бачинских - это почти 2 года подписки, которой ты можешь пользоваться с ЛЮБОГО устройства. Через 2 года что GX10, что пердосклей станет днищем без задач.
Ну и если ты включишь мозг и будет роутить дорогие токены от Антропика, ОпенАИ и гугла с копеечными Дипсика, Квэна, Минимакса и Кими, то 4К долларов тебе хватит года на 4.
>>330634358 (OP) коденг - Claude объясни эту ебалу - Gemini генерацию картинок окей можно локально видео - veo 3.1 остальное не ебу, багфиксы тоже гемини
Сложные вещи сначала разрабатываю самостоятельно, далее с ИИ.
Топовый ГПТ и клод не беру.
Беру у барыг про подписки: курсор или виндсёрф под задачу. Как только упираюсь в лимит, беру новый акк. Иногда пробую другие IDE с ИИ.
>>330635700 Такая на работе есть. Постоянно занята дешакалингом после других ИИ. Взять себе - оверкилл, если за 1 проект не отобъется. А у меня не отобъётся
>>330635717 Я на дядьку работаю. Доход стабильный, но говорить не прилично о таком. ЗП мидла+ программиста до кризиса.
>>330635722 Надоела ебатня с впн, надоело обращаться к барыгам. На самом деле приходится лишний раз не воспользоваться помощью ИИ, потому что как-будто дорого выходит, а объемы могут быть большими.
>>330636083 Ну это как бы математики в вакууме. В реальности очень сомнительно.
И сколько это говно стоит? Потому что 4 3090 с авито по 50к дадут в два раза больше vram и позволят запускать почти все что есть в 20+ т/с. А для картинок вообще 4060 ti достаточно.
>>330636320 >Надоела ебатня с впн https://dns.geohide.ru:8443/ скачиваешь оттуда hosts файл и заменяешь им файл hosts в своей операционной системе вуаля, не нужно ебаться с впн в копронейронках. >Плюс\минус сейчас так и есть. Ну а лучше сейчас и нет. По видео так точно, по программированию я бы присмотрелся к геминьке с ее антигравити, там ещё и 2 терабайта... но я нищук прост и мне как-то неоч дохуя денег за подписки отдавать
Если не притязателен к интерфейсу, то можно просто бесплатно тут https://arena.ai/text/direct И клоды и гпт и всё остальное. Лимиты вроде только на самые дорогие клоды.
>>330636727 >Никакое домашнее железо за миллион не запустит нейронку, которая сравнится даже с околобесплатным дипсиком. На 8 блеквелов влезет и ещё останется где-то гигов 50 на генерацию школьниц в каком нибудь флюксе
>>330634358 (OP) >одинг - чаще всего багфиксы, рефакторинг, объясни эту ебалу, возьми из БД. сейчас бы тратить куча бабок на хуйню, когда можно с друзьями скинуться за клаудкод и платить по 2-3к в месяц
>>330637069 С друзьями не получится. Слишком много чувствительной информации под NDA - это тоже один из поинтов перейти на локал, пока заказчик не спалил.
>>330636727 >+ сильных ЛОКАЛЬНЫХ текстовых нейронок не существует. Несёшь хуйню - растёшь дебилом. ллама маверик на нормальном железе и квантовании это уровень GPT 4o. А там выше говорили вообще о 1 трлн+ агентских моделях.
Задачи на каждый день: кодинг - чаще всего багфиксы, рефакторинг, объясни эту ебалу, возьми из БД.
Чуть реже: генерация картинок, видео, 3D болванок под скульпт.
Топ затрат на нейронки в месяц около 30.000 руб.
Средний чек: 10.000 руб.