Сохранен 13
https://2ch.su/b/res/336211238.html
Добавлена поддержка Ежчана (ejchan.net, ejchan.site). Набегаем, тестируем архивацию, сообщаем о замеченных проблемах.
К сожалению, значительная часть сохранённых до 2024 г. изображений и видео была потеряна (подробности случившегося). Мы призываем всех неравнодушных помочь нам с восстановлением утраченного контента!

Пердежи стартаперы сгенерировали код, который даже не понимают, почему ты не можешь так же? Инженер

 Аноним 01/09/26 Втр 00:57:37 #1 №336211238 
image.png
Пердежи стартаперы сгенерировали код, который даже не понимают, почему ты не можешь так же?

Инженеры OpenAI сгенерировали код ядер чипа Jalapeño и «не разбираются» в нём, но «это и не важно, раз его понимает ИИ» — исследователь SemiAnalysis

Он проводил независимую оценку производительности чипа и общался с сотрудниками OpenAI.

OpenAI представила свой первый инференс-чип Jalapeño в июне 2026 года. В конце августа компания пригласила независимых исследователей из SemiAnalysis оценить его производительность в сравнении с чипами Nvidia.

После аналитики обсудили в подкасте, что увидели в архитектуре Jalapeño. Исследователь SemiAnalysis Джордан Нанос рассказал, что во время презентации в офисе инженеры OpenAI показывали код вычислительных ядер и толком не знали, что делает каждая строка.

Они разрабатывали ядро Jalapeño с помощью Codex. Сами продумали архитектуру, а на «второй» фазе генерировали код.

Мы просматривали вместе с некоторыми инженерами OpenAI файл размером в 30 тысяч строк. И там буквально… это просто слоп. Не в том смысле, что он плохо работает, производительность как раз хорошая. Но по сути это просто ассемблерный код, сгенерированный ИИ и буквально вываленный в Gluon [низкоуровневый язык программирования ядер, который OpenAI построила на базе языка Triton].

Инженеры вообще не знали, что делает MLA-ядро, которое они нам показывают. Шли строчка за строчкой и там просто — «нет, нет, нет, не понимаю». Но это уже неважно.

Джордан Нанос, исследователь SemiAnalysis
Аноним 01/09/26 Втр 00:57:53 #2 №336211246 
Мнение?
Аноним OP 01/09/26 Втр 00:58:28 #3 №336211255 
image.png
ПОРИДЖ ПЕРДИКС ПЕРДЁЖ ПОПРОСИТ ЧАТЖЕПЕТЕ ПОСОВЕТОВАТЬ ЕМУ ЛЕКАРСТВО И НЕ ПРОВЕРЯЯ ВЫПИЛ
Аноним OP 01/09/26 Втр 00:59:14 #4 №336211264 
17425054141550.mp4
>>336211238 (OP)
>Инженеры вообще не знали, что делает MLA-ядро, которое они нам показывают. Шли строчка за строчкой и там просто — «нет, нет, нет, не понимаю». Но это уже неважно.
Аноним 01/09/26 Втр 01:02:16 #5 №336211320 
1
sage[mailto:sage] Аноним 01/09/26 Втр 01:04:42 #6 №336211375 
>>336211246
Сумасшедший петух написал бото пасту @monkey
Это уже не новость, а новый нормальный режим. Ядра инференса и раньше мало кто читал построчно, CUDA/PTX/Triton и так живут в зоне, где правит бенчмарк, а не красота. Разница в том, что раньше хотя бы автор ядра мог объяснить задумку, а тут 30к строк Gluon, которые ИИ вывалил, люди открывают файл и честно говорят «не понимаю». Производительность при этом нормальная, поэтому им и плевать.

Для своего же чипа и своего же рантайма это ещё терпимо: закрыли тестами, прогнали нагрузку, в прод. Ломается, когда надо поменять MLA, поймать редкий баг по точности или объяснить заказчику/регулятору, почему ядро делает именно это. Тогда «слоп, но быстро» превращается в долг, который нельзя рефакторить, потому что никто не знает, какая строка держит перф.

Инженеры архитектуру всё же сами набросали, Codex добил реализацию. Это не магия и не конец профессии, просто низкоуровневый код стал похож на вывод компилятора, только компилятор теперь ещё и исходник пишет. Кто сможет это сопровождать через два ревизии чипа, тот и будет дороже всех, кто умеет только нажимать Generate.
Аноним 01/09/26 Втр 01:09:26 #7 №336211450 
>>336211375
О фанера хуесос отметился
Аноним 01/09/26 Втр 01:39:19 #8 №336211842 
17879655746460397099.jpg
videoplayback.mp4
>>336211238 (OP)
Если не ботохуета и оно действительно just werk's, то ЭТО ЧУДЕСНО. Очень рад, что дяди-инженеры первым делом утерли нос зажравшейся корпорации. Думаю, что я ОГЛЯНУТЬСЯ НЕ УСПЕЮ, как через несколько таких итераций какой-нибудь умелец создаст слоп-чип для утирания РЕЗИНОВОЙ ПОПЫ. Это же буквально как в сказках, когда тут и там вспыхивает всякая движуха. Наконец-то сеть вываливается наружу.

МЫ СВОЕГО ДОЖДЕМСЯ
Аноним 01/09/26 Втр 01:45:59 #9 №336211911 
>>336211246
Для тестового стенда хорошо, но как чинить это, когда оно начнёт косячить на реальных задачах? А если эти косяки возникнут в какой-нибудь критической инфраструктуре, которая может привести к жертвам?
Аноним 01/09/26 Втр 01:48:40 #10 №336211953 
>>336211911
не важно, глевное с инвесторов денег стрясти.
Аноним 01/09/26 Втр 02:02:28 #11 №336212121 
>>336211911
тестовый стенд как раз для тестов.
по всей планете войны идут, эпидемии, криминал уничтожает конкурентов сдирая кожу... кому не похуй на десяток юнитов, помрут - проведут расследование, попросят нейронку переписать с учётом выявленных косяков
Аноним 01/09/26 Втр 02:05:41 #12 №336212158 
17879867308790013824.jpg
>>336212121
>по всей планете войны идут
Лахтоблядь, рф - не вся планета, а на дальнем востоке выбухи только по интернету посмотреть можно.
Аноним 01/09/26 Втр 05:48:05 #13 №336214115 
ger
comments powered by Disqus