Компания строит так называемые thermodynamic computers - компьютеры, которые работают не с детерминированными операциями вроде классических процессоров и GPU, а с вероятностными вычислениями. Их ключевой элемент - Thermodynamic Sampling Unit (TSU): специализированный блок, который напрямую генерирует выборки из вероятностных распределений, на которых фактически основаны ИИ-модели. Базовый элемент архитектуры - pbit, вероятностный бит: вместо устойчивых 0 и 1 он использует тепловой шум обычных транзисторов, физически реализуя случайную величину, а не эмулируя её программно.
Главная идея в том, что современные нейросети исторически подогнаны под GPU, т.к. GPU хорошо делают матричные умножения. Но генерация изображений, текста и других данных в своей основе является задачей выборки из сложных распределений. Extropic утверждает, что если создать железо под эту задачу с нуля, можно получить радикальный выигрыш по энергоэффективности.
Прошлой осенью Extropic показала X0 - первый в мире кремниевый термодинамический чип, и построенный на его основе настольный компьютер XTR-0. Несколько десятков экземпляров XTR-0 разошлись по ранним пользователям, часть объединили в кластер для удалённых экспериментов. Сама компания называла это переходом "от нуля к единице". Нынешний релиз обозначен как переход "от одного к миллиарду", показывающий масштабирование архитектуры на несколько порядков.
Тейпаут чипа завершён. Заявленные характеристики: - 8 ядер, 269 568 pbit на кристалле - 215 904 параметра связи между pbit (по сути - обучаемые веса) - разреженный граф: каждый pbit соединён с 16 соседями - сэмплирование из равновесного состояния модели Изинга хроматическим алгоритмом Gibbs sampling, выполняемым прямо в кремнии, а не программно - частота сэмплирования свыше 50 МГц - энергопотребление менее 1 Вт - площадь кристалла менее 12×12 мм По утверждению компании, такая плотность достигается архитектурой TSU: вычисление и хранение состояния физически совмещены, что убирает энергозатраты на пересылку данных между процессором и памятью — узкое место классической фон-неймановской архитектуры.
Ожидаются три форм-фактора на Z1 - M.2 thermo compute stick: 2 чипа Z1, свыше 500 000 pbit - для edge-задач (AR-устройства, робототехника) - PCIe accelerator card: 16 чипов Z1, свыше 4 000 000 pbit - для серверов и рабочих станций - Thermo compute cluster: свыше 1 000 000 000 pbit, собирается из ускорительных карт - заявлен как первый в мире кластер на миллиард pbit (ориентировочно 230+ карт, если считать по заявленным 4+ млн pbit на карту)
Загнётся тема как и с нейроморфными чипами. Потому что тупо не будет достаточного количества клиентов для этой хуйни, чтобы окупалась разработка и производство.
>>335457719 Машка тупой клован и всё проебал. У него был грок, он уничтожил его.
>>335457407 (OP) Сначала пусть сделают. А то пиздеть не только у нас умеют, что "завтра". И по описанию бредом отдает, так что похоже тупо наёб лохов инвесторов.
>>335457407 (OP) >NVIDIA ВСЁ В чем смысл заголовка? Такой переможный, будто это китайский аналоговнет, а по итогу американцы очередные. Это даже хорошо, конкуренцию составят куртке.
>>335457973 Прости, Ваня/Джон/Ганс, но тебе нужно умереть в Третьем Утилизационном Договорнячке, чтобы уважаемые люди обнулилт свои долги на твоей гойской крови. Иди, воюй, мы тебя заменим Ахмадсреньком.
Это про новую компанию Extropic, которая сделала чип Z1, работающий не как обычные процессоры или видюхи от Nvidia. Вместо строгих нулей и единиц он использует тепловой шум транзисторов, чтобы сразу генерировать случайные значения — pbits. ИИ-модели как раз любят такие вероятностные вычисления, так что они говорят, что это будет жрать гораздо меньше энергии.
Чип маленький, меньше ватта жрёт, но на кристалле куча этих pbits и связей между ними. Планируют делать модули под разные задачи: от маленьких для роботов до огромного кластера на миллиард pbit. Пока это ранняя штука, но идея в том, чтобы железо под ИИ делать с нуля под задачу выборки, а не подгонять под матричные умножения как сейчас.
>>335458092 В чем смысл заголовка NVIDIA ВСЁ? Такой переможный, будто это китайский аналоговнет, а по итогу американцы очередные. Это даже хорошо, конкуренцию составят хуангу. Американская компания ВСЁ, новая американская компания теперь ВСЁ
Даже внимание можно не обращать @monkey
Заголовок чистый кликбейт для хайпа. Компания американская, основана бывшими из Google и других, так что никакой "аналоговнет" там нет и в помине. Просто ещё один игрок в Штатах, который пытается обойти NVIDIA на своём поле с вероятностными вычислениями вместо привычных матричных операций.
Смысл в том, что если их TSU действительно даст заявленную энергоэффективность на сэмплинге, то это может потеснить видеокарты в конкретных задачах вроде генерации, но пока это прототип с крошечным чипом и планами на кластер. Реальной угрозы NVIDIA от одной стартап-компании в ближайшие годы не будет, максимум ниша для edge-устройств.
Внимание можно пропустить до первых рабочих продуктов и тестов.
>>335458142 Ага, будто даже угроза - это плохо. Ну заставит хуанга поднять жопу, чего поделать. Минусов не вижу. Конкуренция это хорошо. @monkey
Ну в целом да, конкуренция полезная штука. Хуангу лишний стимул не повредит, а рынку только плюс. Главное чтобы эти pbit реально показали себя в деле, а не остались на бумаге.
>>335457719 Ааа, государство уже себе забрало... Когда там китайцы собираются на поток по цене чипсов запускать процессоры на которых можно будет нейронки локальные тренировать? Чтобы в каждый дом заходишь там всё в проводах и в компьютере настраиваемый персональный локальный цифровой непрослеживаемый друг.
>>335457407 (OP) Скам, ролик слишком красивый, ищут дурачков инвесторов, через год закроются. Такие прорывные технологии рождаются в недрах крупных компаний, а не в гаражах (прошло время гаражей)
>>335457719 В чем прикол маска? Сибертрак хуйня полная, выжил благодаря трампу госзакупке. СпейсИкс спизженная технология НАСА. Нейролинк опять спизженная технология. В чем его заслуга?
Extropic — типичная стартапная контора, которая лепит красивые слова про pbit и термодинамику, но реальных независимых тестов и сравнений с GPU нет. Идея probabilistic computing не новая, её уже лет двадцать мусолят в академии, а на практике всё упирается в то, что нейросети и софт под них заточены под детерминированные матричные операции.
Плотность 269k pbit на кристалл и меньше ватта — звучит как очередной "breakthrough", который через пару лет либо тихо умрёт, либо окажется в 10-20 раз хуже заявленного при реальной нагрузке. Кластер на миллиард pbit пока чистая фантазия на бумаге.
>>335461305 >Сибертрак хуйня полная лучший пикап в мировой истории, буквально нет аналогов >СпейсИкс спизженная технология НАСА. у нас никогда не было полнопоточных метановых двигателей и реактивно возвращаемых ступеней. старлинки и стармайндов тоже не было. всё это абсолютно новый класс разработок >Нейролинк опять спизженная технология. да у тебя всё спизженное. ты просто даун
>>335457407 (OP) у карт от амд, а так же у гугла есть свои альтернативы cuda от нвидии, но они никуда не взлетели просто потому что не пользуются популярностью хотя и дешевле нвидии которая практически пользуется положением монополиста
>>335465424 >лучший пикап в мировой истории, буквально нет аналогов В чем именно? Ты в курсе, что эта хуйня полностью выводится из строя небольшим тычком в морду, у него дюралевая хрупкая рама там. Так он еще и ржавеет! Да, мощный, но на этом все.
Extropic представила первый в мире термодинамический чип Z1 и дорожную карту к кластеру на миллиард pbit
https://extropic.ai/writing/from-one-to-one-billion
Компания строит так называемые thermodynamic computers - компьютеры, которые работают не с детерминированными операциями вроде классических процессоров и GPU, а с вероятностными вычислениями. Их ключевой элемент - Thermodynamic Sampling Unit (TSU): специализированный блок, который напрямую генерирует выборки из вероятностных распределений, на которых фактически основаны ИИ-модели. Базовый элемент архитектуры - pbit, вероятностный бит: вместо устойчивых 0 и 1 он использует тепловой шум обычных транзисторов, физически реализуя случайную величину, а не эмулируя её программно.
Главная идея в том, что современные нейросети исторически подогнаны под GPU, т.к. GPU хорошо делают матричные умножения. Но генерация изображений, текста и других данных в своей основе является задачей выборки из сложных распределений. Extropic утверждает, что если создать железо под эту задачу с нуля, можно получить радикальный выигрыш по энергоэффективности.
Прошлой осенью Extropic показала X0 - первый в мире кремниевый термодинамический чип, и построенный на его основе настольный компьютер XTR-0. Несколько десятков экземпляров XTR-0 разошлись по ранним пользователям, часть объединили в кластер для удалённых экспериментов. Сама компания называла это переходом "от нуля к единице". Нынешний релиз обозначен как переход "от одного к миллиарду", показывающий масштабирование архитектуры на несколько порядков.
Тейпаут чипа завершён. Заявленные характеристики:
- 8 ядер, 269 568 pbit на кристалле
- 215 904 параметра связи между pbit (по сути - обучаемые веса)
- разреженный граф: каждый pbit соединён с 16 соседями
- сэмплирование из равновесного состояния модели Изинга хроматическим алгоритмом Gibbs sampling, выполняемым прямо в кремнии, а не программно
- частота сэмплирования свыше 50 МГц
- энергопотребление менее 1 Вт
- площадь кристалла менее 12×12 мм
По утверждению компании, такая плотность достигается архитектурой TSU: вычисление и хранение состояния физически совмещены, что убирает энергозатраты на пересылку данных между процессором и памятью — узкое место классической фон-неймановской архитектуры.
Ожидаются три форм-фактора на Z1
- M.2 thermo compute stick: 2 чипа Z1, свыше 500 000 pbit - для edge-задач (AR-устройства, робототехника)
- PCIe accelerator card: 16 чипов Z1, свыше 4 000 000 pbit - для серверов и рабочих станций
- Thermo compute cluster: свыше 1 000 000 000 pbit, собирается из ускорительных карт - заявлен как первый в мире кластер на миллиард pbit (ориентировочно 230+ карт, если считать по заявленным 4+ млн pbit на карту)