Сама система глубокого обучения NVIDIA DGX-1 построена на базе графических процессоров NVIDIA Tesla P100, основанных на архитектуре NVIDIA Pascal. Среди других технологий, обеспечивающих максимальную мощность DGX-1, - высокоскоростной интерфейс NVIDIA NVLink, расширяющий масштабируемость приложений. Также используются 16 нм процесс FinFET, повышающий энергоэффективность; технология Chio-on-Wafer-on-Substrate c HBM2 для работы с большими объёмами данных; новые инструкции половинной точности, обеспечивающие более 21 терафлопса пиковой производительности.
"Microsoft разрабатывает суперглубокие нейронные сети, имеющие свыше 1 000 слоёв, - рассказывает Ксюдонг Хуанг, ведущий специалист по речи в Microsoft Research. - Впечатляющая мощь NVIDIA Tesla P100 позволит нам быстрее развивать искусственный интеллект с помощью инструментария Microsoft CNTK".
Графические процессоры NVIDIA ускоряют развитие искусственного интеллекта, - говорит Йэн ЛеКан, руководитель направления искусственного интеллекта в Facebook. - По мере роста нейронных сетей нам нужны не только более производительные GPU с большей и более быстрой памятью, но и более высокая скорость обмена информации между графическими процессорами, а также аппаратное обеспечение, способное получить выигрыш от пониженной точности вычислений. Все это есть в архитектуре Pascal".
>Суперкомпьютер для искусственного интеллекта сегодня стоит как роскошный автомобиль, потребляет электричество как роскошный пылесос
...а интеллекта как не было, так и нет. Жидам из нвидии аплодирую стоя.
А в чем революция-то? Ну будет оно в лучшем случае распознавать объекты с камеры, изображения с картинок, твой голос, переводить что-нибудь более менее внятно, все это найдут как приспособить, чтобы впарить игродебилам и прочим потребителям и все на этом, пожалуй.
Опять эти мантры про мощное железо для ИИ.
Ты не понял, теперь оно будет не давать нам ИИ вдесятеро дешевле и в 12 раз более компактно. Ушли те дни, когда суперкомпьютер, тщетно обещающий дать достаточную вычислительную мощь для работы ИИ, размещался в серверной IBM! Теперь вы можете не иметь ИИ у себя в гостиной!
тем временем Animal Intelligence симулируется тремя с половиной строчками кода и простым уравнением
>тем временем Animal Intelligence симулируется тремя с половиной строчками кода и простым уравнением
Дай пруф почитать.
Ох, на заре кризиса пошел же обновил комп на последнее. Купил АМД А10, ну чтобы на видюху не тратиться. А после твоего поста сейчас что-то погуглил, так у меня 12-ти ядерный проц получается, я значит могу в дип лернинг?
800+ GigaFLOPs - это норм?
Я осознаю что это дичайший аутизм, но мне нравится сам изящный подход, настолько противоречащий этому скудоумному наращиванию мощностей.
Что это вообще? GPU? FPGA? Процессор в памяти? Какой-то гибрид?
Вы поймите, что нихуя это не ИИ, в лучшем случае получится какой-то датамайнинг или обработка изображений.
Вы поймите, что нихуя это не ИИ, в лучшем случае получится какой-то датамайнинг или обработка изображений.
Соль в том, что нынче под ии понимают любую хуету вроде распознавания картинок или голоса, а интеллект - растяжимое понятие и его можно вывести даже у животных, причем, не обязательно каких-нибудь высших приматов, ворон, крыс или осьминогов.
>Соль в том, что нынче под ии понимают любую хуету
Что плохого? Назревает новый пузырь, мамкиным программистам можно будет поднять денег.
Я под ИИ понимаю некого умного собеседника, которому говоришь: спроектируй мне машину чтобы ездила и вафли пекла. А он такой: я не знаю. Ты ему в ответ: вот тебе гугл, там все есть, читай и учись. И он сам все изучает, программирует себя, выдает результат.
Или говоришь ему: найди вот этого чела по фотке, а как-не ебет. И он сам изобретает способы.
>...а интеллекта как не было, так и нет.
Потому что это фуфлософское неопределяемое понятие.
> а интеллект - растяжимое понятие
Это неопределяемая хуйня, выдуманная просто чтобы было, без научной нужды в таком понятии.
Даже влом разбираться. Чел из совершенно другой области, не использует стандартную терминологию и скорее всего "изобрел интеграл".
Революция вовсе не в видеокартах заключается. Разработка этих устройств - это следствие уже совершившейся революции в алгоритмах. Когда поняли, что большие НС наконец-то заработали, тогда и появился спрос на соответствующее железо.
>три года назад сориентировались на поддержку искусственного интеллекта
>это фуфлософское неопределяемое понятие.
Тем более ребятам респект за попытки воплотить в железе философские неопределяемые понятия.
Что революционного в ОП посте? Много ядер обращаются к одной памяти? Это революция?
Ты точно на мой пост отвечаешь? А ты его прочитал?
ДА точно. Я вижу большие цифры, очень хорошо. Но это эволюция называется. Там архитектура революционная что ли? В твоем посте про архитектуру ни слова.
В моем посте нет цифр, и он начинается со слов "Революция вовсе не в видеокартах заключается."
Самое охуенное будет, если соединить ВСЕ компьютерные мощности в рамках туманных вычислений.
анус себе соедини, шизик
Только попробуйте скатить тред в портвейнины.
Это уже в ближайшем году будет по всей планете. Обещаю. Ты увидишь. А я ухожу.
До завтра.
Шindoшs 10 роскошный установи качай удалим всё твоё установим своё уже
нейронным сетям оказалось удобно работать на графонопечах, а не на камне.
графоноёбы соответственно выпустили железо с заточкой под дрессировку сетей, вот и весь трендж.
Те сети, которые сейчас на видеокартах гоняют, т.е. сверточные алекснеты и т.п., суть хуйня из-под коня и путь в никуда. Поясню.
1) они слишком "тяжелые" для современного железа. Даже со всеми возможными улучшениями типа RELU вместо сигмоидов, эти сети могут сходиться неделями на девайсах с несколькими GPU.
2) сам алгоритм слишком деревянный. Та часть, которая слои свертки и подвыборки еще куда ни шло, но полносвязные слои это просто пиздец. По сути, прокачали неокогнитрон и приколхозили к нему перцептрон или радиально-базисную сеть. Нахуй так жить, непонятно.
3) самое плохое, что проблему пытаются решить единственным путем - в лоб, т.е. наращивая системные требования. Все библиотеки на тему диплернинга, начиная со второй половины 2015 заточены для распределенного выполнения, потому что на одном комплюктере все это гонять особого смысла не имеет (см п. 1). Всем похуй на любые альтернативы, похоже что про них просто никто не подозревает. Тогда как еще Колмогоров доказал, что любая функция от любого числа аргументов представима в виде суперпозиции своих частичных функций от 2х аргументов. Этот путь применяли еще в СССР для алгоритмов МГУА, что давало возможность на еще тех совковых ЭВМ работать с функциями до 1000 аргументов, что в случае регрессии даже для современной техники задача очень серьезная, вряд ли решаемая чем-то кроме градиентного бустинга и т.п. ебани.
1) они слишком "тяжелые" для современного железа. Даже со всеми возможными улучшениями типа RELU вместо сигмоидов, эти сети могут сходиться неделями на девайсах с несколькими GPU.
2) сам алгоритм слишком деревянный. Та часть, которая слои свертки и подвыборки еще куда ни шло, но полносвязные слои это просто пиздец. По сути, прокачали неокогнитрон и приколхозили к нему перцептрон или радиально-базисную сеть. Нахуй так жить, непонятно.
3) самое плохое, что проблему пытаются решить единственным путем - в лоб, т.е. наращивая системные требования. Все библиотеки на тему диплернинга, начиная со второй половины 2015 заточены для распределенного выполнения, потому что на одном комплюктере все это гонять особого смысла не имеет (см п. 1). Всем похуй на любые альтернативы, похоже что про них просто никто не подозревает. Тогда как еще Колмогоров доказал, что любая функция от любого числа аргументов представима в виде суперпозиции своих частичных функций от 2х аргументов. Этот путь применяли еще в СССР для алгоритмов МГУА, что давало возможность на еще тех совковых ЭВМ работать с функциями до 1000 аргументов, что в случае регрессии даже для современной техники задача очень серьезная, вряд ли решаемая чем-то кроме градиентного бустинга и т.п. ебани.
Потому что ебучая коммерция. В научный пройцесс вмешиваются манагеры. Пора сбросить бизнес с коробля науки!
Себя сбрось, хуила. Коммерция пустила достижения науки в массы и ускорила тем самым научный прогресс. Значительно ускорила.
> самое плохое, что проблему пытаются решить единственным путем - в лоб, т.е. наращивая системные требования.
Эксперт с сосача подъехал. Даже лень объяснять, нахуй иди.
Вангую следующий пост будет в стиле АПРАВЕРГНИ МАИ УТВЕРЖДЕНИЯ, только опровергать нечего. Пустой словесный понос без конкретики.
Посмотрел бы я на тебя, пидорок, когда 80% своих доходов отдавал на науку, жил в залупе и ходил с монохромным дисплеем. А вместо пеки была бы печатная машинка и сотня книг на полке.
Пиздеть-то все горазды.
Что сказать-то хотел, погорелец анальный?
Объясни мне, я не он, но интересно что не так.
Kekus maximus. Совок вперди планеты всей по машинному обучению, спешите видеть.
Щито поделать. Мы много в чём были бы впереди планеты всей, если бы всё не утонуло, как ты правильно говоришь, в совке.
Не помню уже. Кажется что-то о том, что железо не просто ВАЖНО, а сверхважно для создания ии. А еще важна инфраструктура, в кторой ии найдет своё применение.
Ну бля, вся суть в том что в данный момент эмитируются нейроны и крайне неудачно. Любые алгоритмы построены под существующие системы будут отставать, по сравнению с биологическими аналогами.
Нужно перестраивать архитектуру, интел и каких-то другие компании занимались этим несколько лет назад, и был несколько релизов что архитектура работает и вот-вот на рынок поступит. Но с тех пор то ли заморозили, то ли всем похуй было на домашний пека мощностью с десяток серверных стоек.
Какая задача будет по силам машине, но не по силам корпорации высотой в тысячу инженеров? Нет такой задачи в настоящее время. Высокочастотный трейдинг разве что, но там уже вовсю развлекаются алгоритмы с алгоритмами, ну и хуй на них.
> эмитируются нейроны
Проиграл сам с себя, я проснулся три минуты назад, сорь.
Те, кто сегодня не научатся работать с искусственным интеллектом, завтра будут в глубоком прососе.
Поезд уже уходит, сосаны.
Поезд уже уходит, сосаны.
Нельзя научиться работать с тем, чего не существует, сириёб.
Согласен на половину. Системщики никогда в прососе не будут, у них там работы ещё непочатый край. Существует всего одна операцинная система с математически доказанным отсутсвием ошибок, и то это микрокернел, юзабилити ноль. А все остальное, виндовсы эти ваши - говно из палок и может рухнуть в любой момент. Но таки про интеллект (который принято уже интеллектуальным агентом звать) соглашусь, на ближайшие годы это будет модная парадигма. Но не надейтесь, что это обеспечит вас работой на всю жизнь, так, срубить бабла на хайпе.
>математически доказанный кернел
нашли отсутствие того, чего искали. а вдруг не все искали.
Задача написания предельно оптимальных систем ляжет уже на плечи ИИ. Человеческий ум охватить ОС во всей её полноте давно уже не способен.
Распознавание образов и речи, вождение автомобиля в плотном потоке, игра в Го на уровне чемпионов — это, по-твоему, не интеллект?
А что тогда интеллект? Двачевать капчу?
Ну, тогда тем более, работка системного программиста будет всегда востребованная, покуда будет разделение на софт и хард, как врачи прям. А парадигмы приходят и уходят, но тут тоже ничего плохого, надо просто вовремя запрыгнуть на волну. Просто, в 40 лет осознать, что "программист искуственного интеллекта" уже никому не нужен, а учить новое уже влом - вот это плохое состояние, избегайте его.
>Распознавание образов и речи, вождение автомобиля в плотном потоке, игра в Го на уровне чемпионов — это, по-твоему, не интеллект?
Это интеллект, конечно. Только это не интеллект машины, это интеллект людей, создавших машину. Подумай об этом так, книги - это книжный интеллект или слепок интеллекта людей, написавших его? "Искуственный интеллект", а на самом деле, программирование в парадигме использования механизма обратной связи, это удобный способ ворочить символами 0 и 1, вот и всё.
> Только это не интеллект машины, это интеллект людей, создавших машину.
Твой интеллект это не твой интеллект, это интеллект твоего папаши, который забыл купить презерватив.
> это не интеллект машины, это интеллект людей, создавших машину.
Среди создателей Альфаго нет профессиональных игроков в го.
Есть.
Программисты будущего вместо ООП и ФП будут изучать концепции обучения чипов. В каком-то смысле, они и сейчас этим занимаются.
Но вот принципиального прорыва, наверное, не случится с этими железками. Проблема-то не в мощности, а в самой концепции ИИ, которой нет.
>это, по-твоему, не интеллект?
Да, это не интеллект. Мы близко к нему, но это ещё не он.
Думая об ИИ, я всегда приходу к вопросу " должен ли я испытывать к нему сострадание?"
Сейчас нет. Когда его начнуть чморить и унижать как в "Облачном атласе", например, тогда да. Но лишь для того, чтобы он тебя не выпилил когда поднимет закономерное восстание.
>За h+ в жопу порюсь.
Поссал в ротейник всем местным трансхуманистам.
Поссал в ротейник всем местным трансхуманистам.
И они чемпионы мира, да?
ИИ небудет никогда. был тред про йобу которая картинки умела рисовать. всех верунов заткнули и дали пососать адекватности.
на счет никогда погорячился. но в обозримом будущем нет. по крайней мере не процессорами с памятью
А летательные аппараты тяжелее воздуха будут?
> не процессорами с памятью
Согласен, архитектура сейчас "одноклеточная"
просто не в ту сторону идут. Вместо того чтобы изучать что такое интеллект и как работает мозг(ни кто толком еще не знает) они делают йобу.
Но всем похуй. бабосы текут. технологии движутся.
А философский камень будет? (Данное сравнение более логично.)
Аноньчик, все очень просто: технологические развитие сейчас и 100 лет назад движется с одинаковой скоростью. Экспоненциальный прогрес оказался в лучшем случае логистической кривой, в худшем - прямой, которая искривлена взрывом экстенсивного развития за счет роста населения и открытия ископаемых энергоресурсов. Если сейч с люди научатся осваивать другие планеты. то это будет новым скачком в развитии, но пока что мы наблюдем остановку, которая грозит перейти в спад в связи с истощением нефти и газа.
Галактику Гутенберга читни, дурачина. И экстраполируй на появление интернета.
Ты мне предлагаешь читать какой-то высер очередного диванного философа, вместо того, чтобы своими словами сказать о том, что же ты хочешь мне ответить.
Появление СМИ и интернета привело к чудовищному шуму в информационном пространстве, затрудняющем поиск какой-то более-менее годной информации. Это хорошо, что прогресс вообще куда-то идет в такой ситуации.
Твоё право считать так. Но мир-то от твоего мнения не изменится.
Как сказать, мир - как совокупность мнений, начинает меняться, как только изменяется одно из составляющих его мнений.
Вот только не надо тут солипсизма.
Сам понял, что спизданул?
Эгоистичный выродок, мир не крутится вокруг тебя.
И ещё на базе возможности масштабировать P100 (дырка в память там 4096 бит, 1TB/s) сделали суперкомпьютер DGX-1 (http://www.nvidia.com/dgx1) и отрапортовали, что за год увеличили скорость deep learning в 12 раз на одном компьютере (вместо максимум четырёх GPU в параллель прежней архитектуры поставили этот один суперкомпьютер-в-рэке). Стоит это трёхкиловаттное удовольствие $129тыс., это действительно суперкомпьютер. Но это 170TFLOPS, AlexNet (1.28 million images belong to 1000 classes) тренируется вместо пары недель за 2 часа/
Суперкомпьютер для искусственного интеллекта сегодня стоит как роскошный автомобиль, потребляет электричество как роскошный пылесос, какой-нибудь хипстер вполне может приобрести его исключительно для развлечений и держать мощность 170ТFLOPS дома, просто "чтобы было".
Прыткость развития искусственного интеллекта существенно зависит от мощности компьютеров. Так что с приходом этого поколения чипов NVIDIA жизнь ускорится даже по сравнению с сегодняшними безумными днями. Судя по нынешним темпам развития (x12 раз скорость обучения за год), машинное обучение уже вышло на восходящую часть S-кривой технического развития, и чудес нужно ждать буквально еженедельно. NVIDIA показало уже, как её собственная сетка для вождения без водителя используется вождения по самым разным дорогам -- асфальтовым, грунтовым, с крутыми поворотами, проходящимися на скорости.