Добавлена поддержка Ежчана (ejchan.net, ejchan.site). Набегаем, тестируем архивацию, сообщаем о замеченных проблемах.
К сожалению, значительная часть сохранённых до 2024 г. изображений и видео была потеряна (подробности случившегося). Мы призываем всех неравнодушных помочь нам с восстановлением утраченного контента!
Сортировка: за
Сохранен
376
2023-08-07 14:25:15
Сохранен
265
2022-12-13 23:37:09
Сохранен
513
2022-12-08 14:39:02
Сохранен
551
2022-11-29 00:58:20
Сохранен
511
2022-11-21 22:27:07
Сохранен
565
2022-11-20 21:38:37
Сохранен
512
2022-11-13 03:39:35
Сохранен
37
2026-04-29 10:01:39
Сохранен
72
2023-04-04 22:23:48
Сохранен
509
2023-03-23 15:20:32
Сохранен
532
2022-10-11 03:23:11
Сохранен
141
2020-05-29 09:34:46
Сохранен
123
2023-11-17 10:52:39
Сохранен
502
2022-12-21 16:09:44
Сохранен
546
2022-12-17 23:43:15
Сохранен
503
2022-12-10 11:02:08
Сохранен
514
2022-11-08 19:25:32
Сохранен
522
2022-10-16 21:05:35
Сохранен
534
2020-07-09 12:15:09
Сохранен
97
Главный прорыв десятилетия! — Пару дней назад учёные из MIT представили революционную архитектуру глубокого обучения KAN, которая произвела фурор среди исследователей, став настоящей сенсацией. Говорят, что возможно это самый грандиозный прорыв в ИИ за последние 50 лет. Многие его окрестили, как Deep Learning 2.0 В основе всех архитектур, к которым мы привыкли, лежит многослойный перцептрон (MLP). У него есть веса и нейроны, в которых расположены функции активации. Этой парадигмой ученые пользуются с 1957 года, когда ее предложил Фрэнк Розенблатт. А что, если мы переместим функции активации на веса и сделаем из обучаемыми? Звучит как бред, но yes, we KAN. KAN (Kolmogorov-Arnold Networks) - новая парадигма, в которой исследователи реализовали перемещение активаций на «ребра» сети. Кажется, что решение взято из ниоткуда, но на самом деле тут зашита глубокая связь с математикой: в частности, с теоремами универсальной аппроксимации и аппроксимации Колмогорова-Арнольда. KAN работает намного точнее, чем MLP гораздо большего размера, и к тому же лучше интерпретируется. Авторы KAN доказали, что ему требуется во много раз меньше нейронов, чтобы достичь точности MLP. Также KAN гораздо лучше генерализует данные и лучше справляется с аппроксимацией сложных математических функций (мы увидели это на примерах), у него, можно сказать, "технический склад ума". В статье исследователи также показали, как KAN помогает решать дифференциальные уравнения и (пере)открывает законы физики и математики. Единственный минус: из-за обучаемых активаций тренится все это дело в разы дольше, чем MLP. Но это не точно, так как исследователи пока даже не пытались провести оптимизацию скорости обучения. Возможно сегодня мы наблюдаем рождение Deep Learning 2.0. Ведь такой подход меняет вообще все, от LSTM до трансформеров. Эпоха AGI теперь становится куда ближе. Тут подробнее простыми словами: https://datasecrets.ru/articles/9 Ссылка на препринт: https://arxiv.org/abs/2404.19756 Код тут: https://github.com/KindXiaoming/pykan
2025-01-17 22:52:20
Сохранен
502
2022-12-22 08:46:12
Сохранен
505
2022-12-03 19:58:17
Сохранен
629
2022-12-03 14:38:58
Сохранен
516
2022-11-21 15:49:29
Сохранен
389
2021-01-12 22:15:05