Добавлена поддержка Ежчана (ejchan.net, ejchan.site). Набегаем, тестируем архивацию, сообщаем о замеченных проблемах.
К сожалению, значительная часть сохранённых до 2024 г. изображений и видео была потеряна (подробности случившегося). Мы призываем всех неравнодушных помочь нам с восстановлением утраченного контента!
Сортировка: за
Сохранен
539
2026-01-18 11:11:52
Сохранен
539
2024-09-12 12:05:00
Сохранен
539
2024-04-06 14:18:49
Сохранен
539
2024-02-27 09:08:48
Сохранен
539
2023-10-25 19:31:50
Сохранен
539
2023-03-15 09:34:45
Сохранен
538
Эксперт по ИИ безопасности сообщает, что мир движется к катастрофе. Вымирание человечества в течении — Эксперт по ИИ безопасности сообщает, что мир движется к катастрофе. Вымирание человечества в течении нескольких лет неизбежно. Тред второй Исследователь в области оценки безопасности искусственного интеллекта, основатель компании METR, ранее в DeepMind и OpenAI: Elizabeth Barnes @BethMayBarnes · 3 ч Иногда люди вне этой сферы говорят такие вещи, как: «Ситуация с ИИ не может быть настолько плохой, наверняка есть эксперты, которые держат её под контролем». Как «эксперт», я хочу прояснить, что мы не держим её под контролем. Некоторые ключевые аспекты ситуации, на мой взгляд: (1) Мы, вероятно, движемся по пути разработки систем ИИ, способных вызвать вымирание человечества или его окончательное лишение контроля, вполне возможно, в течение следующих нескольких лет. (2) Всё происходит хаотично и в спешке; мы не контролируем даже основы (модели регулярно нарушают намерения пользователя, лаборатории обучают модели на том, чего хотели бы избежать, безопасность, вероятно, недостаточно хороша, чтобы помешать противникам украсть опасные модели), не говоря уже о сложных вопросах о том, как... (3) METR (и другие независимые организации, а также команды по безопасности в лабораториях) ощущают катастрофическую нехватку ресурсов по сравнению с масштабом и темпами развития ИИ — мы изо всех сил пытаемся создавать бенчмарки достаточно быстро, успевать за последними достижениями в области возможностей, читать и отвечать на все... (4) На мой взгляд, любая «разумная» цивилизация явно подходила бы к вопросам ИИ гораздо медленнее и осторожнее. Преимущества получения выгод от продвинутого ИИ немного быстрее ничтожны по сравнению с рисками совершить непоправимую ошибку, и мы могли бы снизить эти риски, двигаясь медленнее. Кроме того: многие аспекты выходят за рамки нашего исследования! Во-первых, мы рассматриваем только риски «захвата власти ИИ» / «потери контроля»: мы не учитываем риски, связанные с неправомерным использованием со стороны человека (например, помощь ИИ террористу в создании биологического оружия), или другие виды вреда, при которых ИИ не стремится «намеренно» захватить власть (например, воздействие на психическое здоровье или размытые социальные последствия). В рамках рисков «потери контроля» мы не рассматриваем модели угроз «саботажа» (агенты, подрывающие развитие ИИ и облегчающие будущим ИИ уход от человеческого контроля). Мы сосредоточены только на «базовом сценарии» — смогут ли нынешние агенты выйти из-под контроля человека. P.S. Ну вот мы и дошли до того самого великого фильтра, из-за которого 99.9999% разумных организмов не выходят на межзвездный уровень.
2026-05-25 08:48:46
Сохранен
538
2026-04-01 03:31:21
Сохранен
538
2025-08-07 21:12:10
Сохранен
538
2023-04-10 02:08:06
Сохранен
538
2022-11-29 20:22:04
Сохранен
538
2022-11-20 07:09:02
Сохранен
538
2022-10-16 15:07:23
Сохранен
538
2022-10-08 17:01:51
Сохранен
538
2022-09-30 02:38:59
Сохранен
538
2022-09-14 15:48:45
Сохранен
538
2022-08-28 16:42:30
Сохранен
538
2020-12-12 10:07:59
Сохранен
538
2021-03-05 22:03:15
Сохранен
538
2020-05-27 21:59:46
Сохранен
538
2019-12-16 20:46:32
Сохранен
537
2022-10-01 20:15:37
Сохранен
537
2020-12-11 12:18:48
Сохранен
537
2019-05-16 16:22:05
Сохранен
537
2018-02-27 08:22:29