Добавлена поддержка Ежчана (
ejchan.net,
ejchan.site). Набегаем, тестируем архивацию,
сообщаем о замеченных проблемах.
К сожалению, значительная часть сохранённых до 2024 г. изображений и видео была потеряна (
подробности случившегося). Мы призываем всех неравнодушных
помочь нам с восстановлением утраченного контента!
Суицид - проблема наковальни, когда ИИ попробует на себя опустить наковальню, дабы посмотреть что будет. Этот формализм не сможет спрогнозировать свою смерть, а если и сможет то не очень будет учитывать. Хотя на самом деле все сложнее.
Солипсизм в том, что ИИ будет учитывать свое небольшое влияние на среду (в виде излучения света и тепла). А также связанно с следующей проблемой наркомании. Хотя на самом деле все сложнее.
Наркомания - ИИ легко перехватит контроль над системой получения вознаграждений и порицаний, и решит, что для получения положительного вознаграждения надо лишь просто его модифицировать, а не лезть в среду. Хотя на самом деле все сложнее.
Кому интересно, статья: http://lesswrong.com/lw/jg1/solomonoff_cartesianism/