24 декабря 2023 г. Архивач восстановлен после серьёзной аварии. К сожалению, значительная часть сохранённых изображений и видео была потеряна.
Подробности случившегося. Мы призываем всех неравнодушных
помочь нам с восстановлением утраченного контента!
Ник Бостром - шведский философ, профессор Оксфордского университета. Известен своими работами об антропном принципе и о рисках, связанных со сверхразумным искусственным интеллектом.
Гомосапиенсам готовиться на выход!
ИИ системы уже сейчас выполняют сложные задачи лучше людей, но при этом не обладают самосознанием и человеческим интеллектом. Возможно, он им и не нужен. Самосознание и внутренние переживания могут вовсе не быть обязательным условием высокого интеллекта - скорее это просто побочный продукт работы нервной системы некоторых животных включая человека: случайный элемент конкретной реализации когнитивный системы, без которого решать многие когнитивные задачи было бы даже проще.
В эволюционной биологии самая популярная теория происхождения человеческого интеллекта "Макиавеллианский интеллект" - это такой тип интеллекта, который связан со способностью эффективно манипулировать другими людьми, понимать их мотивы и использовать социальные ситуации в собственных интересах ,- по этой теории главным двигателем эволюции человеческого интеллекта была борьба друг с другом в социальном контексте, именно для этого у нас появилось самосознание. В контекстах других когнитивных задач мы с нашим самосознанием оказываемся как рыба с её плавниками на суше.
Мы до сих пор хотим верить: мы - самые умные. Но мы уже близки к ситуации, когда это не так. Самый наглядный пример - шахматы. С 1998 года люди проигрывают машинам. Известная драма с Каспаровым подробно описана им самим в книгах: он глубоко переживал и размышлял о том, что значит поражение профессионального шахматиста от искусственного интеллекта.
Многие говорят: "Шахматы - простая игра" - это игра с полной информацией, где все позиции можно рассчитать. Но в этом то и проблема, что эта "простая игра" находится на пределе человеческих когнитивных способностей. Для нас это очень тяжело. Игрок-любитель всегда проиграет профессионалу. А профессионал почти всегда проиграет компьютеру. Лишь изредка удаётся свести партию в ничью, если повезёт. Наш тип интеллекта очень плохо приспособлен для решения таких задач. Компьютер ничего не осознаёт, но переиграть его в шахматы уже невозможно - на межпланетных соревнованиях Землю будет представлять не гомо сапиенс, а ИИ AlphaZero.
Но это старые новости, прямо сейчас на наших глазах происходит другая драма, на этот раз в сфере образования. Последняя версия ChatGPT заранее сильнее любого профессора и студента, в том, что касается сбора, анализа и обзора информации. В Оксфорде, где я работаю, это уже привело к отказу от многовековой практики рефератов - их всё равно все пишет ChatGPT, студент выполняет только редакционную работу, а единственным способом как это можно распознать становится наблюдение: как же чертовски хорошо написано, в мои студенческие годы мы так хорошо не писали. Таким образом и на межпланетный конкурс рефератов от Земли поедет не гомо сапиенс, а ChatGPT. И нет причин почему в ближайшее время этого не станет верным про все другие когнитивные задачи.
Мнение? Всё, пиздец?