Добавлена поддержка
ЭЧ/Ech (ex-Escapechan) и Ежчана (
ejchan.net,
ejchan.site). Набегаем, тестируем архивацию,
сообщаем о замеченных проблемах.
К сожалению, значительная часть сохранённых до 2024 г. изображений и видео была потеряна (
подробности случившегося). Мы призываем всех неравнодушных
помочь нам с восстановлением утраченного контента!
При этом огромное количество людей продолжает утверждать:
>LLM — просто автодополнение, которое угадывает следующее слово. Никакого интеллекта там нет.
И самое интересное, что этот аргумент технически небеспочвенен, но вывод из него совершенно неправильный.
Предсказание следующего токена — механизм генерации, а не исчерпывающее описание интеллектуальных возможностей системы.
Это примерно как объяснять человеческое мышление электрохимическими сигналами нейронов и на этом основании отрицать способность человека рассуждать.
Описание элементарных операций ничего не говорит о сложности процессов, которые из них складываются.
ЧТО ИЗМЕНИЛОСЬ С ПОЯВЛЕНИЕМ REASONING-МОДЕЛЕЙ?
Ещё ранние LLM демонстрировали отдельные способности к логическому выводу. Но развитие обучения с подкреплением, увеличение вычислений во время ответа и специальные методы обучения рассуждениям существенно изменили ситуацию.
Современная модель способна разбивать задачу на этапы, проверять промежуточные выводы, обнаруживать противоречия, корректировать решение и выбирать альтернативные стратегии.
Да, технически это всё ещё генерация последовательности токенов. Но эта последовательность может реализовывать полноценную вычислительную процедуру.
Если система получает новую задачу, устанавливает закономерности, применяет знания и самостоятельно находит решение, то на каком основании происходящее следует считать исключительно имитацией интеллекта?
ПОЧЕМУ ЛЮДИ ЭТОГО НЕ ЗАМЕЧАЮТ?
1. Инерция представлений.
Многие попробовали GPT-3.5 в 2023 году, увидели галлюцинации и уверенную чушь, после чего сформировали представление обо всей технологии. За три года модели существенно изменились, а представление осталось прежним.
2. Отсутствие опыта.
Если использовать нейросеть исключительно для поздравлений, рецептов и пересказов, можно вообще не столкнуться с её наиболее интересными возможностями.
Между использованием ChatGPT в качестве поисковика и постановкой сложных задач reasoning-модели существует огромная разница.
3. Психологическая защита.
Для части людей признание возможностей ИИ означает необходимость пересмотреть представления о собственной интеллектуальной или профессиональной исключительности.
Довольно неприятно узнать, что работу, которой ты занимался двадцать лет, машина теперь способна частично выполнять за минуты.
Объявить её тупым генератором текста психологически гораздо комфортнее.
4. Смешение интеллекта и сознания.
Люди привыкли связывать интеллект с личностью, эмоциями, биографией, собственными желаниями и субъективными переживаниями.
Но логически наличие интеллекта не обязательно требует всего перечисленного.
Способность решать задачи и наличие субъективного опыта — разные вопросы.
НО ВЕДЬ НЕЙРОСЕТИ ОШИБАЮТСЯ!
Конечно, ошибаются. Иногда даже совершенно идиотским образом.
Они галлюцинируют, теряют контекст, не всегда способны довести многоэтапную работу до конца, а результаты могут зависеть от формулировки запроса.
Но когда интеллект стал синонимом безошибочности?
Человек тоже может решить сложную математическую задачу, а через минуту допустить нелепую ошибку в элементарном рассуждении.
Из ошибки следует наличие ограничений, а не отсутствие интеллектуальных способностей.
Вопрос не в том, ошибается ли система, а в том, какие задачи она способна решать, насколько хорошо обобщает знания и может ли использовать их в новых условиях.
ГЛАВНАЯ ПРОБЛЕМА ГОРАЗДО ИНТЕРЕСНЕЕ.
Практически всю свою историю человечество наблюдало развитый интеллект преимущественно у биологических существ.
В результате в обыденном представлении разум, сознание, личность, мышление и субъективный опыт слились в одно понятие.
LLM заставляют эти понятия разделять.
Машина может не иметь человеческой личности, биографии или собственных желаний и при этом выполнять сложные рассуждения, строить абстракции и решать новые задачи.
Это не доказывает, что у нейросетей есть сознание. И не означает, что они обладают всеми возможностями человеческого интеллекта.
Однако если определить интеллект функционально — как способность выявлять закономерности, обобщать информацию, рассуждать, адаптироваться и решать новые задачи, — то современные LLM вполне обоснованно можно считать интеллектуальными системами.
И ВОТ ВОПРОС К АНОНАМ.
Если система уже способна выполнять