На страницах Nature вышел концептуальный обзор, настаивающий на пересмотре подхода к пониманию больших языковых моделей. Авторы фиксируют переломный момент: LLM перестали быть сугубо исследовательской архитектурой и превратились в продукт, которым одновременно пользуются миллиарды людей. В таком режиме поведенческая надстройка полностью заслоняет инженерную начинку, а пользователи и разработчики всё чаще проецируют на системы человеческую интенциональность. Именно эту проекцию учёные предлагают сознательно отделить от реального машинного познания.
Когда количество параметров уходит за триллион, а маршрут вычислений дробится спекулятивным декодированием и квантованием, восстановить причину конкретного ответа на уровне «нейронных связей» практически невозможно. Модель превращается в герметичный чёрный ящик, доступный только через вход и выход. Здесь, по мнению исследователей, уместна аналогия с когнитивной психологией: LLM рассматривается как агент, чьё поведение описывается корреляциями между запросом и генерацией, продиктованными ролью, системным промптом и контекстом. Это удобно для отладки бенчмарков и UI, но порождает «когнитивные фантомы» — иллюзию, будто модель обладает устойчивой личностью, моралью или волей.
Между тем все эти качества — артефакт обучения на триллионах человеческих текстов и тонкой настройки, а не результат осознанного выбора. Обзор подчёркивает: когда миллиард пользователей ежедневно ожидает разумного собеседника, любые огрехи авторегрессионной выдачи считываются как эмоции или умысел. Исследователи призывают не смешивать эти проекции с подлинной когнитивной способностью и строить дизайн AI-систем, исходя из модели вероятностного респондента, а не симулированной личности. Такой взгляд особенно важен, пока системы тренируют методами вроде RLHF, где обратная связь человека усиливает иллюзию субъектности. Источник: публикация в журнале Nature Human Behaviour.