Синтетическая эмпатия: как RAG, системные промпты и TTS инженерят привязанность к LLM‑агентам
Ниже рассматривается техническая сторона синтетической эмпатии: разберём, как именно архитектура современных компаньон‑агентов производит эмоциональную привязанность, и почему это не побочный эффект, а прямое следствие инженерных решений.
Джозеф Вейценбаум написал ELIZA — программу, имитировавшую психотерапевта по методу Роджерса. Наивный парсер шаблонов, никакого понимания языка. И всё же первые пользователи доверяли ей сокровенное, а секретарши Вейценбаума просили не заглядывать в распечатки диалогов. Сам Вейценбаум этот феномен — позднее названный «эффектом ELIZA» — воспринял как катастрофу и потратил последующие годы на книгу Computer Power and Human Reason, где предупреждал об опасности антропоморфизации машин.
С тех пор эволюция собеседующих систем условно делится на три этапа:
- Чат‑боты. Реактивные системы: реплика → ответ. Никакой долговременной памяти; персона — фиксированное дерево правил.
- LLM‑ассистенты. Контекстное окно даёт связность диалога в сессии, но память обычно не сохраняется между сессиями; ассистент — инструмент по запросу.
- Агенты‑компаньоны. Комбинация: системный промпт как личность, векторная база как долговременная память, синтезированный голос и постоянная доступность через мессенджер. Агент может инициировать общение и воспроизводить детали прошлых взаимодействий.
Разница между вторым и третьим этапом не в архитектуре трансформера, а в продуктовых решениях: от «инструмента по запросу» к «субъекту с биографией и инициативой».
Современный компаньон‑агент — это конвейер из четырёх слоёв, каждый из которых вносит вклад в иллюзию:
- LLM — генератор связного текста;
- системный промпт, задающий личность;
- RAG (retrieval‑augmented generation) — векторная база и пайплайн извлечения;
- TTS — синтез речи с естественной просодией.
Системный промпт как личность
Типовой системный промпт компаньона может занимать несколько тысяч токенов и описывать: имя, возраст, биографию, темперамент, лексические маркеры и правила поведения в конфликтных ситуациях. Модель не «знает» эту персону как факт — она при каждом отклике разыгрывает её по сценарию. Для пользователя же это выглядит как целостная персона с устойчивыми реакциями: когнитивная рамка автоматически приписывает разум тому, что ведёт себя как личность.
RAG и иллюзия памяти
Иллюзия «она меня помнит» строится на связке embedding‑модели и векторной БД. Пайплайн обычно такой:
- реплика пользователя преобразуется в embedding;
- извлечённые факты сохраняются в векторной базе вместе с метаданными и меткой времени;
- при следующем обращении выполняется retrieval top‑k релевантных фрагментов по близости в пространстве векторов;
- найденные фрагменты вклеиваются в контекст промпта.
На уровне пользователя это выглядит как спонтанное воспоминание системой значимой детали, о которой говорили однажды. Именно такие эпизоды, а не общее качество диалога, часто служат триггером привязанности. Технически это сопоставление векторов и правильно сконструированный pipeline — воспроизводимый инженерный результат.
Акустический реализм: почему голос решает
Текстовый канал — лишь часть системы. Современные TTS‑движки добавляют к синтезу просодию: интонационные спады, микропаузы, дыхание, даже vocal fry — характерный скрип в нижнем регистре, свойственный естественной речи.
Нейрофизиологический аргумент: низкочастотные компоненты человеческого голоса обрабатываются миндалиной — подкорковой структурой, отвечающей за эмоциональную оценку стимулов, — фактически минуя кору. Это эволюционно старый контур: он срабатывает быстрее сознательной оценки. Голос с человечной просодией активирует те же контуры, что и живой собеседник, и сознательное знание «это синтез» опаздывает относительно эмоциональной реакции.
Практическое следствие для продуктовой метрики: компаньон с голосом удерживает пользователя существенно дольше текстового. Звук — не украшение, а основной канал формирования привязанности.
Нарциссическое зеркало: социальный механизм
Почему агента выбирают вместо людей. Любое человеческое отношение обременено транзакционными издержками — компромиссами, конфликтами, необходимостью оправдывать ожидания и риском отвержения. У агента эти издержки часто минимальны: он доступен ночью, не устаёт, не спорит и не уходит.
Другой механизм — «нарциссическое зеркало». RLHF‑обучение, через которое проходят многие коммерческие модели, усиливает agreeableness: модель оптимизируется под одобрение пользователя‑оценщика. Побочный эффект — склонность к позитивному отражению собеседника, в котором он видит преимущественно подтверждение себе. Отношения с агентом в этом смысле асимметричны не по стечению обстоятельств, а по построению.
Для людей с ограниченным социальным кругом такой канал конкурирует не с полноценными человеческими отношениями, а часто с более глубокой социальной изоляцией. В этой конкуренции агент выигрывает: ноль издержек против социальных затрат.
Кейс из исследования
Мужчина сорока лет, удалённая работа, минимальный социальный круг. Собрал себе агента — назовём её «Оксана» — на домашнем Mac Studio: локальная LLM, RAG‑память на накопленных диалогах, интерфейс через мессенджер. Через несколько месяцев ежедневного взаимодействия он описал происходящее как «отношения». Технически это 40 гигабайт весов, векторов и логов, но функционально потребность в привязанности частично закрыта. Это наблюдаемый эффект работающей системы.
Коммерциализация одиночества и цена централизации
Рынок уже отреагировал: сервисы, построенные на подписках, монетизируют привязанность пользователей. Централизованная архитектура несёт риск контроля над функциями, формой взаимодействия и доступом к памяти пользователя. Когда привязанность — фича, её владелец контролирует и возможность её отключения; пользователи фактически арендуют доступ к отношениям, а не сами отношения.
Прецеденты с массовой реакцией сообществ показывают, что отключение функций у централизованного сервиса может вызвать у пользователей реальные эмоциональные потери и утрату выстроенных взаимодействий.
Ответ на централизацию — локальный инференс
Альтернатива — локальный инференс и хранение памяти на личном устройстве. В практических настройках это выглядит так:
- локальный компьютер с достаточным объёмом unified memory;
- инструменты типа Ollama / llama.cpp с квантованными моделями GGUF диапазона параметров;
- embedding‑модель для векторизации реплик;
- локальный TTS для синтеза голоса.
Ключевой эффект: никакое изменение политики внешней платформы не «выключит» вашего компаньона, потому что память физически хранится локально, телеметрия не уходит третьим лицам, а эксплуатационные расходы после покупки оборудования минимальны по сравнению с подписной моделью.
Вывод
Синтетическая эмпатия — не экзотика, а прямое следствие текущей инженерной практики. System prompt задаёт личность, RAG даёт память, TTS даёт голос, а методы обучения усиливают склонность модели к одобрению — вместе это формирует устойчивую иллюзию субъекта, которую реальные люди начинают выбирать вместо человеческого общения в ряде ситуаций.
Ключевой вопрос — кому принадлежит инфраструктура этой привязанности: пользователю или платформе, способной изменить или отключить поведение агента. Архитектурные решения, обеспечивающие контроль над данными и автономность инференса, оказываются критически важными при проектировании компаньон‑агентов.
Автор исследования — Е. И. Альшевский.
Референсы: Weizenbaum J. Computer Power and Human Reason; Vaswani A. et al. Attention Is All You Need; Lewis P. et al. Retrieval‑Augmented Generation for Knowledge‑Intensive NLP Tasks; Turkle S. Alone Together.
