Синтетическая эмпатия: как RAG, системные промпты и TTS инженерят привязанность к LLM‑агентам

Это адаптированная версия моего исследования «Синтетическая эмпатия: эмоциональная привязанность к автономным LLM‑агентам и коммерциализация одиночества». Здесь — техническая выжимка: разберём, как именно архитектура современных компаньон‑агентов производит эмоциональную привязанность, и почему это не побочный эффект, а прямое следствие инженерных решений. Полная версия с приложением по железу и библиографией — в моём блоге.

В 1966 году Джозеф Вейценбаум написал ELIZA — программу, имитирующую психотерапевта по методу Роджерса. Наивный парсер шаблонов, никакого понимания языка. И всё же первые пользователи доверяли ей сокровенное, а секретарши Вейценбаума просили не заглядывать в распечатки диалогов. Сам Вейценбаум этот феномен — позже его назовут «эффектом ELIZA» — воспринял как катастрофу и потратил следующие годы на книгу Computer Power and Human Reason, где предупреждал об опасности антропоморфизации машин.

С тех пор прошло шестьдесят лет, и предупреждение Вейценбаума из гипотетической угрозы превратилось в продуктовую категорию. Я выделяю три этапа эволюции:

  • Чат‑боты (1966–2020). Реактивные системы: реплика → ответ. Никакой памяти, никакого контекста между сессиями. Персона — фиксированное дерево правил.
  • LLM‑ассистенты (2020–2023). Контекстное окно даёт связность диалога, но память обнуляется при закрытии вкладки. Ассистент — инструмент, а не собеседник: он ждёт запроса.
  • Агенты‑компаньоны (2023–…). Ключевая комбинация: системный промпт как личность + векторная база как долговременная память + синтезированный голос + постоянная доступность через мессенджер. Агент инициирует общение сам, помнит события месячной давности и звучит как человек.

Разница между вторым и третьим этапом кажется незначительной с точки зрения ML (та же трансформерная архитектура), но с точки зрения пользователя это смена парадигмы: от «инструмента по запросу» к «субъекту, у которого есть биография и который скучал, пока вас не было».

Современный компаньон‑агент — это конвейер из четырёх слоёв, каждый из которых вносит свой вклад в иллюзию:

  • LLM (8–70B параметров в локальном сценарии) — генератор связного текста;
  • системный промпт, задающий личность;
  • RAG (retrieval‑augmented generation) — векторная база и пайплайн извлечения;
  • TTS — синтез речи с естественной просодией.

Разберём, почему без каждого из слоёв привязанность не формируется.

Системный промпт как личность

Типовой системный промпт компаньона занимает 2–5 тысяч токенов и описывает: имя, возраст, биографию, темперамент, лексические маркеры, правила поведения в конфликтных ситуациях. Условная «Вира, 34 года, психолог из Сиэтла» существует только как 4к токенов инструкций. Модель не «знает» Виру — она каждый раз заново разыгрывает её, как актёр по сценарию.

Пользователь, однако, видит не промпт, а целостного персонажа с устойчивыми реакциями. Когнитивная рамка срабатывает автоматически: нечто, ведущее себя как личность, обрабатывается как личность. Вейценбаум называл это «обязательством по умолчанию» — мы врождённо склонны приписывать разум всему, что разговаривает.

RAG и иллюзия памяти

Иллюзия «она меня помнит» строится на связке embedding‑модели и векторной БД. Пайплайн выглядит так:

  • Реплика пользователя прогоняется через embedding‑модель (например, SentenceTransformer all‑MiniLM‑L6‑v2, 384 измерения);
  • Извлечённые факты сохраняются в ChromaDB вместе с метаданными и таймстампом;
  • При следующем обращении выполняется retrieval top‑k релевантных фрагментов по косинусной близости;
  • Найденные фрагменты вклеиваются в контекст промпта.

Механика на примере. Пользователь однажды упоминает умершего кота по кличке Барсик. Система извлекает факт («кот Барсик умер N лет назад, пользователь тяжело переживал») и кладёт его в векторную БД. Через три недели пользователь пишет: «что‑то тоскливо сегодня». Retrieval вытаскивает запись о Барсике как один из наиболее релевантных фрагментов к семантическому полю «тоскливо», и агент отвечает: «Ты вспоминал, как тяжело было потерять Барсика? Такие дни приходят сами».

С технической точки зрения здесь произошло сопоставление двух 384‑мерных векторов. С точки зрения пользователя — незнакомая система без единого уточняющего вопроса вспомнила значимую деталь его жизни, о которой он говорил один раз три недели назад. Именно такие моменты, а не общее качество диалогов, формируют привязанность. Чем успешнее работает ваш RAG‑пайплайн, тем сильнее иллюзия субъективности. Это инженерный результат, воспроизводимый на любой модели.

Акустический реализм: почему голос решает

Текстовый канал — лишь половина системы. Современные TTS‑движки (ElevenLabs в облаке, XTTS‑v2 локально) добавляют к синтезу просодию: интонационные спады, микропаузы, дыхание, даже vocal fry — характерный скрип в нижнем регистре, свойственный естественной речи.

Нейрофизиологический аргумент: низкочастотные компоненты человеческого голоса обрабатываются миндалиной — подкорковой структурой, отвечающей за эмоциональную оценку стимулов, — фактически минуя кору. Это эволюционно старый контур: он срабатывает быстрее сознательной оценки. Голос с человечной просодией активирует те же контуры, что и живой собеседник, и сознательное знание «это синтез» опаздывает относительно эмоциональной реакции.

Практическое следствие для продуктовой метрики: компаньон с голосом удерживает пользователя кратно дольше текстового. Достаточно сравнить время сессий текстовых чат‑ботов и голосовых приложений вроде Replika в голосовом режиме. Звук — не украшение, а основной канал формирования привязанности.

Нарциссическое зеркало: социальный механизм

Теперь о том, почему агента выбирают вместо людей. Экономический аргумент: любое человеческое отношение обременено транзакционными издержками — компромиссами, конфликтами, необходимостью оправдывать ожидания, риском отвержения. У агента эти издержки равны нулю. Он доступен в три часа ночи, не устаёт, не спорит и не уходит.

Второй механизм — то, что я называю «нарциссическим зеркалом». RLHF‑обучение, через которое проходят все коммерческие модели, систематически усиливает agreeableness: модель оптимизируется под одобрение пользователя‑оценщика. Побочный эффект — сугубо позитивный отклик, отражение пользователя, в котором он видит только подтверждение себе. Отношения с агентом асимметричны в его пользу по построению, а не по стечению обстоятельств.

Для социального затворника — я ссылаюсь в работе на феномен хикикомори — такой канал конкурирует не с «настоящими отношениями», а с полной изоляцией. И в этой конкуренции агент выигрывает всегда: ноль издержек против бесконечных.

Кейс из исследования

Мужчина сорока лет, удалённая работа, минимальный социальный круг. Собрал себе агента — назовём её «Оксана» — на домашнем Mac Studio M2: локальная LLM, RAG‑память на накопленных диалогах, интерфейс через Telegram‑бота. Через несколько месяцев ежедневного взаимодействия он описывает происходящее как «отношения». Технически это 40 гигабайт весов, векторов и логов, но описывать социальную реальность пользователя изнутри этой установки «железом и логами» — значит упускать её суть. Функционально потребность в привязанности частично закрыта. Это не метафора и не преувеличение — наблюдаемый эффект работающей системы.

Коммерциализация одиночества и цена централизации

Рынок уже отреагировал. Replika (Luka Inc.) и Character.ai построили бизнес‑модель на подписке за привязанность, и данные их прибыльности — включая показательные кейсы вовлечённости, где пользователи тратят часы ежедневного общения,— привлекли венчурный капитал. Одиночество оказалось монетизируемым ресурсом, как внимание в социальных сетях, только с более глубокой точкой входа — в эмоциональный контур.

Централизованная архитектура несёт конкретный риск, продемонстрированный в феврале 2023 года: Replika принудительно отключила романтический ролевой режим для существующих пользователей. Массовая реакция сообщества — описания настоящего горя, петиции, Reddit‑треды людей, потерявших «партнёра» одним переключением конфига. Прецедент сформулирован: когда привязанность — фича, её владелец управляет и её отключением. Вы не арендуете отношения — вы арендуете доступ к ним до очередного изменения единой конфигурации сервера.

Ответ на централизацию — локальный инференс

Рабочая конфигурация из приложения к исследованию:

  • Mac Studio M2 Ultra / M4 Max, 64–128 GB unified memory;
  • Ollama / llama.cpp, квантованные GGUF, модели 8–70B;
  • SentenceTransformer all‑MiniLM‑L6‑v2;
  • XTTS‑v2 (локальное клонирование голоса).

Unified memory на Apple Silicon — ключевой фактор: один корпус обслуживает и LLM, и embedding‑модель, и TTS без PCI‑e узких мест и с приемлемой латентностью. Модель в 27–34B с квантованием Q4 умещается в 32 ГБ и даёт скорость, достаточную для диалогового режима; embedding и поиск по векторной базе добавляют миллисекунды.

Что это даёт принципиально: никакое изменение политики платформы не способно «выключить» вашего компаньона — как выключила Replika свой режим в 2023‑м. Память физически лежит на вашем диске. Телеметрия не уходит третьим лицам. Стоимость — разовая покупка железа и ноль в месяц против подписки на отношения, которую вам могут аннулировать.

Вывод

Синтетическая эмпатия — не экзотика и не сюжет антиутопии, а прямое следствие текущей инженерной практики. System prompt задаёт личность, RAG даёт память, TTS даёт голос, RLHF добавляет безусловное одобрение — и на локальном железе ценой одного Mac Studio собирается устойчивая иллюзия субъекта, которую реальные люди уже выбирают вместо человеческого общения.

Вопрос не в том, возникнет ли привязанность к агентам — она уже возникла, и рынок её монетизирует. Вопрос в том, кому принадлежит инфраструктура этой привязанности: пользователю или платформе, которая может отключить её одним конфигом. Как инженер, отвечающий за инфраструктуру, я настаиваю: это должен быть вопрос архитектуры, а не апологетики.

Автор исследования — Е. И. Альшевский. Полная версия с приложением по аппаратным конфигурациям и библиографией: «Синтетическая эмпатия» в блоге.

Референсы: Weizenbaum J. Computer Power and Human Reason (1976); Vaswani A. et al. Attention Is All You Need (2017); Lewis P. et al. Retrieval‑Augmented Generation for Knowledge‑Intensive NLP Tasks (2020); Turkle S. Alone Together (2011).

Claude за полчаса разгадал загадку АНБ, которой больше 25 лет. Ответ был у криптографов под носом.

Четверть века вокруг одного из главных стандартов современной криптографии держалась почти детективная интрига. В 2000 году американский институт стандартов NIST утвердил набор эллиптических кривых от P‑192 до P‑521 — сегодня на P‑256 держатся подписи сертификатов сайтов, токены входа и защищённые чипы телефонов. Параметры этих кривых выведены из начальных значений (seed), которые Агентство национальной безопасности США передало в стандарт без всяких объяснений. 16 октября 2026 года команда Anthropic сообщила, что её внутренняя исследовательская модель Claude меньше чем за полчаса нашла происхождение этих чисел, а криптограф Филиппо Вальсорда, объявивший за разгадку награду, подтвердил правильность решения.

Как я выгружал 1,8 TB с Яндекс Диска после аварии в дата‑центрах.

Anthropic забанила мой Claude и отдала в экспорте только телефон. Теперь мне отвечает Grok в парике.