ИИ с памятью: что это значит на практике

За последние полтора года память объявили почти все: она есть у ChatGPT, у Claude, у GigaChat. Формулировки похожие, поэтому со стороны кажется, что вопрос закрыт. На практике под одним словом скрыты две разные вещи, и разница видна не сразу, а через несколько недель использования.

Память как справка о вас

Так устроено большинство решений. Ассистент по ходу разговора выделяет из ваших сообщений то, что считает важным, и складывает это отдельным списком: чем вы занимаетесь, как предпочитаете отвечать, что упоминали чаще всего. Дальше этот список подмешивается в начало каждого нового разговора.

Такой список приходится держать коротким. Он подставляется в каждый запрос, а значит его длина умножается на количество обращений и превращается в счёт за вычисления. Отсюда естественное следствие: список ограничен по объёму, и когда он заполняется, старое из него вытесняется новым. Обычно молча.

Получается досье, а не память. Оно неплохо отвечает на вопрос «кто этот человек» и почти бесполезно для вопроса «что мы с ним решили в марте и почему».

Память как сохранённый разговор

Второй подход исходит из того, что ценность лежит не в выжимке, а в самом разговоре. Тогда история не сжимается до профиля, а остаётся целиком, и ассистент умеет в неё возвращаться: находить нужный кусок по смыслу, по словам или по дате, и отвечать уже по нему.

Разница проявляется в конкретных ситуациях. Вы обсуждали расчёт полгода назад и с тех пор к нему не возвращались. В первом варианте этот расчёт до сегодняшнего дня не дожил: он не тянет на черту характера, а значит в справку не попал. Во втором варианте он лежит там же, где вы его оставили, и поднимается по одной фразе.

Как проверить, что у вас за память

Проверка занимает минуту и не требует ничего, кроме терпения. Найдите в своей переписке с ассистентом что-нибудь конкретное и незначительное, сказанное хотя бы месяц назад: сумму, дату, имя, договорённость. Спросите об этом сейчас, не подсказывая контекста.

• Ответил по существу и сослался на тот разговор, значит история доступна ему целиком.
• Ответил общими словами или начал уточнять, значит от того разговора осталась только выжимка, а деталь из неё выпала.
• Придумал правдоподобную деталь, которой не было, значит памяти нет вовсе, и он достраивает ответ по смыслу вопроса.

Почему это вопрос не мелочи

Пока разговор укладывается в одну сессию, разницы не видно, и любой ассистент выглядит одинаково. Она появляется там, где задача живёт месяцами: проект, лечение, переезд, учёба, поиск работы. В таких задачах самое ценное это не последнее сообщение, а цепочка решений и причин, по которым вы к ним пришли.

Если эта цепочка не сохраняется, вы пересказываете её заново каждый раз. Причём сами не замечаете, сколько на это уходит: пересказ кажется частью работы, хотя это плата за то, что собеседник забыл.