Системы и так уже многое помнят.

Они помнят действия пользователей, логи, тикеты, код, комментарии, трассировки, алерты и ответы моделей. Иногда они даже умеют сохранять контекст между шагами. Но есть одна вещь, которую они по-прежнему помнят плохо: смысл экспертного решения.

И это интересный вопрос.

Что, если софт мог бы помнить, какой эксперт был доверенным для какого типа решений, сохранять причину этого выбора и использовать её позже как совет?

Не как абсолютную истину.
Как живую память об опыте.

Почему это вообще важно

Сегодня экспертное знание разбросано по множеству мест.

Часть живёт в голове у людей.
Часть — в обсуждениях.
Часть — в комментариях к коду.
Часть — в постмортемах.
Часть — исчезает, когда человек уходит из команды.

Когда системе нужен совет позже, ей обычно приходится собирать прошлое по кускам.

Это долго.
И это хрупко.

Если бы система могла помнить не только то, что было выбрано, но и почему это было выбрано и в каком контексте, это был бы уже совсем другой класс софта.

Что именно должна помнить система

Недостаточно просто сохранить решение.

Полезная память должна удерживать:

• кто принял решение;

• в какой области этому человеку доверяли;

• какие сигналы он использовал;

• какой был контекст;

• какие были альтернативы;

• почему решение было валидным именно тогда.

То есть система должна помнить не только результат, но и смысл.

А это гораздо сложнее, чем хранить данные.

Риск не только в галлюцинациях

Когда речь заходит о памяти в AI-системах, обычно сразу вспоминают галлюцинации.

Это реальный риск, но не единственный.

Есть более тонкая проблема: устаревшее доверие.

Система может помнить эксперта, который когда-то был прав для определённого типа решений, а потом продолжать считать его мнение авторитетным, даже если контекст уже изменился.

Поэтому вопрос звучит не только так:

• может ли система помнить?

Но и так:

• может ли она помнить с контекстом?

• может ли понять, что память устарела?

• может ли спросить, прежде чем перейти границу?

Это важнее, чем идеальная точность памяти.

Лучше советовать, чем притворяться знающей

Возможно, правильная цель — не система, которая «всё знает».

Правильная цель — система, которая советует.

Хороший слой памяти должен вести себя как опытный помощник:

• он помнит прошлые решения;

• он распознаёт паттерны;

• он показывает похожие случаи;

• он предупреждает, когда ситуация выходит за привычные рамки;

• он спрашивает подтверждение, если уверенность низкая.

Это гораздо реалистичнее, чем ожидать от системы всезнания.

Может ли это вообще работать?

Вероятно, да — хотя бы частично.

У нас уже есть системы, которые умеют:

• хранить рабочий контекст;

• связывать похожие решения;

• переиспользовать паттерны;

• уменьшать повторение;

• поднимать релевантную историю.

То есть сама идея не выглядит фантастикой.

Открытый вопрос в другом: можно ли сделать это достаточно надёжным, чтобы реально помогать командам принимать решения, но при этом не притворяться, что человеческая экспертиза больше не нужна?

Возможно, это сработает.
Возможно, это провалится очень показательным образом.

И в обоих случаях мы узнаем что-то важное:

• какие виды экспертизы можно сохранять;

• какие слишком зависят от контекста;

• где память софта действительно помогает;

• а где человеческое решение всё ещё нельзя заменить.

Более глубокий вопрос

Наверное, главный вопрос здесь такой:

если софт сможет помнить смысл экспертных решений, станет ли он умнее — или просто будет увереннее ошибаться?

Вот это и есть вопрос, который стоит вынести в статью.

Если ответ окажется положительным, мы получим новый тип системы: ту, которая накапливает опыт, а не просто данные.

Если отрицательным — мы хотя бы поймём, где проходят границы.

А это тоже полезно.