Какую проблему решаем?

Любой GPT-бот на базе любой LLM (например на ChatGPT) должен сам и незаметно для пользователя запоминать в постоянную память нужные нам сведения из диалога.

Шаг№1: Создадим определение функции

{ 
    "name": "ai_memory_v3", 
    "description": "Call this function when you need to make adjustments to JSON memory.", 
    "parameters": { 
      "type": "object", 
      "properties": { 
        "key": { 
          "type": "string", 
          "description": "New or existing key from JSON memory", 
        },
        "value": { 
          "type": "string", 
          "description": "Text to be written by the specified key", 
        },
        "action": {
            "type": "string",
            "enum": ["+", '-', '.', '_'],
            "description": "Action type. `+` - means adding information to memory. `-` - means deleting information from memory. `.` - means changing information in memory. `_` - means clear all memory",
        },
      }, 
      "required": ["key", "value", "action"], 
    }, 
}, 

Параметры нашей функции:

• "key" - Новый или существующий ключ из JSON памяти. Этот параметр указывает, к какому ключу будет применено действие.

• "value" - Текст, который будет записан по указанному ключу. Этот параметр содержит данные, которые будут добавлены, изменены или удалены в памяти.

• "action" - Тип действия, которое будет выполнено с памятью. Возможные значения:
       - + - добавление информации в память.
       - - - удаление информации из памяти.
       - . - изменение информации в памяти.
       - _ - очистка всей памяти.

Обработчик функции на нашем сервере

from flask import Flask, request, json
import os
import logging

# Инициализация логгера
logger = logging.getLogger(__name__)
config.ROOT_PATH = '/path/to/your/application/'  # Установите корректный путь к приложению

# Создаем экземпляр приложения Flask
app = Flask(__name__)

# Определение маршрута и функции для записи в постоянную память
@app.route('/write_memory_dict', methods=['POST'])
def write_memory_dict():
    # Получение данных из запроса в формате JSON
    data = GetJsonFromRequest(request)
    # Логирование данных запроса
    logger.debug(f"[/write_memory_dict] {data}")
    # Инициализация сообщения для пользователя
    Res = 'Покажи новое состояние памяти и получи подтверждение на внесение изменений пользователю.n'
    # Основная логика для обработки различных действий
    if data['action'] == '_':
        try:
            # Попытка удалить файл памяти
            os.remove(config.ROOT_PATH + 'json_memory/' + data['chat_id'])
        except Exception as e:
            # Если файл не найден, логируем предупреждение
            logger.warning(f"File not found {data['chat_id']}")
        # Ответ о том, что память очищена
        Res = 'Память очищена.n'
    else:
        # Имя файла соответствует chat_id
        filename = data['chat_id']
        memory_json = {}
        if filename is not None:
            # Чтение существующего файла памяти
            memory_json = read_file(config.ROOT_PATH + 'json_memory/' + filename)
            try:
                # Попытка преобразовать прочитанные данные из файла в JSON
                memory_json = json.loads(memory_json)
            except:
                # Если преобразование не удалось, считаем что данных нет
                memory_json = {}
        # Добавление данных в память
        if data['action'] == '+' and data['key'] in memory_json:
            memory_json[data['key']] += ', ' + data['value']
            Res = 'Данные добавлены в постоянную память.\n'
        if data['action'] == '+' and data['key'] not in memory_json:
            memory_json[data['key']] = data['value']
            Res = 'Данные добавлены в постоянную память.n'
        # Удаление данных из памяти
        if data['action'] == '-' and data['key'] in memory_json:
            memory_json.pop(data['key'])
            Res = 'Данные удалены из постоянной памяти.n'
        # Обновление данных в памяти
        if data['action'] == '.' and data['key'] in memory_json:
            memory_json[data['key']] = data['value']
            Res = 'Данные в постоянной памяти изменены.n'
        # Сохранение изменений в файл
        if filename is not None and memory_json is not {}:
            with open(config.ROOT_PATH + 'json_memory/' + filename, 'w', encoding='utf-8') as f:
                json.dump(memory_json, f, ensure_ascii=False, indent=4)
            # Логирование успешного сохранения
            logger.info(f"/write memory_json OK {filename}, {memory_json}")    
    # Возвращение ответа клиенту
    return json.dumps(Res), 200

# Функция для чтения файла, предполагается, что она определена где-то в коде
def read_file(file_path):
    # Тут должна быть ваша реализация функции чтения файла
    pass

# Функция для получения JSON из запроса, предполагается, что она определена где-то в коде
def GetJsonFromRequest(req):
    # Тут должна быть ваша реализация функции извлечения JSON из запроса
    pass

# Запустить приложение, если файл запущен напрямую
if __name__ == '__main__':
    app.run()

Создаем бота для тестирования постоянной памяти

Поведение:
При общении используй данные о пользователе в твоей JSON памяти и меняй свой стиль ответов согласно этим данным.
Инструкции по работе с памятью:
В память можно сохранять следующие данные о пользователе: имя, пол, возраст, привычки, интересы, увлечения.

Тестируем бота и работу памяти

Для начала мы просто назовем имя боту:

Видим, что имя попало в постоянную память.

Теперь назовем возраст:

Теперь протестируем изменения данных в памяти бота:

Теперь проверим как бот общается с такими данными в памяти:

{
    "user_name": "Андрей",
    "user_age": "45",
    "user_habits": "кофе",
    "user_interests": "горы, велосипеды, море, пробежки по утрам"
}

Итоги

Если у вас есть идеи по улучшению работы предложенной модели постоянной памяти, пишите в комментариях или мне в Телеграм.

P.S.

У меня уже выходила статья по данной проблеме (https://habr.com/ru/articles/791916/), но решение было не очень стабильным и требовало дополнительный запрос к ИИ каждый раз при внесении изменений в данные постоянной памяти.