Hindsight – интересный проект, показывающий, как можно организовать память для AI-агента.
Проект Open Source. Ставится из официального репозитория в docker.
Всё, что требуется от пользователя – заполнить API Key для OpenAI (или другого провайдера). Как альтернатива – можно поднять Hindsight на локальных моделях.
Её (память) разделили на 4 типа:
1. Факты о мире, которые формируются на основании загруженных пользователем документов.
2. Опыт агента. Факты, которые агент знает о себе. То, что делал он сам. Давал рекомендации, совершал действия и т.д.
3. Мнения. Это суждения и взгляды агента на окружающий мир. Здесь у каждого мнения может быть показатель уверенности от 0 до 1. Чем ниже значение, тем выше вероятность, что AI-агент подвергнет конкретное суждение пересмотру.
4. Наблюдения. Сводки о сущностях, которые система формирует в фоновом режиме.
При этом опыт, мнения и наблюдения формируются в процессе взаимодействия с пользователем. То есть мы имеем обучающуюся и развивающуюся систему, которая изменяется при взаимодействии с пользователем.
В любой момент можно посмотреть, в результате чего сформировался опыт или мнение агента.
Модель достаточно быстро формирует записи в графе. 1000+ «воспоминаний» загрузились буквально за пару минут. Что достаточно быстро для темпорального графа.
С другой стороны, извлечение информации AI-агентом из системы мне показалось медленным. Но это то, что мы имеем из коробки. Я планирую к API Hindsight подключить собственную систему AI-агентов и посмотреть, насколько эффективным будет работа с такой системой памяти.
Если хотите глубже изучить теоретическую базу, которая лежит в основе Hindsight, статья на arxiv в помощь.
Добавить комментарий