Исследование возможностей памяти Oracle Agent для создания агентов искусственного интеллекта с состоянием.
Память агента Oracle с LangChain и ATP для агентов ИИ с состоянием: RAG, эпизодические заметки, графический интерфейс Streamlit и REST-интерфейсы для функций агентов в IDE.
Источники: Exploring Oracle Agent Memory
По мере того как ИИ-агенты переходят от простых чатов к рабочим процессам, охватывающим несколько сессий, память становится критически важной составляющей. Oracle Agent Memory расширяет Oracle Database за счёт слоя постоянной памяти, что позволяет агентам сохранять контекст, учиться на прошлых взаимодействиях и совершенствоваться со временем. Безсостоянийные инструменты превращаются в существующие в состоянии системы, способные выполнять длительные, многократные задачи с сохранением непрерывности.
Что означает память агента
Память агента — это постоянное хранилище, которое позволяет агентам сохранять, извлекать и обновлять информацию в разных сессиях и рабочих процессах. Это нечто большее, чем RAG. Она охватывает как краткосрочный контекст (текущий диалог), так и долгосрочные данные (предпочтения, исторические результаты, полученные знания). Благодаря ей агенты сохраняют состояние и адаптируются на основе опыта, вместо того чтобы каждый раз начинать с нуля.
Без памяти агенты страдают амнезией: они не могут вспоминать предыдущие взаимодействия и становятся ненадежными в реальных условиях использования. Память обеспечивает преемственность, персонализацию, поиск знаний и устойчивость рабочих процессов. Агенты могут возобновлять выполнение задач, помнить цели и ограничения, а также со временем улучшать свои решения. Для долгосрочных проектов память необходима для получения последовательных и полезных результатов.
Почему Oracle
Oracle встрояет память агентов прямо в саму базу данных. Технология Oracle AI Agent Memory использует конвергентную стековую архитектуру (векторную, реляционную, JSON и графовую), благодаря чему несколько типов памяти и стратегий поиска работают на одной платформе. Память хранится рядом с корпоративными данными, что способствует обеспечению безопасности, управлению и масштабируемости, а также избегает разрозненности специализированных хранилищ. Autonomous Database предоставляет функции самоуправления, обновления и автоматического масштабирования для команд, желающих стабильности без постоянного контроля за базой данных.
Создание инструмента отслеживания взаимодействий
Работа с клиентами часто подразумевает необходимость одновременного управления множеством взаимодействий. Переключение между задачами сопряжено с значительными затратами времени, а заметки легко теряются. Приведённый здесь пример использует LangChain вместе с Oracle Agent Memory для реализации технологий RAG, отслеживания диалогов и эпизодической памяти в единой системе хранения данных.
Подойдёт любая инстанция 26ai, включая бесплатный контейнер Oracle Database. Oracle опубликовал руководство по локальной настройке в документации к Agent Memory для версии 26.4.
ATP с TLS
Инстанция Autonomous Transaction Processing, настроенная для OLTP, является хорошим решением. Использование TLS в сочетании с ACL ограничивает доступ к доверенным ресурсам. Вместо mTLS применяется TLS, что исключает необходимость в файлах-кошельках для клиентов. Использование образа разработчика позволяет снизить затраты и размер при создании прототипов.
Проект и зависимости
Создайте среду venv и установите необходимые компоненты:
python3 -m venv .venv
source .venv/bin/activate
pip install langchain-oci
pip install oracleagentmemory
Конфигурация OCI
OCI Generative AI предоставляет эмбеддинги и языковые модели по запросу. Для локальной рабочей станции требуется профиль в папке ~/.oci/config. Ознакомьтесь с документацией по настройке OCI SDK.
Проверка подключения
Вкладка «Подключение к базе данных» в консоли OCI показывает, как создать пул Python-объектов oracledb через TLS. После этого простой скрипт может протестировать работу памяти Oracle Agent:
''' Script to test access to Oracle Agent Memory '''
# load dependenies
from oracleagentmemory.apis.searchscope import SearchScope
from oracleagentmemory.core import OracleAgentMemory
from oracleagentmemory.core.dbschemapolicy import SchemaPolicy
from oracleagentmemory.core.embedders.embedder import Embedder
from oracleagentmemory.core.llms.llm import Llm
import oracledb
from pathlib import Path
from oci.config import from_file
# create connection object
def return_connection():
try:
pool = oracledb.create_pool(
user=DB_USER,
password=DB_PASSWORD,
dsn=CONNECT_STRING,
)
return pool
except Exception as e:
raise(e)
connection = return_connection()
print('database connection made')
# set OCI config parameters
config = from_file('~/.oci/config')
oci_key_file = str(Path(config['key_file']).expanduser())
compartment_id = config['compartment_id']
# set embedding model
oci_embedder = Embedder(model="oci/cohere.embed-english-v3.0",
oci_compartment_id=config['compartment_id'],
oci_region=config['region'],
oci_user=config['user'],
oci_fingerprint=config['fingerprint'],
oci_tenancy=config['tenancy'],
oci_key_file=oci_key_file)
# set language model
oci_llm = Llm(model="oci/openai.gpt-oss-120b",
oci_compartment_id=config['compartment_id'],
oci_region=config['region'],
oci_user=config['user'],
oci_fingerprint=config['fingerprint'],
oci_tenancy=config['tenancy'],
oci_key_file=oci_key_file)
try:
memory = OracleAgentMemory(connection=connection,
embedder=oci_embedder,
llm=oci_llm,
schema_policy=SchemaPolicy.CREATE_IF_NECESSARY,
table_name_prefix="OAM_")
print("successfully connected to agent memory")
except Exception as e:
raise(e)
По умолчанию SDK ожидает наличия схем памяти агента. При первой настройке разрешите хранилищу памяти создать свои объекты (SchemaPolicy.CREATE_IF_NECESSARY в примере). Пользователь базы данных должен иметь права на создание таблиц и векторных индексов. После создания схем можно вернуться к более строгой политике.
Агент LangChain и интерфейс
Агент соответствует знакомой структуре LangChain: утилитные инструменты, большая языковая модель, системное сообщение и их объединение в один агент. Перед ним расположен интерфейс Streamlit, позволяющий интерактивно добавлять, обновлять или удалять записи.
Поведения, требующие исправления
Ранние версии были слишком гибкими: агент обновлял память перед ответом, что усиливало галлюцинации. Ужесточение этой последовательности помогло. Интерфейс позволяет загружать файлы или текст в формате Markdown в соответствующие категории (проекты, внутренние данные, платформа). Ручной способ поиска позволяет находить записи в памяти с использованием естественного языка, категорий или дат без необходимости постоянного обращения к агенту. Чат осуществляет поиск в базе знаний через агента. Устаревшие записи можно удалять по одной.
Концовки REST и навык Cline
Концовки FastAPI обеспечивают возможность программного использования:
- GET
/health - POST
/memories - GET
/memories - GET
/search - POST
/memories/delete
Эти концовки также используются навыком Cline, что позволяет обновлять записи в памяти непосредственно из задачи в VS Code.
Пакет для рабочего стола
Чтобы не открывать дополнительную вкладку браузера, небольшой запускающий инструмент pywebview запускает Streamlit на локальном хосте, ждёт его ответа, а затем открывает нативное окно. Streamlit запускает FastAPI в качестве фонового подпроцесса, благодаря чему всё воспринимается как одно локальное приложение:
from pathlib import Path
import subprocess
import time
import urllib.request
import webview
PROJECT_DIR = Path("/path/to/your/project")
URL = "http://127.0.0.1:8501"
streamlit = subprocess.Popen(
[
str(PROJECT_DIR / ".venv/bin/streamlit"),
"run",
"app.py",
"--server.address=127.0.0.1",
"--server.port=8501",
"--server.headless=true",
],
cwd=PROJECT_DIR,
)
try:
start = time.time()
while time.time() - start < 30:
try:
with urllib.request.urlopen(URL, timeout=1):
break
except Exception:
time.sleep(0.5)
webview.create_window("HiveMind AI", URL, width=1200, height=850)
webview.start()
finally:
streamlit.terminate()
Пакет с PyInstaller:
cd /path/to/your/project
source .venv/bin/activate
pip install pywebview pyinstaller
pyinstaller --windowed \
--name "HiveMind AI" \
--icon assets/hivemind_ai_icon.icns \
hivemind_desktop.py
В результате получается dist/HiveMind AI.app, который может находиться в папке /Applications и запускаться через Spotlight.
Решения по дизайну, сохраняющие честность демо-версии
Три решения сделали пример пригодным к использованию, а не просто эффектным.
Во-первых, запись в память контролируется. Агент должен отвечать на основе уже имеющихся у него знаний, прежде чем создавать новую информацию. Если модель будет записывать данные раньше, чем отвечать, это приведёт к появлению уверенных в себе, но бессмысленных ответов, которые затем повлияют на последующие поиски. Размещение инструментов записи за более чёткими запросами или за явными действиями пользователя в интерфейсе прерывает этот цикл.
Во-вторых, для поиска не всегда требуется модель. Поиск по ключевым словам или векторным данным в категориях и датах достаточен для задачи вроде «найти записи AlloyDB прошлой недели». Использование LLM только для синтеза снижает затраты и задержки, а также облегчает отладку ошибок.
В-третьих, графическое оформление для настольных приложений имеет большое значение для личных инструментов. Если для открытия приложения для заметок необходимо искать терминал и вкладку браузера, такой инструмент теряет привлекательность из-за лишних сложностей. Запускающий программный инструмент, который запускает сервисы и открывает окно, превращает эту же совокупность элементов в что-то, что можно использовать два раза в день.
Чем это не является
Это не утверждение о том, что Oracle — единственное место для хранения памяти агента. Векторные базы данных, специализированные продукты для хранения памяти и файловые хранилища также выполняют свои функции. Суть примера в том, что если остальные данные предприятия уже хранятся в Oracle, размещение памяти агента рядом с ним упрощает управление: одна система управления доступом, один процесс резервного копирования, один журнал аудита. Команды, уже использующие Autonomous Database, могут добавить память без необходимости создания новой платформы.
Это также не SaaS с усиленной защитой для производственных условий с поддержкой нескольких арендаторов. В демо-версии предполагается наличие одного доверенного пользователя или небольшой команды, а также использование TLS, учетных данных ATP и OCI на ноутбуке разработчика. В производственной среде будет обеспечена более строгая изоляция арендаторов, управление секретами и возможность отслеживания каждой операции записи в память.
Заключительные замечания
Память имеет важное значение для агентов, работающих в рамках нескольких сессий. Унифицированный SDK для работы с памятью агентов от Oracle может служить мультиформатным хранилищем наряду с корпоративными данными. В примере реализовано использование технологии Autonomous Transaction Processing в сочетании с OCI Generative AI, добавлена интерфейсная среда Streamlit, REST-интерфейсы и приложение для работы на рабочем столе для ежедневной записи заметок.