Дослідження Oracle Agent Memory для станових штучних інтелектуальних агентів.
Пам’ять агента Oracle з LangChain та ATP для агентів ШІ зі станом: RAG, епізодичні нотатки, інтерфейс Streamlit для роботи на стаціонарному комп’ютері та REST-з’єднання для функцій агента в IDE.
Джерела: Exploring Oracle Agent Memory
Оскільки агенти ШІ переходять від простих чатів до робочих процесів, які охоплюють кілька сеансів, пам’ять стає надзвичайно важливою. Oracle Agent Memory розширює Oracle Database на рівень постійної пам’яті, щоб агенти могли зберігати контекст, вчитися на попередніх взаємодіях та вдосконалюватися з часом. Інструменти без стану перетворюються на системи зі станом, які можуть виконувати тривалі, багатоетапні завдання з безперервністю.
Що означає пам’ять агента
Пам’ять агента — це постійне зберігання, яке дозволяє агентам зберігати, отримувати та оновлювати інформацію протягом різних сеансів та робочих процесів. Це більше, ніж просто RAG. Вона охоплює як короткостроковий контекст (текуща розмова), так і довгострокові дані (переваги, історичні результати, набуті знання). Завдяки їй агенти зберігають свій стан та адаптуються на основі досвіду, замість того щоб щоразу починати з нуля.
Без пам’яті агенти страждають від амнезії: вони не можуть згадати попередні взаємодії та стають ненадійними у реальному використанні. Пам’ять забезпечує континуїтет, персоналізацію, пошук знань та стійкість робочих процесів. Агенти можуть продовжувати виконувати завдання, пам’ятати цілі та обмеження та з часом покращувати свої рішення. Для роботи на довгостроковій перспективі пам’ять є необхідною для отримання послідовних та корисних результатів.
Чому Oracle
Oracle вбудовує пам’ять агентів прямо в саму базу даних. Oracle AI Agent Memory використовує конвергентну стек-архітектуру (векторну, реляційну, JSON та графову), тож кілька типів пам’яті та стратегій пошуку функціонують на одній платформі. Пам’ять знаходиться поруч із корпоративними даними, що сприяє забезпеченню безпеки, керуванню та масштабуванню, а також уникає розрізненості спеціалізованих сховищ. Autonomous Database додає функції самокерування, оновлень та автоматичного масштабування для команд, які прагнуть стабільності без постійного контролю за базою даних.
Створення інструменту для відстеження взаємодії
Робота з клієнтами часто передбачає одночасне керування багатьма взаємодіями. Зміна контексту є дорогою, а нотатки легко губляться. У цьому прикладі використовується LangChain разом із Oracle Agent Memory для реалізації технологій RAG, відстеження розмов та епізодичної пам’яті в одній системі зберігання даних.
Підійде будь-яка інстанція 26ai, включаючи безкоштовний контейнер Oracle Database. Oracle опублікував посібник з локальної налаштування у документації до Agent Memory для версії 26.4.
ATP з TLS
Інстанція Autonomous Transaction Processing, налаштована під OLTP, є хорошим варіантом. TLS у поєднанні з ACL обмежує доступ до довірених ресурсів. Використання TLS замість mTLS означає відсутність необхідності у файлі кошелька для клієнтів. Образ розробника допомагає знизити витрати та розмір для прототипів.
Проєкт та залежності
Створіть venv та встановіть:
python3 -m venv .venv
source .venv/bin/activate
pip install langchain-oci
pip install oracleagentmemory
Конфігурація OCI
OCI Generative AI надає ембеддинги та мовні моделі за запитом. Для локального робочого столу потрібен профіль у директорії ~/.oci/config. Дивіться документацію щодо налаштування OCI SDK.
Перевірка підключення
Вкладка «Підключення до бази даних» у консолі OCI показує, як створити пул Python oracledb через TLS. Після цього короткий скрипт може протестувати роботу пам’яті Oracle Agent:
''' Script to test access to Oracle Agent Memory '''
# load dependenies
from oracleagentmemory.apis.searchscope import SearchScope
from oracleagentmemory.core import OracleAgentMemory
from oracleagentmemory.core.dbschemapolicy import SchemaPolicy
from oracleagentmemory.core.embedders.embedder import Embedder
from oracleagentmemory.core.llms.llm import Llm
import oracledb
from pathlib import Path
from oci.config import from_file
# create connection object
def return_connection():
try:
pool = oracledb.create_pool(
user=DB_USER,
password=DB_PASSWORD,
dsn=CONNECT_STRING,
)
return pool
except Exception as e:
raise(e)
connection = return_connection()
print('database connection made')
# set OCI config parameters
config = from_file('~/.oci/config')
oci_key_file = str(Path(config['key_file']).expanduser())
compartment_id = config['compartment_id']
# set embedding model
oci_embedder = Embedder(model="oci/cohere.embed-english-v3.0",
oci_compartment_id=config['compartment_id'],
oci_region=config['region'],
oci_user=config['user'],
oci_fingerprint=config['fingerprint'],
oci_tenancy=config['tenancy'],
oci_key_file=oci_key_file)
# set language model
oci_llm = Llm(model="oci/openai.gpt-oss-120b",
oci_compartment_id=config['compartment_id'],
oci_region=config['region'],
oci_user=config['user'],
oci_fingerprint=config['fingerprint'],
oci_tenancy=config['tenancy'],
oci_key_file=oci_key_file)
try:
memory = OracleAgentMemory(connection=connection,
embedder=oci_embedder,
llm=oci_llm,
schema_policy=SchemaPolicy.CREATE_IF_NECESSARY,
table_name_prefix="OAM_")
print("successfully connected to agent memory")
except Exception as e:
raise(e)
За замовчуванням SDK очікує наявності схем пам’яті агента. Під час першої налаштування дозвольте сховищу пам’яті створити свої об’єкти (SchemaPolicy.CREATE_IF_NECESSARY у зразку). Користувач бази даних має права на створення таблиць та векторних індексів. Після створення схеми можна повернутися до більш суворої політики.
Агент LangChain та інтерфейс користувача
Агент має знайому структуру LangChain: інструменти, LLM, системний запит та їх об’єднання в один агент. Перед ним розташований інтерфейс Streamlit, що дозволяє інтерактивно додавати, оновлювати чи видаляти нотатки.
Поведінки, які потребували виправлення
Ранні версії були занадто гнучкими: агент оновлював пам’ять перед відповіддю, що посилювало галюцинації. Зміна цього порядку допомогла. Інтерфейс користувача може приймати файли чи текст у форматі Markdown та розміщувати їх у відповідні категорії (проекти, внутрішні дані, платформа). Функція ручного пошуку дозволяє знаходити записи за допомогою природної мови, категорії чи дати, не завжди звертаючись до агента. Чат здійснює пошук у базі знань через агента. Застарілі записи можна видаляти по одному.
Кінцеві точки REST та навичка Cline
Кінцеві точки FastAPI підтримують програмне використання:
- GET
/health - POST
/memories - GET
/memories - GET
/search - POST
/memories/delete
Ці кінцеві точки також використовуються навичкою Cline, щоб можна було оновлювати записи безпосередньо з завдань у VS Code.
Десктопний обгорток
Щоб уникнути створення ще однієї вкладки браузера, невеликий запускач pywebview запускає Streamlit на localhost, чекає, поки він відповість, а потім відкриває нативне вікно. Streamlit запускає FastAPI як фоновий підпроцес, тож все виглядає як один локальний додаток:
from pathlib import Path
import subprocess
import time
import urllib.request
import webview
PROJECT_DIR = Path("/path/to/your/project")
URL = "http://127.0.0.1:8501"
streamlit = subprocess.Popen(
[
str(PROJECT_DIR / ".venv/bin/streamlit"),
"run",
"app.py",
"--server.address=127.0.0.1",
"--server.port=8501",
"--server.headless=true",
],
cwd=PROJECT_DIR,
)
try:
start = time.time()
while time.time() - start < 30:
try:
with urllib.request.urlopen(URL, timeout=1):
break
except Exception:
time.sleep(0.5)
webview.create_window("HiveMind AI", URL, width=1200, height=850)
webview.start()
finally:
streamlit.terminate()
Пакет із PyInstaller:
cd /path/to/your/project
source .venv/bin/activate
pip install pywebview pyinstaller
pyinstaller --windowed \
--name "HiveMind AI" \
--icon assets/hivemind_ai_icon.icns \
hivemind_desktop.py
Це дає dist/HiveMind AI.app, який може знаходитися у /Applications та запускатися через Spotlight.
Рішення з дизайну, які зберегли чесність демонстрації
Три рішення зробили зразок придатним для використання, а не просто ефектним.
По-перше, записи в пам’ять контролюються. Агент має відповідати на основі того, що вже знає, перш ніж створювати нову інформацію. Дозвіл моделі записувати інформацію перед тим, як вона говорить, призводив до видачі впевнених, але безглуздих відповідей, що потім псувало подальші пошуки. Розміщення інструментів запису після чітких запитів або після явних дій користувача в інтерфейсі допомогло припинити цей цикл.
По-друге, для пошуку не завжди потрібна модель. Пошук за ключовими словами чи векторами серед категорій та дат достатній для завдання на кшталт „Знайти нотатки AlloyDB з минулого тижня“. Використання LLM лише для синтезу допомагає знизити витрати та затримки та полегшує виправлення помилок.
По-третє, інтерфейс для настільних пристроїв має велике значення для персональних інструментів. Якщо для відкриття додатка для нотаток потрібно шукати термінал та вкладку браузера, цей інструмент стає незручним у використанні. Запускач, який запускає сервіси та відкриває вікно, перетворює цей процес на щось, що можна використовувати двічі на день.
Що це не є
Це не ствердження, що Oracle — єдине місце для розміщення пам’яті агента. Векторні бази даних, спеціалізовані продукти для пам’яті та бази даних на основі файлів також мають свою роль. Суть прикладу полягає у тому, що якщо решта корпоративних даних вже знаходиться в Oracle, розміщення пам’яті агента поруч із нею спрощує управління: одна система IAM, один механізм резервного копіювання, один журнал аудиту. Команди, які вже використовують Autonomous Database, можуть додати пам’ять, не створюючи другу платформу.
Це також не є SaaS з посиленою архітектурою для продакшну з підтримкою кількох орендарів. У демо-версії передбачається наявність одного надійного користувача або невеликої команди, використання TLS для ATP та облікових даних OCI на ноутбуці розробника. У продакшн-середовищі буде забезпечена сильніша ізоляція орендарів, керування конфіденційною інформацією та можливість моніторингу кожного запису в пам’ять.
Заключні зауваження
Пам’ять має велике значення для агентів, які працюють протягом кількох сеансів. Уніфікований SDK для керування пам’яттю агентів від Oracle може використовуватися як багатофункціональний сховище поруч із корпоративними даними. У прикладі Autonomous Transaction Processing поєднується з OCI Generative AI, додається інтерфейс Streamlit, REST-інтерфейс та десктопний обгорток для щоденного ведення нотаток.