探索Oracle Agent Memory在构建有状态AI智能体中的应用。
结合 LangChain 与 ATP 的 Oracle Agent 内存机制,用于支持具有状态感知能力的人工智能代理:包括 RAG、情景笔记功能,以及用于 IDE 代理技能的 Streamlit 桌面封装与 REST 接口。
随着人工智能智能体从简单的聊天功能发展到跨越多个会话的工作流程,内存便成为至关重要的需求。Oracle Agent Memory将Oracle数据库扩展为持久化内存层,使智能体能够保留上下文、从过往交互中学习并不断提升性能。原本无状态的工具由此转变为具备状态的系统,能够持续处理耗时较长、包含多步骤的任务。
智能体内存的含义
智能体内存是一种持久化存储机制,允许智能体在各个会话和工作流程之间存储、检索和更新信息。它不仅仅是RAG技术。它既涵盖短期上下文(当前对话),也包含长期数据(偏好设置、历史结果、所学知识)。借助这种机制,智能体能够保持状态并依据经验进行调整,而无需每次都从零开始。
如果没有记忆功能,智能体就会出现失忆现象:它们无法回忆之前的交互记录,因此在实际应用中不可靠。记忆功能能够实现任务连贯性、个性化处理、知识检索以及工作流程的稳定性。智能体可以继续执行任务,记住目标与约束条件,并随着时间推移提升决策质量。对于长期任务而言,记忆功能对于获得一致且实用的结果至关重要。
为何选择 Oracle
Oracle 将智能体记忆功能直接嵌入数据库中。Oracle AI Agent Memory 采用融合型技术架构(向量、关系型、JSON 和图结构),多种记忆类型及检索策略可在同一平台上共存。记忆数据与企业数据存储在一起,有助于保障安全性、实现有效管理并提升扩展性,同时避免了专用存储系统分散管理的弊端。Autonomous Database 则为那些希望获得稳定运行而不需频繁干预数据库的团队提供了自我管理、自动补丁更新及自动扩展功能。
构建互动跟踪系统
面向客户的工作往往需要同时处理多项互动任务。频繁切换上下文会耗费大量精力,而且笔记也容易丢失。此示例结合了LangChain与Oracle Agent Memory,可在同一系统内实现RAG、对话跟踪以及情景记忆功能。
任何26ai实例均可使用,包括免费的Oracle Database容器。Oracle在26.4版本的Agent Memory文档中提供了本地安装指南。
带TLS的ATP
专为OLTP场景优化的自主事务处理实例是理想选择。通过TLS加上ACL可以限制对受信任区域的访问。使用TLS而非mTLS意味着客户端无需存储钱包文件。开发者镜像有助于降低原型开发的成本与体积。
项目与依赖项
创建一个虚拟环境并安装以下内容:
python3 -m venv .venv
source .venv/bin/activate
pip install langchain-oci
pip install oracleagentmemory
OCI 配置
OCI Generative AI 可按需提供嵌入模型和语言模型。本地桌面需要在 ~/.oci/config 下创建配置文件。详情请参阅 OCI SDK 设置文档。
连接性检查
OCI 控制台中的“数据库连接”选项卡说明了如何通过 TLS 创建 Python 的 oracledb 数据池。之后,可通过一个简短的脚本来测试 Oracle Agent 内存功能:
''' Script to test access to Oracle Agent Memory '''
# load dependenies
from oracleagentmemory.apis.searchscope import SearchScope
from oracleagentmemory.core import OracleAgentMemory
from oracleagentmemory.core.dbschemapolicy import SchemaPolicy
from oracleagentmemory.core.embedders.embedder import Embedder
from oracleagentmemory.core.llms.llm import Llm
import oracledb
from pathlib import Path
from oci.config import from_file
# create connection object
def return_connection():
try:
pool = oracledb.create_pool(
user=DB_USER,
password=DB_PASSWORD,
dsn=CONNECT_STRING,
)
return pool
except Exception as e:
raise(e)
connection = return_connection()
print('database connection made')
# set OCI config parameters
config = from_file('~/.oci/config')
oci_key_file = str(Path(config['key_file']).expanduser())
compartment_id = config['compartment_id']
# set embedding model
oci_embedder = Embedder(model="oci/cohere.embed-english-v3.0",
oci_compartment_id=config['compartment_id'],
oci_region=config['region'],
oci_user=config['user'],
oci_fingerprint=config['fingerprint'],
oci_tenancy=config['tenancy'],
oci_key_file=oci_key_file)
# set language model
oci_llm = Llm(model="oci/openai.gpt-oss-120b",
oci_compartment_id=config['compartment_id'],
oci_region=config['region'],
oci_user=config['user'],
oci_fingerprint=config['fingerprint'],
oci_tenancy=config['tenancy'],
oci_key_file=oci_key_file)
try:
memory = OracleAgentMemory(connection=connection,
embedder=oci_embedder,
llm=oci_llm,
schema_policy=SchemaPolicy.CREATE_IF_NECESSARY,
table_name_prefix="OAM_")
print("successfully connected to agent memory")
except Exception as e:
raise(e)
默认情况下,SDK要求存在Agent Memory模式。在首次设置时,允许内存存储创建相关对象(示例中采用SchemaPolicy.CREATE_IF_NECESSARY策略)。数据库用户需具备创建表和向量索引的权限。模式创建完成后,可恢复更严格的策略。
LangChain智能体与用户界面
该智能体采用熟悉的LangChain架构:实用工具、大语言模型、系统提示词,这些组件共同构成一个智能体。前端通过Streamlit界面实现,用户可交互式地添加、更新或删除笔记。
需要修复的行为问题
早期版本过于灵活:智能体在回答前会先更新记忆,这反而加剧了幻觉现象。调整操作顺序后情况有所改善。用户界面可以将文件或 Markdown 内容分类存储到不同的类别中(项目、内部资料、平台相关内容)。通过手动搜索功能,可以依据自然语言、类别或日期查找记忆,无需每次都调用智能体。聊天功能则通过智能体在知识库中搜索信息。过时的记忆可以逐个删除。
REST 接口与 Cline 技能
FastAPI 接口支持程序化调用:
- GET
/health - POST
/memories - GET
/memories - GET
/search - POST
/memories/delete
这些接口同时也为 Cline 技能提供支持,因此可以在 VS Code 内的任务中更新记忆内容。
桌面端封装工具
为避免出现另一个浏览器标签页,一个小型 pywebview 启动器会在本地主机上启动 Streamlit,等待其响应后再打开一个原生窗口。Streamlit 会以后台子进程的形式启动 FastAPI,从而使整个应用看起来像是一个本地应用程序:
from pathlib import Path
import subprocess
import time
import urllib.request
import webview
PROJECT_DIR = Path("/path/to/your/project")
URL = "http://127.0.0.1:8501"
streamlit = subprocess.Popen(
[
str(PROJECT_DIR / ".venv/bin/streamlit"),
"run",
"app.py",
"--server.address=127.0.0.1",
"--server.port=8501",
"--server.headless=true",
],
cwd=PROJECT_DIR,
)
try:
start = time.time()
while time.time() - start < 30:
try:
with urllib.request.urlopen(URL, timeout=1):
break
except Exception:
time.sleep(0.5)
webview.create_window("HiveMind AI", URL, width=1200, height=850)
webview.start()
finally:
streamlit.terminate()
使用 PyInstaller 打包:
cd /path/to/your/project
source .venv/bin/activate
pip install pywebview pyinstaller
pyinstaller --windowed \
--name "HiveMind AI" \
--icon assets/hivemind_ai_icon.icns \
hivemind_desktop.py
这样就会生成 dist/HiveMind AI.app,该文件可存放在 /Applications 目录中,并可通过 Spotlight 启动。
保持演示真实性的设计考量
有三项决策使得该示例真正可用,而不仅仅是外观炫酷。
首先,对内存写入进行了限制。智能体应在凭已有知识回答问题,而非凭空创造新记忆。若允许模型在说话前就写入内容,就会产生毫无根据的错误信息,进而影响后续的信息检索。将写入功能置于更清晰的提示之后,或放在用户界面中的明确操作之后,就能避免这种循环。
其次,搜索并不总是需要模型。通过关键词或向量搜索类别和日期就足以实现“查找上周的 AlloyDB 笔记”这一需求。将大型语言模型用于内容生成,既能降低成本和延迟,也能让故障更易于调试。
第三,桌面级封装对个人工具而言至关重要。如果打开笔记应用需要先寻找终端和浏览器标签页,那么这个工具就会因使用繁琐而失去价值。一个能够启动服务并打开窗口的启动器,能让同样的操作流程变成每天只需点击两次的简单动作。
这不是什么
这并不是说Oracle是存放代理内存的唯一选择。向量数据库、专用内存产品以及基于文件的存储方式都有各自的用途。举这个例子的目的是:如果企业中的其他数据已经存储在Oracle中,将代理内存也存放在那里就能简化管理流程——统一的身份认证机制、统一的备份方案以及统一的审计追踪。那些已经采用Autonomous Database的团队,无需再开发新的平台,只需添加内存即可。
它也不是经过生产环境优化过的多租户SaaS。演示环境假设只有一名可信用户或一个小团队,开发者笔记本电脑上配备TLS、ATP以及OCI凭证。在真实生产环境中,需要更强的租户隔离机制、密钥管理功能,以及对每次内存写入操作的监控能力。
总结
对于需要在不同会话间运行的代理程序而言,内存管理至关重要。Oracle的统一代理内存SDK可以作为企业数据之外的多模式存储方案。该示例将自主事务处理与OCI生成式AI相结合,同时加入了Streamlit用户界面、REST接口以及用于日常笔记记录的桌面应用封装。