Strona główna / Artykuły

Badanie możliwości wykorzystania pamięci Oracle Agent w agentach AI o stanie.

Pamięć agenta Oracle z LangChain i ATP dla agentów AI z pamięcią stanową: RAG, notatki epizodyczne, otoczka desktopowa Streamlit oraz hooki REST dla umiejętności agentów w IDE.

Wydawca: REACTAPP.TOP6 min czytania1290 słów

Źródła: Exploring Oracle Agent Memory

Gdy agenci AI przechodzą od prostych rozmów do procesów pracy obejmujących kilka sesji, pamięć staje się niezbędna na najwyższym poziomie. Oracle Agent Memory rozszerza Oracle Database o warstwę pamięci trwałej, dzięki czemu agenci mogą przechowywać kontekst, uczyć się na podstawie wcześniejszych interakcji i stale się doskonalić. Narzędzia bez stanu przekształcają się w systemy z stanem, które mogą realizować długotrwałe, wieloetapowe zadania w sposób ciągły.

Co oznacza pamięć agenta

Pamięć agenta to trwałe przechowywanie, które umożliwia agentom przechowywanie, odzyskiwanie i aktualizowanie informacji w różnych sesjach i procesach pracy. To coś więcej niż RAG – obejmuje zarówno krótkoterminowy kontekst (obecną rozmowę), jak i długoterminowe dane (preferencje, historyczne wyniki, nabyte umiejętności). Dzięki niej agenci mogą zachować stan i dostosowywać się na podstawie doświadczeń, zamiast za każdym razem zaczynać od zera.

Bez pamięci agenci cierpią na amnezję: nie mogą przypomnieć sobie wcześniejszych interakcji i stają się niewiarygodni w praktycznym zastosowaniu. Pamięć umożliwia ciągłość działania, personalizację, odzyskiwanie wiedzy oraz odporność procesów pracy. Agenci mogą kontynuować wykonywanie zadań, pamiętać cele i ograniczenia oraz z czasem podejmować lepsze decyzje. W pracach długoterminowych pamięć jest niezbędna do uzyskania spójnych i przydatnych wyników.

Dlaczego Oracle

Oracle wbudowuje pamięć agentów bezpośrednio w samą bazę danych. Oracle AI Agent Memory wykorzystuje zintegrowany zestaw narzędzi (wektorowe, relacyjne, JSON i grafowe), dzięki czemu różne typy pamięci oraz strategie odzyskiwania informacji funkcjonują na jednej platformie. Pamięć znajduje się obok danych przedsiębiorstwa, co ułatwia zapewnienie bezpieczeństwa, zarządzanie danymi oraz skalowanie, a także unika rozproszenia specjalistycznych systemów przechowywania. Autonomous Database dodaje funkcje samodzielnego zarządzania, aktualizacji i automatycznego skalowania dla zespołów, które pragną stabilności bez konieczności ciągłego nadzoru nad bazą danych.

Budowa narzędzia do śledzenia interakcji

Praca z klientami często oznacza konieczność zarządzania wieloma interakcjami. Przełączanie się między zadaniami jest kosztowne, a notatki łatwo się gubią. Przykład tutaj wykorzystuje LangChain w połączeniu z Oracle Agent Memory do realizacji RAG, śledzenia rozmów oraz przechowywania informacji epizodycznych w jednym systemie danych.

Może być użyta każda instancja 26ai, w tym darmowy kontener Oracle Database. Oracle opublikował przewodnik instalacyjny pod dokumentacją do Agent Memory dla wersji 26.4.

ATP z TLS

Instancja Autonomous Transaction Processing dostosowana do zadań OLTP jest odpowiednim rozwiązaniem. TLS w połączeniu z ACL ogranicza dostęp do zaufanych lokalizacji. Użycie TLS zamiast mTLS oznacza brak konieczności przechowywania plików portfela dla klientów. Obraz deweloperski pomaga obniżyć koszty i rozmiar prototypów.

Projekt i zależności

Stwórz katalog venv i zainstaluj:

python3 -m venv .venv
source .venv/bin/activate

pip install langchain-oci
pip install oracleagentmemory

Konfiguracja OCI

OCI Generative AI dostarcza embeddingi i modele językowe na żądanie. Lokalny komputer stacjonarny wymaga profilu w katalogu ~/.oci/config. Zapoznaj się z dokumentacją dotyczącą konfiguracji OCI SDK.

Sprawdzenia łączności

Karta „Połączenie z bazą danych” w konsoli OCI pokazuje, jak utworzyć zbiór połączeń Python oracledb przez TLS. Następnie krótki skrypt może wykorzystać pamięć Oracle Agent:

''' Script to test access to Oracle Agent Memory '''

# load dependenies
from oracleagentmemory.apis.searchscope import SearchScope
from oracleagentmemory.core import OracleAgentMemory
from oracleagentmemory.core.dbschemapolicy import SchemaPolicy
from oracleagentmemory.core.embedders.embedder import Embedder
from oracleagentmemory.core.llms.llm import Llm
import oracledb
from pathlib import Path
from oci.config import from_file

# create connection object
def return_connection():
 try:
  pool = oracledb.create_pool(
   user=DB_USER,
   password=DB_PASSWORD,
   dsn=CONNECT_STRING,
  )
  return pool
 except Exception as e:
  raise(e)

connection = return_connection()
print('database connection made')

# set OCI config parameters
config = from_file('~/.oci/config')
oci_key_file = str(Path(config['key_file']).expanduser())
compartment_id = config['compartment_id']

# set embedding model
oci_embedder = Embedder(model="oci/cohere.embed-english-v3.0",
      oci_compartment_id=config['compartment_id'],
      oci_region=config['region'],
      oci_user=config['user'],
      oci_fingerprint=config['fingerprint'],
      oci_tenancy=config['tenancy'],
      oci_key_file=oci_key_file)

# set language model
oci_llm = Llm(model="oci/openai.gpt-oss-120b",
     oci_compartment_id=config['compartment_id'],
     oci_region=config['region'],
     oci_user=config['user'],
     oci_fingerprint=config['fingerprint'],
     oci_tenancy=config['tenancy'],
     oci_key_file=oci_key_file)

try:
 memory = OracleAgentMemory(connection=connection,
          embedder=oci_embedder,
          llm=oci_llm,
          schema_policy=SchemaPolicy.CREATE_IF_NECESSARY,
          table_name_prefix="OAM_")
 print("successfully connected to agent memory")
except Exception as e:
 raise(e)

Domyślnie SDK oczekuje istnienia schematów Agent Memory. Podczas pierwszej konfiguracji należy pozwolić magazynowi pamięci na utworzenie swoich obiektów (SchemaPolicy.CREATE_IF_NECESSARY w przykładzie). Użytkownik bazy danych musi mieć uprawnienia do tworzenia tabel i indeksów wektorowych. Po utworzeniu schematu można przywrócić bardziej rygorystyczną politykę.

Agent LangChain i interfejs użytkownika

Agent ma znajomą strukturę LangChain: narzędzia pomocnicze, model językowy, prompt systemowy oraz połączenia tworzące jeden agent. Interfejs typu Streamlit umożliwia interaktywne dodawanie, aktualizowanie lub usuwanie notatek.

Zachowania, które wymagały korekty

Wcześniejsze wersje były zbyt elastyczne: agent aktualizował pamięć przed udzieleniem odpowiedzi, co pogłębiało halucynacje. Ustalenie określonej kolejności działań pomogło. Interfejs użytkownika umożliwia dodawanie plików lub tekstu w formacie Markdown do odpowiednich kategorii (projekty, dane wewnętrzne, platforma). Funkcja wyszukiwania ręcznego pozwala znajdować informacje z pamięci za pomocą języka naturalnego, kategorii lub daty, bez konieczności ciągłego wywoływania agenta. Chat przeszukuje bazę wiedzy za pośrednictwem agenta. Przestarzałe informacje z pamięci można usuwać pojedynczo.

Endpunkty REST i umiejętność Cline

Endpunkty FastAPI umożliwiają użycie w sposób programowy:

  • GET /health
  • POST /memories
  • GET /memories
  • GET /search
  • POST /memories/delete

Te endpunkty służą również do obsługi umiejętności Cline, dzięki czemu informacje z pamięci można aktualizować bezpośrednio z zadań w VS Code.

Wrappers do systemów desktopowych

Aby uniknąć dodatkowej karty przeglądarki, mały uruchamiający pywebview uruchamia Streamlit na localhost, czeka, aż ten odpowie, a następnie otwiera natywną okno. Streamlit uruchamia FastAPI jako podproces w tle, dzięki czemu całość wygląda jak jedna lokalna aplikacja:

from pathlib import Path
import subprocess
import time
import urllib.request

import webview

PROJECT_DIR = Path("/path/to/your/project")
URL = "http://127.0.0.1:8501"

streamlit = subprocess.Popen(
    [
        str(PROJECT_DIR / ".venv/bin/streamlit"),
        "run",
        "app.py",
        "--server.address=127.0.0.1",
        "--server.port=8501",
        "--server.headless=true",
    ],
    cwd=PROJECT_DIR,
)

try:
    start = time.time()
    while time.time() - start < 30:
        try:
            with urllib.request.urlopen(URL, timeout=1):
                break
        except Exception:
            time.sleep(0.5)

    webview.create_window("HiveMind AI", URL, width=1200, height=850)
    webview.start()
finally:
    streamlit.terminate()

Pakiet z PyInstaller:

cd /path/to/your/project
source .venv/bin/activate

pip install pywebview pyinstaller

pyinstaller --windowed \
  --name "HiveMind AI" \
  --icon assets/hivemind_ai_icon.icns \
  hivemind_desktop.py

To daje dist/HiveMind AI.app, który może znajdować się w katalogu /Applications i być uruchamiany z Spotlight.

Decyzje projektowe, które zapewniły uczciwość demonstracji

Trzy decyzje sprawiły, że przykład ten jest użyteczny, a nie tylko efektowny.

Po pierwsze, zapisy do pamięci są kontrolowane. Agent powinien odpowiadać na podstawie tego, co już wie, zanim stworzy nową informację w pamięci. Pozwalanie modelowi na zapisywanie przed wypowiedzią prowadziło do pewnych siebie, ale bezsensownych odpowiedzi, które następnie zakłócały późniejsze wyszukiwanie. Umieszczenie narzędzi do zapisywania za jaśniejszymi instrukcjami lub za wyraźnymi działaniami użytkownika w interfejsie zapobiegło temu błędnemu cyklowi.

Po drugie, do wyszukiwania nie zawsze potrzebny jest model. Wyszukiwanie według słów kluczowych lub wektorowe w kategoriach i datach wystarcza do zadań takich jak „znajdź notatki z AlloyDB z zeszłego tygodnia”. Zachowanie modelu LLM do zadań syntezy obniża koszty i opóźnienia oraz ułatwia debugowanie błędów.

Po trzecie, opakowanie aplikacji na komputerze ma znaczenie w przypadku narzędzi osobistych. Jeśli otwarcie aplikacji do notatek wymaga szukania terminala i karty w przeglądarce, takie narzędzie przegrywa z utrudnieniami. Launcher, który uruchamia usługi i otwiera okno, przekształca tę samą strukturę w coś, co faktycznie używa się dwa razy dziennie.

Czym to nie jest

To nie oznacza, że Oracle to jedyne miejsce na przechowywanie pamięci agenta. Bazy danych wektorowych, dedykowane produkty pamięciowe oraz magazyny oparte na plikach również pełnią określone role. Ideą tego przykładu jest to, że jeśli reszta danych przedsiębiorstwa już znajduje się w Oracle, umieszczenie tam pamięci agenta upraszcza zarządzanie: jedna historia dotycząca IAM, jedna dotycząca kopii zapasowych, jeden ślad audytowy. Zespoły, które już zstandaryzowały się na Autonomous Database, mogą dodać pamięć bez konieczności tworzenia drugiej platformy.

To również nie jest wersja SaaS przeznaczona do użycia w produkcji z wzmocnioną izolacją różnych użytkowników. Wersja demonstracyjna zakłada jednego zaufanego użytkownika lub mały zespół, TLS do ATP oraz uprawnienia OCI na laptopie programisty. W środowisku produkcyjnym konieczna byłaby silniejsza izolacja użytkowników, zarządzanie poufnymi danymi oraz monitorowanie każdej operacji zapisu do pamięci.

Uwagi końcowe

Pamięć ma kluczowe znaczenie dla agentów działających w różnych sesjach. Zintegrowane SDK do zarządzania pamięcią agentów firmy Oracle może pełnić rolę wielofunkcyjnego magazynu obok danych korporacyjnych. Przykład ten łączy autonomiczne przetwarzanie transakcji z technologią generatywnej sztucznej inteligencji OCI, dodając interfejs Streamlit, interfejs REST oraz narzędzie do zapisywania notatek na komputerze stacjonarnym.

Podobne materiały