ElastiCache dla RAG – jak przechowywać i wyszukiwać embeddingi w
ElastiCache dla RAG: przechowywanie i wyszukiwanie embeddingów w Redis z użyciem Node.js i TypeScript, konfiguracja klastra, tworzenie indeksu wektorowego oraz przeprowadzanie wyszukiwań podobieństwa.
Źródła: ElastiCache for RAG: How to Store and Query Embeddings in Redis with Node.js and TypeScript
Niech to służy jako przebudowa idei z artykułu „ElastiCache for RAG: How to Store and Query Embeddings in Redis with Node.js and TypeScript” przeznaczona dla operatorów: wyraźne etapy, uporządkowane sekcje kodu oraz notatki dotyczące przywracania stanu po przeniesieniu obowiązków. Przegląd funkcjonowania działa najlepiej, gdy traktuje się go jako mierzalną powierzchnię do analizy. Zapisz jeden idealny przykład działania, jeden przypadek awarii oraz notatkę dotyczącą cofnięcia zmian, zanim rozszerzysz zakres pracy. Traktuj ten etap jako umowę pomiędzy danymi wejściowymi a zweryfikowanymi wynikami. Nadaj nazwy poszczególnym elementom, zdefiniuj kryteria sukcesu i odrzucaj ciche, częściowe ukończenie zadań.
Dlaczego Redis może być magazynem wektorowym
Aby zrozumieć, dlaczego Redis może służyć jako magazyn wektorów, należy przed zmianą kodu określić dane wejściowe, osobę odpowiedzialną za daną czynność oraz kryteria zakończenia. Operatorzy powinni móc ponownie uruchomić tę czynność na podstawie znanego punktu kontrolnego, bez konieczności zgadywania ukrytego stanu systemu. Należy rejestrować czasy wykonywania operacji oraz koszt tokenów lub zapytań obok wyników funkcjonalnych. Wczesna widoczność kosztów zapobiega nieoczekiwanym rachunkom, gdy proces przechodzi z środowiska demonstracyjnego do współdzielonych środowisk. Trzeba podawać konkretne fragmenty tekstu, które stanowią podstawę odpowiedzi. Bez tych odniesień operatorzy nie są w stanie odróżnić efektu halucynacji od luki w indeksowaniu.
Ustawianie klastra ElastiCache Serverless
Aby utworzyć klastr ElastiCache Serverless, należy zdefiniować dane wejściowe, osobę odpowiedzialną za daną czynność oraz kryteria zakończenia przed modyfikacją kodu. Operatorzy powinni móc ponownie uruchomić tę czynność na podstawie znanego punktu kontrolnego, bez konieczności zgadywania ukrytego stanu. Konfigurację należy przechowywać oddzielnie od kodu aplikacji. Pliki środowiskowe, magazyny tajemnic oraz flagi funkcjonalne powinny znajdować się w jednym miejscu, które operatorzy mogą sprawdzić bez konieczności przeglądania całej struktury. Należy podawać konkretne fragmenty tekstu, na których opiera się odpowiedź. Bez tych odniesień operatorzy nie będą w stanie odróżnić fałszywych informacji od braków w indeksowaniu.
1. Utwórz klastr
Dla punktu 1: Najpierw utwórz klastr, określ dane wejściowe, osobę odpowiedzialną za dany krok oraz kryteria zakończenia przed modyfikacją kodu. Operatorzy powinni móc ponownie uruchomić ten krok na podstawie znanego punktu kontrolnego, bez konieczności zgadywania ukrytego stanu. Zdokumentuj zarówno prawidłowy przebieg działania, jak i ścieżkę naprawczą. Próby ponownych działań, kontrola przez ludzi oraz obsługa wiadomości błędnych stanowią część produktu, a nie elementy dodawane później. Wskazuj fragmenty tekstu, które faktycznie stanowią podstawę odpowiedzi. Bez tych odniesień operatorzy nie będą w stanie odróżnić halucynacji od luki w indeksowaniu.
aws elasticache create-serverless-cache \
--engine redis \
--cache-name rag-cache \
--security-group-ids sg-0123456789abcdef0 \
--subnet-group-name my-subnet-group \
--description "Redis for RAG embeddings" \
--cluster-mode-enabled # <-- critical for multi‑key Lua scripts
Dla punktu 1: Najpierw utwórz klastr, określ dane wejściowe, osobę odpowiedzialną za dany krok oraz kryteria zakończenia przed modyfikacją kodu. Operatorzy powinni móc ponownie uruchomić ten krok na podstawie znanego punktu kontrolnego, bez konieczności zgadywania ukrytego stanu. Traktuj tę fazę jako umowę pomiędzy danymi wejściowymi a zweryfikowanymi wynikami. Nadaj nazwy poszczególnym elementom, zdefiniuj kryteria sukcesu i odrzucaj ciche, częściowe ukończenie zadań.
2. Zwróć uwagę na pułapki
Podczas pracy nad punktem 2. Zwróć uwagę na pułapki, najpierw zapisz umowę: wymagane dane wejściowe, sygnał sukcesu oraz to, co dzieje się w przypadku częściowego niepowodzenia. Taka lista kontrolna zapewnia uczciwość późniejszych zmian w kodzie. Zapisz czasy wykonywania oraz koszt tokenów lub zapytań obok wyników funkcjonalnych. Wczesna widoczność kosztów zapobiega niespodziewanym rachunkom, gdy ścieżka przechodzi z środowiska demonstracyjnego do współdzielonych środowisk. Zmierz stopień odzyskiwania informacji na ustalonej grupie pytań przed dostosowywaniem promptów. Częste zmiany promptów rzadko naprawiają słabe możliwości wyszukiwania.
Kod Lambda bezpieczny pod względem typów z operatorem satisfies
Gdy pracujesz z bezpiecznym kodem Lambda przy użyciu operatora satisfies, najpierw zapisz umowę: wymagane dane wejściowe, sygnał sukcesu oraz to, co dzieje się w przypadku częściowego niepowodzenia. Taka lista kontrolna zapewnia uczciwość późniejszych zmian w kodzie.
Trzymaj konfigurację poza kodem aplikacji. Pliki środowiskowe, magazyny tajnych danych oraz flagi funkcjonalne powinny znajdować się w jednym miejscu, które operatorzy mogą sprawdzić bez konieczności przeglądania całej struktury.
Zmierz stopę odzyskiwania informacji na ustalonej grupie pytań przed dostosowywaniem promptów. Częste zmiany promptów rzadko naprawiają słabe możliwości wyszukiwania.
1. Zainstaluj wymagane pakiety
Gdy przechodzisz do kroku 1. Instaluj wymagane pakiety, najpierw zapisz umowę: wymagane dane wejściowe, sygnał sukcesu oraz to, co dzieje się w przypadku częściowego niepowodzenia. Taka lista kontrolna zapewnia uczciwość późniejszych zmian w kodzie. Dokumentuj zarówno ścieżkę prawidłowego działania, jak i ścieżkę naprawczą. Próby ponowne, kontrola przez ludzi oraz obsługa wiadomości błędnych stanowią część produktu, a nie elementy dodawane później. Zmierz stopień odzyskiwania informacji na ustalonej grupie pytań przed dostosowywaniem promptów. Częste zmiany promptów rzadko naprawiają słabe możliwości wyszukiwania.
npm install @aws-sdk/client-elasticache @aws-sdk/client-lambda @aws-sdk/client-redis @aws-sdk/lib-dynamodb
npm install redis@4 ioredis@5 # ioredis supports cluster mode and Lua
npm install openai # for embedding API (optional)
2. Szkielet Lambda
Gdy pracujesz nad rozdziałem 2. „Skelet Lambda”, najpierw zapisz umowę: wymagane dane wejściowe, sygnał sukcesu oraz to, co dzieje się w przypadku częściowego niepowodzenia. Taka lista kontrolna zapewnia uczciwość późniejszych zmian w kodzie. Wolij małe, testowalne jednostki nad rozbudowane skrypty. Gdy jakiś krok się nie powiedzie, błąd powinien wskazywać na konkretną odpowiedzialność, a nie na skomplikowany łańcuch operacji. Zmierz stopień przywoływania informacji na ustalonej serii pytań przed dostosowywaniem promptów. Częste zmiany promptów rzadko naprawiają słabe mechanizmy wyszukiwania.
import { APIGatewayProxyEvent, APIGatewayProxyResult } from "aws-lambda";
import { ElastiCacheClient, DescribeCacheClustersCommand } from "@aws-sdk/client-elasticache";
import Redis from "ioredis";
// ---- 1️⃣ Type for the shape of our Redis JSON document ----
interface DocumentRecord {
id: string; // unique identifier for the source chunk
text: string; // original text
embedding: number[]; // vector of floats from OpenAI
}
// The `satisfies` operator guarantees that the constant below conforms exactly to DocumentRecord
const sampleDoc = {
id: "doc-001",
text: "Redis can store vectors.",
embedding: [0.12, -0.34, 0.56],
} satisfies DocumentRecord;
// ---- 2️⃣ Helper to get the Redis endpoint from ElastiCache ----
async function getRedisEndpoint(): Promise<string> {
const client = new ElastiCacheClient({});
const cmd = new DescribeCacheClustersCommand({ ShowCacheNodeInfo: true });
const resp = await client.send(cmd);
// Assume only one cluster exists for simplicity
const node = resp.CacheClusters?.[0].CacheNodes?.[0];
if (!node?.Endpoint?.Address) throw new Error("Redis endpoint not found");
return `${node.Endpoint.Address}:${node.Endpoint.Port}`;
}
// ---- 3️⃣ Lambda entry point ----
export const handler = async (
event: APIGatewayProxyEvent
): Promise<APIGatewayProxyResult> => {
// Parse the incoming query string
const query = JSON.parse(event.body ?? "{}").question;
if (!query) {
return { statusCode: 400, body: JSON.stringify({ error: "Missing question" }) };
}
// 3️⃣️⃣️⃣ Get an embedding (replace with real OpenAI call)
const embedding = await fakeEmbedding(query); // returns number[]
// 4️⃣ Connect to Redis (cluster mode)
const redisEndpoint = await getRedisEndpoint();
const redis = new Redis(redisEndpoint, {
// If your cluster uses TLS (recommended) add:
// tls: {}
});
// 5️⃣ Store the embedding using RedisJSON
const docId = `doc:${Date.now()}`; // simple unique key
await redis.call(
"JSON.SET",
docId,
".",
JSON.stringify({
id: docId,
text: query,
embedding,
})
);
// 6️⃣ Run the KNN Lua script (defined later) to fetch top‑3 nearest vectors
const topK = 3;
const neighbors = await redis.eval(
KNN_SCRIPT,
0, // number of KEYS we pass (none, we use SCAN inside the script)
docId,
topK
);
// 7️⃣ Build a mock answer (in reality you would feed the neighbor texts to the LLM)
const answer = `Found ${neighbors.length} similar chunks.`;
await redis.quit();
return {
statusCode: 200,
body: JSON.stringify({ answer, neighbors }),
};
};
// ---- 4️⃣ Fake embedding generator (replace with real OpenAI call) ----
async function fakeEmbedding(text: string): Promise<number[]> {
// Simple deterministic pseudo‑embedding for demo purposes
const hash = Array.from(text).reduce((a, c) => a + c.charCodeAt(0), 0);
return Array.from({ length: 1536 }, (_, i) => ((hash + i) % 100) / 100);
}
Zachowywanie embeddingów za pomocą RedisJSON
Gdy pracujesz nad przechowywaniem embeddingów za pomocą RedisJSON, najpierw zapisz umowę: wymagane dane wejściowe, sygnał sukcesu oraz to, co dzieje się w przypadku częściowego niepowodzenia. Taka lista kontrolna zapewnia uczciwość późniejszych zmian w kodzie. Traktuj ten etap jako umowę pomiędzy danymi wejściowymi a zweryfikowanymi wynikami. Nadaj nazwy poszczególnym elementom, zdefiniuj kryteria sukcesu i odrzuć ciche, częściowe ukończenie zadania. Zmierz stopień przywoływalności na ustalonej serii pytań przed dostosowywaniem promptów. Częste zmiany promptów rzadko poprawiają słabą efektywność wyszukiwania.
1. Dlaczego JSON zamiast surowej ciągu znaków?
Gdy pracujesz nad rozdziałem 1. Dlaczego JSON zamiast surowej ciągu znaków?, najpierw zapisz specyfikację: wymagane dane wejściowe, sygnał sukcesu oraz to, co dzieje się w przypadku częściowego niepowodzenia. Taka lista kontrolna zapewnia uczciwość późniejszych zmian w kodzie. Zapisz czas wykonywania oraz koszt tokena lub zapytania obok wyników funkcjonalnych. Wczesna widoczność kosztów zapobiega nieoczekiwanym rachunkom, gdy ścieżka przechodzi z środowiska demonstracyjnego do współdzielonych środowisk. Zmierz stopień odnalezienia odpowiedzi na ustalone zestawy pytań przed dostosowywaniem promptów. Częste zmiany promptów rzadko poprawiają słabe możliwości wyszukiwania.
2. Minimalny kod do tworzenia dokumentu
Gdy pracujesz nad punktem 2. Minimalny kod do tworzenia dokumentu, najpierw zapisz specyfikację: wymagane dane wejściowe, sygnał sukcesu oraz to, co dzieje się w przypadku częściowego niepowodzenia. Taka lista kontrolna zapewnia uczciwość późniejszych zmian w kodzie. Przechowuj konfigurację poza kodem aplikacji. Pliki środowiskowe, magazyny haseł oraz flagi funkcjonalne powinny znajdować się w jednym miejscu, które operatorzy mogą sprawdzić bez konieczności czytania całej struktury. Zmierz stopę odzyskiwania informacji na ustalonej grupie pytań przed dostosowywaniem promptów. Częste zmiany promptów rzadko naprawiają słabe możliwości wyszukiwania.
// Assume `redis` is an ioredis instance connected to the cluster
const docKey = "doc:12345";
const payload: DocumentRecord = {
id: docKey,
text: "Why Redis can store vectors",
embedding: [0.01, 0.23, -0.45, /* … up to 1536 dims … */],
};
// Store the whole object as JSON under the root path "."
await redis.call(
"JSON.SET",
docKey,
".",
JSON.stringify(payload) // serialize to string before sending
);
3. Czytanie tylko embeddingu (w celu oszczędzenia przepustowości)
Gdy przechodzisz przez punkt 3, czytając z powrotem tylko embedding (aby zaoszczędzić przepustowość), najpierw zapisz umowę: wymagane dane wejściowe, sygnał sukcesu oraz to, co dzieje się w przypadku częściowego niepowodzenia. Taka lista kontrolna zapewnia uczciwość późniejszych zmian w kodzie. Zdokumentuj zarówno ścieżkę prawidłowego działania, jak i ścieżkę naprawczą. Próby ponowne, kontrola przez ludzi oraz obsługa wiadomości nieodebranych stanowią część produktu, a nie elementy dopiero późniejszej optymalizacji. Zmierz stopień odzyskiwania informacji na ustalonej grupie pytań przed dostosowywaniem promptów. Częste zmiany promptów rzadko naprawiają słabe możliwości wyszukiwania.
// Retrieve only the `.embedding` field
const rawEmbedding = await redis.call("JSON.GET", docKey, ".embedding");
// Convert the JSON string back to a number array
const embedding: number[] = JSON.parse(rawEmbedding as string);
Gdy przechodzisz przez punkt 3, czytając z powrotem tylko embedding (aby zaoszczędzić przepustowość), najpierw zapisz umowę: wymagane dane wejściowe, sygnał sukcesu oraz to, co dzieje się w przypadku częściowego niepowodzenia. Taka lista kontrolna zapewnia uczciwość późniejszych zmian w kodzie. Traktuj ten etap jako umowę pomiędzy danymi wejściowymi a zweryfikowanymi wynikami. Nazwij poszczególne elementy, zdefiniuj kryteria sukcesu i odrzuć ciche, częściowe ukończenie zadania.
4. Problemy z RedisJSON w ElastiCache
- Najlepsze efekty pracy z RedisJSON w ElastiCache osiąga się, gdy traktuje się je jako mierzalną powierzchnię do analizy. Zapisz jeden idealny przykład działania, jeden przypadek awarii oraz notatkę dotyczącą cofnięcia zmian, zanim rozszerzysz zakres badań. Zapisuj czasy wykonywania operacji oraz koszt tokenów lub zapytań obok wyników funkcjonalnych. Wczesna widoczność kosztów zapobiega nieoczekiwanym rachunkom, gdy przechodzi się z środowiska demonstracyjnego do współdzielonych środowisk. Rozdziel politykę dzielenia na fragmenty od polityki pobierania danych. Zmiana jednej z nich nie powinna zmuszać do przepisywania drugiej, gdy zmieniają się metryki jakości.
Zapytania i ocena wektorów w czasie rzeczywistym
Kwerowanie i ocenianie wektorów w czasie rzeczywistym działa najlepiej, gdy traktuje się je jako mierzalną powierzchnię. Zapisz jeden idealny przykład, jeden przypadek awarii oraz notatkę dotyczącą cofnięcia zmian, zanim rozszerzysz zakres pracy. Przechowuj konfigurację poza kodem aplikacji. Pliki środowiskowe, skrytki z danymi poufnymi oraz flagi funkcjonalne powinny znajdować się w jednym miejscu, które operatorzy mogą sprawdzić bez konieczności przeglądania całej struktury. Oddziel zasadę dzielenia na fragmenty od zasady wyszukiwania. Zmiana jednej z nich nie powinna zmuszać do przepisywania drugiej w momencie zmian wskaźników jakości.
1. Wskaźnik podobieństwa
- Miara podobieństwa działa najlepiej, gdy jest traktowana jako mierzalna wielkość. Zapisz jeden idealny przepis transkrypcji, jeden przypadek awarii oraz notatkę dotyczącą cofnięcia działań przed rozszerzeniem zakresu. Dokumentuj zarówno prawidłowy przebieg działania, jak i ścieżkę przywracania do normalnego stanu. Próby ponownych działań, kontrola przez ludzi oraz obsługa wiadomości nieodebranych stanowią część produktu, a nie elementy dodawane później. Oddziel zasadę dzielenia na fragmenty od zasady wyszukiwania. Zmiana jednej z nich nie powinna zmuszać do przepisywania drugiej w momencie zmian wskaźników jakości.
- Miara podobieństwa działa najlepiej, gdy jest traktowana jako mierzalna wielkość. Zapisz jeden idealny przepis transkrypcji, jeden przypadek awarii oraz notatkę dotyczącą cofnięcia działań przed rozszerzeniem zakresu. Traktuj tę fazę jako umowę pomiędzy danymi wejściowymi a zweryfikowanymi wynikami. Nadaj nazwy poszczególnym elementom, zdefiniuj kryteria sukcesu i odrzucaj ciche, częściowe ukończenie zadań.
cosine(a, b) = (a · b) / (|a| * |b|)
2. Skrypt Lua
Dla punktu 2: W skrypcie Lua należy zdefiniować dane wejściowe, osobę odpowiedzialną za dany krok oraz kryteria zakończenia przed zmianą kodu. Operatorzy powinni móc ponownie uruchomić ten krok od znanego punktu kontrolnego, bez konieczności zgadywania ukrytego stanu. Należy rejestrować czasy wykonywania oraz koszt tokenów lub zapytań obok wyników funkcjonalnych. Wczesna widoczność kosztów zapobiega niespodziewanym rachunkom, gdy ścieżka przechodzi z środowiska demonstracyjnego do współdzielonych środowisk. Należy podawać fragmenty tekstu, które faktycznie stanowiły podstawę odpowiedzi. Bez tych odniesień operatorzy nie mogą odróżnić halucynacji od luki w indeksowaniu.
-- KNN_SCRIPT: Find top‑K nearest vectors to a query embedding stored at `queryKey`.
-- Arguments:
-- KEYS[1] = (unused) – we pass 0 keys, the script scans the keyspace itself.
-- ARGV[1] = queryKey (the key that holds the fresh embedding)
-- ARGV[2] = k (how many neighbors to return)
local queryKey = ARGV[1]
local k = tonumber(ARGV[2])
-- 1️⃣ Load the query embedding from JSON
local queryEmbeddingJson = redis.call('JSON.GET', queryKey, '.embedding')
local queryEmbedding = cjson.decode(queryEmbeddingJson)
-- Helper: compute dot product
local function dot(a, b)
local sum = 0
for i = 1, #a do
sum = sum + a[i] * b[i]
end
return sum
end
-- Helper: compute vector length
local function norm(v)
return math.sqrt(dot(v, v))
end
local queryNorm = norm(queryEmbedding)
-- 2️⃣ Scan all keys that match the pattern "doc:*"
local cursor = "0"
local results = {} -- will hold {id, score, text}
repeat
local scan = redis.call('SCAN', cursor, 'MATCH', 'doc:*', 'COUNT', 1000)
cursor = scan[1]
local keys = scan[2]
for _, key in ipairs(keys) do
-- Skip the query key itself
if key ~= queryKey then
local docJson = redis.call('JSON.GET', key, '.')
local doc = cjson.decode(docJson)
local sim = dot(queryEmbedding, doc.embedding) / (queryNorm * norm(doc.embedding))
table.insert(results, { id = doc.id, score = sim, text = doc.text })
end
end
until cursor == "0"
-- 3️⃣ Sort by descending similarity and keep top‑k
table.sort(results, function(a, b) return a.score > b.score end)
local top = {}
for i = 1, math.min(k, #results) do
table.insert(top, results[i])
end
return cjson.encode(top)
3. Uruchamianie skryptu z TypeScript
Dla punktu 3: Uruchamiając skrypt z TypeScript, należy zdefiniować dane wejściowe, osobę odpowiedzialną za dany krok oraz kryteria zakończenia przed modyfikacją kodu. Operatorzy powinni móc ponownie uruchomić dany krok od znanego punktu kontrolnego, bez konieczności zgadywania ukrytego stanu. Konfigurację należy przechowywać poza kodem aplikacji. Pliki środowiskowe, magazyny tajnych danych oraz flagi funkcjonalne powinny znajdować się w jednym miejscu, które operatorzy mogą sprawdzić, nie musząc czytać całej struktury. Należy podawać konkretne fragmenty tekstu, na których opiera się odpowiedź. Bez tych odniesień operatorzy nie będą w stanie odróżnić halucynacji od braku danych w indeksie.
// The script is stored as a string constant in our code
const KNN_SCRIPT = `...lua code from above...`;
// Execute the script
const topK = 5;
const rawResult = await redis.eval(KNN_SCRIPT, 0, docId, topK);
const neighbors: Array<{ id: string; score: number; text: string }> = JSON.parse(
rawResult as string
);
// `neighbors` now contains the most similar chunks, ready for the LLM.
4. Dlaczego używamy Lua zamiast pętli po stronie klienta
Dla punktu 4. Dlaczego używamy Lua zamiast pętli po stronie klienta: przed zmianą kodu należy zdefiniować dane wejściowe, osobę odpowiedzialną za dany krok oraz kryteria zakończenia. Operatorzy powinni móc ponownie uruchomić ten krok od znanego punktu kontrolnego, bez konieczności zgadywania ukrytego stanu. Należy udokumentować zarówno prawidłowy przebieg procesu, jak i ścieżkę naprawczą. Próby ponownych działań, kontrola przez ludzi oraz obsługa wiadomości błędnych stanowią część produktu, a nie elementy dodawane później. Należy podać fragmenty tekstu, które faktycznie uzasadniają odpowiedź. Bez tych odniesień operatorzy nie będą w stanie odróżnić halucynacji od luki w indeksowaniu. Dla punktu 4. Dlaczego używamy Lua zamiast pętli po stronie klienta: przed zmianą kodu należy zdefiniować dane wejściowe, osobę odpowiedzialną za dany krok oraz kryteria zakończenia. Operatorzy powinni móc ponownie uruchomić ten krok od znanego punktu kontrolnego, bez konieczności zgadywania ukrytego stanu. Traktuj tę fazę jako umowę pomiędzy danymi wejściowymi a zweryfikowanymi wynikami. Należy nadać nazwy poszczególnym elementom, zdefiniować kryteria sukcesu oraz odrzucić ciche, częściowe ukończenie zadania.
n.Główne wnioski
Podczas pracy nad „Głównymi wnioskami” najpierw zapisz umowę: wymagane dane wejściowe, sygnał sukcesu oraz to, co dzieje się w przypadku częściowego niepowodzenia. Taka lista kontrolna zapewnia uczciwość późniejszych zmian w kodzie. Obok wyników funkcjonalnych zapisz czas wykonywania oraz koszt tokena lub zapytania. Wczesna widoczność kosztów zapobiega niespodziewanym rachunkom, gdy ścieżka przechodzi z środowiska demonstracyjnego do współdzielonych środowisk. Zmierz stopień odzyskiwania informacji na ustalonej grupie pytań przed dostosowywaniem promptów. Częste zmiany promptów rzadko naprawiają słabe mechanizmy wyszukiwania.
Podczas pracy nad „Listą kontrolną operacyjną” najpierw zapisz umowę: wymagane dane wejściowe, sygnał sukcesu oraz to, co dzieje się w przypadku częściowego niepowodzenia. Taka lista kontrolna zapewnia uczciwość późniejszych zmian w kodzie.
Wolno preferować małe, testowalne jednostki zamiast rozbudowanych skryptów. Gdy jakiś krok się nie powiedzie, błąd powinien wskazywać na konkretną odpowiedzialność, a nie na skomplikowany proces.
Mierz stopę odzyskiwania informacji w ustalonej serii pytań przed dostosowywaniem promptów. Częste zmiany promptów rzadko naprawiają słabe mechanizmy wyszukiwania.
Zachowaj niskie koszty przetwarzania i odkładaj drogie operacje na później, po dokonaniu pomiarów, wykorzystując mechanizmy memoizacji. Przedwczesna memoizacja może ukrywać błędy związane ze starymi danymi.
Gdy budżet na to pozwala, dodaj test sprawdzający kluczową ścieżkę w procesie CI przy użyciu narzędzi do tworzenia fixitów, a nie żywych, płatnych API.
Zachowaj konfigurację poza kodem aplikacji. Pliki środowiskowe, magazyny haseł oraz flagi funkcjonalne powinny znajdować się w jednym miejscu, które operatorzy mogą sprawdzić bez konieczności analizowania całej struktury.
Zanim zastosujesz nową architekturę, zamroź wersje oprogramowania, utwórz dokładny zapis działania dla kluczowej ścieżki i upewnij się co do kroków odwracania zmian. Środowiska współdzielone wymagają ograniczeń szybkości, weryfikacji dostępu oraz wyraźnego odpowiedzialnego za rotację haseł. Wolisz nudną niezawodność niż pomysłowe, jednorazowe demonstracje.
Literatura pokrewna
- Praktyczne notatki: K-DramaBoo: Budowanie multi-agentowego systemu rekomendacji k-dram z rozumieniem gustu — Szczegółowy przewodnik po praktycznych notatkach: K-DramaBoo: Budowanie multi-agentowego systemu rekomendacji k-dram z rozumieniem gustu przy użyciu RAG i AgentsSDK: kontrakty, sprawdzenia oraz gotowe fragmenty kodu.
- Praktyczne notatki: AI Agents nie wymagają już poyszukiwania wektorowego: Wnętrze systemu Agentic — Szczegółowy przewodnik po praktycznych notatkach: AI Agents nie wymagają już poyszukiwania wektorowego: Wnętrze stosu narzędzi Agentic zastępującego RAG w 2026 roku: kontrakty, sprawdzenia oraz gotowy kod.