Un filtro de relevancia diminuto: cómo un valor al cuadrado mantiene la latencia cerca de 119 ms

Un filtro que decide qué debe recordar un asistente puede ser diminuto. H-Governor es una capa de puntuación previa al modelo que entrega el primer byte en unos 119 ms, y su rapidez se reduce a una sola fórmula, un clasificador pequeño y unas pocas líneas de Python. Aquí tienes las matemáticas, el código y lo que realmente se mide, para que lo compruebes tú mismo en lugar de creerte una cifra de latencia sin más.

Una fórmula

Toda la puntuación es esta:

H = πψ²

Se lee como pi por psi al cuadrado y tiene tres partes:

• H es la puntuación global de «energía», el resultado final. Va de 0 hasta aproximadamente 3,14.
• pi es la constante de siempre, más o menos 3,14159.
• psi es una puntuación de coherencia entre 0 y 1 que describe lo bien formado que está el texto de entrada y cómo se estructuran sus frases.

Aquí no hay red neuronal ni transformer. Es un cálculo cerrado y sencillo, más cercano en espíritu a una ecuación de física que a un modelo de caja negra.

Por qué psi se eleva al cuadrado

Elevar al cuadrado no es lineal, y de eso se trata. Antes de multiplicarse por pi, el valor de coherencia normalizado se eleva al cuadrado, de modo que las señales débiles se encogen y las fuertes destacan. Un psi de 0,2 aporta solo 0,04, mientras que un psi de 1,0 aporta 1,0, es decir, 25 veces más peso.

En la práctica, los comentarios rutinarios pasan desapercibidos y los hechos importantes dominan. Un modelo de chat genérico al que se le preguntó por la misma idea la describió igual: elevar psi al cuadrado suprime las señales débiles y da mucho más peso a las fuertes, lo que convierte la fórmula en un regulador de relevancia razonable. Es una comprobación de sentido común, no una demostración, pero cuadra con la aritmética.

Qué hace NumPy aquí y qué no

NumPy es la biblioteca numérica estándar de Python para vectores, matrices, estadística y matemáticas en general. En este sistema se encarga de la mitad del cálculo: le pasas un psi ya estimado y devuelve una puntuación H coherente. Esa puntuación decide después qué pasa con un mensaje, por ejemplo si debe afectar a la memoria, a la continuidad de la conversación o al enrutamiento entre modelos.

Lo que NumPy no puede hacer es calcular psi. Lo difícil es leer un mensaje humano real lo bastante bien como para estimar qué señales importan, y esa tarea corresponde a la capa de inferencia de psi. Algunos ejemplos muestran el abanico:

• Comentar que te mudaste a Los Ángeles la semana pasada probablemente es información personal duradera.
• Darle vueltas a dejar un trabajo seguramente es una decisión importante o un objetivo pendiente.
• Echar de menos a un padre o una madre tiene peso emocional sin que nadie pida guardar ningún dato.
• Pedir que te recuerden el entrenamiento para el maratón es un compromiso que importará en conversaciones posteriores.

El regulador no necesita entenderlo todo como lo haría un modelo de lenguaje puntero. Su trabajo es más acotado: detectar las señales que deberían cambiar la memoria, la continuidad, el enrutamiento o el comportamiento de la respuesta.

La calidad de la clasificación es lo que decide si esto funciona. Si psi se estima mal, la fórmula sigue siendo matemáticamente correcta y, aun así, inútil en la práctica. Verías cosas como estas:

• Un mensaje trivial recibe una puntuación demasiado alta y se guarda cuando debería haberse ignorado.
• Un compromiso real recibe una puntuación demasiado baja y se olvida.
• Un comentario emocional se confunde con un hecho duradero.
• Un mensaje breve pero importante queda eclipsado por otro largo y repetitivo.

La fórmula es determinista, así que su utilidad depende por completo de las entradas. A grandes rasgos, la calidad de la memoria es la calidad de psi más el comportamiento del regulador.

Por eso esta capa va antes de la generación. Es un paso de decisión ligero e inspeccionable que fija un estado coherente antes de que el modelo de lenguaje produzca su respuesta probabilística. El LLM recibe entonces un contexto moldeado por una política explícita, en lugar de tener que decidir desde cero qué importa. La aritmética es barata. El verdadero problema de diseño es el criterio que lleva incorporado psi.

El clasificador de cinco categorías

¿Y cómo se obtiene psi? En esta implementación es un clasificador de cinco categorías que se ejecuta en local en unos 0,2 ms, sin llamadas a ninguna API ni idas y vueltas a un LLM: solo expresiones regulares y aritmética:

def infer_tem_inputs(user_input):
    # 1. Durable personal info (name, location, goals)
    # 2. Important decisions (job change, trade entry)
    # 3. Emotional significance (loss, breakthrough, frustration)
    # 4. Commitments / unresolved objectives (psi-seeds)
    # 5. Future-relevant context (next steps, deadlines)

    # Returns: emotion, clarity, focus scores (0-1)
    # These combine into ψ

Cada categoría suma a un psi final entre 0 y 1, y después H = pi por psi al cuadrado se evalúa en microsegundos.

Ese orden explica la velocidad. Psi se calcula antes de cualquier inferencia costosa, así que la capa cara solo ve los mensajes que ya han pasado el filtro de relevancia.

El recorrido de la petición

Este es el paso real del regulador dentro del manejador de peticiones de la aplicación:

start_ns = time.perf_counter_ns()
emo, clarity, focus = infer_tem_inputs(request.input)
psi_report = tem_engine.evaluate(ThoughtSignal(clarity, focus, emo))
g_core = GongjuCore(psi=psi_report.coherence)
h_energy = g_core.holistic_energy()  # H = πψ²
latency_us = (time.perf_counter_ns() - start_ns) / 1_000
latency_buffer.append(latency_us)

Se cronometra a sí mismo en nanosegundos, infiere las puntuaciones de emoción, claridad y foco, las combina en un valor de coherencia y obtiene H. Puedes ejecutarlo, confirmar la cifra de 0,2 ms y comprobar la fórmula. Los números que puedes reproducir valen más que las promesas de los proveedores.

Con qué quedarse

La fórmula es sencilla, las matemáticas son demostrables y el escalado no es lineal. La inteligencia vive en psi: saber qué mensajes importan, qué hechos perduran, qué decisiones son compromisos y qué contexto será relevante más adelante.

Por eso el regulador se ejecuta antes del modelo, por eso cuesta mucho menos que una inferencia completa y por eso es posible llegar a 119 ms hasta el primer byte sin perjudicar la calidad de la memoria. No es un truco de benchmark. Es lo que se consigue al llevar la decisión a la capa barata.