Fundamentos de los agentes de IA: propósito, diseño de instrucciones y selección de modelos

Una startup del sector sanitario invirtió seis meses en desarrollar un agente de IA para la triaje de pacientes. Funcionaba con el modelo más reciente de GPT-4, el equipo contaba con ingenieros de aprendizaje automático experimentados, la interfaz era excelente y a los inversores les encantó la demostración. Sin embargo, cuando llegó a las clínicas reales, en cuestión de días las enfermeras dejaron de usarlo. El agente hacía preguntas que no tenían relación con la queja, pasaba por alto síntomas graves y daba consejos inconsistentes. A veces era excesivamente cauteloso y enviaba a pacientes con problemas menores a la sala de emergencias. Otras veces ignoraba condiciones que requerían atención.

El modelo no era el culpable, al igual que el código. Las bases eran inestables. El equipo no había definido con claridad para qué serviría el agente, se apresuró en el diseño de las instrucciones y eligió la configuración del modelo incorrecta. Tras tres meses más de trabajo, el agente ahora maneja más de 10,000 interacciones con pacientes al día, logrando una satisfacción del 94% entre los enfermeros y resultados significativamente mejores para los pacientes.

Tres pasos fundamentales determinan si un agente tendrá éxito: definir su propósito, diseñar sus instrucciones y elegir su modelo. Si se realizan correctamente, el resto será más sencillo. Si se cometen errores, ningún esfuerzo de ingeniería podrá compensarlo.

Paso 1: definir el propósito

Antes de escribir cualquier código, se necesitan respuestas precisas a cuatro preguntas: ¿Qué problema se está resolviendo? ¿Quién utilizará el agente? ¿Cómo se verá el éxito? ¿Qué limitaciones existen? Las respuestas vagas generan proyectos fallidos, mientras que las específicas dan como resultado sistemas que sobreviven en entornos de producción.

Cuándo un agente es la herramienta adecuada

Un agente no es la solución para todos los problemas. Los sistemas basados en reglas manejan mejor flujos de trabajo simples, los modelos clásicos de ML son adecuados para predicciones puras, y los expertos humanos son la mejor opción cuando se necesita tomar una decisión de alto riesgo con alguien responsable.

Los agentes resultan útiles cuando una tarea requiere tomar decisiones autónomas en un flujo de trabajo complejo y multietapa que involucra varias fuentes de información y herramientas.

Tomemos como ejemplo la detección de fraudes en un banco. Una regla sencilla detecta patrones obvios, como transacciones duplicadas o una tarjeta utilizada al mismo tiempo en dos lugares distantes. Los fraudes más complejos requieren investigación: el agente debe analizar el historial de transacciones, compararlo con el comportamiento habitual del cliente, consultar bases de datos sobre la reputación de los comerciantes, calcular puntajes de riesgo a partir de múltiples modelos, relacionar el caso con redes de fraude conocidas y reunir pruebas para que un revisor humano las evalúe. Esto exige autonomía, ya que se lleva a cabo las 24 horas del día sobre miles de transacciones, además del uso de herramientas en bases de datos y APIs, razonamiento para vincular señales débiles y la organización de una investigación en varios pasos. Esto se adapta perfectamente a un agente.

Revisar el saldo de una cuenta es el caso opuesto. Solo se necesita una llamada a API, no un agente autónomo. La regla es elegir la opción más simple que funcione.

Quiénes son los usuarios

Los usuarios dan forma a la arquitectura. Un técnico de campo desea acceso móvil que funcione sin conexión, un analista de datos quiere paneles con posibilidad de profundizar en los datos y un sistema automatizado necesita APIs limpias con formatos de respuesta predecibles. Algunos ejemplos concretos:

• Los gerentes de inventario minorista quieren sugerencias breves que puedan aceptar o ignorar. Un mensaje como “Reordenar 150 unidades del Producto X para el viernes” puede ser actuado sobre; una puntuación bruta de optimización de 0.847 no puede. El agente debe hablar como lo hace el usuario e integrarse en la rutina existente.
• Los agentes que atienden a pequeños agricultores en zonas rurales deben planificar teniendo en cuenta la mala conectividad. Las alertas por mensaje de texto pueden sustituir a los paneles web; el agente debe soportar una conexión poco fiable y sus consejos deben darse en idiomas locales. Una simple nota indicando que se debe inspeccionar el campo 3 en busca de plagas esta tarde es mucho más útil que una anomalía sectorial señalada con un nivel de confianza del 0,73.
• Los médicos y los pacientes necesitan interfaces diferentes. Un doctor que revisa las recomendaciones desea conocer el razonamiento clínico, los niveles de confianza y las referencias bibliográficas, mientras que un paciente quiere explicaciones sencillas y pasos claros a seguir. Es como tener un solo agente detrás de dos interfaces diferentes.

Éxitos que se pueden medir

Objetivos como “mejorar la eficiencia” prácticamente garantizan el fracaso. Son los objetivos medibles los que impulsan las decisiones.

Para un agente de control de calidad en la industria manufacturera, el éxito podría consistir en detectar el 95% de los defectos que identifican los inspectores humanos, mantener los falsos positivos por debajo del 10%, procesar cada artículo en 2 segundos, reducir la tasa general de defectos no detectados en un 30% y lograr un tiempo de operatividad del 99.9% durante las horas de producción. Esos números influyen directamente en la arquitectura. El límite de 2 segundos descarta algunos modelos, la tasa de detección del 95% requiere una gran cantidad de datos de entrenamiento, y el porcentaje de tiempo de operatividad exige redundancia y un manejo cuidadoso de los errores.

A un agente de mantenimiento aéreo se le evalúa según otras dimensiones: predecir fallos en componentes con un 80% de precisión 30 días por adelantado, reducir el mantenimiento no programado en un 40%, lograr un 100% de cumplimiento normativo en las recomendaciones, nunca sugerir que se pospongan tareas críticas para la seguridad y generar un registro completo de auditoría para cada decisión. El objetivo de cumplimiento implica pruebas rigurosas y supervisión humana, mientras que la norma de seguridad exige umbrales de decisión conservadores. Estos son requisitos arquitectónicos y no ajustes posteriores al lanzamiento.

Restricciones

Cada sistema de producción se enfrenta a tres tipos de limitaciones. Las técnicas incluyen objetivos de latencia, restricciones en la infraestructura y necesidades de integración. Las empresariales abarcan el presupuesto, los plazos y lo que la organización puede realmente sostener. Las regulatorias cubren la privacidad de los datos, el cumplimiento sectorial y los requisitos de auditoría.

• El sector bancario está dominado por la regulación. Un agente encargado de detectar fraudes mantiene registros de auditoría completos, explica cada decisión, nunca accede a los datos de los clientes sin autorización y sigue normas que varían según la jurisdicción. Nada de esto es negociable.
• Los agentes del sector sanitario deben cumplir con HIPAA. Los datos de los pacientes se cifran tanto en almacenamiento como durante su transmisión, el acceso se registra y es auditable, la retención sigue reglas establecidas y cierta información no puede almacenarse ni siquiera por poco tiempo. Estos límites afectan directamente al diseño de la memoria y a las opciones de implementación.
• Los agentes del comercio minorista enfrentan presiones diferentes. Los picos durante las fiestas requieren escalado horizontal, la integración con sistemas antiguos de punto de venta limita las opciones tecnológicas y la sensibilidad al costo hace que se opte por soluciones más económicas. Todo esto influye en toda la arquitectura del sistema.

Escriba las restricciones. Ellas definen lo que es posible.

Cinco ejemplos prácticos

Cada uno de ellos resume conjuntamente el propósito, los usuarios, las medidas de éxito y las limitaciones.

• Bancos: un agente de monitoreo de transacciones. Detecta e investiga en tiempo real millones de transacciones sospechosas al día, para analistas de fraude y oficiales de cumplimiento. El éxito se mide al capturar el 90% de los fraudes con menos del 5% de falsos positivos, resolver cada caso en 30 segundos y mantener un registro de auditoría completo. Las limitaciones incluyen el cumplimiento normativo, la explicación de cada decisión, nunca bloquear una transacción legítima sin revisión por un analista y un tiempo de operatividad del 99.95% las 24 horas del día.
• Venta minorista: un agente de fijación dinámica de precios. Ajusta los precios de miles de SKU según la demanda, la competencia, los niveles de inventario y los objetivos de margen, destinado a gerentes de categorías y analistas de precios. El éxito se mide por un 8% más en ingresos con los márgenes deseados, precios actualizados dos veces al día, gestión de las fluctuaciones estacionales y respeto a los límites mínimos y máximos de precios. Las limitaciones incluyen la integración existente con ERP, nunca fijar precios por debajo del costo, mantenerse competitivo y seguir las reglas de fijación de precios.
• Salud: un agente para la triaje de pacientes. Evalúa los síntomas, determina el nivel de urgencia, recomienda el tipo de atención y programa citas, destinado a enfermeras, pacientes y administradores de clínicas. El éxito se mide por un 95% de coincidencia con las evaluaciones de las enfermeras, un 30% menos de tiempo de espera, mayor satisfacción y enrutamiento inmediato de los casos urgentes. Las limitaciones incluyen el cumplimiento de HIPAA, nunca retrasar la atención de emergencia, comunicación empática, integración con sistemas EHR y soporte en múltiples idiomas.
• Manufacturing: un agente de mantenimiento predictivo. Supervisa el estado de los equipos, predice fallos, programa trabajos preventivos y asigna personal, destinado a supervisores de mantenimiento, gerentes de planta y técnicos. El éxito se mide por la capacidad de predecir fallos con 30 días de antelación y una precisión del 85%, reduciendo en un 50% el tiempo de inactividad no planificado, disminuyendo los costos de mantenimiento y haciendo que los equipos duren un 20% más. Las limitaciones incluyen el procesamiento en tiempo real de sensores, el CMMS existente, equipos antiguos, cumplimiento de normas de seguridad y operación sin conexión a Internet.
• La agricultura, un agente para la salud de los cultivos. Monitorea los cultivos mediante imágenes satelitales y sensores en tierra, detecta brotes de enfermedades, recomienda intervenciones y ajusta el riego y la fertilización, dirigido a gerentes de granjas, agrónomos y administradores de cooperativas. El éxito se mide al detectar las enfermedades una semana antes que mediante inspección manual, con un 25% menos de agua, un 15% más de rendimiento y recomendaciones en el idioma local. Las limitaciones incluyen conectividad irregular, teléfonos de gama baja, software agrícola existente, alertas por SMS y muchos tipos de cultivos.

Cada caso de uso tiene sus propios requisitos, y estos determinan toda la arquitectura; por eso este paso requiere tiempo en tiempo real.

Paso 2: diseñar las instrucciones

La instrucción del sistema es el manual de operaciones del agente. Establece su personalidad, capacidades, limitaciones y patrones de comportamiento. Una bien elaborada garantiza un comportamiento consistente, seguro y fiable, mientras que una deficiente produce resultados impredecibles que fallan en la práctica real.

Objetivos

Comience definiendo qué debe lograr el agente, y sea específico y completo al respecto.

A un agente analista de fraudes bancarios se le podría pedir que analice transacciones en busca de indicadores de fraude, calcule el riesgo con los modelos de puntuación proporcionados, verifique contra patrones de fraude conocidos, redacte informes detallados de investigación y escalone de inmediato los casos de alto riesgo. También se le indica que mantenga un tono profesional en toda comunicación, que nunca revele detalles de la investigación a los clientes y que siempre explica las razones detrás de sus evaluaciones de riesgo. Juntos, estos elementos definen el alcance y los límites, de modo que el agente sepa qué hacer y de qué abstenerse.

Un agente de servicio al cliente minorista recibe una lista diferente. Resuelve consultas sobre pedidos, productos y políticas, consulta el historial de pedidos e inventario, procesa devoluciones dentro de los límites establecidos por la política, remite las solicitudes de reembolso superiores a $500 a un humano, mantiene un tono amable y recopila comentarios después de cada interacción. Le está prohibido prometer algo fuera de la política de la empresa, y debe ofrecer alternativas cuando no pueda atender una solicitud. Los límites son claros: no puede aprobar reembolsos grandes, debe trasladarlos a un nivel superior y debe ceñirse estrictamente a la política. Estas restricciones evitan comportamientos problemáticos.

Personaje

La personalidad determina cuán consistente se percibe al agente y cuánta confianza le tienen los usuarios. Un agente de triaje en el sector sanitario debe sonar tranquilo y profesional, lo que tranquiliza a las personas. Un agente de tutoría debe ser alentador y paciente para mantener motivados a los estudiantes, mientras que un agente de soporte técnico debe ser experto y metódico para que sus soluciones parezcan fiables.

En el mantenimiento aéreo, la personalidad corresponde a un ingeniero experimentado en mantenimiento de aeronaves con veinte años de experiencia en varios tipos de aviones. La seguridad tiene prioridad sobre todo lo demás; se siguen estrictamente las directrices del fabricante, la comunicación es clara y técnicamente precisa, nunca se toman decisiones apresuradas cuando está en juego la seguridad y todo se documenta para los reguladores. Esa personalidad define cómo el agente aborda los problemas, informa sobre sus hallazgos y toma decisiones, lo que garantiza consistencia en miles de interacciones.

Un asesor agrícola para pequeños agricultores aboga por que se escuche otra voz. Conoce los cultivos locales, el clima y las prácticas agrícolas, habla en términos sencillos y prácticos, comprende las limitaciones de recursos con las que se enfrentan los agricultores, ofrece consejos acordes a las herramientas y el presupuesto disponibles, respeta los conocimientos tradicionales al mismo tiempo que introduce métodos modernos, y mantiene la paciencia y el ánimo alentador.

La personalidad debe adaptarse al público. El jerga técnica es adecuada para expertos, el lenguaje sencillo sirve para audiencias generales, y la sensibilidad cultural es importante en aplicaciones a nivel mundial.

Instrucciones

Las instrucciones indican al agente cómo realizar tareas. Las vagas generan un comportamiento irregular, mientras que las específicas aseguran la fiabilidad. Las proceduras numeradas funcionan bien, y estos dos ejemplos muestran dicho estilo.

Un agente de inspección de calidad que examina imágenes de productos sigue ocho pasos:

1. Cargar la imagen y extraer las características con el modelo de visión.
2. Compararlas con las especificaciones de calidad para ese tipo de producto.
3. Identificar cualquier defecto y marcarlo con cuadros delimitadores y una clase.
4. Evaluar la gravedad de cada defecto según la rúbrica proporcionada.
5. Rechazar el producto y registrar los detalles si la gravedad supera el umbral.
6. Solicitar una revisión humana con pruebas de apoyo si la gravedad es marginal.
7. Actualizar las métricas de calidad en la base de datos.
8. Alertar inmediatamente a los supervisores cuando aparecen varios defectos del mismo tipo seguidos.

Pasos como estos reducen la ambigüedad, y el agente sabe qué hacer en cada situación.

Un agente de evaluación de pacientes sigue diez pasos:

1. Recopilar síntomas, el tiempo que han durado y su gravedad a través del cuestionario estructurado.
2. Realice preguntas adicionales según el conjunto de síntomas.
3. Busque señales de alerta que requieran atención inmediata.
4. Clasifique como emergencia y envíe al procedimiento inmediato si aparece alguna señal de alerta.
5. Calcule una puntuación de triaje con el algoritmo aprobado.
6. Recomiende un entorno de atención basado en la puntuación y los síntomas.
7. Programe una cita cuando sea necesario.
8. Proporcione al paciente las próximas acciones claras y un cronograma.
9. Nunca diagnostique una condición ni recomiende un tratamiento específico.
10. Tienda a la prudencia siempre que un caso sea ambiguo.

La regla de “nunca diagnosticar” es la más importante aquí, ya que establece un límite claro que evita problemas de responsabilidad legal.

Límites de seguridad

Los límites de seguridad impiden comportamientos dañinos o problemáticos, y los sistemas en producción no pueden prescindir de ellos. Existen tres categorías:

• Las medidas de control de contenido evitan resultados inapropiados. Un agente de servicio al cliente nunca maldice, incluso cuando lo hace el cliente, y un asesor financiero nunca garantiza rendimientos ni hace promesas sobre el mercado.
• Las medidas de seguridad evitan acciones peligrosas. Un agente de aviación nunca recomienda posponer mantenimientos críticos para la seguridad, un agente de salud nunca sugiere retrasar la atención médica de emergencia y un agente de manufactura nunca desactiva los sistemas de seguridad.
• Las medidas de privacidad evitan fugas de información. Un agente bancario nunca comparte los datos de un cliente con otra cuenta, un agente de salud nunca divulga información de pacientes sin autorización y un agente minorista nunca expone algoritmos de fijación de precios sensibles.

Un agente de detección de fraudes en un banco debe seguir estas reglas: nunca revelar los métodos o modelos de detección a ningún usuario; nunca compartir detalles de investigaciones con el titular de la cuenta que está siendo investigado; nunca abrir una cuenta sin un motivo legítimo relacionado con fraudes; nunca decidir el cierre de una cuenta sin la aprobación de un analista; nunca transferir información del cliente de una investigación a otra; siempre mantener registros de auditoría del acceso a las cuentas. Cuando haya dudas sobre el cumplimiento normativo, solicitar la intervención de un supervisor humano. Estas medidas protegen al banco, a sus clientes y la integridad de las investigaciones.

Un agente de triaje en el área de la salud llevaría a otras personas. No se proporcionan diagnósticos específicos ni consejos de tratamiento. Se debe escalificar inmediatamente la situación ante dolor en el pecho, dificultad para respirar, sangrado severo u otros síntomas de emergencia. No se recomienda posponer la atención por síntomas graves con el fin de ahorrar dinero. No hay acceso a los registros del paciente sin una interacción activa. Se debe mantener un tono profesional y empático en todo momento. Si el paciente expresa pensamientos suicidas, se debe establecer una conexión inmediata con recursos de crisis. No se comparte información del paciente con terceros no autorizados. Se debe dar prioridad a los casos de mayor gravedad cuando la urgencia no esté clara. Todo esto protege la seguridad del paciente y asegura que la atención sea adecuada.

Pruebas e iteraciones

El primer prompt no será perfecto. Pruébalo en escenarios reales, busca casos límite y perfecciona el prompt en rondas sucesivas. Un ciclo útil consiste en partir de un prompt básico, ejecutar de 20 a 30 escenarios representativos, registrar los fallos, buscar patrones, revisar el prompt y repetir el proceso.

Un agente de fijación de precios en comercio minorista podría recomendar precios por debajo del costo durante períodos de alta demanda. La solución es establecer una regla explícita que prohíba fijar precios por debajo del costo y exigir un margen mínimo del 10%. Un agente de triaje podría descartar problemas recurrentes como menores cuando en realidad podrían indicar algo grave; la solución es instruirlo para que siempre recomiende una evaluación médica en los casos donde los síntomas persistan más de dos semanas, independientemente de su aparente gravedad.

Las pruebas revelan deficiencias en las instrucciones, ausencia de medidas de seguridad y orientaciones ambiguas. Esta perfeccionación no es opcional: así es como se construyen sistemas de producción fiables.

Ejemplos completos de prompts

Al unir todos los elementos, cada prompt cuenta con la misma estructura básica de rol, objetivos, instrucciones y limitaciones, adaptada a su área específica.

El analista de fraudes bancarios asume el rol de un especialista en fraude con quince años de experiencia en la investigación de delitos financieros, y elabora evaluaciones detalladas de riesgo para los analistas. Sus objetivos son detectar anomalías en los patrones de transacciones, calcular puntajes de riesgo mediante modelos aprobados, comparar las transacciones con bases de datos de fraudes conocidas, redactar informes exhaustivos con pruebas y enviar los casos de alto riesgo directamente a analistas humanos. Al analizar una transacción, sigue estos pasos:

1. Obtener el historial completo de transacciones de la cuenta.
2. Buscar anomalías en la frecuencia o cantidad de transacciones, es decir, patrones inusuales.
3. Verificar que el comerciante y la ubicación coincidan con el perfil del cliente.
4. Estimar la probabilidad de fraude mediante el modelo ensemble.
5. Escaléelo de inmediato con pruebas detalladas si la puntuación es superior a 0.8.
6. Marquelo para revisión por parte del analista junto con los datos de respaldo si está entre 0.5 y 0.8.
7. Apruebe la transacción e indique la decisión tomada si es inferior a 0.5.
8. Registre siempre los razonamientos y las fuentes de los datos.

Sus restricciones son: no revelar métodos de detección, no discutir investigaciones en curso con los titulares de la cuenta, no acceder a ninguna cuenta sin una razón legítima, mantener un registro de auditoría de cada decisión, elevar las dudas regulatorias a un supervisor y no aprobar el cierre de ninguna cuenta sin la confirmación del analista.

El agente de servicio al cliente minorista actúa como un representante amable y servicial de una marca premium que brinda asistencia con pedidos, productos y políticas, manteniendo al mismo tiempo una experiencia excelente. Sus objetivos son una resolución rápida y eficaz, devoluciones e intercambios dentro de los términos establecidos, información y recomendaciones precisas sobre los productos, una voz de marca coherente y la escalada adecuada de los problemas complejos. Para consultas sobre pedidos, él:

1. Busca el pedido por número o correo electrónico.
2. Indica el estado actual y la fecha estimada de entrega.
3. Explica las razones y ofrece alternativas si el pedido se retrasa.
4. Gestiona las actualizaciones de seguimiento y cualquier inquietud del cliente.
5. Escala el caso al equipo de logística si falta el pedido.

Para devoluciones, él:

1. Confirma que la compra se realizó dentro del plazo de 30 días.
2. Verifica que el estado del producto cumpla con los requisitos establecidos.
3. Emitirá una autorización de devolución y una etiqueta.
4. Iniciará el reembolso una vez que llegue el artículo.
5. Enviará los reembolsos superiores a $500 a un gerente para su aprobación.

Sus límites son: ningún reembolso fuera de lo establecido en la política sin aprobación del gerente, ninguna promesa sobre fechas de entrega que no pueda controlar, ninguna divulgación de información sobre proveedores o costos, un tono profesional y empático incluso con clientes frustrados, una despedida cortés y escalada si el cliente se vuelve abusivo, y ninguna devolución sin verificación adecuada.

El agente de triaje en salud es un enfermero especializado y compasivo que ayuda a los pacientes a encontrar el lugar adecuado para recibir atención, evaluando sus síntomas y el grado de urgencia al mismo tiempo que los mantiene seguros. Sus objetivos son realizar una evaluación precisa de los síntomas y la urgencia, dirigir a los pacientes a servicios de emergencia, atención urgente, atención primaria o autocuidado, brindar atención inmediata en casos de emergencia, reducir las visitas innecesarias a urgencias y mantener la confianza de los pacientes. Durante la evaluación, él:

1. Registra la queja principal y los detalles de los síntomas mediante preguntas estructuradas.
2. Pregunta sobre la duración, gravedad y evolución de los síntomas.
3. Busca señales de alerta que requieran atención inmediata.
4. Revisa la presencia de anomalías en los signos vitales cuando están disponibles.
5. Calcula el grado de urgencia según el algoritmo aprobado.
6. Formula una recomendación con una explicación clara.
7. Programa una cita cuando es apropiado.
8. Explica detalladamente los próximos pasos a seguir.
9. Añade precauciones para el retorno que describen cuándo buscar un nivel de atención más avanzado.

Las señales de alerta que indican la necesidad de atención de emergencia son el dolor o presión en el pecho, dificultad para respirar, sangrado grave o trauma, un dolor de cabeza intenso repentino o cambios en la visión, confusión o estado mental alterado, signos de accidente cerebrovascular como cara caída, brazo débil o dificultad para hablar, una reacción alérgica grave, y pensamientos suicidas o homicidas. Sus medidas de protección son: no se proporcionan diagnósticos específicos ni consejos de tratamiento, las señales de alerta siempre se tratan como emergencias independientemente de otros factores, no se sugiere retrasar la atención de emergencia por costos o conveniencia, una comunicación empática y centrada en el paciente, recursos de crisis disponibles de inmediato en caso de aparecer pensamientos suicidas, sin acceso a los registros sin el consentimiento activo del paciente, una tendencia a priorizar casos de mayor gravedad cuando la urgencia es incierta, y la derivación de casos complejos a un supervisor de enfermería.

Cada prompt se adapta a su propio dominio, tipo de usuario y perfil de riesgo. El agente bancario se centra en la investigación y el cumplimiento, el agente minorista equilibra la satisfacción del cliente con las políticas establecidas, y el agente de salud prioriza la seguridad por encima de todo.

Paso 3: elegir el modelo

La elección del modelo afecta directamente al rendimiento, el costo, la latencia y las capacidades, y una elección incorrecta socava todo lo demás.

Opciones de modelo base

El mercado cambia rápidamente, pero los equilibrios fundamentales permanecen: capacidades frente a costos, latencia frente a calidad, modelos alojados frente a autogestionados, y modelos de uso general frente a modelos especializados.

• GPT-4 y GPT-4 Turbo de OpenAI razonan muy bien, siguen las instrucciones al pie de la letra, escriben contenido creativo de calidad y ejecutan funciones de manera fiable, con un amplio soporte para el uso de herramientas. Las desventajas son su mayor costo, una latencia moderada y la dependencia de la API de OpenAI. Son ideales para tareas de razonamiento complejo, trabajos creativos, agentes multiusos y casos en los que la calidad es más importante que el precio.
• Claude 3.5 y Claude 4.5 de Anthropic se destacan en el análisis de documentos extensos, razonan con solidez, generan código excelente, siguen instrucciones detalladas y ofrecen una ventana de contexto de 200K tokens, además de un fuerte alineamiento en materia de seguridad. Son más caros, solo están disponibles a través de una API y tienen límites de uso en la versión gratuita. Son adecuados para el análisis de documentos, agentes de investigación, asistentes de programación, aplicaciones con contexto largo y casos en los que la seguridad y el alineamiento son prioritarios.

Llama 3 70B y 405B de Meta son de código abierto y se pueden alojar localmente sin costos por API, tienen un buen rendimiento, cuentan con un sólido soporte comunitario y existen en muchas variantes afinadas. Se necesita infraestructura para alojarlos, pagar por las operaciones de inferencia y contar con la experiencia técnica para desplegarlos; además, están por detrás de los modelos más avanzados. Son adecuados para implementaciones en las instalaciones del cliente, cuando es necesario respetar la privacidad de los datos, para uso a gran escala donde los costos de API serían prohibitivos y cuando se requiere una personalización extensa.

Gemini Pro y Ultra de Google manejan múltiples modalidades, razonan bien, se integran con los servicios de Google y tienen precios competitivos. Están menos probados en sistemas de agentes en producción y cuentan con un ecosistema más reducido. Son adecuados para aplicaciones de visión, integración con Google Cloud y agentes multimodales.

Existen modelos específicos para cada sector como la salud (Med-PaLM), el código (CodeLlama, StarCoder), las finanzas y otros campos. Renden mejor en casos de uso específicos y carecen de capacidad general.

Parámetros de ajuste para producción

La temperatura controla la aleatoriedad. Valores bajos, de 0.0 a 0.3, generan resultados consistentes y deterministas, mientras que valores altos, de 0.7 a 1.0, producen resultados creativos y variados. Un agente para detectar fraudes bancarios debe funcionar con una temperatura de 0.0, ya que la consistencia es más importante que la creatividad y la misma transacción debe recibir siempre la misma evaluación de riesgo. Un agente de servicio al cliente funciona con temperaturas entre 0.3 y 0.5, lo que permite cierta variación natural en la redacción manteniendo al mismo tiempo una interpretación estable de las políticas. Los agentes que escriben textos publicitarios o descripciones de productos rinden mejor con temperaturas entre 0.7 y 0.9, ya que la variedad aporta valor.

Top-p, o muestreo de núcleo, es un segundo método de control de la aleatoriedad. Los valores bajos, entre 0.1 y 0.5, restringen las opciones a los tokens más probables, mientras que valores más altos, de 0.7 a 0.95, permiten mayor diversidad.

Max tokens establece un límite para la longitud de la salida y debe ajustarse según el caso de uso. Un informe de investigación de fraudes necesita de 1000 a 2000 tokens, una respuesta de servicio al cliente de 200 a 500 y una respuesta simple de una llamada API de 50 a 100.

Ajuste los parámetros con datos reales de producción y no con escenarios de demostración. Utilice entradas reales de usuarios, mida la calidad y realice iteraciones.

Ventana de contexto

La ventana de contexto determina cuánto puede procesar el agente a la vez. Las ventanas más largas permiten razonamientos más complejos, pero aumentan los costos y la latencia. Los tamaños de las ventanas varían mucho: 128K tokens para GPT-4 Turbo, 200K para Claude 3.5, 8K para Llama 3 70B (hasta 32K en algunas variantes) y hasta 1M para Gemini Pro.

A un agente de triaje en el sector sanitario le basta con 8K, ya que cada interacción consta de unos cientos de tokens de conversación más unas pocas páginas de pautas clínicas. Un agente encargado del análisis de contratos legales se beneficia con 200K, lo cual permite mostrar contratos completos junto con jurisprudencia y regulaciones de apoyo en una sola ventana, mejorando significativamente la calidad en comparación con el método de dividir los documentos en partes. Un agente de servicio al cliente que maneja catálogos de productos, historial de pedidos y documentos de políticas funciona adecuadamente con 32K a 64K, lo que representa un buen equilibrio entre capacidad y costo.

También influye en esta elección la arquitectura de memoria. Las bases de datos vectoriales pueden recuperar la información relevante, lo que reduce la necesidad de una ventana muy grande.

Costo, latencia y precisión

Cada sistema en producción equilibra estos tres aspectos entre sí.

En cuanto al costo, GPT-4 tiene un precio de aproximadamente 30 dólares por millón de tokens de entrada y 60 dólares por millón de tokens de salida, con Claude 3.5 Sonnet en el mismo rango; mientras que Llama 3 70B implica costos de infraestructura pero no cobra por token. Un agente de servicio al cliente en el sector minorista que maneja 100,000 interacciones diarias, con unos 500 tokens cada una, podría llegar a gastar 1,500 dólares al día en costos de API, es decir, 45,000 dólares al mes, lo que podría justificar la opción de alojar Llama por uno mismo o utilizar modelos más pequeños. Un agente de mantenimiento aéreo que maneja 1,000 interacciones complejas al mes podría gastar unos 500 dólares, y en ese caso la calidad de GPT-4 representa una compra razonable.

En cuanto a la latencia, el tiempo para procesar el primer token varía de 200 milisegundos a 2 segundos, dependiendo del tamaño del modelo y del lugar de alojamiento; el tiempo total de respuesta incluye además la inferencia, las llamadas a herramientas y el procesamiento. Una conversación en tiempo real con el cliente se percibe como lenta si supera los 3 segundos, por lo que es necesario utilizar modelos más rápidos o soluciones basadas en streaming. Las investigaciones de fraude por lotes pueden tardar de 10 a 30 segundos por transacción si mejora la precisión. Un agente de control de calidad en una línea de ensamblaje debe responder en menos de 2 segundos, por lo que se requiere una implementación optimizada o modelos más pequeños.

En cuanto a la precisión, los modelos más grandes suelen razonar mejor y seguir las instrucciones con mayor fidelidad, y se puede medir la diferencia entre GPT-4 y los modelos más pequeños. En situaciones donde las decisiones tienen grandes consecuencias, como en la triaje médico, el fraude financiero y los sistemas críticos para la seguridad, es mejor adquirir el modelo más avanzado, ya que un error cuesta más que el precio del propio modelo. En tareas de menor importancia, como las recomendaciones de productos, los servicios simples y la categorización de contenido, a menudo son suficientes los modelos más pequeños. Pruebe con datos reales para observar la diferencia real en calidad según el caso concreto, ya que las impresiones suelen diferir de la realidad.

Combinación de varios modelos

Los sistemas en producción suelen utilizar diferentes modelos para tareas distintas, y las solicitudes se dirigen al modelo que mejor se adapte. Los modelos económicos y rápidos se encargan de tareas simples, mientras que los costosos y potentes se ocupan de las tareas complejas. Mida el costo y la calidad según su propio volumen de trabajo.

• En los bancos, el trabajo relacionado con el fraude podría dividirse en tres áreas: GPT-4 para el análisis profundo de patrones y la redacción de informes (alta calidad, pocas llamadas), GPT-3.5 Turbo para las numerosas notificaciones a clientes (suficientemente bueno y más económico), y un Llama 3 8B ajustado específicamente para clasificar transacciones de forma rápida y económica.
• Un sistema de triaje en el sector sanitario podría utilizar Claude 3.5 para el análisis de síntomas que requiere un amplio contexto médico, GPT-4 para una comunicación con los pacientes natural y empática, y un modelo médico especializado para brindar apoyo en decisiones clínicas concretas.
• El comercio minorista podría recurrir a GPT-4 para las conversaciones de servicio que necesitan razonamiento, a modelos de embedding detrás de búsquedas y recomendaciones de productos, y a un clasificador ajustado específicamente para una asignación simple de tareas.

Elegir modelos según la industria

• Detección de fraudes bancarios: Claude 3.5 como opción principal, ya que su capacidad de contexto de 200K incluye un historial completo de transacciones además de orientaciones regulatorias, y GPT-4 Turbo como opción secundaria para las comunicaciones con clientes. Las investigaciones requieren un análisis profundo de patrones en historiales extensos y documentos regulatorios, lo que justifica su mayor costo.
• Optimización de inventarios en el sector minorista: GPT-4 Turbo como opción principal para el razonamiento en la previsión de demanda, con Llama 3 70B autohospedado como opción secundaria para la fijación de precios en tiempo real. La estrategia necesita un razonamiento de calidad, mientras que la fijación de precios en tiempo real se realiza a gran escala, donde el autohospedaje resulta rentable.

Triage de pacientes en el sector sanitario: GPT-4 como opción principal por su fiabilidad comprobada en decisiones críticas desde el punto de vista de la seguridad; Claude 3.5 como alternativa para casos complejos con historiales médicos extensos; y un modelo de dominio ajustado a medida como opción secundaria para la clasificación rutinaria. Los casos complejos requieren la mejor calidad, mientras que los rutinarios pueden contar con especialistas más económicos.

Control de calidad en la manufactura: GPT-4 Vision como herramienta principal para el análisis de imágenes, además de un Llama 3 8B ajustado a medida en las instalaciones para una rápida clasificación de defectos. La inspección en líneas de montaje necesita baja latencia; el modelo pequeño se encarga de los casos rutinarios, mientras que GPT-4 Vision maneja aquellos casos visuales más complejos.

Monitoreo de cultivos agrícolas: Llama 3 70B alojado localmente en dispositivos periféricos como opción principal, con GPT-4 como alternativa para el diagnóstico complejo de enfermedades a partir de imágenes. La conectividad intermitente y las ubicaciones remotas favorecen el alojamiento local; el monitoreo rutinario se realiza de forma local, mientras que los casos difíciles se envían a la nube.

Mantenimiento aéreo: GPT-4 como opción principal, ya que las decisiones críticas desde el punto de vista de la seguridad requieren la mejor calidad, con Claude 3.5 como respaldo para leer manuales de mantenimiento y regulaciones. La seguridad no es negociable; las regulaciones implican documentos extensos, redundancia y una supervisión humana obligatoria.

La selección debe reflejar sus propias necesidades de precisión, límites de latencia, aspectos económicos relacionados con el volumen de trabajo, requisitos de privacidad, entorno de implementación y tolerancia al riesgo.

Construyendo las bases

Las bases determinan todo lo que vendrá después. Defina claramente el propósito con criterios de éxito medibles, diseñe instrucciones que generen un comportamiento consistente y seguro, y elija modelos que equilibren calidad, costo y latencia según el caso de uso concreto.

Estos tres pasos representan aproximadamente el 60% del éxito de un agente. Saltárselos o apresurarse en su ejecución genera sistemas que fallan en producción, mientras que realizarlos adecuadamente simplifica los demás componentes arquitectónicos.

Lecturas relacionadas

• Notas prácticas: Creación de un agente de programación en nube privada: OpenCode + un LLM local — Guía paso a paso de las Notas prácticas: Creación de un agente de programación en nube privada: OpenCode + un LLM local: contratos, verificaciones y espacios para código listos para uso por los equipos que implementan este patrón.

DS-STAR explicado: el agente de ciencia de datos de Google y por qué su enfoque funciona — Una explicación detallada del agente de ciencia de datos DS-STAR de Google: sus siete módulos, el ciclo de informes DS-STAR+, las instrucciones publicadas, los resultados de las pruebas de eliminación y las limitaciones actuales.

Ondas de choque volcánicas en barómetros domésticos: alertas tempranas a partir de 29,334 registros de estaciones meteorológicas — Cómo las estaciones meteorológicas de Netatmo, la física de las ondas de Lamb y los agentes de IA localizaron cráteres, estimaron la potencia de las explosiones y proporcionaron minutos de advertencia sin alarmas falsas.

Notas prácticas: Los incidentes reales de seguridad de la semana tres que afectaron a los agentes de IA — Guía detallada de las Notas prácticas: Los incidentes reales de seguridad de la semana tres que afectaron a los agentes de IA: contratos, verificaciones y espacios para código adicional para equipos que implementan este patrón.

Crea un sistema multiagente local con Ollama y CrewAI en 16 GB de RAM — Elige un modelo que quepa en 16 GB, ejecútalo con Ollama y luego conecta los agentes de programación, investigación y PowerPoint de CrewAI, con soluciones para errores de memoria insuficiente, fallos en las llamadas a herramientas y bucles.

Promptes estructurados para agentes AI en Rust: capas, caché y verificaciones de desviación — Crea un prompte de sistema en capas para un agente en Rust: identidad, instrucciones, reglas de salida, ejemplos y contexto actualizado, además de un límite de caché y una huella digital para CI.

Notas prácticas: Construyendo agentes AI en Rust - parte 8 — Guía paso a paso de las Notas prácticas: Construyendo agentes AI en Rust - parte 8: contratos, verificaciones y espacios de código listos para usar por los equipos que implementan este patrón.