ACE: cómo los agentes aprenden sin tocar los pesos del modelo

Qué es Agentic Context Engineering (ACE)

Agentic Context Engineering, o ACE, es un enfoque para que agentes basados en modelos de lenguaje se vuelvan mejores con el tiempo sin actualizar los pesos del modelo. En vez de intentar reentrenar o reescribir todo lo que el agente ‘sabe’, ACE registra lecciones reutilizables en un playbook: entradas pequeñas y nombradas que el agente consulta antes de cada tarea.

La idea central es simple pero potente: cuando un agente comete un error al usar una API, por ejemplo, no hace falta cambiar el modelo entero; basta con guardar una regla o ajuste contextual que evite repetir el mismo tropiezo. Esa regla vive en el playbook y se puede editar, unir con otras entradas o eliminar si deja de ser útil.

Por qué evitar reescrituras completas

Sistemas que piden a un LLM reescribir toda su memoria pueden romper información útil. El artículo original documenta un caso donde una “Dynamic Cheatsheet” pasó de 18,282 tokens a 122 en una sola operación, y la precisión reportada cayó de 66.7% a 57.1%. Eso ilustra que una limpieza agresiva o una mala gestión del contexto puede eliminar señales importantes.

ACE propone un enfoque más conservador: entradas pequeñas y específicas. En vez de un solo bloque largo que se reescribe, se mantienen fragmentos con identificadores y contadores de utilidad o daño. Esto ayuda cuando el agente usa herramientas repetidamente o necesita reglas de dominio que no deberían perderse entre sesiones.

El bucle de tres componentes: Generator, Reflector y Curator

ACE organiza la mejora continua en un ciclo de tres pasos:

• Generator: intenta completar la tarea usando el playbook vigente.
• Reflector: analiza el intento y la retroalimentación, y extrae una lección o hipótesis sobre qué salió bien o mal.
• Curator: convierte esa lección en una actualización compacta (delta) y aplica una lógica de fusión al playbook.

Crucialmente, en todo este flujo no se tocan los pesos del modelo. Lo que cambia es lo que el agente lee antes de generar su siguiente respuesta.

Qué tipo de cosas se almacenan

Las entradas del playbook típicamente contienen:

• Reglas de uso de herramientas o APIs (p. ej., seguir un campo next_page hasta que esté vacío).
• Fragmentos de código reutilizables.
• Consejos de solución de errores específicos de un servicio.

Cada entrada tiene un ID y contadores que indican si fue útil o perjudicial en usos posteriores. Las entradas pueden añadirse, revisarse, fusionarse si se duplican y podarse si el playbook crece demasiado.

Ejemplo práctico: la factura y el campo next_page

Imagine un agente que solo revisa la primera página de resultados de facturas y omite las siguientes. Si en la interacción aparece un campo next_page, el agente puede aprender a seguirlo hasta agotar páginas antes de sumar totales. Esa lección se guarda como una entrada puntual en el playbook. Este ejemplo también muestra que la calidad de la retroalimentación importa: el sistema debe darse cuenta de que faltan facturas para generar la regla correcta.

Resultados en benchmarks y límites

El trabajo de ACE se evaluó en escenarios offline (playbook construido antes de pruebas) y online (actualización tras cada predicción). En AppWorld, que mide tareas con APIs y ejecución de código, ACE offline usando la misma base DeepSeek-V3.1 superó a GEPA, y ACE online superó a Dynamic Cheatsheet tras un warmup offline.

En finanzas, con etiquetas en offline, ACE alcanzó un promedio de 81.9% en FiNER y Formula frente a 72.5% de GEPA. Sin embargo, en la versión online sin etiquetas ACE bajó en FiNER a 67.3% frente a 70.7% del modelo base; en Formula hubo mejora incluso sin etiquetas. Esto resalta un punto importante: cuando no hay una señal de resultado confiable, una reflexión plausible puede transformarse en una regla errónea y contaminar el playbook.

Qué componentes demostraron valor

Los autores compararon variantes del sistema y encontraron que la versión completa funcionó mejor que versiones sin adaptación multi-época o sin el Reflector dedicado. Además, un calentamiento offline mejoró la adaptación online. ACE también mostró ser más rápido y barato en las fases de aprendizaje que alternativas como GEPA o Dynamic Cheatsheet en las pruebas citadas, aunque esos números miden la etapa de aprendizaje más que el coste por petición individual en producción.

Un trade-off a considerar es que un playbook más largo puede mejorar resultados futuros, pero también aumenta la cantidad de información que el agente debe procesar en inferencia.

Cuándo usar un playbook evolutivo como ACE

ACE es especialmente útil cuando:

• Las tareas se repiten con variaciones menores.
• Es posible verificar si una solución fue correcta (se dispone de señal de resultado).
• Pequeñas lecciones procedimentales son transferibles a tareas futuras.

No es adecuado cuando la señal de retroalimentación es débil o ruidosa, porque reglas aprendidas con mala evidencia pueden volverse dañinas. Si planean probar ACE en una aplicación productiva, comparen siempre contra un baseline de contexto fijo en tareas guardadas: midan éxito en tareas, cambios en el playbook y la frecuencia con la que una regla resultó perjudicial.

Los autores ponen a disposición código y un formato concreto de playbook para quienes quieran experimentar.

Recomendaciones para equipos y tomadores de decisión en América Latina

• Prioricen casos de uso repetitivos con verificación clara: automatización de APIs gubernamentales, conciliaciones financieras o pipelines de datos donde la señal de éxito sea evidente.
• Monitoricen la evolución del playbook: métricas sobre cuántas reglas se añaden, cuántas se revierten y la tasa de reglas perjudiciales.
• Mantengan la retroalimentación lo más explícita posible: logs de ejecución, tests de integración o etiquetas humanas cuando sea necesario.
• Evalúen el costo de inferencia: un playbook más grande puede aumentar latencia y consumo de tokens.

Conclusión

ACE propone una alternativa pragmática a la memoria monolítica: convertir experiencias útiles en pequeñas actualizaciones trazables del contexto, en vez de reescribir el conocimiento del modelo. Los resultados muestran ventajas claras en tareas donde la reutilización de reglas y la retroalimentación verificable son relevantes, pero también dejan en evidencia los riesgos cuando la señal de éxito es pobre. Para organizaciones en la región, ACE ofrece una vía para desplegar agentes que mejoran con el tiempo sin necesitar reentrenamientos costosos, siempre que se implementen controles de calidad y monitoreo del playbook.