Decisions API de OpenAI: crear agentes que toman decisiones confiables

Introducción

Tomar decisiones automáticas con modelos de lenguaje es crítico en aplicaciones reales: determinar si una queja necesita intervención humana, a qué departamento asignar un reclamo o si una foto de entrega prueba una entrega correcta. Un error puede forzar escalaciones innecesarias o dejar pasar un problema legítimo.

Hasta ahora, muchas implementaciones combinaban modelos de lenguaje con reglas, umbrales de confianza y tuberías de evaluación. OpenAI propone una alternativa más estructurada: la Decisions API, que devuelve respuestas en formatos definidos (probabilidades, opciones o puntajes) y acepta texto, imágenes o ambos.

¿Qué es la Decisions API?

La Decisions API es un endpoint pensado específicamente para emitir decisiones sobre entradas textuales y visuales. Se accede mediante POST a /v1/decisions y está orientada a casos donde se necesita una respuesta estructurada en lugar de texto libre.

Características claves:

• Soporta entradas mixtas: texto e imágenes.
• Permite definir el tipo de respuesta que queremos: probabilidad de una condición, elección entre opciones o puntaje sobre niveles ordenados.
• Actualmente soporta el modelo gpt-6-luna y, según la documentación, ofrece una latencia hasta 10 veces menor respecto a llamadas generales.
• El costo informado es de $0.10 por 1M de tokens de entrada; no se cobran salidas ni cache según lo descrito, aunque los costos pueden aumentar si se usan entradas de contexto muy largas.

Decisions API vs Responses API

Ambas API comparten la misma autenticación y pueden coexistir en una solución. La diferencia práctica es el propósito:

• Responses API: es multipropósito, adecuada para generación de texto, salidas estructuradas complejas, y uso de herramientas o pasos encadenados.
• Decisions API: diseñada para evaluación y decisiones concretas. Ustedes definen qué evaluar y el formato de la respuesta: predicate (probabilidad), choice (elección entre opciones) o score (evaluación contra niveles ordenados).

En resumen, si su flujo necesita una decisión clara y cuantificable (sí/no con probabilidad, un ruteo entre departamentos o un puntaje frente a una rúbrica), la Decisions API facilita ese resultado sin tener que parsear texto libre.

Tipos de preguntas y ejemplos prácticos

La API presenta tres tipos de pregunta dentro del parámetro ‘questions’. A continuación explico cada uno con ejemplos prácticos utilizados en la documentación y cómo aplicarlos en operaciones reales.

Predicate: verificar una condición (probabilidad)

Descripción: se usa para responder si una condición se cumple, entregando la probabilidad de que sea verdadera.

Ejemplo práctico: verificar si una foto de entrega muestra el paquete en la puerta. Se puede enviar la imagen codificada y una instrucción que defina claramente qué constituye prueba válida (por ejemplo, paquete en el umbral, porche o sala de correo), e indicar que responda false si el paquete está en un vehículo o en manos de alguien.

Cómo usarlo en operaciones: en logística de última milla, una predicate bien calibrada permite automatizar confirmaciones cuando la probabilidad supera un umbral (por ejemplo, > 0.85) y derivar las demás para revisión manual.

Choice: seleccionar entre opciones

Descripción: devuelve probabilidades para un conjunto de opciones predefinidas y una elección final.

Ejemplo práctico: clasificar un titular de noticia para decidir si corresponde a ‘política’, ‘economía’, ‘deportes’ u ‘opinión’. Choice es ideal cuando las categorías son discreta y mutuamente excluyentes.

Cómo usarlo en operaciones: en atención al cliente, un choice puede enrutar consultas al departamento correcto (facturación, soporte técnico, logística) evitando reglas manuales extensas.

Score: evaluar frente a una rúbrica ordenada

Descripción: entrega probabilidades sobre niveles ordenados y calcula un puntaje promedio ponderado. Es útil cuando las respuestas deben compararse con una escala (por ejemplo: insuficiente, aceptable, bueno, excelente).

Ejemplo práctico: evaluar calidad de una respuesta generada por un asistente virtual contra una rúbrica de scoring.

Cómo usarlo en operaciones: medir la calidad de respuestas automatizadas o calificar el riesgo de un reclamo para priorizar su resolución.

Implementación práctica (resumen)

Requisitos básicos según la guía original:

• Clave de OpenAI y acceso al panel de OpenAI.
• SDK de OpenAI para Python, versión 3.26.0 o superior.
• Preparar imágenes como data URLs si se desean enviar en línea.

Flujo típico:

1. Inicializar cliente con la API key.
2. Construir el input con roles y tipos de entrada (input_text, input_image).
3. Definir questions con su ‘type’ (predicate, choice o score), nombre e instrucciones claras.
4. Enviar la llamada a /v1/decisions y procesar la respuesta: leer probabilidades, la elección o el puntaje, y aplicar la lógica de negocio (automatizar, escalar, loguear para auditoría).

La documentación de referencia incluye un ejemplo donde una predicate devuelve probability=0.00 y envía el caso a revisión manual: este tipo de flujo es precisamente el que buscan muchos equipos que combinan automatización con control humano.

Casos de uso relevantes en América Latina

América Latina tiene contextos operativos particulares (infraestructura logística heterogénea, alta diversidad lingüística y necesidades regulatorias) donde una Decisions API puede ser muy útil:

• Logística y entregas: validar pruebas fotográficas de entrega y reducir disputas con clientes.
• Atención al cliente: automatizar ruteo y escalado de reclamos según gravedad o tipo de solicitud.
• Moderación y clasificación de contenido: decidir rápidamente si un contenido requiere revisión humana según categorías definidas.
• Evaluación de respuestas automáticas: medir calidad de asistentes virtuales en español y dialectos locales usando rúbricas específicas.

Recomendaciones prácticas

• Definan instrucciones claras y ejemplos para cada pregunta; la calidad de las instrucciones impacta directamente en la fiabilidad de la decisión.
• Ajusten umbrales y validen con datos reales antes de automatizar acciones críticas.
• Usen la opción de score para mediciones donde el orden entre niveles importa y desean un valor numérico agregable.
• Consideren las implicaciones de privacidad al enviar imágenes o datos sensibles y cumplan las normativas locales.

Conclusión

La Decisions API propone una forma más controlada y eficiente de convertir la comprensión de modelos de lenguaje en decisiones accionables. Para equipos en América Latina, puede simplificar flujos de trabajo en logística, atención al cliente y moderación, siempre que se implementen instrucciones y umbrales robustos y se mantenga supervisión humana en casos críticos.

Integrarla no reemplaza el diseño de procesos, pero sí reduce la necesidad de construir pipelines complejos para extraer decisiones de texto libre, facilitando auditoría y monitoreo de resultados.

Preguntas frecuentes (rápidas)

• ¿Qué modelo usa? gpt-6-luna, según la documentación disponible.
• ¿Cuál es el costo? Se indicó $0.10 por 1M de tokens de entrada; no se mencionan cargos por salida ni cache en la descripción original.
• ¿Cuándo usar Decisions en lugar de Responses? Cuando la necesidad principal es una decisión estructurada y cuantificable: sí/no con probabilidad, elección entre categorías o un puntaje ordinal.

Esta guía resume las capacidades y prácticas iniciales para comenzar a construir agentes de decisión confiables con la Decisions API de OpenAI.