LLMON: un lenguaje markup nativo para LLMs ya en Granite 4.1 3B y 8B
Hugging Face presenta LLMON, un formato markup pensado para que los LLM entiendan estructura y semántica dentro del contexto. Los modelos preview basados en Granite 4.1 consumen y generan LLMON, reduciendo la vulnerabilidad a inyecciones de prompt y facilitando integraciones en pipelines existentes.
¿Qué es LLMON y por qué importa?
Los grandes modelos de lenguaje (LLM) generan texto secuencialmente usando el contexto disponible. Ese contexto suele mezclar instrucciones, turnos de conversación, datos recuperados, respuestas de herramientas y requisitos de salida. Aunque rico, este contexto es mayormente implícito o se expresa en formatos diseñados para parsers tradicionales, como JSON, que no fueron pensados para ser “digeridos” por modelos causales.
LLMON (LLM Object Notation, pronunciado “lemon”) propone una solución: un lenguaje markup nativo para LLMs que marca explícitamente componentes semánticos con etiquetas y delimitadores especiales. Así, instrucciones, datos y requisitos se separan y se enlazan de forma clara, lo que reduce ambigüedades, fragilidades y vectores de ataque como las inyecciones de prompt.
Cómo funciona en la práctica
En lugar de confiar en caracteres como llaves o comillas para indicar estructura (como hace JSON), LLMON usa tokens reservados que el tokenizador entiende como unidades distintas. Cada bloque semántico se rodea con delimitadores especiales y se etiqueta al inicio de su span; además, los bloques pueden llevar IDs únicos de dos caracteres para permitir referencias directas.
Esta separación tiene tres ventajas principales:
- Los modelos no confunden delimitadores de estructura con caracteres que aparecen en el texto de los datos.
- Las referencias a instrucciones o datos son explícitas y cortas: apuntar a un bloque siempre cuesta el mismo número de tokens.
- Las estructuras anidadas se declaran localmente, evitando que el modelo deba llevar la cuenta de niveles de anidamiento a lo largo de largas secuencias.
Qué trae el lanzamiento de Hugging Face
Hugging Face liberó dos modelos experimentales preview entrenados para consumir y generar texto marcado en LLMON: granite-4.1-3b-LLMON-preview y granite-4.1-8b-LLMON-preview. También publicaron un repositorio en GitHub con una caja de herramientas para trabajar con LLMON y ejemplos de flujos de trabajo y plantillas.
Entre las demostraciones, se muestra que los modelos preparados con LLMON tienden a ignorar inyecciones de prompt escondidas en datos de entrada, gracias a la separación explícita entre instrucciones y datos. En algunos benchmarks, las tasas de éxito de esos ataques caen casi a cero, mientras que modelos instruidos de forma tradicional pueden ser capturados con alta probabilidad. Al mismo tiempo, LLMON mantiene la capacidad general relativa a los modelos Granite 4.1 Instruct.
Integración con plantillas de chat y herramientas
LLMON no busca reemplazar las plantillas de chat; las complementa. Mientras una plantilla de chat indica roles (system, user, assistant), LLMON declara qué significa cada componente y cómo se relacionan entre sí. Los modelos preview incluyen su propia chat template: ustedes crean la lista de mensajes como con cualquier chat model, llaman a apply_chat_template y el sistema renderiza LLMON internamente.
Un aspecto práctico: dentro de un turno pueden nombrarse partes y marcar si cada parte es exec: True o False. Las partes marcadas como True se vinculan en un bloque exec que declara qué instrucción ejecutar y sobre qué datos opera. Las que quedan marcadas como False permanecen en el contexto pero no se ejecutan.
Hugging Face además ofrece convertidores para transformar JSON existente a LLMON y viceversa sin pérdida. Esto facilita la adopción porque la mayoría de pipelines ya usan JSON; la conversión permite integrar LLMON sin rehacer toda la infraestructura.
Ejemplos técnicos (resumido)
Para ilustrar, una representación renderizada por la plantilla puede incluir tokens de apertura y cierre reservados que en conjunto estructuran instrucción, datos, requisitos y el bloque exec. Los IDs de bloque son de dos caracteres y forman parte de un conjunto fijo que el tokenizador mapea como tokens únicos, lo cual mantiene costos de direccionamiento constantes.
No es necesario aprender a usar JSON como contenedor forzado: la plantilla y los convertidores hacen la mayor parte del trabajo y permiten mantener claridad semántica en el prompt.
Ventajas frente a JSON
JSON fue pensado para parsers tradicionales, no para modelos causales. Sus delimitadores ({, ”, :) pueden aparecer también en datos normales; las reglas de escape que son inequívocas para un parser, son para el modelo patrones estadísticos. Además, los transformadores suelen tener dificultades para llevar la cuenta de anidamientos largos. LLMON resuelve esto separando vocabulario de estructura y contenido, declarando etiquetas al inicio de cada span y haciendo implícitos los límites entre componentes.
Casos de uso y adopción en América Latina
Para equipos y empresas latinoamericanas que trabajan con asistentes conversacionales, análisis de documentos o pipelines de IA conversacional, LLMON ofrece beneficios claros:
- Mejora la robustez frente a inyecciones de prompt en entornos donde los flujos de usuario contienen texto libre.
- Facilita auditoría y trazabilidad porque las instrucciones y los datos están etiquetados y referenciables.
- Permite migrar pipelines que hoy usan JSON mediante herramientas de conversión sin perder compatibilidad.
Organizaciones en la región que manejen datos sensibles (finanzas, salud, educación) pueden aprovechar la separación explícita entre instrucciones y datos para reducir riesgos operativos y regulatorios, sin renunciar a la flexibilidad de sus integraciones existentes.
Personalización y extensibilidad
El repositorio de Hugging Face incluye ejemplos para definir etiquetas propias y ajustar la representación. Además, pueden entrenarse adaptaciones ligeras (por ejemplo LoRA) sobre los modelos LLMON-preview para enseñar nuevas etiquetas o estructuras específicas de una organización. Esto permite que equipos con requisitos particulares extiendan el lenguaje sin partir de cero.
Dónde probarlo hoy
- Los modelos preview: granite-4.1-3b-LLMON-preview y granite-4.1-8b-LLMON-preview.
- El repositorio con herramientas, convertidores y notebooks de ejemplo en GitHub.
- Mellea, que ya ofrece soporte nativo y automatiza la LLMONización de llamadas al modelo.
Conclusión
LLMON representa un paso práctico hacia prompts más estructurados y menos frágiles: ofrece una manera explícita de comunicar semántica y relaciones entre instrucciones y datos a los LLMs. Para equipos en América Latina que desean mitigar riesgos como las inyecciones de prompt y mejorar la interpretabilidad de sus asistentes conversacionales, LLMON y los modelos preview basados en Granite 4.1 son una alternativa atractiva que además facilita la integración con infraestructuras existentes mediante convertidores y posibilidades de ajuste.
Si están evaluando mejorar la robustez de sus aplicaciones conversacionales o necesitan una forma más fiable de ligar instrucciones con datos, vale la pena explorar el repositorio, probar los modelos preview y considerar una capa de LoRA para adoptar las etiquetas y convenciones propias de su dominio.
Fuente original: Hugging Face Blog