Inkling de Thinking Machines: modelo multimodal abierto para empresas y desarrolladores

¿Qué es Inkling?

Thinking Machines Lab lanzó Inkling el 15 de julio de 2026 como su primer foundation model de pesos abiertos. Se trata de un modelo multimodal, de tipo decoder-only, liberado bajo licencia Apache 2.0, lo que permite uso comercial, modificaciones y redistribución. A diferencia de modelos ofrecidos solo vía API, Inkling fue concebido para que organizaciones y desarrolladores lo personalicen y afiancen según necesidades concretas.

A grandes rasgos, Inkling es una propuesta orientada a la adaptabilidad: no persigue únicamente dominar benchmarks, sino servir como base para razonamiento multimodal, agentes con uso de herramientas, tareas de código, audio, visión y afinamientos por dominio.

Características principales

• Arquitectura: Transformer decoder-only con 66 capas y diseño Mixture-of-Experts (MoE).
• Parámetros totales: 975 mil millones; parámetros activos por token: ~41 mil millones.
• Contexto máximo: hasta 1 millón de tokens (con opciones prácticas de 64K y 256K en la interfaz Tinker).
• Modalidades: texto, imagen y audio (vídeo incluido en preentrenamiento, pero se recomienda afinamiento para producción).
• Licencia: Apache 2.0.
• Formatos de pesos: BF16 y NVFP4.
• Datos de preentrenamiento: 45 billones de tokens multimodales.
• Plataformas de afinamiento e inferencia: Tinker (fine-tuning), soporte local con Transformers, vLLM, llama.cpp, TokenSpeed, SGLang; proveedores hospedados incluyen Together AI, Fireworks, Modal, Databricks y Baseten.

Arquitectura: Mixture-of-Experts con atención híbrida

Inkling emplea capas MoE donde cada capa incluye 256 expertos “routed” y 2 expertos compartidos. Por token se activan 6 expertos “routed” más los 2 compartidos, lo que reduce el costo computacional en comparación con un modelo denso del mismo tamaño —aunque todos los pesos de los expertos deben almacenarse en la infraestructura de servicio.

La atención es híbrida: cinco capas con ventana deslizante (local) seguidas por una capa de atención global cada sexto bloque. Esta combinación busca equilibrar eficiencia y capacidad para integrar contexto largo. Además, Inkling usa embeddings posicionales relativos aprendidos (en lugar de RoPE), y aplica convoluciones cortas en puntos clave del flujo para capturar patrones de corto alcance.

Otra optimización es la predicción multi-token: Inkling genera borradores de varios tokens en paralelo y luego los verifica, lo que acelera la aceptación de tokens válidos sin alterar la distribución final de salida.

Cómo procesa texto, imágenes y audio

Inkling convierte todas las modalidades a representaciones compatibles con su decodificador único:

• Texto: tokenización y generación autorregresiva, al igual que otros decoders.
• Imágenes: se dividen en parches de 40×40 y se codifican con una MLP jerárquica de cuatro capas. Tamaños recomendados de imagen: entre 40 y 4096 píxeles.
• Audio: se transforma a embeddings dMel (mel-espectrogramas discretizados). Para mejores resultados, se sugiere audio WAV a 16 kHz y con duración inferior a 20 minutos; Tinker también soporta MP3 y FLAC.
• Video: estuvo presente durante el preentrenamiento, pero Inkling no trae capacidades de vídeo evaluadas fuera de caja; se recomienda afinamiento para aplicaciones de producción.

Entrenamiento y etapas posteriores

Inkling fue preentrenado con 45 billones de tokens provenientes de fuentes públicas, terceros, sintéticas y aumentadas, aplicando limpieza, deduplicación y filtros de calidad y seguridad. En la fase de optimización se utilizaron distintos algoritmos según tipos de parámetros: Muon para grandes matrices y Adam para otros, con un programador de weight decay dependiente de la tasa de aprendizaje.

Durante el post-entrenamiento, Thinking Machines aplicó etapas supervisadas que incluyen datos sintéticos generados por modelos de código abierto (mencionan a Kimi K2.5 entre las fuentes). Esta supervisión constituye una fracción del proceso total y sirvió para afinar capacidades específicas.

Afinamiento, despliegue y opciones de acceso

Inkling fue pensado para ser afinado y desplegado por terceros. Las vías principales de acceso son:

• Tinker Playground: interfaz de experimentación para probar y ajustar prompts y contextos largos (opciones 64K y 256K).
• Hugging Face: distribución de pesos abierta para quienes quieran integrarlo en sus flujos.
• Proveedores de inferencia hospedados: oferta gestionada por plataformas como Together AI, Fireworks, Modal, Databricks y Baseten.
• Autoalojado: soporte para bibliotecas de inferencia populares (Transformers, vLLM, llama.cpp, TokenSpeed, SGLang), permitiendo despliegues locales o en la nube privada.

Para organizaciones latinoamericanas, estas opciones facilitan equilibrar necesidades de control de datos y costos operativos: el diseño MoE reduce la carga computacional por token, pero las organizaciones deben considerar el almacenamiento y la orquestación de los expertos, así como la infraestructura necesaria para contextos muy largos.

Benchmarking y limitaciones conocidas

Thinking Machines publicó resultados de benchmark como parte del lanzamiento, pero la propuesta de valor de Inkling no se limita a obtener las mejores mediciones en pruebas sintéticas: su fuerza está en la personalización, el soporte multimodal y la capacidad para tareas que requieren contexto extenso o integración con herramientas.

Limitaciones prácticas a tomar en cuenta:

• Aunque solo se activan ~41B parámetros por token, los 975B de pesos requieren almacenamiento y alineación en la infraestructura de servicio.
• Capacidades de vídeo no evaluadas fuera de caja; se sugiere afinamiento para aplicaciones que dependan del procesamiento de vídeo.

Relevancia para empresas y desarrolladores en América Latina

Para empresas latinoamericanas, Inkling ofrece ventajas claras: licencia permisiva (Apache 2.0) que facilita despliegues locales y comerciales; posibilidad de afinamiento por dominio (documentación legal en español, atención al cliente regional, modelos de recomendación para mercados locales) y alternativas de despliegue que ayudan a cumplir requisitos de soberanía de datos.

Sin embargo, el equipo de TI debe evaluar costos y complejidad: aunque la activación por token es eficiente, desplegar y servir un modelo MoE exige orquestación para manejar los pesos de los expertos y garantizar latencias aceptables en producción.

Conclusión

Inkling es una apuesta interesante: combina un diseño MoE, soporte multimodal y disponibilidad de pesos abiertos para ofrecer una base personalizable más que un producto cerrado. Para organizaciones que priorizan control, afinamiento por dominio y experimentación con agentes multimodales o tareas de contexto largo, Inkling puede ser una alternativa atractiva. Las decisiones de adopción deberán balancear la potencial reducción de costo por token frente a los requerimientos de almacenamiento y despliegue asociados a un modelo de 975B parámetros.

Recursos y siguientes pasos

Si consideran probar Inkling, empiecen por evaluar casos de uso concretos que se beneficien de contexto largo o multimodalidad, prueben el Playground de Tinker para validar prompts y flujo de trabajo, y planifiquen pruebas de afinamiento con conjuntos de datos representativos del español latinoamericano para garantizar resultados alineados con usuarios locales.