Entrenar con Supervised Fine-Tuning (SFT) en datasets sin trazas de razonamiento puede hacer que modelos potentes como Amazon Nova 2 olviden habilidades previas. Self-Distilled Reasoning (SDR) reutiliza las trazas de pensamiento del modelo base para mantener y a veces mejorar el desempeño objetivo sin necesidad de un maestro externo ni anotación humana.
Los problemas de clasificación desbalanceada son la norma en fraude, salud y churn. SMOTE fue la solución popular, pero en datos de producción falla con frecuencia. Este artículo presenta alternativas prácticas, métricas adecuadas y un marco de decisión para elegir la estrategia correcta.
Analizamos cómo el profiler de PyTorch revela los componentes de la atención y por qué una pequeña modificación —usar operaciones in-place— elimina copias innecesarias en GPU. Aplicable a modelos transformer y cargas de trabajo en producción.
Las entrevistas de diseño de sistemas ML exigen pensar más allá del modelo: datos, despliegue y ciclo de mejora. Aquí encontrará un enfoque claro y un caso práctico de ranking de feed.
Investigadores del MIT desarrollaron una estrategia que usa teoría de la información para crear conjuntos de entrenamiento más representativos, mejorando la precisión de modelos ML que simulan aleaciones metálicas. La técnica puede acelerar el diseño de materiales en industrias como aeroespacial, energía y semiconductores.
LoRA domina el ecosistema PEFT, pero ¿es siempre la mejor opción? En este artículo explicamos por qué no basta con seguir la tendencia y cómo evaluar técnicas alternativas según sus necesidades y recursos.
Investigadores del MIT y colaboradores presentan un benchmark que compara algoritmos para juegos de información imperfecta y encuentran que los métodos de policy gradient, más generales, obtienen mejor rendimiento que algoritmos teóricos especializados. El trabajo resalta la importancia de evaluaciones rigurosas y tiene implicaciones prácticas para agentes que toman decisiones en entornos con información parcial.
Amazon SageMaker AI Async Inference introduce soporte para enviar la carga útil directamente en la llamada InvokeEndpointAsync mediante el parámetro Body (máx. 128,000 bytes). Esto elimina el paso de subida a S3 y reduce latencia, costos y complejidad operativa.
Este artículo explica, con trazas de perfilador, por qué nn.Linear no genera kernels separados para multiplicación y suma, qué es un epílogo y cuándo torch.compile aporta beneficios. Incluye recomendaciones prácticas para experimentar con scripts de Hugging Face.
Un experimento reciente con DharmaOCR mostró que Direct Preference Optimization (DPO), usado tradicionalmente para alinear chatbots, también mitiga loops de repetición en tareas objetivas como OCR. Aplicado tras el fine-tuning supervisado, DPO redujo consistentemente la degeneración de texto en varios modelos.
Personalizar modelos con Amazon Nova Forge exige equilibrio: mejorar rendimiento en dominios específicos sin degradar capacidades generales. Esta guía explica los retos clave —como el olvido catastrófico y la sensibilidad de la tasa de aprendizaje— y ofrece estrategias para afinar hiperparámetros y evitar entrenamientos inútiles.
OlmoEarth v1.1 es una familia de modelos para detección en imágenes satelitales que mantiene la precisión de la versión anterior mientras reduce hasta tres veces el costo de cómputo. El avance clave: disminuir la longitud de las secuencias de tokens y rediseñar cómo se representan las bandas de Sentinel-2.
NVIDIA Cosmos Predict 2.5 permite generar videos física y temporalmente plausibles condicionados por texto, imágenes o clips. Este artículo explica cómo adaptar el modelo a dominios robóticos usando LoRA y DoRA para fine-tuning eficiente en recursos.
El batching asíncrono rompe el patrón donde CPU y GPU se turnan y desperdician ciclos. En lugar de esperar a que termine una etapa para empezar la siguiente, se preparan batches en la CPU mientras la GPU está ocupada, reduciendo tiempos muertos y aumentando throughput.
EMO es un modelo Mixture-of-Experts preentrenado end-to-end que logra que la modularidad emerja directamente de los datos. Permite usar únicamente el 12.5% de los expertos para una tarea dada y mantener desempeño cercano al modelo completo.
Las señales de recompensa imperfectas pueden desviar el aprendizaje por refuerzo. En este artículo explicamos RL con recompensas verificables (RLVR), cómo combinarlo con GRPO y few-shot, y un caso práctico en SageMaker AI usando GSM8K y Qwen2.5-0.5B.
El uso de modelos de lenguaje como jueces (RLAIF) acelera y hace más flexible el ajuste por refuerzo de modelos grandes. Aquí explicamos por qué elegir este enfoque, los pasos clave para implementarlo y consideraciones prácticas para entornos latinoamericanos.
La distilación de modelos en Amazon Bedrock permite trasladar la inteligencia de enrutamiento de un modelo grande (Nova Premier) a uno pequeño (Nova Micro), reduciendo costos y latencia sin sacrificar precisión en búsquedas semánticas de video. Este artículo explica el flujo completo y su aplicabilidad para catálogos multimedia en América Latina.
Los modelos multimodales generales rinden bien en tareas diversas, pero no siempre son óptimos para casos específicos como la recuperación de páginas de documentos. Aquí explico cómo entrenar y afinar modelos multimodales en Sentence Transformers y muestro un ejemplo práctico con mejoras claras en VDR.
Las funciones de recompensa son el núcleo de la personalización por refuerzo para Amazon Nova. AWS Lambda ofrece una forma serverless y escalable para evaluar respuestas, orientar el aprendizaje y reducir la necesidad de millones de etiquetas manuales.
BERTopic combina embeddings de transformers, reducción de dimensionalidad, clustering y c-TF-IDF para generar temas más coherentes que los métodos tradicionales. Aquí explicamos su pipeline, cómo implementarlo paso a paso y qué considerar para proyectos en Latinoamérica.
Las funciones de pérdida dirigen el aprendizaje de los modelos: definen qué errores se penalizan y cómo. En esta guía revisamos las familias principales, sus propiedades y recomendaciones prácticas para proyectos en América Latina.
Mamba4 propone una arquitectura basada en State Space Models (SSMs) con un mecanismo selectivo que mantiene rendimiento competitivo y reduce costos computacionales frente a Transformers en secuencias largas. Es especialmente relevante para aplicaciones con recursos limitados o datos en streaming.
AWS integró SageMaker Unified Studio con buckets generales de S3 para facilitar el uso de datos no estructurados en ML. En este artículo explicamos cómo aprovechar esa integración para afinar Llama 3.2 11B Vision Instruct en una tarea de Visual Question Answering usando el dataset DocVQA.