PULSO AI · Nueva plataforma impulsada por TD
Salesforce redujo 8x sus costos al co-hospedar modelos en GPUs compartidas con SageMaker Inference Components, pero enfrentó un reto de alta disponibilidad Multi-AZ. En este artículo explicamos cómo la nueva capacidad de placement (SchedulingConfig) resolvió el requisito de 2-AZ para producción.
Un equipo desarrolló un asignador de GPUs que, al cambiar el orden de asignación, mejoró drásticamente la utilización y el valor priorizado frente a un scheduler FIFO. La clave: tratar la inferencia en tiempo real como una curva de demanda y ordenar los trabajos batch por prioridad en todo el horizonte temporal.
En tareas multi-turn, la función de recompensa define lo que el modelo aprende: un error sutil puede enseñar el comportamiento equivocado sin alertas claras. Este artículo explica cómo construir, ejecutar e instrumentar recompensas compuestas con Amazon Nova Forge, usando BYOO para evaluar episodios completos.
AWS lanzó una integración que permite abrir modelos de Hugging Face directamente en Amazon SageMaker Studio. La experiencia incluye permisos preconfigurados, visibilidad de cuota GPU y flujos listos para fine-tuning o despliegue.
Entrenar agentes que actúen en múltiples turnos plantea desafíos distintos a respuestas únicas: el entorno, las herramientas y la señal de recompensa deben diseñarse con cuidado. Aquí repasamos prácticas recomendadas para crear entornos reproducibles, evaluar fuera del entrenamiento y monitorear métricas clave con ejemplos prácticos.
Amazon SageMaker AI Async Inference introduce soporte para enviar la carga útil directamente en la llamada InvokeEndpointAsync mediante el parámetro Body (máx. 128,000 bytes). Esto elimina el paso de subida a S3 y reduce latencia, costos y complejidad operativa.
Amazon SageMaker AI habilitó una ruta compatible con la API de OpenAI para endpoints de inferencia en tiempo real, permitiendo usar clientes como el SDK de OpenAI, LangChain o Strands con solo cambiar la URL del endpoint. Además incluye tokens bearer temporales para autenticación sin firmados SigV4.
DataHack Summit 2026, en su séptima edición en India, reúne a constructores, investigadores y líderes de IA para debatir sobre Generative AI, Responsible AI y adopción práctica. Esta guía explica qué esperar y cómo los profesionales latinoamericanos pueden traducir esas ideas en valor real.
La promesa de la IA choca con la realidad operativa: datos fragmentados, gobernanza insuficiente y costos crecientes en la nube. HP propone una estrategia que combina MLOps, control de la procedencia de datos y una familia de equipos que permite mover cargas críticas fuera del datacenter público.
El auge del video exige nuevas formas de extracción de información. Amazon Bedrock ofrece modelos multimodales que combinan visión y texto para comprender escenas, generar descripciones y detectar eventos complejos. Presentamos dos flujos clave —por fotogramas y por tomas— y las técnicas de muestreo que optimizan costos y precisión.
SageMaker AI Training Plans permiten reservar capacidad de GPU p-family para cargas de inferencia con ventanas de tiempo definidas. Esto ayuda a equipos que deben evaluar modelos grandes sin depender de la capacidad on‑demand.
Entrenar un modelo es solo el 10% del trabajo. MLOps se ocupa del 90% restante: llevar el modelo a produccion y mantenerlo funcionando de manera confiable.
