Ejecute modelos NVIDIA Nemotron y OpenAI GPT OSS en Amazon Bedrock dentro de AWS GovCloud (US)

Amazon Bedrock ahora ofrece modelos open-weight de OpenAI (gpt-oss-120b y gpt-oss-20b) y la familia NVIDIA Nemotron en AWS GovCloud (US). Esto permite ejecutar inferencias de modelos avanzados dentro de un entorno aislado y conforme a regulaciones estrictas.

Por Redaccion TD
Ejecute modelos NVIDIA Nemotron y OpenAI GPT OSS en Amazon Bedrock dentro de AWS GovCloud (US)

Resumen

Amazon Web Services amplía las opciones de modelos en Amazon Bedrock para clientes que operan en AWS GovCloud (US): ahora están disponibles las variantes open-weight de OpenAI (gpt-oss-120b y gpt-oss-20b) y múltiples modelos de la familia NVIDIA Nemotron (incluyendo los Nano y el Super 120B). Esta incorporación facilita ejecutar aplicaciones generativas y agenticas de alto rendimiento dentro del perímetro de cumplimiento que exigen agencias gubernamentales y contratistas.

Por qué importa para entornos gubernamentales

Las agencias que manejan información sensible o regulada requieren dos cosas al evaluar modelos de inteligencia artificial: que el modelo cumpla con las capacidades técnicas necesarias y que el entorno de inferencia respete las obligaciones de seguridad, residencia de datos y cumplimiento normativo. Para organizaciones del gobierno de EE. UU., defensa e inteligencia, y sus contratistas, esas condiciones son no negociables.

La llegada de modelos open-weight a AWS GovCloud (US) significa que las organizaciones pueden aprovechar pesos disponibles públicamente —lo que permite auditoría y pruebas internas— y, al mismo tiempo, mantener todas las operaciones de inferencia dentro del límite de cumplimiento de GovCloud, administradas por ciudadanos estadounidenses y físicamente en EE. UU.

Modelos disponibles y sus capacidades principales

A continuación se describen las familias de modelos que llegan a Amazon Bedrock en AWS GovCloud (US) y qué ofrecen según la información publicada.

NVIDIA Nemotron

La familia Nemotron está orientada a eficiencia de cómputo y desempeño en sistemas agenticos. Destacan dos líneas:

  • Nemotron 3 Super 120B: es un modelo híbrido de mixture-of-experts (MoE) con 120 mil millones de parámetros totales, pero que activa aproximadamente 12 mil millones por token. Ese diseño MoE optimiza el throughput (hasta 5 veces más que la generación anterior según NVIDIA) y permite una ventana de contexto de hasta 1 millón de tokens, lo que es útil para tareas largas y multi-paso en agentes.
  • Nemotron 3 Nano (y variantes como Nano 30B, Nano 12B v2 y Nano 9B v2): modelos más pequeños dentro de la familia que activan una fracción menor de parámetros por token (por ejemplo, el Nano 30B activa alrededor de 3 mil millones), con mejoras de throughput y reducción del coste de generación de tokens de razonamiento (NVIDIA reporta hasta 4x de throughput y reducción de hasta 60% en tokens de razonamiento versus generaciones previas). Estos modelos están pensados para flujos de trabajo que requieren latencia menor o costes operativos más contenidos.

OpenAI GPT OSS

OpenAI ofrece modelos open-weight de propósito general que están diseñados para razonamiento, tareas agenticas y desarrollo con integración de herramientas externas. En GovCloud se destacan dos variantes:

  • gpt-oss-120b: modelo de 120 mil millones de parámetros orientado a casos de uso productivos y de alto razonamiento.
  • gpt-oss-20b: variante de 20 mil millones, pensada para latencia más baja o implementaciones especializadas.

Ambos modelos admiten una ventana de contexto amplia (128K tokens) y hasta 16K tokens de salida, procesan texto a texto y, siendo open-weight, permiten a las organizaciones revisar y evaluar la arquitectura y comportamiento del modelo antes de desplegarlo.

Casos de uso gubernamentales y operativos

Con estos modelos disponibles dentro del perímetro de AWS GovCloud (US), se pueden implementar flujos de trabajo críticos sin mover datos sensibles fuera del dominio de cumplimiento. Ejemplos relevantes:

  • Análisis de inteligencia y síntesis multi-documental para apoyar decisiones operativas.
  • Planificación de misiones y apoyo a agentes software con memoria extendida (ventanas largas de contexto).
  • Revisión de contratos y procesos de adquisición para acelerar cumplimiento y detección de cláusulas críticas.
  • Automatización de evaluaciones de controles de seguridad y análisis de logs para priorización de incidentes.
  • Verificación de cumplimiento normativo y chequeo de políticas internas en procesos que demandan trazabilidad.

Seguridad, cumplimiento y residencia de datos

AWS GovCloud (US) es una región aislada diseñada para alojar datos sensibles y cargas reguladas, operada y administrada por ciudadanos estadounidenses en territorio de EE. UU. Entre los marcos de cumplimiento mencionados se encuentran FedRAMP High (Provisional ATO), DoD Cloud Computing SRG Impact Levels 2, 4 y 5, ITAR y CJIS. Amazon Bedrock corre la inferencia en infraestructura gestionada por AWS, y para estos modelos la ejecución se mantiene dentro del límite de GovCloud. Además, el hecho de que los pesos sean públicos facilita evaluaciones internas y revisiones de riesgo alineadas con principios de confianza cero.

Para organizaciones que deben justificar auditorías o realizar pruebas de comportamiento, el acceso a modelos open-weight permite ejecutar benchmarks propios y análisis controlados antes de un despliegue productivo.

Experiencia de desarrollo: API unificada y opciones de inferencia

Amazon Bedrock proporciona una API unificada para acceder a distintos modelos de diferentes proveedores. Esto simplifica la selección del modelo más adecuado por caso de uso sin reescribir la aplicación: pueden alternar entre GPT OSS, Nemotron u otros FMs soportados por Bedrock a través del mismo punto de integración.

Además, la inferencia se ofrece de forma serverless dentro del perímetro de GovCloud, lo que reduce la carga operativa en infraestructura y ayuda a mantener controles de seguridad, registro y gobernanza centralizados.

Relevancia para América Latina

Aunque AWS GovCloud (US) es una oferta destinada a clientes que requieren un entorno operativo en territorio estadounidense, la llegada de modelos open-weight y la arquitectura de ejecución aislada tienen lecciones útiles para organizaciones latinoamericanas:

  • Para gobiernos o empresas de la región que colaboran con agencias de EE. UU. o contratan servicios que exigen cumplimiento en EE. UU., estas opciones facilitan integrar capacidades avanzadas sin comprometer la residencia de datos.
  • Equipos de tecnología y legal en Latinoamérica pueden aprovechar la disponibilidad de pesos abiertos para realizar pruebas comparativas, auditorías de comportamiento y diseñar requerimientos de gobernanza aplicables en sus propios contextos regulatorios.

Cómo comenzar y consideraciones

Las organizaciones interesadas en aprovechar estos modelos en AWS GovCloud (US) deben trabajar con sus equipos de cumplimiento y con AWS para validar acceso, contratos y requisitos operativos. Amazon Bedrock ofrece la abstracción técnica para usar múltiples modelos mediante una sola API, y la ejecución se mantiene dentro del perímetro de GovCloud para cumplir obligaciones de residencia y control de datos.

Es recomendable planear pruebas de rendimiento y seguridad con cargas representativas, aprovechar la transparencia de los pesos open-weight para evaluaciones de riesgo, y definir métricas de gobernanza (trazabilidad, enmascaramiento de datos, controles de acceso) antes de un despliegue en producción.

Conclusión

La incorporación de OpenAI GPT OSS y la familia NVIDIA Nemotron a Amazon Bedrock en AWS GovCloud (US) acerca capacidades avanzadas de IA generativa y agentica al mundo gubernamental, manteniendo la ejecución dentro de un perímetro de cumplimiento estricto. Para agencias, contratistas y equipos de TI que deben equilibrar rendimiento, transparencia y seguridad, esta novedad facilita experimentar y desplegar modelos de última generación sin sacrificar requisitos regulatorios. Para la región latinoamericana, representa además una referencia sobre cómo combinar modelos open-weight con arquitecturas de ejecución que priorizan la residencia y el control de datos.

Fuente original: AWS ML Blog