Inteligencia Artificial 6 min lectura
Cómo acelerar la inferencia generativa en SageMaker AI con las instancias G7e
Amazon SageMaker AI ya ofrece instancias G7e con GPUs NVIDIA RTX PRO 6000 Blackwell, que duplican la memoria por GPU respecto a la generación anterior y prometen hasta 2.3x más rendimiento de inferencia. Esto facilita correr grandes modelos en una sola máquina y reduce la latencia en despliegues multiescala.