Inteligencia Artificial 6 min lectura
Cómo i14 llevó Laplace 3B a AWS Trainium2: atención lineal y rendimiento nativo en PyTorch
i14 adaptó su modelo Laplace 3B —que mantiene un estado recurrente fijo de 29.5 MB por secuencia— para entrenarlo y servirlo en AWS Trainium2 usando TorchNeuron Native. El trabajo preservó el diseño Gated Linear Attention y alcanzó tasas de entrenamiento e inferencia relevantes para aplicaciones con contexto largo.