#modelo-moe

Mellum2: el modelo Mixture-of-Experts de 12B optimizado para texto y código

JetBrains presenta Mellum2, un modelo Mixture-of-Experts de 12 mil millones de parámetros que activa solo 2.5B por token, ofreciendo rendimiento competitivo y más del doble de velocidad de inferencia para tareas de texto y código.