Olive Song, Senior Researcher en MiniMax, presenta el modelo MiniMax M2, un modelo de lenguaje diseñado específicamente para tareas de codificación y agénticas. Con solo 10 mil millones de parámetros activos, se posiciona como una alternativa extremadamente capaz y "rentable" (cost-efficient) frente a los modelos gigantes, dirigida en particular a desarrolladores y empresas.
La fortaleza del modelo se basa en varias innovaciones clave en su entrenamiento: 1. Experiencia de codificación realista: MiniMax utiliza a sus propios desarrolladores expertos como Reward Models para el Reinforcement Learning, alineando el comportamiento del modelo con las expectativas reales de los ingenieros (calidad del código, fiabilidad). 2. Interleaved Thinking: Para gestionar tareas de largo alcance, M2 no utiliza una simple cadena de pensamiento lineal. Alterna dinámicamente entre "Thinking" y "Acting" (uso de una herramienta). Si una herramienta falla o devuelve un resultado inesperado (ruido del entorno), el modelo reevalúa la situación e intenta un enfoque diferente, reflejando el comportamiento humano ante la incertidumbre. 3. Generalización robusta: Para evitar que el agente rinda bien únicamente dentro de una configuración específica, MiniMax inyecta perturbaciones constantes en los datos de entrenamiento (cambios en el formato del prompt, formato de respuesta de la herramienta). Esto hace que el agente sea capaz de adaptarse a diferentes "scaffolds" (entornos de ejecución) sin perder eficacia. 4. Escalabilidad multiagente: El pequeño tamaño del modelo permite ejecutar varias instancias en paralelo (por ejemplo, un agente de investigación, un agente de redacción, un agente de front-end) para resolver tareas complejas de forma colaborativa y a menor costo.
Olive Song concluye presentando la hoja de ruta futura (M2.5, M3), que incluye una mejor gestión del contexto y la memoria, así como una integración multimodal nativa (audio/video).