Mercado de modelos

Nemotron-3-Super-120B-A12B-BF16 es un modelo de lenguaje a gran escala (LLM) entrenado por NVIDIA, diseñado para ofrecer sólidas capacidades de agencia, razonamiento y conversación. Está optimizado para agentes colaborativos y cargas de trabajo de gran volumen, como la automatización de tickets de TI. Al igual que otros modelos de la familia, responde a las consultas y tareas de los usuarios generando primero una traza de razonamiento y concluyendo luego con una respuesta final. Las capacidades de razonamiento del modelo se pueden configurar mediante un indicador en la plantilla de chat. El modelo emplea una arquitectura híbrida Latent Mixture-of-Experts (LatentMoE), que utiliza capas intercaladas de Mamba-2 y MoE, junto con capas de atención seleccionadas. A diferencia del modelo Nano, el modelo Super incorpora capas de predicción multitoken (MTP) para una generación de texto más rápida y una calidad mejorada, y se entrena utilizando cuantificación NVFP4 para maximizar la eficiencia computacional. El modelo cuenta con 12 000 millones de parámetros activos y 120 000 millones de parámetros en total. Los idiomas admitidos son: inglés, francés, alemán, italiano, japonés, español y chino.

Nemotron-3-Ultra-550B-A55B-NVFP4 es un modelo de lenguaje a gran escala (LLM) de vanguardia entrenado por NVIDIA, diseñado para ofrecer sólidas capacidades de agencia, razonamiento y conversación. Está optimizado para las cargas de trabajo más exigentes, incluyendo agentes complejos de múltiples pasos, análisis de contextos largos y razonamiento de alta precisión sobre código, matemáticas y ciencias. Al igual que otros modelos de la familia, responde a las consultas y tareas de los usuarios generando primero un rastro de razonamiento y concluyendo después con una respuesta final. Las capacidades de razonamiento del modelo se pueden configurar mediante un indicador en la plantilla de chat. El modelo emplea una arquitectura híbrida Latent Mixture-of-Experts (LatentMoE), que utiliza capas intercaladas de Mamba-2 y MoE, junto con capas de atención seleccionadas. Al igual que el modelo Super, el modelo Ultra incorpora capas de predicción multitoken (MTP) para una generación de texto más rápida y una calidad mejorada, y se entrena utilizando una receta de preentrenamiento NVFP4 para maximizar la eficiencia computacional. El modelo cuenta con 55 000 millones de parámetros activos y 550 000 millones de parámetros en total. Los idiomas admitidos son: inglés, francés, español, italiano, alemán, japonés, coreano, hindi, coreano, portugués de Brasil y chino.

El modelo de seguridad de contenidos Nemotron 3.5 es un modelo de lenguaje pequeño (SLM) que utiliza el modelo Gemma-3-4B-it de Google como base y ha sido ajustado por NVIDIA con conjuntos de datos multimodales y multilingües relacionados con la seguridad de contenidos. Puede actuar como moderador de seguridad de contenidos tanto para las entradas como para las respuestas de los modelos de lenguaje grandes (LLM) y los modelos de lenguaje grandes verticales (VLM). Puede considerarse una extensión del popular modelo de seguridad de contenidos Nemotron 8B, que evalúa la seguridad de las peticiones y respuestas únicamente para los LLM. El modelo toma como entrada una petición, una imagen opcional y una respuesta opcional, y devuelve una cadena que contiene etiquetas de seguridad para la entrada (petición e imagen) y para la respuesta (si la hay). Si la entrada o la respuesta no son seguras, también puede devolver, de forma opcional, una lista de las categorías de seguridad que se han infringido. El modelo utiliza la misma taxonomía de seguridad que el modelo de seguridad de contenidos Nemotron 8B. El modelo se entrenó como un adaptador LoRA y los pesos se fusionaron de nuevo con el modelo principal Gemma-3-4b-it. Para obtener más información sobre el modelo, consulta este enlace de Huggingface. Ten en cuenta que hay varios modelos «guard» disponibles para la comunidad, algunos de código abierto y otros de código cerrado. Sin embargo, no todos los modelos «guard» pueden realizar las mismas funciones. La imagen siguiente muestra las diferencias en cuanto a la entrada de estos modelos.