NVIDIA: Nemotron 3 Super

Łączna liczba parametrów	120B (12B aktywnych)
Architektura	LatentMoE – hybryda Mamba-2 + MoE + Attention z Multi-Token Prediction (MTP)
Długość kontekstu	Do 1M tokenów
Minimalne wymagania GPU	2× H100-80GB
Obsługiwane języki	angielski, francuski, niemiecki, włoski, japoński, hiszpański, chiński
Najlepsze zastosowania	Przepływy pracy agentowej, wnioskowanie na długim kontekście, obciążenia o dużej objętości (np. automatyzacja zgłoszeń IT), korzystanie z narzędzi, RAG
Tryb wnioskowania	Konfigurowalny włącz/wyłącz poprzez szablon czatu (enable_thinking=True/False)
Licencja	NVIDIA Nemotron Open Model License
Data wydania	11 marca 2026

Używaj temperature=1.0 i top_p=0.95 we wszystkich zadaniach i backendach serwujących – zarówno do wnioskowania, wywoływania narzędzi, jak i ogólnego czatu. Więcej szczegółów na temat wdrażania i używania modelu znajdziesz w poniższym przewodniku szybkiego startu!

Daty modelu: grudzień 2025 – marzec 2026

• Dane po treningu mają datę graniczną luty 2026.
• Dane przed treningiem mają datę graniczną czerwiec 2025.

NVIDIA Nemotron™ to rodzina otwartych modeli z otwartymi wagami, danymi treningowymi i przepisami, zapewniająca wiodącą wydajność i dokładność do budowania wyspecjalizowanych agentów AI.

Nemotron-3-Super-120B-A12B-FP8 to duży model językowy (LLM) wytrenowany przez NVIDIA, zaprojektowany do zapewniania silnych możliwości agentowych, wnioskowania i konwersacyjnych. Jest zoptymalizowany do współpracy agentów i obciążeń o dużej objętości, takich jak automatyzacja zgłoszeń IT. Podobnie jak inne modele z rodziny, odpowiada na zapytania i zadania użytkownika, najpierw generując ślad wnioskowania, a następnie kończąc ostateczną odpowiedzią. Możliwości wnioskowania modelu można konfigurować za pomocą flagi w szablonie czatu.

Model wykorzystuje hybrydową architekturę Latent Mixture-of-Experts (LatentMoE), stosując przeplatane warstwy Mamba-2 i MoE, wraz z wybranymi warstwami Attention. W odróżnieniu od modelu Nano, model Super zawiera warstwy Multi-Token Prediction (MTP) dla szybszego generowania tekstu i lepszej jakości, a także jest trenowany z użyciem kwantyzacji NVFP4 w celu maksymalizacji wydajności obliczeniowej. Model ma 12B aktywnych parametrów i 120B parametrów łącznie.