MiniMax-M3

MiniMax-M3 to natywny model multimodalny z kontekstem 1M. Posiada ~428B parametrów i ~23B aktywowanych parametrów. Najważniejsze cechy:

• Natywna multimodalność: M3 przechodzi szkolenie w trybie mieszanej modalności od samego początku, co umożliwia głębszą fuzję semantyczną między tekstem, obrazem i wideo.
• Skalowanie kontekstu za pomocą rzadkiej uwagi: M3 wprowadza MiniMax Sparse Attention (MSA), aby poprawić efektywność długiego kontekstu. M3 zapewnia 9× przyspieszenie wstępnego wypełniania i 15× przyspieszenie dekodowania w porównaniu do M2 przy 1M kontekście, redukując obliczenia na token do 1/20.
• Możliwości kodowania i współpracy: M3 osiąga wyniki na poziomie granicznym w długoterminowych benchmarkach agentycznych, doskonale radząc sobie zarówno w kodowaniu, jak i współpracy. M3 jest napędzany przez MiniMax Sparse Attention (MSA), operatora rzadkiej uwagi o wysokiej wydajności zaprojektowanego dla kontekstów milion-tokenowych. W porównaniu z GQA, MSA dramatycznie redukuje obciążenie obliczeniowe i pamięciowe, zachowując jakość modelu. > ? Przeczytaj raport techniczny: arXiv:2606.13392 · Hugging Face Papers M3 obsługuje trzy tryby rozumowania za pomocą parametru thinking:
• enabled — Rozumowanie jest zawsze włączone.
• adaptive — M3 automatycznie określa, kiedy dodatkowe rozumowanie jest korzystne.
• disabled — Rozumowanie jest wyłączone, aby zminimalizować opóźnienia i zmaksymalizować przepustowość. Zalecamy następujące frameworki wnioskowania do serwowania modelu:
• KTransformers – zobacz samouczek KTransformers MiniMax-M3.
• ATOM – zobacz przewodnik użytkowania MiniMax-M3 MXFP4/MXFP8.