Mistral: Mistral Small 3

Karta modelu dla Mistral-Small-24B-Instruct-2501 Mistral Small 3 (2501) wyznacza nowy standard w kategorii „małych” dużych modeli językowych poniżej 70B, oferując 24 miliardy parametrów i osiągając najnowocześniejsze możliwości porównywalne z większymi modelami! Model ten jest wersją dostrojoną do instrukcji modelu bazowego: Mistral-Small-24B-Base-2501. Mistral Small może być wdrażany lokalnie i jest wyjątkowo „gęsty wiedzowo”, mieszcząc się po kwantyzacji na pojedynczej karcie RTX 4090 lub MacBooku z 32 GB RAM. Idealny do:

• Agentów konwersacyjnych o szybkiej odpowiedzi.
• Wywoływania funkcji o niskim opóźnieniu.
• Ekspertów dziedzinowych poprzez dostrajanie.
• Wnioskowania lokalnego dla hobbystów i organizacji przetwarzających wrażliwe dane. Dla przedsiębiorstw potrzebujących specjalistycznych możliwości (zwiększony kontekst, określone modalności, wiedza dziedzinowa itp.) udostępnimy modele komercyjne wykraczające poza to, co Mistral AI wnosi do społeczności. To wydanie pokazuje nasze zaangażowanie w otwarte oprogramowanie, służąc jako solidny model bazowy. Dowiedz się więcej o Mistral Small na naszym blogu. Kluczowe cechy – Wielojęzyczność: Obsługuje dziesiątki języków, w tym angielski, francuski, niemiecki, hiszpański, włoski, chiński, japoński, koreański, portugalski, niderlandzki i polski.
• Zorientowany na agentów: Oferuje najlepsze w swojej klasie możliwości agencyjne z natywnym wywoływaniem funkcji i generowaniem JSON.
• Zaawansowane rozumowanie: Najnowocześniejsze możliwości konwersacyjne i rozumowania.
• Licencja Apache 2.0: Otwarta licencja zezwalająca na użytkowanie i modyfikację zarówno do celów komercyjnych, jak i niekomercyjnych.
• Okno kontekstu: 32-tysięczne okno kontekstu.
• Prompt systemowy: Utrzymuje silne przestrzeganie i obsługę promptów systemowych.
• Tokenizator: Wykorzystuje tokenizator Tekken z rozmiarem słownika 131k.

Kategoria	Gemma-2-27B	Qwen-2.5-32B	Llama-3.3-70B	Gpt4o-mini
Mistral jest lepszy	0.536	0.496	0.192	0.200
Mistral jest nieco lepszy	0.196	0.184	0.164	0.204
Remisy	0.052	0.060	0.236	0.160
Inny jest nieco lepszy	0.060	0.088	0.112	0.124
Inny jest lepszy	0.156	0.172	0.296	0.312