Mistral: Mistral Small 3.1 24B

Karta modelu dla Mistral-Small-3.1-24B-Instruct-2503 Bazując na Mistral Small 3 (2501), Mistral Small 3.1 (2503) dodaje najnowocześniejsze rozumienie wizji i zwiększa możliwości długiego kontekstu do 128k tokenów bez pogarszania wydajności tekstowej. Z 24 miliardami parametrów model ten osiąga najwyższe możliwości zarówno w zadaniach tekstowych, jak i wizyjnych. Model ten jest wersją dostrojoną do instrukcji: Mistral-Small-3.1-24B-Base-2503. Mistral Small 3.1 może być wdrażany lokalnie i jest wyjątkowo „gęsty wiedzowo”, mieszcząc się po kwantyzacji na pojedynczej karcie RTX 4090 lub MacBooku z 32 GB RAM. Jest idealny do:

• Agentów konwersacyjnych o szybkiej odpowiedzi.
• Wywoływania funkcji o niskim opóźnieniu.
• Ekspertów dziedzinowych poprzez dostrajanie.
• Wnioskowania lokalnego dla hobbystów i organizacji przetwarzających wrażliwe dane.
• Rozumowania programistycznego i matematycznego.
• Rozumienia długich dokumentów.
• Rozumienia wizualnego. Dla przedsiębiorstw wymagających specjalistycznych możliwości (zwiększony kontekst, określone modalności, wiedza dziedzinowa itp.) udostępnimy modele komercyjne wykraczające poza to, co Mistral AI wnosi do społeczności. Dowiedz się więcej o Mistral Small 3.1 na naszym blogu. Kluczowe cechy – Wizja: Możliwości wizyjne umożliwiają modelowi analizę obrazów i dostarczanie wniosków na podstawie treści wizualnych, oprócz tekstu.
• Wielojęzyczność: Obsługuje dziesiątki języków, w tym angielski, francuski, niemiecki, grecki, hindi, indonezyjski, włoski, japoński, koreański, malajski, nepalski, polski, portugalski, rumuński, rosyjski, serbski, hiszpański, szwedzki, turecki, ukraiński, wietnamski, arabski, bengalski, chiński, perski.
• Zorientowany na agentów: Oferuje najlepsze w swojej klasie możliwości agencyjne z natywnym wywoływaniem funkcji i generowaniem JSON.
• Zaawansowane rozumowanie: Najnowocześniejsze możliwości konwersacyjne i rozumowania.
• Licencja Apache 2.0: Otwarta licencja zezwalająca na użytkowanie i modyfikację zarówno do celów komercyjnych, jak i niekomercyjnych.
• Okno kontekstu: 128-tysięczne okno kontekstu.
• Prompt systemowy: Utrzymuje silne przestrzeganie i obsługę promptów systemowych.
• Tokenizator: Wykorzystuje tokenizator Tekken z rozmiarem słownika 131k. Gdy są dostępne, podajemy liczby wcześniej opublikowane przez innych dostawców modeli, w przeciwnym razie ponownie je oceniamy za pomocą własnego zestawu ewaluacyjnego.