Mistral: Ministral 3 14B 2512

Ministral 3 14B Instruct 2512 Największy model z rodziny Ministral 3, Ministral 3 14B, oferuje najnowocześniejsze możliwości i wydajność porównywalną z większym odpowiednikiem Mistral Small 3.2 24B. Potężny i wydajny model językowy z możliwościami wizyjnymi. Model ten jest wersją po treningu instrukcji w FP8, dostrojoną do zadań instrukcji, co czyni go idealnym do zastosowań czatowych i opartych na instrukcjach. Rodzina Ministral 3 jest zaprojektowana do wdrażania na brzegu sieci, zdolna do działania na szerokiej gamie sprzętu. Ministral 3 14B może być nawet wdrażany lokalnie, mieszcząc się w 24 GB VRAM w FP8, a mniej po dalszej kwantyzacji. Kluczowe cechy Ministral 3 14B składa się z dwóch głównych komponentów architektonicznych:

• 13.5B model językowy – 0.4B enkoder wizyjny Model Ministral 3 14B Instruct oferuje następujące możliwości:
• Wizja: Umożliwia modelowi analizę obrazów i dostarczanie wniosków na podstawie treści wizualnych, oprócz tekstu.
• Wielojęzyczność: Obsługuje dziesiątki języków, w tym angielski, francuski, hiszpański, niemiecki, włoski, portugalski, niderlandzki, chiński, japoński, koreański, arabski.
• Prompt systemowy: Utrzymuje silne przestrzeganie i obsługę promptów systemowych.
• Agencyjność: Oferuje najlepsze w swojej klasie możliwości agencyjne z natywnym wywoływaniem funkcji i generowaniem JSON.
• Zoptymalizowany na brzeg sieci: Oferuje najlepszą w swojej klasie wydajność w małej skali, możliwy do wdrożenia wszędzie.
• Licencja Apache 2.0: Otwarta licencja zezwalająca na użytkowanie i modyfikację zarówno do celów komercyjnych, jak i niekomercyjnych.
• Duże okno kontekstu: Obsługuje 256-tysięczne okno kontekstu. Zastosowania Prywatne wdrożenia AI, gdzie zaawansowane możliwości spotykają się z praktycznymi ograniczeniami sprzętowymi:
• Prywatne/niestandardowe wdrożenia czatów i asystentów AI w ograniczonych środowiskach – Zaawansowane lokalne przypadki użycia agencyjne – Dostrajanie i specjalizacja – I więcej… Wprowadzanie zaawansowanych możliwości AI do większości środowisk. Zalecamy wdrażanie z następującymi najlepszymi praktykami:
• Prompt systemowy: Zdefiniuj jasne środowisko i przypadek użycia, w tym wskazówki, jak skutecznie wykorzystywać narzędzia w systemach agencyjnych.
• Parametry próbkowania: Użyj temperatury poniżej 0.1 dla środowisk codziennego użytku i produkcyjnych; wyższe temperatury mogą być badane w przypadku kreatywnych zastosowań – zachęcamy programistów do eksperymentowania z alternatywnymi ustawieniami.
• Narzędzia: Utrzymuj zestaw narzędzi dobrze zdefiniowany i ogranicz ich liczbę do minimum wymaganego dla danego przypadku użycia – unikaj przeciążania modelu nadmierną liczbą narzędzi.
• Wizja: Podczas wdrażania z możliwościami wizyjnymi zalecamy utrzymanie proporcji obrazów bliskiej 1:1 (szerokość do wysokości). Unikaj używania bardzo wąskich lub szerokich obrazów – przytnij je w razie potrzeby, aby zapewnić optymalną wydajność.