LFM2.5-2.6B-Base

LFM2.5 to nowa rodzina hybrydowych modeli zaprojektowanych do wdrożeń na urządzeniach. Opiera się na architekturze LFM2 z rozszerzonym wstępnym treningiem i uczeniem przez wzmocnienie. Więcej informacji o LFM2.5 znajdziesz w naszym wpisie na blogu.

Model	Parametry	Opis
LFM2.5-2.6B-Base	2.6B	Wstępnie wytrenowany model bazowy do dalszego dostosowywania
LFM2.5-2.6B	2.6B	Po wytrenowany do zadań agentowych

LFM2.5-2.6B-Base to wstępnie wytrenowany punkt kontrolny tylko dla tekstu, używany do tworzenia wszystkich wariantów LFM2.5-2.6B. Posiada następujące cechy:

• Łączna liczba parametrów: 2.69B
• Liczba warstw: 30 (22 podwójnie bramkowane bloki konwolucyjne + 8 GQA)
• Budżet treningowy: 34 biliony tokenów
• Rozmiar słownika: 128,000
• Długość kontekstu: 131,072 tokenów
• Języki: angielski, arabski, chiński, francuski, niemiecki, włoski, japoński, koreański, portugalski, hiszpański, wietnamski, tajski, indonezyjski, hindi, rosyjski, polski

Model	Opis
LFM2.5-2.6B	Oryginalny punkt kontrolny modelu w formacie natywnym. Najlepszy do dalszego dostosowywania lub wnioskowania z użyciem Transformers, vLLM i SGLang.
LFM2.5-2.6B-GGUF	Skwantyzowany format dla llama.cpp i kompatybilnych narzędzi. Optymalizowany do wnioskowania na CPU i lokalnych wdrożeń z ograniczonym użyciem pamięci.
LFM2.5-2.6B-ONNX	Format ONNX Runtime do wdrożeń międzyplatformowych. Umożliwia przyspieszone wnioskowanie sprzętowe w różnych środowiskach (chmura, edge, mobilne).
LFM2.5-2.6B-MLX	Format MLX dla Apple Silicon. Optymalizowany do szybkiego wnioskowania na urządzeniach Mac z użyciem frameworka MLX.

Ten wstępnie wytrenowany punkt kontrolny jest zalecany tylko do zadań wymagających intensywnego dostosowywania, takich jak asystenci specyficzni dla języka (np. japoński) lub specyficzni dla dziedziny (np. medycznej), trening na danych własnych lub eksperymentowanie z nowymi podejściami po treningu. LFM2.5 jest wspierany przez wiele frameworków wnioskowania. Zobacz dokumentację Wnioskowania, aby uzyskać pełną listę.