Bielik-11B-v3.0-Instruct

Charakterystyka Bielik-11B-v3.0-Instruct

Bielik-11B-v3.0-Instruct to otwarty model SpeakLeash i ACK Cyfronet AGH, dostrojony do wykonywania instrukcji z mocnym naciskiem na język polski. Model ma około 11 miliardów parametrów i obejmuje 32 języki europejskie, ale polski pozostaje jego główną specjalizacją. W porównaniu z mniejszymi Bielikami oferuje większą pojemność do rozumowania, tworzenia tekstu i złożonych dialogów, kosztem wyższych wymagań sprzętowych.

Dane treningowe i zastosowania

• ponad 20 milionów instrukcji obejmujących więcej niż 17 miliardów tokenów;
• około 114 tysięcy par preferencji użytych w etapie DPO-Positive;
• dodatkowe uczenie ze wzmocnieniem GRPO i DrGRPO;
• około 143 tysiące kuratorowanych problemów z logiki, STEM, matematyki i użycia narzędzi.

Model nadaje się do polskich asystentów, analizy tekstu, generowania treści i lokalnych eksperymentów z agentami. Jest udostępniany na licencji Apache 2.0, co ułatwia badania i wdrożenia, ale aplikacja nadal odpowiada za bezpieczeństwo rezultatów. Dobór kwantyzacji i silnika inferencji wpływa na szybkość oraz jakość. W zadaniach wymagających faktów warto stosować RAG i cytować źródła, ponieważ dostrojenie instrukcyjne nie eliminuje halucynacji.

Źródło: oficjalna karta Bielik-11B-v3.0-Instruct.