Meta: Llama 3.3 70B Instruct (free)

Charakterystyka Llama 3.3 70B Instruct

Llama 3.3 70B Instruct to duży, tekstowy model Meta dostrojony do wykonywania instrukcji i prowadzenia rozmowy. Ma około 70 miliardów parametrów oraz okno kontekstowe do 128 tysięcy tokenów. Oficjalna karta deklaruje obsługę ośmiu języków i zastosowania komercyjne oraz badawcze zgodne z licencją Llama 3.3 Community License. Oznaczenie „free” w katalogu dotyczy konkretnej oferty dostępu, a nie zmiany licencji lub gwarancji stałej dostępności.

Zastosowania

• asystenci tekstowi, redagowanie, streszczanie i odpowiadanie na pytania;
• generowanie oraz analiza kodu w typowych zadaniach programistycznych;
• tworzenie danych syntetycznych i destylacja do mniejszych modeli;
• wdrożenia wymagające większej kontroli niż zamknięte usługi API.

Model korzysta z Grouped-Query Attention, co pomaga skalować inferencję, lecz pełna wersja 70B nadal wymaga znacznych zasobów pamięci i mocy obliczeniowej. Język polski nie należy do ośmiu języków oficjalnie wskazanych jako wspierane, dlatego jakość polskich odpowiedzi trzeba sprawdzić na własnym zbiorze. Dostawca aplikacji odpowiada za filtrowanie treści, bezpieczeństwo oraz zgodność z licencją i polityką użycia Meta.

Źródło: oficjalna karta Llama 3.3 70B Instruct.