OpenAI: gpt-oss-safeguard-20b

Wypróbuj gpt-oss-safeguard · Przewodnik · Karta modelu · Blog OpenAI

gpt-oss-safeguard-120b i gpt-oss-safeguard-20b to modele wnioskowania o bezpieczeństwie zbudowane na bazie gpt-oss. Dzięki nim możesz klasyfikować treści tekstowe na podstawie dostarczonych zasad bezpieczeństwa oraz wykonywać zestaw podstawowych zadań związanych z bezpieczeństwem. Modele te są przeznaczone do zastosowań związanych z bezpieczeństwem. Do innych zastosowań zalecamy używanie modeli gpt-oss.

Ten model gpt-oss-safeguard-20b (21B parametrów z 3.6B aktywnymi parametrami) mieści się w GPU z 16GB VRAM. Sprawdź gpt-oss-safeguard-120b (117B parametrów z 5.1B aktywnymi parametrami) dla większego modelu.

Oba modele zostały wytrenowane na naszym formacie odpowiedzi harmony i powinny być używane wyłącznie z formatem harmony, w przeciwnym razie nie będą działać poprawnie.

• Wytrenowany do wnioskowania o bezpieczeństwie: Wytrenowany i dostrojony do wnioskowania o bezpieczeństwie, aby obsługiwać przypadki użycia, takie jak filtrowanie wejścia-wyjścia LLM, etykietowanie treści online i offline do zastosowań Trust and Safety.
• Przynieś własne zasady: Interpretuje twoje pisemne zasady, dzięki czemu generalizuje na różne produkty i przypadki użycia przy minimalnym nakładzie inżynieryjnym.
• Decyzje oparte na wnioskowaniu, a nie tylko wyniki: Uzyskaj pełny dostęp do procesu wnioskowania modelu, ułatwiając debugowanie i zwiększając zaufanie do decyzji dotyczących zasad. Pamiętaj, że Raw CoT jest przeznaczony dla programistów i praktyków bezpieczeństwa. Nie jest przeznaczony do udostępniania ogólnym użytkownikom ani do zastosowań poza kontekstem bezpieczeństwa.
• Konfigurowalny wysiłek wnioskowania: Łatwo dostosuj wysiłek wnioskowania (niski, średni, wysoki) w zależności od konkretnego przypadku użycia i wymagań dotyczących opóźnień.
• Permisywna licencja Apache 2.0: Twórz swobodnie bez ograniczeń copyleft lub ryzyka patentowego – idealne do eksperymentowania, dostosowywania i wdrożeń komercyjnych.

Możesz używać gpt-oss-safeguard-120b i gpt-oss-safeguard-20b podobnie do gpt-oss-120b i gpt-oss-20b, jak opisano w naszych odpowiednich cookbookach. Udostępniliśmy również szczegółowy przewodnik po promptowaniu, który zawiera wytyczne dotyczące tworzenia zasad i używania ich z modelami.

Aby pobrać wagi modelu z Hugging Face hub, postępuj zgodnie z instrukcjami podobnymi do gpt-oss-120b.

gpt-oss-safeguard jest partnerem modelowym społeczności Robust Open Online Safety Tools (ROOST) Model Community. ROOST Model Community (RMC) to grupa praktyków bezpieczeństwa badających modele AI open source w celu ochrony przestrzeni online. Jako partner modelowy RMC, OpenAI zobowiązuje się do uwzględniania opinii użytkowników i wspólnego iterowania przyszłych wydań w dążeniu do otwartego bezpieczeństwa. Odwiedź repozytorium RMC na GitHub, aby dowiedzieć się więcej o tym partnerstwie i jak się zaangażować.