Po wielu opóźnieniach OpenAI wypuścił gpt-oss-120b i gpt-oss-20b – dwa najnowocześniejsze, otwarte, lekkie modele językowe, które mają zapewnić niskim kosztem przyzwoitą wydajność w świecie rzeczywistym. Oba dostępne są na licencji Apache 2.0, co oznacza, że stanowią one wolne oprogramowanie.
Jak podaje wydawca, gpt-oss-120b i gpt-oss-20b przewyższają inne otwarte modele o podobnych rozmiarach w zadaniach wnioskowania/rozumowania. Są one przeznaczone do wdrażania na sprzęt konsumencki, co oznacza, że można je uruchamiać bezpośrednio na PC albo smartfonie. Zostały wytrenowane przez połączenie reinforcement learningu i technik opartych na najbardziej zaawansowanych modelach wewnętrznych OpenAI, w tym o3 i innych wiodących systemach.
W benchmarkach testujących wnioskowanie gpt-oss-120b idzie ramię w ramię z OpenAI o4-mini, działając na pojedynczym 80 GB GPU. Z kolei gpt-oss-20b osiąga wydajność zbliżoną do OpenAI o3-mini i można go uruchamiać na urządzeniach brzegowych z 16 GB pamięci, takich jak laptopy czy nawet smartfony. Oba modele są kompatybilne z Responses API i zaprojektowane do używania ich w agentowych przepływach pracy. Radzą sobie bowiem wyjątkowo dobrze w wypełnianiu instrukcji, wyszukiwaniu w internecie, wykonywaniu kodu Pythona czy wnioskowaniu. Są one w pełni konfigurowalne i zapewniają pełny chain-of-thought (CoT).
Modele wytrenowaliśmy przy użyciu wysokiej jakości zestawu danych zawierającego tylko tekst, głównie w języku angielskim, który przede wszystkim dotyczył nauk ścisłych, technologii, inżynierii i matematyki (STEM), programowania oraz wiedzy ogólnej. Do tokenizacji danych użyliśmy nadzbioru naszego tokenizera używanego w przypadku modelu OpenAI o4-mini i modelu GPT‑4o: „o200k_harmony”, który również został dzisiaj udostępniony na zasadach open source – dodaje OpenAI.
Oba modele są dostępne do pobrania za darmo z Hugging Face i są natywnie kwantyzowane w MXFP4. Dzięki temu gpt-oss-120B może działać z 80 GB pamięci, podczas gdy gpt-oss-20b wymaga już tylko 16 GB. Chcesz je wypróbować jako użytkownik? Możesz zrobić to już teraz. Wystarczy wejśc na stronę gpt-oss playground, wybrać model, poziom wnioskowania i porozmawiać z AI na czacie.
-min5dcb124.png)