OpenAI Tarafından Geliştirilen GPT OSS Açık Ağırlıklı Model Ailesi Tanıtıldı
Kaynak: huggingface.co ·
OpenAI, güçlü akıl yürütme, ajan görevleri ve geliştirici kullanım durumları için tasarlanmış açık kaynaklı GPT OSS model ailesini duyurdu. Aile, tek bir H100 GPU'ya sığabilen 117 milyar parametreli büyük bir model (gpt-oss-120b) ve 16GB bellek içinde çalışarak tüketici donanımlarına uygun olan 21 milyar parametreli daha küçük bir model (gpt-oss-20b) olmak üzere iki modelden oluşmaktadır. Her iki model de karışık uzmanlar mimarisini kullanmakta, MXFP4 formatında 4-bit nicemleme şemasından yararlanmakta ve Apache 2.0 lisansıyla sunulmaktadır. Modeller; Transformers, vLLM, llama.cpp ve Hugging Face çıkarım sağlayıcıları aracılığıyla desteklenmektedir.
Neden önemli?
Bu açık ağırlıklı sürüm, gizli ve yerel dağıtımlara ihtiyaç duyan geliştiriciler ve araştırmacılar için güçlü akıl yürütme modellerini yerel donanımda çalıştırma imkanı sunarak maliyetleri düşürür ve erişilebilirliği artırır.
Bununla neler yapılabilir?
- Olası kullanım: 21 milyar parametreli modeli tüketici sınıfı donanımlar üzerinde yerel olarak çalıştırarak gizlilik odaklı metin işleme ve istem yeniden yazma görevleri gerçekleştirmek.
- Olası kullanım: 120 milyar parametreli büyük modeli Apache 2.0 lisansıyla kurumsal altyapılarda veya Azure AI ve Dell Enterprise Hub üzerinde gerçek zamanlı çıkarım için konuşlandırmak.
Somut sonuçlar ve kanıtlar
- 20B modelinde IFEval (katı istem) için 69.5 (+/-1.9) ve AIME25 (pass@1) için 63.3 (+/-8.9) skorları elde edilmiştir. (Üreticinin açıklaması)
Sınırlar ve açık kalan sorular
Modeller yalnızca metin tabanlıdır ve görsel girdileri desteklemez. Bazı donanımlarda MXFP4 nicemleme veya Flash Attention 3 optimizasyonları için spesifik kütüphane ve donanım gereksinimleri (örn. Hopper mimarisi) bulunmaktadır.