Transformers v5 Sürümü Çıktı: Modüler Tasarım, PyTorch Odaklı Altyapı ve Genişletilmiş Birlikte Çalışabilirlik
Kaynak: huggingface.co ·
Beş yıllık gelişimin ardından Transformers v5.0.0rc-0 sürümü, daha sade kod tabanı, modüler mimari ve tam PyTorch entegrasyonuyla duyuruldu. Yeni sürüm, model geliştirme, ölçeklenebilir ön eğitim, ince ayar, nicemleme ve üretim aşamalarında ekosistem araçlarıyla uyumluluğu artırıyor. Tokenizasyon tarafında hızlı (Fast) ve yavaş (Slow) ayrımı kaldırılarak süreçler sadeleştirilirken, yerel ve OpenAI API uyumlu sunum özellikleri eklendi.
Neden önemli?
Bu güncelleme, açık kaynak yapay zeka ekosistemindeki geliştiricilerin farklı kütüphaneler (Unsloth, vLLM, llama.cpp vb.) arasında model taşırken yaşadığı sürtüşmeyi azaltıyor. Standartlaştırılmış model tanımları sayesinde araştırmacılar ve mühendisler sıfırdan model uyarlamak yerine doğrudan çekirdek optimizasyonlarına odaklanabiliyor.
Bununla neler yapılabilir?
- Olası kullanım: Geliştiriciler, Unsloth veya LlamaFactory kullanarak eğittikleri modelleri transformers v5 ile hazırlayıp vLLM veya SGLang üzerinden sunabilirler.
- Olası kullanım: Llama.cpp ve MLX entegrasyonları sayesinde transformers modelleri yerel cihazlarda çalıştırmak üzere doğrudan GGUF formatına dönüştürülebilir.
- Olası kullanım: Yeni eklenen AttentionInterface ve AttentionInterface soyutlaması üzerinden FlexAttention veya SDPA gibi dikkat mekanizmaları yönetilebilir.
Somut sonuçlar ve kanıtlar
- Transformers kütüphanesi pip üzerinden günde 3 milyondan fazla kez indiriliyor ve toplamda 1.2 milyar indirmeyi aşmış durumda. (Üreticinin açıklaması)
Sınırlar ve açık kalan sorular
Sürüm henüz v5.0.0rc-0 aşamasındadır; kararlı sürüm öncesinde hata barındırabilir ve Flax/TensorFlow desteği sonlandırılarak yalnızca PyTorch odaklı bir altyapıya geçilmiştir.