Public AI, Hugging Face Çıkarım Sağlayıcıları Arasına Eklendi
Kaynak: huggingface.co ·
İsviçre Yapay Zeka Girişimi ve AI Singapore gibi kurumlardan kamu ve egemen modellere doğrudan erişim sağlayan Public AI, Hugging Face üzerinde desteklenen bir Çıkarım Sağlayıcısı oldu. Bu entegrasyon, vLLM destekli bir arka uç ile donör ve endüstri ortaklarının bağışladığı kümeler üzerinde çalışan dağıtık bir altyapı kullanır. Kullanıcılar, ister kendi özel anahtarlarıyla ister Hugging Face yönlendirmesiyle bu modellere Python ve JS istemci SDK'ları aracılığıyla erişebilir.
Neden önemli?
Bu entegrasyon, geliştiricilerin İsviçre Yapay Zeka Girişimi ve AI Singapore gibi kuruluşların kamuya ait ve egemen yapay zeka modellerine doğrudan Hugging Face platformu üzerinden kolayca erişmesini sağlar. Bu durum, açık kaynaklı ve kamu odaklı modellerin benimsenmesini hızlandırır.
Bununla neler yapılabilir?
- Olası kullanım: Swiss AI kurumuna ait Apertus-70B modelini Python'daki huggingface_hub kütüphanesi ve Public AI altyapısını kullanarak çağırmak.
- Olası kullanım: Hugging Face istemci SDK'ları (JS ve Python) üzerinden Public AI modellerini entegre etmek ve model sayfalarındaki kod parçacıklarını kullanmak.
Somut sonuçlar ve kanıtlar
- Public AI, Hugging Face Hub üzerinde desteklenen bir Çıkarım Sağlayıcısı olarak eklendi. (Üreticinin açıklaması)
Sınırlar ve açık kalan sorular
Ücretlendirme ve kullanılabilirlik koşulları zamanla değişebilir; yazım anında kullanım ücretsizdir ancak fiyatlandırma şartları farklılık gösterebilir.