Hugging Face Açık Modelleri Amazon Bedrock Pazar Yerinde Erişime Açıldı
Kaynak: huggingface.co ·
Amazon Bedrock üzerinde yeni sunulan Pazar Yeri aracılığıyla popüler açık kaynaklı modeller erişime açıldı. AWS müşterileri, üretken yapay zeka uygulamaları geliştirmek için 83 açık modeli platform üzerinden dağıtabiliyor. Arka planda uç noktalar Amazon SageMaker JumpStart tarafından yönetilirken, kullanıcılar Amazon Bedrock'un tam yönetilen altyapısından ve gelişmiş API bileşenlerinden yararlanabiliyor. Bu entegrasyon, kullanıcıların sunucusuz ve pazar yeri modellerini filtreleyerek kolayca dağıtmasına ve standart API'ler aracılığıyla programatik olarak sorgulamasına olanak tanıyor.
Neden önemli?
Bu yenilik, geliştiricilerin açık kaynaklı modelleri kurumsal düzeydeki altyapı ve güvenlik araçlarıyla birleştirmesini kolaylaştırır. AWS müşterileri, modelleri doğrudan mevcut iş akışlarına ve arayüzlere entegre ederek uygulama geliştirme süreçlerini hızlandırabilir.
Bununla neler yapılabilir?
- Olası kullanım: Google Gemma 2 27B Instruct gibi açık modellerin Amazon Bedrock konsolu üzerinden seçilerek SageMaker altyapısında dağıtılması.
- Olası kullanım: Dağıtılan uç noktaların ARN bilgisi kopyalanarak Python SDK ve boto3 kullanılarak programatik sorgular yapılması.
Somut sonuçlar ve kanıtlar
- AWS müşterileri, üretken yapay zeka uygulamaları geliştirmek için Bedrock Pazar Yeri aracılığıyla 83 açık modeli dağıtabilir. (Üreticinin açıklaması)
Sınırlar ve açık kalan sorular
Model dağıtımı ve uç nokta yönetimi için kullanılan SageMaker bilişim kaynaklarının ücretleri geçerlidir ve uç noktalar silinmediği sürece maliyet üretmeye devam eder. Erişim, Bedrock Pazar Yeri'nin desteklendiği 14 bölge ile sınırlıdır ve kullanıcıların model sağlayıcısının son kullanıcı lisans sözleşmesini kabul etmesi gerekir.