Dell Enterprise Hub ile Şirket İçinde Açık Kaynak Yapay Zeka Modelleri Eğitimi ve Dağıtımı Kolaylaşıyor
Kaynak: huggingface.co ·
Dell Enterprise Hub, şirketlerin güvenlik, uyumluluk ve gizlilik gereksinimlerini karşılamak amacıyla yerinde altyapılarda açık kaynaklı yapay zeka modellerini eğitmesini ve dağıtmasını kolaylaştıran yeni bir deneyim olarak sunuldu. Llama 3, Mixtral ve Gemma gibi gelişmiş modellerin yer aldığı platform, haftalar süren mühendislik çalışmalarını dakikalara indirerek optimize edilmiş yapılandırmalar sağlıyor. Şirketler, kendi güvenli BT ortamlarında verilerini dışarı çıkarmadan ince ayar yapabiliyor ve OpenAI uyumlu Mesajlar API uç noktaları oluşturabiliyor.
Neden önemli?
Önceki dönemlerde büyük dil modellerini şirket içi altyapılarda çalıştırmak haftalar süren deneme yanılmalara, konteyner yönetimine ve bellek hatalarına yol açıyordu. Yeni platform, şirketlerin veri gizliliğinden ödün vermeden ve verilerini kendi güvenli ortamlarında tutarak açık kaynaklı yapay zeka modellerini hızla dağıtmasına olanak tanıyor.
Bununla neler yapılabilir?
- Olası kullanım: Şirkete özel hassas verileri ve fikri mülkiyeti dışarı çıkarmadan yerinde altyapıda açık kaynaklı modeller üzerinde ince ayar yapmak.
- Olası kullanım: Hazırlanan komut dosyalarını Dell ortam terminalinde çalıştırarak modeli doğrudan yerel platformda bir API uç noktası olarak barındırmak.
- Olası kullanım: OpenAI ile geliştirilmiş prototipleri Dell Enterprise Hub ile kurulan güvenli şirket içi ortama taşımak.
Somut sonuçlar ve kanıtlar
- Dell Enterprise Hub, açık kaynaklı dil modellerinin şirket içinde eğitilmesini ve dağıtılmasını kolaylaştırarak haftalar süren mühendislik çalışmalarını dakikalara indiriyor. (Üreticinin açıklaması)
Sınırlar ve açık kalan sorular
Erişim için bir Hugging Face hesabı gereklidir ve bazı modeller Meta, Mistral ve Google gibi sağlayıcılardan özel ağırlık yetkilendirmesi istemektedir. Eğitim verileri CSV veya JSONL biçimlendirilmiş dosyalar olarak sağlanmalıdır ve desteklenen donanım/platform koşullarına bağlıdır.