H Company Tarafından Geliştirilen Yüksek Verimli Bilgisayar Kullanım Modeli Holotron-12B Tanıtıldı
Kaynak: huggingface.co ·
H Company, açık kaynaklı NVIDIA Nemotron tabanı üzerine inşa ettiği çok modüllü bilgisayar kullanım modeli Holotron-12B'yi tanıttı. Hibrit Durum-Uzay Modeli ve dikkat mekanizması mimarisi sayesinde model, uzun bağlamlarda yüksek veri akışı ve düşük bellek kullanımı sunuyor. WebVoyager kıyaslamasında Holo2-8B modeline kıyasla 2 kat daha yüksek veri akışı sağlayan Holotron-12B, Hugging Face üzerinden erişime açıldı. Model, ekran anlama ve kullanıcı arayüzü etkileşimleri odaklı veri karışımıyla eğitildi.
Neden önemli?
Bu model, bilgisayar kullanımı gerektiren etkileşimli ortamlarda çalışan yapay zeka ajanları için bellek maliyetini düşürerek üretim ortamlarında ölçeklenebilirliği artırıyor. Geliştiriciler ve otomasyon sistemleri kuran kurumlar için uzun etkileşim geçmişlerini ve çoklu görselleri daha verimli işlemeyi sağlıyor.
Bununla neler yapılabilir?
- Olası kullanım: Çok sayıda yüksek çözünürlüklü görsel içeren web tabanlı otomasyon görevlerinde ajan politikası modeli olarak çalıştırmak.
- Olası kullanım: Büyük ölçekli veri üretimi, etiketleme ve çevrimiçi pekiştirmeli öğrenme iş akışlarında yüksek veri akışından yararlanmak.
Somut sonuçlar ve kanıtlar
- WebVoyager testinde, 100 eşzamanlı işçi ile yapılan çalışmada Holo2-8B'ye kıyasla 2 kat daha yüksek veri akışı elde edildi. (Üreticinin açıklaması)
- WebVoyager üzerindeki başarı oranı %35.1'den %80.5 seviyesine çıktı. (Üreticinin açıklaması)
Sınırlar ve açık kalan sorular
Modelin performansı donanım koşullarına, vLLM sürümlerine ve test edilen kıyaslama ortamlarına bağlıdır; tüm olası gerçek dünya senaryolarındaki başarıyı garanti etmez.