Intel Gaudi 2 Üzerinde ProtST Protein Dil Modelinin Hızlandırılması ve Çalıştırılması
Kaynak: huggingface.co ·
Intel ve MILA, metin komutlarına dayalı protein tasarımı için geliştirilen çok modlu ProtST protein dil modelini yeniden tasarlayarak Hugging Face Hub üzerinden erişime açtı. Intel Gaudi 2 hızlandırıcıları ve Optimum for Intel Gaudi kütüphanesi kullanılarak modelin çıkarım ve ince ayar süreçleri optimize edildi. Yapılan testlerde, NVIDIA A100 ile kıyaslandığında Gaudi 2 çıkarım hızında 1.76 kat, ince ayar işlemlerinde ise 2.92 kat daha hızlı sonuç verdi. Bu entegrasyon, araştırmacıların dönüşüm tabanlı betiklerini Gaudi 2'ye minimum kod değişikliğiyle taşımasını sağlıyor.
Neden önemli?
Bu geliştirme, protein yapısı ve işlevi üzerine çalışan araştırmacılara donanım alternatifleri sunarak model dağıtımını ve ince ayar süreçlerini hızlandırır. Protein dizisi analizi yapan biyoinformatik uzmanları, Gaudi 2 hızlandırıcıları sayesinde daha kısa sürede hesaplama yapabilir.
Bununla neler yapılabilir?
- Olası kullanım: Araştırmacılar, amino asit dizilerini modele vererek çekirdek, hücre zarı, sitoplazma ve mitokondri gibi hücresel alt konumları tahmin edebilir.
- Olası kullanım: Geliştiriciler ve biyologlar, ProtST modellerini Optimum for Intel Gaudi kütüphanesi ile kendi donanım altyapılarına taşıyarak ince ayar süreçlerini gerçekleştirebilir.
Somut sonuçlar ve kanıtlar
- ProtST-SubcellularLocalization veri setinin test bölünmesinde, NVIDIA A100 ve Intel Gaudi 2 üzerinde tam bfloat16 hassasiyetinde ve 1 yığın boyutu ile yapılan testlerde 0.44 doğruluk oranı elde edilmiş olup Gaudi 2, A100'e kıyasla 1.76 kat daha hızlı çıkarım hızı sağlamıştır. (Üreticinin açıklaması)
- ProtST-BinaryLocalization veri setinde yapılan ince ayar testlerinde, tek bir Gaudi 2 hızlandırıcısının tek bir A100'e göre 2.92 kat daha hızlı ince ayar süresi sunduğu gösterilmiştir. (Üreticinin açıklaması)
Sınırlar ve açık kalan sorular
Testler tam bfloat16 hassasiyeti ve 1 yığın boyutu gibi belirli donanım ve yazılım koşullarında gerçekleştirilmiştir. Sonuçlar kullanılan veri setine ve donanım yapılandırmasına göre değişiklik gösterebilir.