Küçük Modellerin Büyük Dil Modelleri İçgörüleriyle İnce Ayarlanması: Finansal Varlık Tanıma Başarı Çalışması
Kaynak: huggingface.co ·
Bu çalışma, finansal haber verilerindeki varlık tanıma (NER) işlemlerini optimize etmek için açık kaynaklı büyük dil modellerinin ve ekosistem araçlarının nasıl kullanılabileceğini incelemektedir. Büyük dil modelleriyle otomatik etiketleme yapılıp Argilla ile veriler gözden geçirilerek daha küçük modeller ince ayardan geçirilmiştir. Bu süreç sonucunda model doğruluğu artırılmış ve operasyonel maliyetler büyük modellere kıyasla belirgin ölçüde düşürülmüştür.
Neden önemli?
Bu yaklaşım, yüksek maliyetli büyük modelleri doğrudan çalıştırmak yerine daha küçük ve kompakt modelleri ince ayardan geçirerek bütçe kısıtı olan gerçek dünya finans uygulamalarında yüksek başarı elde edilmesini sağlar. Finans sektöründe otomatik ticari stratejiler yürüten ekipler için maliyet avantajı ve yüksek performans sunar.
Bununla neler yapılabilir?
- Olası kullanım: Finansal haber başlıklarından şirket isimlerinin ve hisse sembollerinin otomatik olarak çıkarılması.
- Olası kullanım: Büyük dil modelleri yardımıyla veri etiketleme sürecinin hızlandırılması ve insan denetimiyle verilerin doğrulanması.
Somut sonuçlar ve kanıtlar
- GLiNER modeli ince ayar sonrasında F1 skorunu %87.0'den %93.4'e çıkarırken, SpanMarker modeli %47.0'den %90.1'e yükselmiştir. (Üreticinin açıklaması)
Sınırlar ve açık kalan sorular
Çalışmada test edilen veri kümesi boyutu sınırlıdır ve sonuçlar belirli bir finansal haber veri setine dayanmaktadır. Küçük modellerin maliyet ve verimlilik avantajı sağladığı belirtilse de, her sektöre ve farklı karmaşıkluktaki görevlere doğrudan genelleştirilemeyebilir.