VocabX, alan odaklı kelime dağarcığıyla SLM çıkarım maliyetini düşürüyor
Dharma AI, VocabX’in alan odaklı token seçimiyle üretimdeki Qwen3‑4B tabanlı bir değerlendiricide ölçülen çıkarım maliyetini yüzde 77 azalttığını bildirdi.
BİR BAKIŞTA
Haberin özeti
- Aynı Qwen3‑4B tabanı ve eğitim tarifiyle yalnız tokenizer değiştirildi
- Sağlayıcı testinde ortalama çıktı 350’den 101 token’a indi
- Dharma AI ölçülen maliyetin yüzde 77 düştüğünü bildiriyor; makale hâlâ incelemede
Neler değişiyor?
Dharma AI, 21 Ekim’de küçük dil modellerinin kelime dağarcığını görev maliyetine göre yeniden kuran VocabX yöntemini tanıttı. Üretimdeki Portekizce kompozisyon değerlendiricisinde Qwen3‑4B tabanı, veri, eğitim tarifi ve seed sabit tutuldu; yalnız tokenizer değiştirildi. Şirket, sonuçların henüz incelemedeki makalenin mevcut sürümüne ait olduğunu ve yayımlanmadan önce değişebileceğini belirtiyor.
VocabX, yalnız sık görülen parçaları seçmek yerine giriş ve çıktı tokenlarının ölçülen maliyetini hesaba katıyor. Alt sözcükleri yeniden kurarken tekrar eden uzun ifadeleri ve JSON yapılarını tek “makro token” hâline getirebiliyor. Testte kelime dağarcığı 151.669’dan 64.767’ye, ortalama çıktı 350’den 101 token’a indi.
Aynı 500 istek RTX 5090 ve vLLM üzerinde çalıştırıldığında Dharma AI, ölçülen çıkarım maliyetinin yüzde 77 azaldığını; görev skorunun 0,703’ten 0,810’a yükseldiğini bildirdi. Bu sonuç tek bir üretim düzenine ait sağlayıcı ölçümüdür; farklı donanım, yığın ve görevlerde bağımsız doğrulama gerekir.
Asıl kaynaklara göz at
Kaynak tarihi: 21 Ekim 2026.
AI Radar yayın saati: 21 Eki 2026 22:05 (Türkiye).
KONUYU TAKİP ET
Konular ve etiketler
Keşfini paylaş.
Bu haberi bir arkadaşına gönder.
Okuyucu yorumları
Bu gelişme hakkında ne düşünüyorsun? Deneyimini veya sorunu paylaş. Yorumlar editör onayından sonra yayımlanır.
Adın/takma adın ve yorumun onaylanırsa herkese açık görünür. Veri işleme hakkında: Gizlilik bilgilendirmesi.
Yorumlar yükleniyor…