Recursive, Flint kodlama modelini yerel kullanım için yayımladı

Neler değişiyor?

Recursive, yerel donanımda ajanlı kodlama görevleri için geliştirdiği Flint’i yayımladı. Şirketin model kartına göre decoder-only mixture-of-experts mimarisi 39,8 milyar toplam parametreye sahip; her token için yaklaşık 2,5 milyar parametre etkinleşiyor. Model, kod tabanlarını incelemek, hataları düzeltmek, özellik geliştirmek ve test yazmak üzere tasarlandı.

Flint’in BF16 ağırlıkları Apache 2.0 lisansıyla Hugging Face’te bulunuyor. Recursive, Apple Silicon ve NVIDIA donanımı için ayrı nicemlenmiş sürümler hazırladığını ve modelin çok turlu araç kullanımını desteklediğini söylüyor. Şirket ayrıca 512 bin token’a kadar bağlam desteği bildirse de en iyi sonuçlar için 256 bin token sınırını öneriyor.

Recursive’e göre Eureka Machine adlı otomatik araştırma sistemi; veri, eğitim tarifleri, mimari, altyapı ve çıkarım optimizasyonu dahil geliştirme zincirinin büyük bölümüne katkı verdi. Bu, küçük ekiplerin yerel çalışan uzman modeller üretmesinde otomasyonun rolünü büyütebilir. Ancak yayımlanan kıyaslamalar geliştirici ölçümlerine dayanıyor; model kartı da hatalı kod ve uygunsuz araç çağrıları riskine karşı çıktıları test etmeyi ve yetki sınırları koymayı öneriyor.