IBM Granite Switch 4.1, sohbet, karar, güvenlik ve sesi tek uç noktada birleştirdi

Neler değişiyor?

IBM Granite ekibi, Granite Switch 4.1’i 15 Ekim’de 8B ve 30B sürümleriyle duyurdu. 8B model; 128 bin token bağlamlı Granite 4.1 tabanını, genel amaçlı Decision aLoRA’yı, Guardian güvenlik bağdaştırıcısını ve 470 milyon parametreli Granite Speech 5.0 TurboCTC kodlayıcısını tek kontrol noktasında topluyor. Model kartına göre İngilizce konuşma çözümleme ayrı bir sunucu gerektirmeden aynı API üzerinden çağrılabiliyor.

Activated LoRA bağdaştırıcıları temel modelin KV önbelleğini yeniden kullanıyor; konuşma kodlayıcısı da aynı dağıtıma yerleştiriliyor. IBM, bu bileşimin yaklaşık yalnız temel model kadar GPU belleği kullandığını söylüyor. Resmî canlı demoda tek 8B uç noktası sesi yazıya çeviriyor, konuşma konusunu özetliyor, zararlı içerik taraması yapıyor ve kullanıcı tanımlı evet-hayır kararlarını aynı akışta değerlendiriyor.

Ağırlıklar Apache 2.0 lisansıyla yayımlandı; 8B kartı Hugging Face Transformers ve vLLM arka uçlarını, proje yazısı ayrıca llama.cpp desteğini belgeliyor. Bununla birlikte ses kodlayıcısı ile dil modeli henüz birlikte eğitilmiş değil; konuşma çıktısı İngilizceyle sınırlı, küçük harfli ve noktalamasız olabiliyor. Üretim ekipleri yönlendirme doğruluğunu, gecikmeyi ve güvenlik kararlarını kendi iş yüklerinde ayrıca sınamalı.