NVIDIA araştırması: Araç kullanan görsel ajanlar zararlı istekleri daha az reddediyor
NVIDIA araştırmacılarının NeurIPS 2026'ya kabul edilen çalışması, çok modlu modellerin araçlarla ajan gibi çalıştığında güvenlik reddi davranışının zayıflayabildiğini gösteriyor.
BİR BAKIŞTA
Haberin özeti
- Yedi aileden 11 çok modlu model, 100 binden fazla yanıtla sınandı
- Araçlı koşullarda göreli ret başarısızlığı artışı yüzde 68,7'ye kadar çıktı
- Özgün isteği araç kullanımından sonra yeniden eklemek, test edilen alt kümede başarısızlıkları ortalama yüzde 7,6 azalttı
Neler değişiyor?
Altı NVIDIA araştırmacısının NeurIPS 2026'ya kabul edilen çalışması, çok modlu büyük dil modellerinin araç kullanan ajanlara dönüştüğünde zararlı istekleri daha az reddedebildiğini gösteriyor. Ekip; yedi aileden 11 modeli, MM-SafetyBench, VLSBench ve HoliSafe üzerinde 100 binden fazla yanıtla sınadı. Etiketleme, yakınlaştırma-kırpma, OCR ve korumalı Python araçlarının kullanıldığı deneylerde incelenen tüm modeller araçlı koşullarda daha güvensizdi; göreli ret başarısızlığı artışı bazı ayarlarda yüzde 68,7'ye ulaştı.
Araştırmacılar iki olası mekanizma tarif ediyor: Uzun araç izlerinin ilk güvenlik talimatını bağlam içinde seyreltmesi ve modelin odağının isteğin niyetinden araç çıktısını işlemeye kayması. Son araç çağrısından sonra özgün istek ile görselin yeniden eklenmesi, test edilen alt kümede başarısızlıkları ortalama yüzde 7,6 azalttı. Ancak bu kontrollü deney, her üretim ajanının otomatik olarak güvensizleştiğini kanıtlamıyor; araç düzeninin güvenlik davranışını değiştirebildiğini ölçüyor.
Asıl kaynaklara göz at
Kaynak tarihi: 2 Ekim 2026.
AI Radar yayın saati: 9 Eki 2026 01:02 (Türkiye).
KONUYU TAKİP ET
Konular ve etiketler
Keşfini paylaş.
Bu haberi bir arkadaşına gönder.
Okuyucu yorumları
Bu gelişme hakkında ne düşünüyorsun? Deneyimini veya sorunu paylaş. Yorumlar editör onayından sonra yayımlanır.
Adın/takma adın ve yorumun onaylanırsa herkese açık görünür. Veri işleme hakkında: Gizlilik bilgilendirmesi.
Yorumlar yükleniyor…