Anthropic, altı METR değerlendiricisine çalışan düzeyinde sistem erişimi açtı

Neler değişiyor?

Anthropic, 15 Ekim’de bağımsız yapay zekâ değerlendirme kuruluşu METR’den altı kişiyi şirket donanımı, ofis alanı ve kendi risk değerlendirme ekiplerine yakın iç araç erişimiyle sisteme dahil ettiğini açıkladı. Müşteri verileri, avukat–müvekkil gizliliğindeki bilgiler ve model mimarileri gibi sınırlı kategoriler kapsam dışında tutuluyor.

METR; Anthropic’in risk düzeyleri, olayları ve uygulamaları hakkındaki analizini yayımlayabilecek. Şirket yayını veto edemeyecek, ancak önceden tanımlanmış hassas bilgiler için karartma talep edebilecek; METR de ayrıntıyı açmadan bu karartmanın gerekçesini kamuya açık biçimde tartışabilecek. Anthropic, dar kapsamlı ve şirket onaylı yayından çalışan düzeyinde erişime uzanan üç kademeli bir değerlendirme modeli kuruyor.

Reuters, bağımsızlığın yalnız erişim miktarıyla değil, değerlendiriciyi kimin seçtiği ve fikrî mülkiyet gerekçeli sınırların risk incelemesini ne ölçüde etkilediğiyle de ölçüleceğine dikkat çekiyor. Üretim ekipleri için bu yaklaşım, model kartlarının ötesinde daha derin kanıt sunabilir; güvenilirliği belirleyecek unsurlar ise erişim sınırlarının, karartmaların ve yayın haklarının açıkça belgelenmesi olacak.