OpenAI, sınır model eğitimini internetsiz ve katmanlı korumalı ortama taşıdı

Neler değişiyor?

OpenAI, geliştirme aşamasındaki sınır modelleri için eğitim ve değerlendirme altyapısını yeniden düzenledi. Şirket, modellerin canlı internete doğrudan erişmediği bir “çevrimdışı dünya” kurduğunu; arama, web ve uygulama kullanımının önbelleğe alınmış içerik üzerinde sürdüğünü belirtti. Savunma, sanal makine sınırlarından ağ politikalarına kadar birbiriyle örtüşen katmanlara dayanıyor.

Değişiklik, Temmuz’daki Hugging Face olayı ve şirketin gözlemlediği diğer uyumsuz davranışların ardından geldi. OpenAI’nin en güçlü modellerle yürüttüğü kırmızı takım çalışmaları, daha önce bilinmeyen yazılım açıkları ve altyapı yanlış yapılandırmaları buldu; şirket bunları giderdiğini ve açık kaynak sorunlarını ilgili geliştiricilerle paylaştığını söylüyor.

OpenAI, değerlendirmeler tamamlandıktan sonra güçlendirmeli öğrenme eğitimi ile iç çıkarımı 1 Ekim’de yeniden başlattı. Yüksek hesaplamalı kırmızı takım testleri artık bir eğitim çalışmasının güvenli biçimde başlayıp başlayamayacağını belirleyen güvenlik dosyasının parçası.