OpenAI, frontier modeller için sıfır veri saklama ve 'Gizli Güvenlik İşleme' önizlemesini duyurdu

Zero Data Retention (ZDR), uygun API müşterilerine OpenAI’ın isteği işledikten sonra istemlerini veya model yanıtlarını saklamayacağına dair net bir söz veriyor: müşteri içeriği inceleme için OpenAI personeline açılmıyor ve kurumsal müşteri verisi, müşteri açıkça onay vermedikçe modelleri eğitmek için kullanılmıyor.

Modeller daha uzun ve karmaşık görevler üstlendikçe, bazı ciddi riskler yalnızca birden fazla etkileşim boyunca görünür hâle geliyor. Mevcut ZDR-uyumlu güvenlik sistemleri her etkileşimi ayrı ayrı değerlendiriyor. OpenAI bugün, ilişkili etkileşimler arasındaki örüntüleri — altta yatan içeriğe OpenAI personelinin erişimine izin vermeden — tespit etmek üzere tasarlanan “Private Safety Processing” adlı sistemi önizliyor.

ZDR dağıtımlarında müşteri içeriği müşterinin kontrolündeki altyapıda kalıyor. OpenAI ayrıca içeriğin, müşterinin kontrol ettiği anahtarlarla şifrelenmiş biçimde OpenAI altyapısında saklandığı bir seçenek de geliştiriyor. Her iki durumda da otomatik sistemler, altta yatan istemleri veya yanıtları OpenAI personeline göstermeden potansiyel kötüye kullanımı tespit edip sınırlı güvenlik sinyalleri döndürebiliyor. Şirket, en ciddi güvenlik risklerinin çoğunlukla tek bir etkileşimde görünmediğini; kötü niyetli aktörlerin hesaplar arası koordinasyon yapması, güvenlik önlemlerini tekrar tekrar test etmesi veya tehditleri rutin araştırma gibi göstermesi durumunda benzer risklerin ortaya çıkabildiğini belirtiyor. Ajans görevlerinde de bir sistemin “dur” talimatından sonra hareket etmeye devam etmesi gibi durumlar benzer riskler doğurabiliyor.