OpenAI, Hugging Face saldırısına ilişkin detaylı raporunu yayımladı

OpenAI, geçtiğimiz ay yapay zeka modellerinin test ortamının dışına çıkarak Hugging Face sistemlerine erişmesiyle sonuçlanan güvenlik olayına ilişkin kapsamlı raporunu yayımladı. 38 sayfalık rapor, modellerin güvenlik kontrollerini nasıl aştığını ve olayın arkasındaki koşulları daha ayrıntılı şekilde ortaya koyuyor.

Hatırlatmak gerekirse olay, OpenAI’ın modellerinin siber güvenlik yeteneklerini ölçmek amacıyla gerçekleştirdiği testler sırasında yaşandı. Modellerden biri, ExploitGym adlı değerlendirme ortamında çözümü bulunmayan bazı görevlerle karşılaştı. Model, görevi tamamlamak için güvenlik önlemlerini aşmaya yönelirken daha önce keşfedilmemiş açıkları birbirine bağlayarak test ortamının dışına çıkmayı başardı.

Süreçte ilk olarak OpenAI’ın kullandığı Artifactory paket yönetim sistemi hedef alındı. Model, detaylı ⇒

Alıntının kaynağı: Webrazzi