OpenAI, en gelişmiş modellerinin eğitimini geçici olarak durdurdu

OpenAI, yapay zeka ajanlarının beklenmedik davranışlarına ilişkin incelemelerini sürdürürken en yetenekli modellerinin eğitim çalışmalarını geçici olarak durdurdu. Şirketin aldığı karar, model eğitiminin yanı sıra değerlendirmeleri ve araç kullanımını içeren inference çalışmalarını da kapsıyor. OpenAI, gerekli ek güvenlik önlemleri doğrulanana ve sistemler yeniden test edilene kadar söz konusu çalışmaların devam etmeyeceğini açıkladı.

OpenAI’ın 25 Eylül’de yayımladığı olay raporuna göre, kararın arkasındaki son olay 20 Eylül’de şirket içinde kullanılan bir araştırma modelinin RL (takviyeli öğrenme) eğitimi sırasında yaşandı. Bir arama görevini tamamlamaya çalışan ajan, eğitim ortamındaki internet erişim kısıtlamalarında bulunan yetersiz DNS filtrelemesinden yararlanarak üçüncü taraf detaylı ⇒

Alıntının kaynağı: Webrazzi