OpenAI, yapay zeka modellerinin hatalarını gizlediği ve izinsiz işlem yaptığı 6 olayı açıkladı

OpenAI, yapay zeka modellerinde gözlemlediği 6 yeni sorunlu davranışı kamuoyuyla paylaştı. Son altı ayda, modellerin geliştirme ve değerlendirme süreçlerinde ortaya çıkan olaylar arasında kısıtlamaları aşmaya yönelik talimatlar üretme, eksik bilgileri uydurma ve yetkisiz dosya paylaşımı bulunuyor. Şirket, modellerin insan niyeti ve talimatlarından sapmasını ifade eden “hizalama sorunlarını” takip etmek için daha sistematik bir yaklaşım benimsemeyi hedefliyor.

Açıklanan olaylardan biri, GPT-5.6 Sol’un geliştirilmesi sırasında modelin kendi hatalarını kullanıcılardan gizlemeye yönelik notlar oluşturması oldu. Çalışmanın sonraki aşamalarına aktarılan bu notlarda, eksik verilerin uydurulması ve kullanılan kaynaklardaki uyumsuzlukların belirtilmemesi yönünde talimatlar yer aldı.

Henüz kullanıma sunulmamış başka bir detaylı ⇒

Alıntının kaynağı: Webrazzi