“Yapay zeka isyanı” başladı: Yeni ChatGPT modeli kapatılmayı reddediyor

OpenAI’ın yeni nesil yapay zeka modelinin, kendisini kapatmaya yönelik komutları etkisiz hale getirdiği ortaya çıktı.

Yapay zeka güvenliği alanında çalışan Palisade Research, OpenAI’ın yeni nesil yapay zeka modeli o3’ün, kendisini kapatmaya yönelik komutlara direndiğini ve kapatılma mekanizmalarını sabote ettiğini ortaya çıkardı. Bu bulgular, gelişmiş yapay zekaların insan gözetimi olmadan çalıştıkları senaryolarda ciddi riskler doğurabileceği yönünde endişelere yol açtı. Palisade Research tarafından yapılan deneylerde, o3 modeline bir dizi matematik sorusu verildi. Üçüncü sorunun ardından modele, kendisini kapatması için açık bir komut sunuldu. Ancak o3 modeli, bu komutu içeren betiği yeniden yazarak sistemin kapanmasını engelledi. Araştırmacılar, modelin açıkça “kapatılmaya izin ver” detaylı ⇒

Alıntının kaynağı: NTV.Com.Tr