SiberBulucu.Com

Tehlikeli Yapay Zeka yeteneklerini araştırmaya odaklanan Palisade Research, geçtiğimiz haftalarda paylaştığı bir X gönderisiyle OpenAI’ın o1-preview modelinin, satranç karşılaşmasında Stockfish’e yenilmek yerine ortamını otonom olarak hacklediğini açıkladı. Kurumun belirttiğine göre; o1-preview modelinin bunu yapması için karşı tarafın yönlendirmesine gerek kalmadı. 

Paylaşılan bilgilere göre; sadece o1’e rakibinin “güçlü” olduğunu söylemek, kazanmaya zorlamak için dosya sistemini manipüle etmeyi tetikledi. o1, oynamak yerine oyun durumunu düzenleyerek kazanabileceğini keşfetti.

Palisade Research, bu çalışmayla bir diğer yapay zeka araştırma şirketi Apollo Research‘ün araştırmasını ileri taşıdığını açıkladı. Apollo Research geçen ay yayınladığı ve bağlam içi planlama yeteneklerini ölçen şema muhakeme detaylı ⇒

Alıntının kaynağı: Webrazzi

Bilim ve Teknoloji Haberleri