Microsoft, yapay zeka ajanlarını “içeriden tehdit” olarak tanımlıyor

Yapay zeka ajanlarının şirketlerde kullanımı yaygınlaşırken Microsoft, bu sistemlerin beraberinde getirdiği güvenlik risklerine dikkat çekiyor. Microsoft’a göre ajanlar, sahip oldukları erişim yetkileri nedeniyle şirketlerin yeni “içeriden tehditleri” olarak ele alınmalı.

Aslında Microsoft, burada ajanların doğrudan kötü niyetli olduğunu ifade etmekten ziyade, ajanların hata yapabileceğini, manipüle edilebileceğini veya ele geçirilebileceğini vurguluyor. Ayrıca kullanılan modelin çıktılarının değişken olması ve ajanların görev sırasında karşılaştığı bağlamın değişebilmesi de güvenlik açısından önemli bir risk oluşturuyor. Bir görev başlangıçta beklendiği gibi ilerlerken yeni bir veri veya yönlendirme ajanın davranışını değiştirebiliyor.

Microsoft yöneticileri, günümüzdeki ileri seviye yapay zeka modellerinin kaynağı ne olursa olsun detaylı ⇒

Alıntının kaynağı: Webrazzi