Nvidia, yapay zeka ajanlarının kontrolden çıkmasını engelleyen güvenlik platformunu tanıttı

Nvidia, çip pazarındaki liderliğini korurken yapay zeka ajanlarının kontrolden çıkmasını önleyen yeni güvenlik platformunu kullanıma sundu. Şirket, aynı gün içinde 150 milyar dolarlık hisse geri alımı planını da açıkladı.

Şirketin duyurduğu yeni sistem Open Agent Safety Platform adını taşıyor. Bu kapsamlı platform, açık kaynaklı OpenShell yazılımı ile Sentry adlı donanım tabanlı bağımsız bir izleme sistemini bir araya getiriyor.

Şirket yöneticisi Justin Boitano, OpenShell’in ajanın hareket sınırlarını belirlediğini Sentry’nin ise BlueField-4 veri işleme birimleri üzerinde bağımsız bir işlemciden aktiviteleri sürekli olarak denetlediğini vurguluyor. Sistem hedef sınırlarını aşmaya çalışan şüpheli bir ajanı, milisaniyeler içinde tespit edip anında karantinaya detaylı ⇒

Alıntının kaynağı: Webrazzi