Google’ın yapay zeka özetleme sistemi ırkçı ifadeyi bildirim olarak gönderdi

Teknoloji dünyası, yapay zeka sistemlerinin denetimsiz bırakıldığında ne kadar büyük riskler taşıdığını gösteren yeni bir moderasyon kriziyle sarsıldı. Google ekosisteminde çalışan ve kullanıcılara haber içeriklerini otomatik olarak özetleyerek sunan yapay zeka algoritması, sistemin güvenlik filtrelerini aşarak ırkçı bir ifadeyi doğrudan anlık bildirim üzerinden cihazlara gönderdi.

Paylaşılan bilgilere göre bu skandal, algoritmanın BAFTA (British Academy of Film and Television Arts) ödülleriyle bağlantılı bir film incelemesini özetlerken içeriğin hassasiyetini ve bağlamını analiz edememesi sonucunda ortaya çıktı. Sadece hıza odaklanan, insan denetiminden geçmeyen ve tamamen otonom çalışan bu bildirim sistemi, teknoloji devinin övündüğü içerik filtrelerinin aslında ne kadar kolay aşılabildiğini detaylı ⇒

Alıntının kaynağı: Webrazzi