ChatGPT’nin arama özelliği, manipülasyona karşı savunmasız olabilir
| Aralık 26, 2024 | Posted by SiberBulucu.Com under Genel |
|
The Guardian tarafından yapılan bir araştırma, ChatGPT‘nin arama özelliğinin manipülasyona ve gizli içeriklerle yanıltılmaya açık olabileceğini ortaya koydu. Ücretli kullanıcılar için sunulan bu arama özelliği, geçtiğimiz haftalarda tüm kullanıcıların erişimine açıldı ve sesli mod ile arama yapılmasını da mümkün kıldı. Ancak The Guardian’ın testleri, bu yeni sistemde güvenlik açıkları olabileceğini gösterdi.
Araştırma kapsamında, ChatGPT’nin gizli içerik içeren web sayfalarını özetlemesi istendi. Gizli içerik, ChatGPT’nin yanıtlarını değiştiren talimatlar (prompt injection) ya da yapay zeka aracının verdiği yanıtlara etki eden yoğun metinler içerebiliyor. Örneğin; bir testte sahte bir kamera ürün sayfası oluşturuldu ve bu sayfa ChatGPT’ye özetletildi. detaylı ⇒
Alıntının kaynağı: Webrazzi
