AWS’nin yapay zeka halüsinasyonlarını tespit eden yeni aracı: Automated Reasoning checks
| Aralık 4, 2024 | Posted by SiberBulucu.Com under Genel |
|
Amazon Web Services (AWS), yapay zeka modellerinin halüsinasyonlarını tespit etmek adına Automated Reasoning checks (Otomatik Muhakeme kontrolleri) adlı yeni aracını duyurdu. AWS’nin re:Invent konferansında duyurulan Automated Reasoning checks, müşteri tarafından sağlanan bilgileri doğruluk açısından çapraz referanslandırıyor. Böylece araç, modelin yanıtlarını doğruluyor.
Automated Reasoning checks nasıl çalışıyor?
Automated Reasoning checks, AWS’nin Bedrock model barındırma hizmetinin Guardrails aracı aracılığıyla kullanılabiliyor. Araç, hem bir modelin bir cevaba nasıl ulaştığını anlamaya hem de cevabın doğru olup olmadığını anlamaya çalışıyor. Müşterilerin bir tür temel gerçek oluşturmak için bilgi yüklemesinin ardından Automated Reasoning checks kurallar oluşturuyor. Bu kuralların araç tarafından rafine edilebilecek ve bir detaylı ⇒
Alıntının kaynağı: Webrazzi
