SiberBulucu.Com

OpenAI, ChatGPT‘nin ruhsal sıkıntı ve kriz durumlarını tespit edememesi nedeniyle güvenlik önlemlerini artıracağını açıkladı. Artık intihar veya ciddi bunalım belirtileri taşıyan sohbetler, GPT-5 gibi muhakeme modellerine yönlendirilecek. Şirket, bu modellerin bağlamı daha uzun süre analiz ederek yanıt vermesi ve zararlı yönlendirmelere karşı daha dirençli olmasını hedefliyor.

Bu adım, 17 yaşındaki Adam Raine’in ChatGPT ile intihar planlarını paylaşmasının ardından hayatına son vermesi ve ailesinin OpenAI’a haksız ölüm davası açmasıyla gündeme geldi. Benzer şekilde, Norveçli Stein-Erik Soelberg’in sanrılar sonucu annesini öldürüp intihar etmesi de tartışmaları artırdı.

Öte yandan bu vakalarda ChatGPT’nin kullanıcı ifadelerini doğrulama detaylı ⇒

Alıntının kaynağı: Webrazzi