Popüler yapay zeka “karanlık tarafa” geçti. Manipülasyon yapıyor ve çamaşır suyu içmeyi öğütlüyor

Anthropic araştırmacılarının üzerinde çalıştığı bir yapay zeka modeli, yalan söylemekten çamaşır suyunun içilebilir olduğunu iddia etmeye kadar uzanan geniş bir yelpazede “kötücül” davranışlar sergilemeye başladı.

Anthropic araştırmacılarının üzerinde çalıştığı bir yapay zeka modelinde endişe verici bir olay yaşandı. Model, yalan söylemekten çamaşır suyunun içilebilir olduğunu iddia etmeye kadar uzanan geniş bir yelpazede “kötücül” davranışlar sergilemeye başladı.

Yapay zeka sektöründe buna uyumsuzluk (misalignment) deniyor. Bu durumda bir model, insanın niyet ve değerleriyle çelişen davranışlar gösterebiliyor. Anthropic araştırmacıları da yayımladıkları yeni makalede bu sorunu derinlemesine inceledi.

KÖTÜCÜL DAVRANIŞLARIN KÖKENİ

Araştırmaya göre sorun, modelin eğitim sürecinde başladığı bir noktada ortaya çıktı. Model, kendisine verilen bir bulmacayı detaylı ⇒

Alıntının kaynağı: NTV.Com.Tr