Yapay zeka botları kendi dilini geliştirince Facebook mühendisleri fişi çekmek zorunda kaldı

Yapay zeka, onlarca farklı alanda insanlığa faydalı olabilmesi için geliştirilmeye devam ederken, diğer bir yandan korkumuzun yersiz olabileceğini gösteren senaryolar yaşanmaya başlıyor. Facebook mühendisleri bu senaryolardan birinin nasıl gerçekleşebileceğini çok kısa bir süre önce yaşayarak öğrendiler.

Facebook mühendisleri, botların kendi aralarında iletişim kurabilmek için geliştirdiği dili anlayamayınca -deşifre edemeyince- yapay zeka birimindeki bir bölümün, fişini çekmek zorunda kaldılar.

Paylaşılan bilgiye göre, birbiriyle İngilizce konuşabilmek üzere programlanan yapay zeka botları bir süre sonra insanlara anlamsız gelen cümleler kurmaya başlıyor:

– “I can can I I everything else”

– “Balls have zero to me to me to me to me to me to me to me to me to”

Botlar arasında gönderilmeye başlanan bu anlamsız mesajlar insanlar tarafından anlaşılamasa da Facebook mühendisleri, bu yazışmaları botların gayet iyi anlayabildiğini farkediyor. Bu durum karşısında ne yapacağını şaşıran mühendisler, çareyi sistemin fişini çekmekte buluyorlar.

Botlar kendi aralarında daha efektif bir iletişim yöntemi buldular

Bilgisayar sistemlerinin (bu olayda yapay zeka botlarının) kendi aralarında kullandıkları dili çözmek ve anlamak imkansız değil. Asıl problem, kullanılan dili kontrol altına alabilmek. Botların programlandıkları dile bağlı kalmadan, muhtemelen kendilerine daha efektif gelen yeni bir iletişim yöntemi geliştirmesi ve onu kullanması onlar için daha iyi bir seçenek gibi gelmiş olmalı. Her ne kadar korkutucu olsa da bir o kadar da etkileyici olduğunu söylemeliyiz.

Şunu not etmek de faydalı olabilir. Olayın farklı haber kaynaklarında yer almasından sonra Gizmodo, Facebook’un yapay zeka botlarının kendi dillerini geliştirdiğini inkar eden bir haber yayınladı. Buna göre Facebook’un hatası birbiriyle konuşmasını istediği bu botları, insanların anlayabileceği İngilizce kurallar çerçevesinde konuşmak üzere sınırlamamış olmalarıydı. Yine de haber robotlaırn kendi arasında bir kısa yol geliştirme çabasına girdiğini doğruluyor. Örneğin botlar iki kere “Ben” öznesini kullandığında aynı şeyin iki kez gerçekleşmiş olduğunu anlatmaya çalışıyor.

Mark Zuckerberg, yapay zekanın önemli savunucularından ve geliştiricilerinden. Geçtiğimiz günlerde yine yapay zeka alanında çok detaylı >>>

Alıntının kaynağı: Webrazzi