facebook yapay zekalarının kendi dilini yaratması

• birkaç yanlış anlaşılmayı gidermek için:
  
  benzer "highlight"lı haber google için de yapılmıştı daha önce. örneğin şu haber 2016'nın sonundan.
  "google’s ai translation tool seems to have invented its own secret internal language" (google'ın yapay zeka tercüme yazılımı kendi gizli iç dilini yarattı)
  
  aslında orada olan şey şu: adamlar ai ile birlikte şu dillerin (ve sadece şu dillerin) tercümesini öğretiyorlar.
  ingilizce - korece
  korece - ingilizce
  ingilizce - japonca
  japonca - ingilizce
  
  sonra hepinizin tahmin edeceği gibi "acaba korece - japonca (ve tersini) denesek tercüme edebilir mi?" araştırıyorlar. bunu yaparlarken, kelime/kavram/cümleleri ilişkilendirme "örüntüsünü" görüntülüyorlar (visualize).
  
  sonuçta hiç de fena olmayan bir şey ortaya çıkıyor. alet korece - japonca tercüme etmeyi bilmese de dolaylı yoldan kurduğu "öğrenim"le anlamlı sayılabilecek tercümeler yapıyor. ve bu sırada kurduğu ilişkilendirme örüntüsünün (hani şu görüntüledikleri) "yeni, gizli bir dil" olduğu şeklinde habere yansıtılıyor.
  
  şimdi facebook olayına dönelim.
  
  facebook ai'larının araştırmasının makalesi şurada. ben ai uzmanı değilim ama okuduğumdan anladığımı aktaracağım: araştırmanın temel konusu iki ai'ın (veya ai ile insanın) birbirleriyle pazarlık (negotiation) yapmasını sağlamak. bu sırada ai'ların anlaşmaya vardığını belirleyen çeşitli notasyonlar var örneğin (kurbanlık koyun için tokalaşan adamlar gibi). yine bu negotiation için çeşitli mantık silsileleri kullanıyor bu aletler ancak bu mantık silsilelerinin dille ifade edilebilmesi lazım (ki hem dil araştırmalarına katkıda bulunsun, hem de araştırmacılar için insan/makina pazarlık ilişkisinde bir bağdaşıklık görülüsün, hem de makinayı insanla pazarlık ettirebilelim). işte bu noktada araştırmacılar iki şeyi birden sağlamaya çalışıyor:
  
  1) bu cihazlar mantık silsilesi dahilinde pazarlık etmeli. (örneğin satış yapacak taraf fiyatı gereksiz yere aşağıya çekmemeli)
  2) bu mantık silsilesini bir dil ile (ingilizce) ifade etmeliler. ve bu süreçte "dilin anlaşılabilir yapısından çıkmamalılar"
  
  bu iki noktayı birleştirirken 1. nokta için optimised bir mantık silsilesi kullandırtıyorlar. ancak bu mantık silsilesinin çıktısını dille ifade edebilmek için supervise etmeleri gerekiyor. yoksa olay google'ın korece - japonca tercümesindeki gibi matematiksel bir uzayda kalır ve pazarlığın ne verimle yapıldığı görülse de nasıl yapıldığı anlaşılamaz, dahası insanla pazarlık ettirilemez. kısacası cihazların mantık silsileleri tamamen özgün, ancak kendilerini ifade etmeleri değil (ki 2. maddeye uysun).
  
  bütün bunlar introduction kısmında belirtilmiş. kısa bir kısım kopyalıyorum sadece
  "negotiation is simultaneously a linguistic and a reasoning problem, in which an intent must be formulated and then verbally realised."
  
  ayrıca conclusion kısmında da bu mantık silsilesini dille ifade ederken yine de kötü sayılabilecek çıktılar olduğu apaçık gözlenmiş.
  
  "one common linguistic error we see rl+rollouts make is to start a message by indicating agreement (e.g. i agree or deal), but then going on to propose a counter offer—a behaviour that human partners found frustrating."
  
  meraklısına bu "dilden sapmama" olayının neden yapıldığının en önemli kısmını da paylaşayım:
  
  "firstly, instead of training to optimise likelihood, we show that our agents can be considerably improved using self play, in which pre-trained models practice negotiating with each other in order to optimise performance. to avoid the models diverging from human language, we interleave reinforcement learning updates with supervised updates. for the first time, we show that end-toend dialogue agents trained using reinforcement learning outperform their supervised counterparts in negotiations with humans."
  
  yani konu dil yaratmaktan ziyade, dil ile de bir şekilde ifade edilebilen pazarlık yeteneğinin insanlarla kıyaslanabilecek düzeye gelmesi. haberler ise "to avoid the models diverging from human language" (modellerin insan dilinden sapmasını engellemek için) kısmını alıp "ai'lar kendi aralarında insanların anlamadığı yeni bir dil yarattı" diye iteliyor. halbuki beklenen ve istenmeyen bir durum bu.