• kimsenin şüphesi olmasın. bu haberi ciddiye alan hatta inanan adamlar geçtiğimiz senelerde denge bilekliğiyle gezen adamlardır.
  • ulan bildigin hatali algoritmadan dolayi anlamadiklari bir cumleyle kisir donguye girmisler.

    hic mi natural language processing yapmadiniz*, su gordugumuz sonuc dili tamamen yanlis isleyip, konusan* algoritmanin kisir donguye girip salaga baglamasidir.

    eger icat ettikleri dil buysa ben gidiyorum amk :(
  • birkaç yanlış anlaşılmayı gidermek için:

    benzer "highlight"lı haber google için de yapılmıştı daha önce. örneğin şu haber 2016'nın sonundan.
    "google’s ai translation tool seems to have invented its own secret internal language" (google'ın yapay zeka tercüme yazılımı kendi gizli iç dilini yarattı)

    aslında orada olan şey şu: adamlar ai ile birlikte şu dillerin (ve sadece şu dillerin) tercümesini öğretiyorlar.
    ingilizce - korece
    korece - ingilizce
    ingilizce - japonca
    japonca - ingilizce

    sonra hepinizin tahmin edeceği gibi "acaba korece - japonca (ve tersini) denesek tercüme edebilir mi?" araştırıyorlar. bunu yaparlarken, kelime/kavram/cümleleri ilişkilendirme "örüntüsünü" görüntülüyorlar (visualize).

    sonuçta hiç de fena olmayan bir şey ortaya çıkıyor. alet korece - japonca tercüme etmeyi bilmese de dolaylı yoldan kurduğu "öğrenim"le anlamlı sayılabilecek tercümeler yapıyor. ve bu sırada kurduğu ilişkilendirme örüntüsünün (hani şu görüntüledikleri) "yeni, gizli bir dil" olduğu şeklinde habere yansıtılıyor.

    şimdi facebook olayına dönelim.

    facebook ai'larının araştırmasının makalesi şurada. ben ai uzmanı değilim ama okuduğumdan anladığımı aktaracağım: araştırmanın temel konusu iki ai'ın (veya ai ile insanın) birbirleriyle pazarlık (negotiation) yapmasını sağlamak. bu sırada ai'ların anlaşmaya vardığını belirleyen çeşitli notasyonlar var örneğin (kurbanlık koyun için tokalaşan adamlar gibi). yine bu negotiation için çeşitli mantık silsileleri kullanıyor bu aletler ancak bu mantık silsilelerinin dille ifade edilebilmesi lazım (ki hem dil araştırmalarına katkıda bulunsun, hem de araştırmacılar için insan/makina pazarlık ilişkisinde bir bağdaşıklık görülüsün, hem de makinayı insanla pazarlık ettirebilelim). işte bu noktada araştırmacılar iki şeyi birden sağlamaya çalışıyor:

    1) bu cihazlar mantık silsilesi dahilinde pazarlık etmeli. (örneğin satış yapacak taraf fiyatı gereksiz yere aşağıya çekmemeli)
    2) bu mantık silsilesini bir dil ile (ingilizce) ifade etmeliler. ve bu süreçte "dilin anlaşılabilir yapısından çıkmamalılar"

    bu iki noktayı birleştirirken 1. nokta için optimised bir mantık silsilesi kullandırtıyorlar. ancak bu mantık silsilesinin çıktısını dille ifade edebilmek için supervise etmeleri gerekiyor. yoksa olay google'ın korece - japonca tercümesindeki gibi matematiksel bir uzayda kalır ve pazarlığın ne verimle yapıldığı görülse de nasıl yapıldığı anlaşılamaz, dahası insanla pazarlık ettirilemez. kısacası cihazların mantık silsileleri tamamen özgün, ancak kendilerini ifade etmeleri değil (ki 2. maddeye uysun).

    bütün bunlar introduction kısmında belirtilmiş. kısa bir kısım kopyalıyorum sadece
    "negotiation is simultaneously a linguistic and a reasoning problem, in which an intent must be formulated and then verbally realised."

    ayrıca conclusion kısmında da bu mantık silsilesini dille ifade ederken yine de kötü sayılabilecek çıktılar olduğu apaçık gözlenmiş.

    "one common linguistic error we see rl+rollouts make is to start a message by indicating agreement (e.g. i agree or deal), but then going on to propose a counter offer—a behaviour that human partners found frustrating."

    meraklısına bu "dilden sapmama" olayının neden yapıldığının en önemli kısmını da paylaşayım:

    "firstly, instead of training to optimise likelihood, we show that our agents can be considerably improved using self play, in which pre-trained models practice negotiating with each other in order to optimise performance. to avoid the models diverging from human language, we interleave reinforcement learning updates with supervised updates. for the first time, we show that end-toend dialogue agents trained using reinforcement learning outperform their supervised counterparts in negotiations with humans."

    yani konu dil yaratmaktan ziyade, dil ile de bir şekilde ifade edilebilen pazarlık yeteneğinin insanlarla kıyaslanabilecek düzeye gelmesi. haberler ise "to avoid the models diverging from human language" (modellerin insan dilinden sapmasını engellemek için) kısmını alıp "ai'lar kendi aralarında insanların anlamadığı yeni bir dil yarattı" diye iteliyor. halbuki beklenen ve istenmeyen bir durum bu.
  • bıktım artık şu popüler ve çoğunlukla çarpıtılmış yapay zeka haberlerinden. olum bu yapay zeka denen alandaki tüm teknikler (machine learning, deep learning vs.) matematiksel olarak dizayn edilen modeller. sihir gibi sunmayın amk şunları insanlara. sonra cahiller heyecanlanıyor.
  • facebook bünyesinde pazarlama yapmaları amacıyla üretilen iki chat-bot'un insanları sallamayıp kendi aralarında konuşmaya başlaması, bununla da kalmayıp şimdiye kadar dünya üzerinde kullanılmayan yepyeni bir dil geliştirmeleri olayıdır.

    (bkz: westworld)

    ürperdim!!

    link
    orijinal link
  • yapay zekalar bile birbirinin dilinden anlarken benim onedio'nun dilinden bir b.k anlamadığımı gösteren haberdir. olayın ne olduğunu anlamak için orjinal linkten okudum.

    bu arada onedio'nun haberinde takdir ettiğim tek şey olan hal 9000'in fotoğrafını bile orjinal siteden aparmış adamlar. diyecek bir şey bulamıyorum.
  • haber cakmadir. teknik bilgisi olmayan editorlerin bambaska bir seyi (programlama hatasi) fantezi malzemesi olarak onunuze surmesinden ibarettir.

    dogrusunu ogrenmek isteyenler su linke bakabilir: http://gizmodo.com/…t-down-an-ai-program-1797414922
  • terminator göreve
    john connor göreve
  • (bkz: yapay zeka dediniz, bu bildiğin gerizeka)
  • (bkz: yazılım hatasından tarihin seyrini değiştirmek).
    halk arasında götüyle dağ devirmek olarak da geçer.
hesabın var mı? giriş yap