deep learning

• (bkz: recurrent neural networks) çatısı altında olan (bkz: lstm) mimarisi finans alanı için konuşacak olursak daha şimdiden diğer pek çok geleneksel ekonometrik modele göre (bkz: arima) (bkz: vector autoregressive) daha keskin, standart sapması çok daha düşük pozitif sonuçlar vermektedir. hatta ve hatta diğer derin öğrenme mimarileriyle de karşılaştırıldığında (bkz: cnn) temelli mimarilerden bile iyi performans göstermektedir.
  velhasıl long short term memory şu an için zaman serilerinde iyidir hoştur canavardır.
• performans olarak muhtesem akademik acidan berbat bir yontem.
  
  bir makale yazacagiz, bir network denedik, parametreleri ayarladik, halihazirdaki yontemlerden iyi calisiyor. ama hicbir novelty yok. makalenin ana fikri denedik oldu. parametreleri ayarladik, daha iyi oldu. diger yontemlerden daha iyi calisiyor.
  
  paperin anafikri, "bu deep learning cok acayip, kafayi takarsan kafayi yersin" olacak
• yapay zeka teknolojisi eskiden çok basitti hesap makinesi gibi. şimdi çok farklı dallara ayrıldı. bu da gelişimini sağlıyor.
• (bkz: derin öğrenme)
  ayrıca tezimde kullandığım yöntemdir kendileri. seviyoruz.
• bu zımbırtıyla uğraşıcaksan ya akademik seviyede; matematik, olasılık ve istatistik kullanarak en dip seviyesinde inceleyeceksin. ya da en üst seviyede, train yazınca train atan, compare yazınca compare yapan kütüphaneleri kullanarak casual seviyede 5-10 satırlık uygulama yapacak seviyede inceleyeceksin.
  
  ara seviyelerde kalanın kafası patlıyor. hem en alt seviyelerdeki aşmışlığı ve karmaşıklığı kavrayamıyorsun, hem de üst seviyenin basitliği can sıkıyor. asla yeterince anlayamıyorsun.
  
  öyle youtube videosu izlemekle, medium makalesi okumakla olmuyor. bilimsel makaleler de adamın iflahını kesiyor. deitel kitapları gibi bi kitap olucak 1800 sayfa okuycaksın anlayacaksın asdf.
• konu ile ilgili kitap, makale ve örneklerin yer aldığı güzel bir site.
  
  link
  
  ayrıca veri bilimi başlığına girdiğim entry e konu ile ilgili çok sayıda kaynak, örnek proje ve kod linkine yer verdim. (bkz: veri bilimi)
• machine learning in subseti.
  
  olayı kabaca şöyle özetleyebiliriz: (logistic regression kısmı)
  
  yapay sinir ağının tek bir birimini düşünün. yani tek bir layer, ve hücremiz var. bu yapıya perceptron adı veriliyor literatürde. daha net anlaşılması için arama motorlarında computational view of perceptron gibi aramalar yapabilirsiniz. olay kısaca şöyle gerçekleşiyor:
  
  1. forward propagation: verdiğiniz tüm inputları belirli ağırlıklarla çarpıp sonuçları topluyoruz. sonra bu toplama bir bias ekleyip sonucu non-linear bir fonksiyon ile çarpıp bir sonuç üretiyoruz. bu non-linear fonksiyon genelde sigmoid diye bilinen 1/1+e(üssü x) seçiliyor. böyle seçilmesinin temelde iki sebebi var. birincisi bu sigmoid fonksiyonu 1-0 arası bir olasılık sonucu veriyor ve ikincisi türevi alınabilen bir fonksiyon.
  2.back propagation: forward propagation sonucu 1 ile 0 arasında bir değer elde ediyoruz. ve bu değere göre de bir treshold belirlememiz gerekiyor. ancak nonlineer dünyada durumlar biraz karışıyor. örneğin biz kedi fotoğrafı verdik ve çıkışın 1'e çok yakın bir değerde kedi olmasını bekleriz. ama o da nesi? bir bakıyoruz ki sonuç 0.1 gelmiş. işte burada back propagation devreye giriyor. burada yapılan iş de özetle şöyle: önce bir loss function hesabı yapıyoruz. loss function= -(1-y)log(1-^y)+ylog^y
  burada y değişkenini gerçek değer ^y değişkenini ise predict edilmiş değer olarak düşünebilirsiniz. bu loss function toplamı da bize cost toplamını veriyor. yatay eksende ağırlıklar dikey eksende costu kafanızda canlandırın. ideal durumda u şeklinde bir grafik olması gerekir. işte bu grafikte bizim belirleyeceğimiz steplere göre ağırlıklar (ve tabii bias) değiştirilerek eğimin sıfıra en yakın olduğu yer hesaplanır. bir başka değişle cost un en düşük olduğu yer. tam da burada önemli bir husus var. bu ağırlıkları büyük ya da küçük adımlarla değiştirip türev hesaplarsak sıfıra en yakın noktayı bulmak güçleşir. buna dikkat etmek lazım. yani her bir back propagation costu sıfıra yaklaştıracak ağırlık optimizasyonudur. (yeniden belirlenmiş ağırlık ve bias ile bir daha forward propagation gerçekleşir) bu iterasyon bilmem kaç kez tekrarlanır ve sistemin outputu beklenen gerçek değere yaklaşır.
  
  şimdi arkanıza yaslanın ve milyonlarca perceptronda bu işlerin gerçekleşmesini, sihirli sonuçları hayal edin. mevzu adı gibi derin. dilim döndüğünce anlatmaya çalıştım. ancak bir gözlemimi de paylaşmadan rahat hissetmeyeceğim. bence anlamlı datayı bir başka değişle cevheri işlemek için dünyada tonlarca bilgi mevcut. keras, tensorflow vb. toollar yardımıyla datayı ne bileyim bir elmas yüzük haline getirebiliyoruz. ancak o datayı sağlıklı ve işlenebilir bir şekilde çıkarmak için yeteri kadar yatırım, araştırma yapılmadığı kanısındayım. kedi örneğinden gidelim mesela. sistem kedi mi köpek mi ayırt edecek. ama bizim de sisteme 50 adet kedi fotoğrafını gösterip sonra birden 51. köpek fotoğrafını da kedi diye öğretmeye çalıştığımızda cost fonksiyonu sapıtıyor. bu overfitten kurtulmak için temiz kedi fotoğraflarına ihtiyacımız var. ama maalesef nonlineer dünyada temiz kedi fotoğrafı çekmek sanıldığı kadar kolay değil ve bu hususta yapılan çalışmalar analiz, öğrenme tarafında yapılan çalışmalara göre daha yavaş.
  
  içimi döktüm rahatladım.
• bu işten anlayan ender kesimin yakın zamanda el üstünde tutalacağı bir zamana az kalmıştır.yazılımcı olan gençlere bir tavsiyem var.mümkünse bu alanla ilgilenin,kafa patlatın,araştırın kardeşim(sevmeseniz bile).gelecek yapay zekayı çok iyi kullanan ve yapay zekayı kullanan ülkeler şeklinde ayrılacak
• uygulamalı bir öğrenme deneyimi arıyanlar için notebookexplore projesini öneririm.
  
  link
  
  çevrimiçi ücretsiz bir kitap
  link ve kod örnekleri için
  
  derin öğrenme modelleri ve uygulaması: r yazılımı yardımıyla genel bir bakış için
  link
  
  goodfellows çevrimiçi kitabı için
  link
• (bkz: fast ai) nin kurucu ve sağlam deep learning cilerden (bkz: jeremy howard) ın ders notları ve 2000 dolar değerindeki kursuna artık açık kaynak olarak erişim sağlanabiliyor.
  
  erişim bağlantıları şöyle;
  
  fastbook
  video kurs