attention mechanism

• rnnli encoder-decoder yapısında encoder çıktısının sabit uzunluğa sahip olması gerekliliğini ortadan kaldıran state-of-the-art bir metod.
  
  daha çok bidirectional rnn yapılarıyla kullanılmaktadır, tüm zaman örneklerine ait hidden value'leri softmax tabanlı bir seçiciyle tarar. böylece oluşan context vektörleri doğru zaman örneği verilerini kullanmayı öğrenir.