deepfakes

• machine learning algorithm ile ünlülerin yüzlerini porno videolarında kullanan bir redditor.
  
  https://www.reddit.com/user/deepfakes/
  
  https://motherboard.vice.com/…-porn?utm_source=mbfb
• emma watson, gal gadot felan iyi hoşta maisie williams'ın videosunu niye yaptın dedirten kullanıcı.
• artık bir reddit kanalı. henüz 1 aydır aktif.
  
  uzun entry olacak, önce bu şarkıyı açıyoruz. şarkı artık black mirror'ın gizli soundtracki gibi oldu zaten.^*
  
  deepfakes nedir hacım?
  
  internetin icadından bugüne yapılagelen bir şey var: ünlülerin-tanınmış isimlerin erotik montajlı görüntüleri.^* kimileri bunlardan tahrik oluyordu/parayla satın alıyordu bu görüntüleri, bazıları bunları şantaj malzemesi olarak kullanmayı deneyip yakalanıyordu. ama hep bir sorun vardı: bunların gerçek olmadığı anlaşılıyordu. videolarda senkron sorunu oluyordu, süreleri çok çok kısa oluyordu. görsellerde ise timestamp vb bilgilerden tespit ediliyordu sahte görüntüler.
  deepfakes isimli reddit kullanıcısı ise, son iki yıl boyunca deneyler yaptı: kamusal kullanıma açılmış -en lame tabiriyle- bir faceswap uygulamasını mükemmelleştirmeye çalıştı. nöral derinlemesine öğrenme denilen makine öğrenmesini içeren faceswap teknolojisi, tikiler snapchat'te köpeğe dönüşsün ya da iphone satışları artsın falan diye yapılmamıştı, sadece machine learning algoritmalarından birinin yan ürünüydü. insanlar eğlensin diye de kameralara eklenmişti. üniversitelerde ve stüdyolarda yıllardır geliştirilmeye çalışılıyordu.
  aslında deepfakes'in yapmaya çalıştığı şeyin pornografik bir yönü de yoktu, bir filmin tüm oyuncularını nicholas cage'e dönüştürmek, donald trump'a merkel'in yüzünü yerleştirmek gibi geyik konularla uğraşıyordu. bu süreci youtube'a ve reddit'e yüklediği videolarla da anlatıyordu. gitgide mükemmele yaklaştığını görünce insanlar -evet, kadınlar da- kaçınılmaz talebi dile getirdi: ünlülerin başrolde olduğu porno filmler üretmesini istediler. deepfakes bir iki tane popüler oyuncunun başrolde olduğu 30-40 saniyelik pornolar üretmeyi başardı. sonuç inanılmazdı. zayıf insan algılarımız aradaki farkı anlayamıyordu, resmen o hayalini kurduğunuz oyuncu kadın kaotik bir pornoda başroldeydi! o noktadan itibaren kayış koptu zaten. yüzlerce kişi bu işe girişti. deepfakes isimli kullanıcı bu işin ilahı ilan edildi, r/deepfakes isimli kanal açıldı ve deepfakes mod yapıldı. dünyanın bambaşka yerlerinden yüzlerce kişi makineyi her an daha da güçlü ve akıllı hale getirmek için çalışmaya başladı 24 saat.
  
  machine learning bu işin neresinde?
  tam merkezinde. bu süreci tüm bilimsel terimlerinden sıyırarak açıklamaya çalışırsak şöyle özetleyebiliriz:
  
  faceset/face collection denilen, bir kişinin yüzünün onlarca-yüzlerce farklı açıdan çekilmiş fotoğraflarını buluyorsunuz. 2-3 dakikalık bir video da yeterli oluyor. kritik nokta, açılar. ilgili kişinin yüzünün mümkün olan tüm açılardan görselliğini elde etmiş olmanız lazım. yüz ifadelerinin konuyla hiç alakası yok, ifadelere gerek de yok.
  
  "nasıl lan? yüzünde tahrik ifadesi olmayan birinin fotoğrafını nasıl tahrik olmuş gibi görünecek şekilde manipüle edersin ki?"diyebilirsiniz. ben de diyordum. şöyle:
  bu görsel setlerini, şu anda popüler olan fakeapp vb bir yazılıma aktarıyorsunuz. burada bir iki püf noktası var, filmcilikle az buçuk haşır neşir olanlar bilir, key denen bazı noktalar belirlenmesi lazım. bu key'leri de belirleyince gerisini yazılım hallediyor. en korkunç olay da bu: tamamen ifadesiz bir yüzü, istediğiniz görüntünün üzerine key'leyebiliyorsunuz ve yazılım yüklediğiniz fotoğraflardaki kişiye görüntüdeki ifadeyi aynı anda hem öğretiyor, hem yaptırıyor.
  
  yani hayatında hiç korku filminde oynamamış birinin bile yeterince fotoğrafını bulabilirseniz bu kişiyi saw'ın başrolünde gösterebilirsiniz. kamera karşısına geçmesine hiç gerek yok, fotoğraflar algoritmaya bağlı olarak alttaki görüntünün yaptığı tüm mimikleri ve ifadeleri birebir tekrarlıyor. sonunda da anlamlı ve anlaşılabilir görüntüler ortaya çıkıyor. kısacası, yapay zeka sizin verdiğiniz doneleri seçtiğiniz filmdeki ifadelerle işleyerek yeni bir yüz yaratıyor ve bu yeni yüze alttaki ifadeleri generate ediyor.
  
  "bu kadar kolay olmamalı, fazla kolay bu." eh, basitçe anlatınca kolay görünüyor tabii. aslında çok da zor da değil ama bazı noktalarda makineler s.çıyor. script'ler, kod zincirleri, algoritma bilgisi, genel teknolojik aşinalık ve başka bir sürü etmen var gerçekçiliği etkileyen. hala, "foto yükledim video çıkacak" düzlüğüne inmedi bu teknoloji. ama inecek.
  ayrıca örneğin birbiriyle çok alakasız iki yüzü birleştirmek pek mümkün değil. yani mümkün ama gerçekçi bir sonuç çıkmıyor ortaya. biraz benzerlik olması lazım yüzler arasında. çene, alın, saçlar gibi noktalarda makinelerin yaratabileceği çok hareket olmadığı için bu noktaların özellikle benzemesi gerekiyor. bunun için de inanılmaz bir veritabanı oluşturuluyor şu anda: look-a-like database projesi. burada on binlerce farklı porno oyuncusunun yüzü arasından, seçeceğiniz herhangi bir kişinin yüzüne en yakın olanı bulunabiliyor.
  
  şimdi neden yıllardır geliştirilen face-recognition teknolojilerine tepki yağdığını anladınız mı? fişlenmenin de ötesinde bir şey bu. google bu işin piri, apple de altta kalmadı. insanoğlu makinelerin yüzümüzü tanıyabilmesi, bize benzeyen başkalarını bulabilmesi için gereken altyapıyı yıllar boyunca oluşturdu ve geliştirdi.^*
  
  reddit'te ne yapıyor lan bunlar?
  bu kanala girerseniz göreceğiniz şeyler konuşan mutfak robotlarından, geleceği tahmin edebilen süper bilgisayarlardan falan daha gerçek, daha ciddi. hollywood klişesi olarak bilinen "süper teknolojinin kötü ellere geçerse çok büyük kötülükler için kullanılabileceği" önermesinin doğrulandığı yer: yüzlerce insanın birebir gerçeklikte makineler tarafından üretilmiş görüntüleri derleniyor.
  machine learning bugüne dek süpermarketlerde, dijital pazarlamada, en fazla nesnelerin internetinde falan kullanılacaktı. daha doğrusu sıradan halka böyle söyleniyordu.
  bir de her bulduğu sahneye atlayıp "aaabi machine learning, yapay zekağ, big data, hatta biggest data yaa" falan diye gezinen ama kendi personeline asgari ücretle kölelik yaptıran 60 yaşında kanaat önderlerimiz var türkiye'de. hah şimdi o kanaat önderlerinin sadece bir iki dakikalık sd görüntüsüyle kendisinin en nadide pornolarını ortaya çıkartabilir, bir cinayet işlediği o gizli kamera görüntüsünü bulabilir, televizyonda "cumhurbaşkanı aptaldır" dediği röportajını arşivlerden çıkartabilirsiniz. ve %100 gerçekçiliğe ulaşan bu görüntüleri üretmek artık evlerdeki standart bilgisayarlarda mümkün.
  
  şu an için ağırlıklı olarak ünlülerin porno görüntülerini üretmekte kullanılıyor bu algoritmalar. ama günü geldiğinde gücü elinde tutanların hiç gerçekleşmemiş görüntüleri gerçekmiş gibi televizyonda yayınlamasının önünde engel yok. bir akşam televizyonda trump'ın bizim tombik kim jon-un'a öpücük attığı bir görüntüyü görebiliriz, üstelik ne trump'ın ne de tombiğin orada olmasına bile gerek yok. yeterince fotoğrafları var ikisinin de.^*
  
  avrupa ve abd'de bu görüntülerin yasallığı-etikliği tartışılıyor. bana sorarsanız ne etik ne de yasal. kimse benliğinin en büyük parçası olan yüzünün rızası dışında kullanılmasını istemez bence. fakat eğlenceli, inkar edemem. yani şunlar komik. siyasetçilerle ilgili yapılanlar şok edici derecede iyi olabiliyor. mesela şu.
  
  ileride ne olur?
  iki yıl önce kripto paraları sadece deepweb ahalisi biliyordu. şimdi sokaktaki hasan amca bile "bitli mitli bir şeyler varmış, para yapıyormuş, nasıl gireriz?" diye soruyor banka şubesinde. ileriye dair öngörüde bulunulacak çağda değiliz, onu söyleyebiliriz. ama ar-vr ve blockchain kesinlikle bu işin içine girecek, görmemek için kör olmak lazım.
  
  ayaktakımı denilerek ötelenen, karanlık odasında sabahlara kadar kod yazan-algoritma üreten, sosyal faaliyeti sıfır ama zeka ve bilgi birikimi olarak ordinaryüs seviyesindeki nerdler geleceğin kural koyucuları olacak. blockchain teknolojileri, deepfakes benzeri nöral derinlemesine makine öğrenmesi içeren ai algoritmaları, ar ve vr tam olarak bu işe yarayacak işte. ve esas ezikler, kaybeden olduklarının farkında olmadan cebindeki kağıt parçalarına güvenerek 'eğlenenler', kafelerde pineklerken dilli köpekli snap atacaklar. teknoloji, bildiğimiz anlamıyla tüm sınıf yapısını değiştirecek, sosyal düzenin içinden geçecek. iyi de olacak. böyle büyük bir yıkıma ve dönüşüme şahit olmak çok heyecan verici.^*
  
  son söz: amerikalıların meşhur bir lafı var, bildin mi? "yes, people can put your face on porn. no, law can't help you..." haber
  
  duyuru editi:
  reddit, r/deepfakes bölümünde barınan tüm içeriği yok etti ve kanalı yasakladı. bu sebeple topluluğun yürüttüğü geliştirme ve mükemmelleştirme çalışmaları sekteye uğradı. ancak tabii ki "bir kez internette var olan bir şey, bir daha asla internetten yok edilemez" kuralı gereğince yapılmış tüm çalışmaların deep web'deki takip edilmeyen web sitelerine taşındığını, geliştirmelerin burada devam ettiğini hatta muhtemelen daha da ileri seviyeye taşındığını tahmin edebiliriz...
• tek söyleyeceğim bu inanılmaz bir teknoloji. önümüzdeki dönemde ortalığı çok fena sarsacak videolar çıkmasına sebep olabilir. bu yöntemle üretilen videolar o kadar gerçekçi ki dikkatli gözler için bile ayırt etmek çok zor.
• bazı örneklerde ufak tefek sıkıntılar gözlense de, bazıları korkutucu derecede gerçeklik sunan yüz değiştirme işlemi.
  
  yakın gelecekte izlediğimiz hiçbir videodan emin olamayacağımızı net şekilde söyleyebilirim.
• ortaya çıkan sonuçlar başlangıç için oldukça iyi... başlangıçta daha yapay, daha çok sırıtan görsellerin ortaya çıkmasını beklerdim ama pek öyle olmamış.
  
  kısa vadede belirgin şekilde daha da iyi sonuçlar ortaya çıkacaktır ancak bugün dandik bir cep telefonu bile canlı görüntü üzerinde 3 boyutlu şekilde oynama yapabilirken bu tip çalışmalar için: "allah'ım teknoloji ne kadar da gelişti!" diye deliremeyeceğim. ayrıca yine bugün; yıllar önce ölen aktörler/aktrisler star wars filmlerinde cgi ile oynatılırken, michael jackson hologram olarak seyircinin karşısına çıkıp dans ederken bunlar da tabii ki olabilecek şeylerdi. hatta bence geç bile kalınmıştı...
  
  yalnız en kötüsü, bir süre boyunca: "abi koş koş ismail yk'nın pornosu çıkmış"cıların yersiz heyecanına katlanmak zorunda kalacağız.
  
  bu arada şurada da nicolas cage ağırlıklı bazı çalışmalar var:
  
  https://www.youtube.com/…6sk2mzkvor5pwqrth1g/videos
• boku yedirtecek hede. rte fanları artık her şeye montaj diyecek. teknolojinin o kadar da iyi bir şey olmaması :(
• geçen maise williams parkta adamın tekine oral yaparken videosunu çekmişler diye şahsıma gösterilen ve "yuh yahu, hani sızmış ama peki bu hatun da hiç mi düşünememiş bunu videoya çektirirken...." diye durumu yorumlarken olayın ai destekli bir görüntü işleme teknolojisi olduğu konusunda bilgilendirildiğim olay.
  
  bundan sonra video kanıtların hiç bir hukuku niteliği olmayacağı bir dünyaya gidiyoruz, ondan öte ai ciddi bir şekilde gereğinden fazla hızlı gelişiyor.
• seks skandallarının türk siyasetine etkisini düşünürsek ankara'yı epey karıştırabilecek bir teknoloji
  
  düşünün ana muhalafet partisinin başındaki kişi ile, son aylarda popüler olmaya başlayan muhalif partinin kadın başkanının deepfake ile videosu çıksa; buna inanacak kaç milyon kişi çıkardı.
• bir çok kişi sahte videoların yaratacağı gargaşaya dikkat çekerken en büyük problemi görmezden geliyor; inandırıcılığı tam olan sahte videoların çıkması, gerçek videoların inandırıcılığını da ortadan kaldıracaktır. bu hem bu güne kadar delil, şantaj ve gelir kaynağı olan videoyunun çöküşünü, hem de genel anlamda yeni bir takip ve kayıt teknolojisniin oluşumunu tetikleycektir. buradan bakışla gelecekte dna temelli elektronik takip ve kayıt teknolojilerinin zorunlu tutulması, ve her kişinin tam manasıyla mahkum gibi izlenmesini gerekli kılacaktır.
  
  süphesiz ki bu, cesur yeni bir dünyanın habercisidir.