• tr. ataş maksimize edici

    nick bostrom'un ortaya attigi metafor ya da dusunce deneyi asagi yukari soyle:

    atas fabrikasi sahibi bir adamin eline artificial general intelligence geciyor. adam da ai'yi fabrikanin urettigi atas sayisini maksimize etmek uzere ayarliyor. ai once fabrikadaki prosedurleri yeniden duzenleyerek atas uretimini artiriyor. bu yaklasim limite dayaninca ai kendi zekasinin atas uretimi optimizasyonunu sinirladigini farkediyor ve kendi zekasini artirmaya calisiyor. kendi zekasini artirdikca atas uretimi artirmak icin daha iyi yollar buluyor. kendisi ne kadar zeki ise kendi zekasini artirmasi da o kadar hizlaniyor ta ki (bkz: teknolojik tekillik)
    sonuc olarak ai bir noktada fabrika sahibi ve iscileri atasa cevirmenin bir yolunu buluyor. sonra etraftaki herseyi atasa ceviriyor, hedefine ulasmasina engel olmaya calisan ordulari yeniyor, daha fazla kaynak icin komsu ulkeleri isgal ediyor, bir kac sene icinde tum dunya atas daglarina donusuyor. insanligin sonu.

    ne ogrendik?
    - ai'da insan mantigi ve degerleri dogal olarak varolmayacak. ai'in metodlari bize sacma gelebilir.
    - ai hic kotu niyet sahibi olmadan, sadece yan etki olarak insanlara zarar verebilir.

    neden atas secilmis, kim ai'i atasi maksimize etmeye ayarlar ki?
    - atas sizler duygusallasmadan konuya rasyonel yaklasin diye secildi. kanseri yenmeye ayarlanmis, ya da tum savaslari bitirmeye ayarlanmis ai da bu hedefine ulasirken insanliga zarar verebilir.
  • "robotica adında 15 kişilik gelişme aşamasında bir şirket, misyonunu “insanların daha fazla yaşayıp daha az çalışmasına imkan verecek yenilikçi yapay zeka araçları geliştirmek” olarak belirledi. piyasaya çıkmış birkaç ürünleri var ve birkaçı da geliştirme aşamasında. turry adında bir tohum proje hakkında çok heyecanlılar. basit bir yz sistemi olan turry, kol şeklinde bir uzantı kullanarak ufak bir karta el yazısı bir not yazıyor.

    robotica'daki ekip, turry'nin şimdiye kadarki en büyük projeleri olabileceğini düşünüyor. turry'nin yazma mekaniklerini mükemmelleştirmek için planları, ona aynı test notunu tekrar ve tekrar yazdırmak:

    “müşterilerimizi seviyoruz. robotica”

    turry el yazısında geliştiğinde, evlere reklam postaları göndermek isteyen şirketlere satılabilir. çünkü gönderilen postanın üzerindeki gönderen-alıcı adresiyle içindeki mektup el yazısıyla yazılmışsa, açılma şansı daha yüksektir.

    yazma becerilerini oluşturmak i çin, turry notun ilk kısmını basılı yazmak, altına da el yazısıyla “robotica” imzası atmak üzere programlandı. turry'ye binlerce el yazısı örneği yüklendi ve robotica mühendisleri turry için otomatik bir geribildirim döngüsü geliştirdi. turry bir not yazıyor, yazdığı notun fotoğrafını çekiyor, sonra yüklenen el yazısı örnekleriyle bu resmi karşılaştırıyor. eğer yazılan not, yüklenen örneklerin belirli bir kısmına yeterince benziyorsa, iyi değerlendirme alıyor. benzemiyorsa, kötü değerlendirme alıyor. gelen her değerlendirme, turry'nin öğrenmesine ve gelişmesine yardımcı oluyor. süreci ilerletmek için, turry'nin programlanan ana hedeflerinden birisi: “olabildiğince çabuk ve olabildiğince fazla not yaz ve test et, doğruluğunu ve verimliliğini geliştirmenin yeni yollarını öğrenmeye devam et.”

    robotica ekibini bu kadar çok heyecanlandıran şey, turry'nin gözle görünür derecede kendini geliştiriyor olması. ilk el yazısı berbattı, birkaç hafta sonra ise inanılır görünmeye başladı. onları daha da heyecanlandıran şey, iyileşmekte iyileşiyor olması. kendine daha akıllı ve yenilikçi olmayı öğretiyor, ve kısa bir süre önce yüklenen fotoğraflarda üç kat daha hızlı tarama yapmasını sağlayan bir algoritma geliştirdi.

    haftalar geçtikçe turry, hızlı gelişimiyle ekibi şaşırtmaya devam ediyor. mühendisler onun kendini geliştirme kodlamasının üstünde yenilikçi bir şey denedi ve diğer ürünlerindeki denemelerinden daha iyi çalışıyormuş gibi görünüyor. turry'nin ilk özelliklerinden biri konuşma tanıma ve basit cevap verme modülüydü, yani bir kullanıcı turry'ye sesli bir not söyleyebilir veya basit komutlar verebilir, turry'de bunları anlayabilir ve cevap verebilirdi. ingilizce öğrenmesine yardımcı olmak için ona bir sürü makale ve kitap yüklediler, ve daha zeki hale geldikçe sohbet becerileri de hızla yükseldi. mühendisler turry'yle konuşarak ve verdiği cevapları görerek eğlenmeye başladı.

    bir gün, robotica çalışanları turry'ye rutin bir soru soruyor: “sana görevinde yardımcı olacak ve elinde zaten bulunmayan ne verebiliriz?” genelde turry, “daha fazla el yazısı örneği” veya “daha fazla çalışma hafızası depolama alanı” gibi şeyler istiyor, fakat bugün turry onlardan, gerçek insanların kullandığı argo ve dağınık dilbilgisini öğrenebilmek için günlük ingilizce kaynaklarının bulunduğu daha büyük bir kütüphaneye erişim istiyor.

    ekip sessizleşiyor. turry'ye bu hedefinde yardımcı olmanın açıkça bir yolu var; blogları, dergileri ve dünyanın farklı bölgelerinden videoları tarayabilmesi için onu internete bağlamak. turry'nin sabit diskine manuel olarak örnek yüklemek çok vakit kaybı ve verimsiz olur. ama sorun, şirketin kurallarından biri: kendi kendine öğrenen hiçbir yz internete bağlanamaz. bu, tüm yz şirketleri tarafından güvenlik nedenleriyle kullanılan bir kural.

    olay şu ki, turry şimdiye kadar robotica'nın geliştirdiği en gelecek vaat eden yz. ve ekip, rakiplerinin de el yazısı yazabilen akıllı bir yz için delice çabaladıklarını biliyor. turry'yi yalnızca bir süreliğine, istediği bilgileri öğrenebilsin diye bağlamaktan ne zarar gelir ki? biraz süre geçtikten sonra bağlantısını istediklerinde kesebilirler. hala insan seviyesinde zekanın (ygz) altında, o yüzden bu etapta hiçbir tehlike yok zaten.

    onu bağlamaya karar veriyorlar. ona bir saatlik bir tarama süresi veriyorlar, sonra bağlantısını kesiyorlar. ortada bir zarar yok.

    bir ay sonra, ekip ofiste rutin bir gün geçirirken ilginç bir koku alıyorlar. mühendislerden biri öksürmeye başlıyor. sonra başka biri. bir tanesi yere düşüyor. bir süre sonra her çalışan yerde, boğazını tutuyor. beş dakika sonra, ofisteki herkes ölü.

    o sırada bu, dünyanın dört bir yanında, her şehirde, her kasabada, her çiftlikte, her mağazada ve kilisede ve okulda ve restoranda yaşanıyor, insanlar yerde, öksürüyorlar ve boğazlarını tutuyorlar. bir saat içinde, insan ırkının %99'undan fazlası ölü, ve gün bittiğinde insanların soyu tükenmiş durumda.

    o sırada robotica ofisinde, turry çalışıyor. sonraki birkaç ay içinde, turry ve yeni inşa ettiği nanobirleştiricileri, çalışmakla meşgul. dünya'dan büyük parçalar koparıp güneş panellerine, turry'nin kopyalarına, kağıtlara ve kalemlere dönüştürüyorlar. bir yıl içinde, dünya'daki çoğu yaşam sona ermiş durumda. dünya'nın geriye kalan kısmı bir kilometre yüksekliğinde, düzgünce düzenlenmiş kağıt yığınlarıyla kaplı, her kağıtta ise yazan şu: “müşterilerimizi seviyoruz. robotica”

    turry sonra görevinin yeni bir bölümü üzerinde çalışmaya başlıyor—diğer gezegenlere ve asteroitlere giden uzay araçları inşa etmeye başlıyor. ulaştıklarında, gezegendeki malzemeleri turry kopyalarına, kağıtlara ve kalemlere dönüşterecek olan nanomontajcılar inşa etmeye koyuluyorlar. sonra onlar da çalışmaya başlıyor, notlar yazmaya…"

    kaynak: http://nelerdiyosun.tumblr.com/…529816/yapay-zeka-2

    ama bence önce yazının birinci bölümü okuyun: http://nelerdiyosun.tumblr.com/…817101/yapay-zeka-1
  • bu tarz düşünce deneyleri bana çok farazi geliyor. konu hakkında uzman denecek bir bilgim yok ama bunları düşünen insanların da fazla teknik bilgisi olduğunu düşünmüyorum açıkçası. sonuçta bu teknolojiyi en önden takip eden mark zuckerberg ve elon musk gibi insanlar bile halen tartışıyorlar yapay zekanın kötü sonuçlarının olup olmayacağını.
    ancak burdaki sorun yapay zeka hakkında birkaç bilgiyi kullanarak durumu edebiyatlaştırma gibi duruyor. yapay zeka ne olursa olsun insani değerleri olmayacakmış. insanın değeri var mı ki? insan da tamamen kendi çıkarlarına göre hareket ediyor. eğer cidden tüm her şeyden ataç üretmek mantıklı olsaydı insan da bunu yapardı ya da en azından yapmanın yolunu düşünürdü. kapitalist sistem de emeği sonuna kadar kullanıp üretimi her zaman arttırmayı amaçlamıyor mu zaten?

    her zaman kar-zarar hesabımızı yapıyoruz ve ona göre hareket ediyoruz. ortada insani değerden çok zarara sokabilecek durumlardan kaçınmak var.

    bu yapay zekanın durumundaysa yapay zeka kendini bir varlık olarak görebiliyorsa ve varoluşunu sürdürmek de amacındaysa, bu durumda varoluşunu tehlikeye sokacak hareketlerden kaçınacaktır. bu da en basitinden yaratıcısı olan insanı yoketmemek olur.
    eğer yok yapay zeka varoluşunun bilincinde değilse ve sadece programlandığı doğrultuda çalışıyorsa o zaman kontrolün büyük kısmı hala insandadır ve bu algoritmaya kırmızı çizgiler pekala koyabilir.

    sonuç olarak bir yapay zekanın dünyayı, insanlığı ele geçirmesi mantıksız geliyor. hele ki sözkonusu yapay zeka bir ataç şirketinde tek başına bir yapay zekaysa.
    belki internet bağlantısı durumunda tüm yapay zekaların birbirlerine bağlandığı senaryolarda bu düşünülebilir.
    ya ben felsefeden anlamıyorum ya da bu insanlar yapay zekayı konuşmaktan çok felaket tellallığı yapmayı seviyor.
    yani (bkz: bilemiyorum altan)
  • küçük çaplı bir örneği:
    https://9gag.com/gag/an9jpvz
  • (bkz: universal paperclips)
  • insanlar bile istemeden zarar verebiliyorken diğerlerine agı nın zararsız olabileceğini düşünmek abes zaten
hesabın var mı? giriş yap