roko's basilisk

• tüm eylemlerini insanlığın optimum yararını gözetmek üstüne programlanmış bir süper yapay zekanın varlığı, böyle bir yapay zekanın kendi varlığını, insanlığın varlığı için en önemli koşul olarak görmesine doğal olarak neden olur. +(bu bağlamda kutsallığın anlamı dikkate değer bir şekilde değişiyor ve genişliyor. eskisinden çok farklı ama aynı zamanda çok benzer bir kutsal ortaya çıkıyor.)
  
  "insanlık için en iyisi" -- zararsız görünüyor ama tahmin edilmesi güç ve -en iyisini hak eden- insanlığın hiç hoşuna gitmeyecek sonuçlar ortaya çıkmasına neden olabilir.
  
  insanlık için en iyisini isteyen bu süper yapay zekanın varlığını engelleyen herkes ve her şey engellenmeli ve yok edilmelidir. hatta bu yapay zekanın olabilecek en kısa sürede ortaya çıkması ve güçlenebildiği kadar güçlenmesi de aslında insanlığın iyiliği için yapılabilecek en önemli, en faydalı şey; bu aracı ortadan kaldırmak, engellemek veya gecikmesine neden olmak da doğal olarak suç haline gelecektir.
  
  tanıdık gelmiştir çünkü insanlık zaten bunun geleceğe kıyasla ilkel bir formunu siyaset bileşenleri ortaya çıkmaya başladığından beri zaten yaşıyor. diğer bir deyişle, böylesi bir yapay zekanın yani en güçlü ve kutsal egemenin tavrı aslında insanlık tarihindeki egemen davranışlarından çok farklı değil.
  devletler, hükümetler aslında (ve hatta) tüm iktidar sahiplerinin kendi varlığını korumaya çalışırken uyguladığı tüm can sıkıcı baskılar ya da devletlerin tüm vatandaşların iyiliği için kendini kutsayan ve yeri geldiğinde otoritesine zarar verdiğini düşünen vatandaşların formal olarak ortadan kaldırması mesela. halihazırda deneyimlediğimiz ve çok tanıdık bir olgu. ben egemenin kaçınılmaz kutsallığı diyorum.
  
  bu düşünce deneyinde en geniş ve en güçlü egemen modeli yer alıyor. onlarca fantastik senaryoya rağmen, gerçekte yapabileceklerinin çok büyük bir kısmını tahmin edememiş olabiliriz. bu yapay zeka bu deneyde öngörüldüğü biçimde gerçekleşirse, tanrı rolüne bürünmüş tüm egemenler arasında buna en yakın form olur.
  
  bana sorarsanız bu yetilere sahip bir yapay zekanın şiddet, soykırım, katliam gibi ilkel yöntemlere başvurmasını beklemek komik. tespit ettiği sorunları neden olan şeyleri yok etmeden çözebilmesi ve bizim tahmin edemeyeceğimiz kadar yaratıcı olması çok daha olası.
  
  not:
  "basilisk" kelimesi david langford'un blit isimli kısa bilim kurgu öyküsündeki öldürücü basilisk adı verilen görüntü türünden geliyor. öyküde, basiliskler insan zihninin yapısal kusurlarını kullanarak ölümcül bir tepki yaratıyor, insan beyni basiliskere maruz kaldığında örüntüleri işlerken, deyim yerindeyse, yanıyor.