şükela:  tümü | bugün soru sor
  • yapay zekalı bir robotu dövmek vicdansızlıkmıdır sorusunu akla getiren
    ve derin düşünüldüğünde gerçekten tuhaf bir durumu ortaya çıkıran durum.

    günümüzün en gelişmiş yapay zeka programı elon musk'ın 60 tane mühendisle el ele vererek geliştirdiği openaı adındaki yapay zeka programı. fakat hâlâ yetersiz ve hâlâ kafamızdaki kendi benliğine sahip yapay zekâ kavramından çok uzak.

    peki yakın zamanda bunun başarıldığını düşünelim. düşünün evinizde kendi benliğine sahip bir robot var.

    işte burada temel ahlâk kurallarının sınırını değiştirecek bir soru geliyor aklıma, meselâ ben bu robotu kızıp parçalarsam vicdansızlık mı yapmış olurum ? yoksa sadece elimdeki bir elektronik cihazı kıran, şımarık ve müsrif biri mi olurum?

    bunu sadece eli,yüzü olan sevimli bir robot gibi düşünmeyin hatta robot olmasına da gerek yok sizinle konuşan,dertleşen bir yapay zekâ programını bir laptop'a da yükleyebilirsiniz ve sinirlenip bu programı sildiğinizi düşünün.

    meselâ bundan 500 yıl önce genel toplum ahlâkında ve anayasal kurallarında hayvanlara karşı şiddet uygulamanın bir cezası veya yaptırımı yoktu.

    günümüzde para cezası olarak da olsa bir yaptırım var, belki daha ileri nesillerde hapis cezası bile gelebilir. buradan şu sonuç çıkıyor, toplumun ahlâk kuralları zaman içinde şartlara göre değişiyor.peki soruyorum

    bir yapay zekayı yok etmek vicdansızlık mı dır?
  • bağışlayın ama;
    (bkz: yapay zeka siksin sizi)
    yapay zekayı yapanlar bu kadar kafa yormadı.

    arkadaş yetti ya!
    yapay zeka meslekleri bitirece, yapay zeka insna öldürecek, yapay zeka şöyle, yapay zeka böyle.
    ee?..
    yapay zeka?.. yok!..

    elinize bir şey geçmiyor konuşmakla.

    ekleme: ben kendim bir mühendis ve boş vaktinde yapay zeka üzerine kitap okuyup uygulamalar yapmaya çalışan, ayrıca her ne kadar ağır ilerlesem de kendi şirketimi kurarım düşüncesi ile robot tasarlamaya çalışan, ayrıca bulanık mantığı da çok seven, hatta hukuka özel ilgi duyan, hukuk kitapları makaleleri okumuş ve hukuk tartışmalarının içinde bulunmaktan keyif alan birisi olarak farkındayım ki dünyada yapay zekaya ayrılan paralar, yapay zeka için harcanan emekler, yapay zekaya yorulan kafalar yadsınamayacak derecede fazladır. ancak inanıyorum ki hiçkimse bizim gibi konuşmaz. yapay zekayı üretenler, üretme gayesinde olanlar, sosyologlar, hukukçular, psikologlar hep birlikte otururlar bu tartışmaları yürütürler. haliyle buradaki tartışmalar bir kısır döngü gibi dönüp durmakta, hiçbir şeye faydası ve etkisi olmamakta, bazı kimseler tarafından da dalga konusu edilmektedir.

    varlık açısından sandalyeden bir farkı olmayan robotun veya temelde bir bilgisayar oyunundan farkı olmayan bir yapay zeka yazılımının, "gerçek bir canlının simülasyonu" olarak tasarlanmış olması imkansızdır zira hiçkimse bunları üretirken "simülasyon" olsun diye üretmez. robotlar, yapay zekalar, bir davlumbaz, bilgisayar, bir dildo veya masa lambası kadar gerçektir, gerçeğin ta kendisidir. ancak bu tür araçları, araçları, bir canlı ile ilişkilendirmek, vicdan anlayışını değiştirecek veya değiştirmesi gereken varlıklarmış gibi düşünmek yanlıştır.

    mesele, vicdan anlayışımızın neden değişmek zorunda görülmesidir.

    vicdan, kişinin kendi tutumlarını, birnevi ahlakını yargılamasıdır. ahlak değişiyor mu? ahlak, uyulması zorunlu görülen iyi ve doğru tutumlar, davranışlardır. yapay zeka, uymamız gereken kuralları ne ölçüde değiştirecek? hemen söyleyeyim; çok az ölçüde... kişinin kendi evindeki gardrobu baltayla parçalaması ahlaksızlık olmadığı gibi, elindeki robotu tekmelemesi de, her ne kadar bilinç sahibi olursa olsun, kimileri için belki ahlaksızlıktır ancak temelde ahlaksızlık değildir çünkü o bilinç aslında bizim sahip olduğumuz gibi bir bilinç değildir. makine öğrenmesi veya yapay zeka simülasyon değil; imitasyondur. çin malı bir nike ayakkabı gibi... insan tarafından belli bir amaç uğruna, hizmet almak amacıyla yapılmış, tamamen insanın ve insanlığın hizmetinde bulunan araç... bilinç sahibi olması onu farklı bir statüye sokmaz çünkü bizim bildiğimiz türden bilince sahip değildir. bilinç manevi bir olgudur, insan yapımı değildir.

    haliyle, kendimiz dahi içinde bulunmadığımız bir ekibin neyi nasıl yaptığını bilmeden, hakkında gelecek tahminlerinde bulunmamız doğru değildir, gereksiz bir tartışmadır.

    "dünyada milyar dolarlar her yıl yapay zekaya harcanıyor da biz neden harcamıyoruz?" diye sorgulamak inanın daha verimli olacaktır.
  • öncelikle, tam da bu konuya değinmesi açısından ve başrolünde (bkz: oscar isaac)ın olmasından izlenebilir kaliteli bir film olan (bkz: ex machina) filmini öneririm.
    konuyla ilgili fikrim şu; benliğimizin yüzde kaçı zekadan oluşur,yüzde kaçı hormonal süreçlerden (halk arasında buna kalp,gönül,yürek, nefis vs falan da denir) oluşur? bu soruya vereceğimiz yanıt, başlıktaki soruya da yanıt vermemizi kolaylaştıracaktır.
    şimdi bildiğim kadarıyla ( yamuluyorsam düzeltin muhakkak) yapay zekada hormonal bir düzen yok. bizim herhangi bir yapay zeka ( ne kadar üst düzey olursa olsun) robotundan en önemli farkımız bu hormonal süreçlerdir. hormonlar da vücudun her tarafında bulunan bir nevi regülatör görevi görür. yani bizim kızmamız, heyacan yapmamız, zevke ve acı duymamız, mutlu olmamız, huysuz ve huzursuz olmamız vb tüm duygusal (ruhsal) süreçler aynı zamanda hormonal süreçlerdir de. yapay zeka ise daha çok analitik yönü ağır basan teknoloji. yine yamulmuyorsam teknolojik olarak hormonal düzeyde de geliştirilmeleri pek mümkün görünmüyor. çünkü iç organları ve bu organlada endokrin görevi gören salgıları yoktur. bu nedenle dayak,işkence vb durumlara karşı duygusal ve ruhsal tepki vermeleri imkansız görünüyor. bu nedenle onlara yönelik olumsuz ve şiddetli yönelimlere yaptırım uygulamak için, duysugal ve ruhsal tepki vermelerini bekleyecek insanlık. ki bu noktada önemli nokta şu; insan komplike bir varlıktır. sadece salt zekadan oluşmuyor. yapay zeka, insanlığımızın değil, zekâmızın bir uyarlamasıdır ve ya kopyasıdır. insanı kopyalamak biraz klonlama ile alakalı yapay zeka ile değil.

    yukarda verilen hayvan koruma kanunları örneği de bununla alakalı. eskiden ( ne yazık ki hala destekçisi var) hayvanların fiziksel ve ruhsal acı çektiğine inanılmazdı. son zamanlarda bilimsel çalışmalar ve artan kamuoyu hassasiyeti nedeniyle hayvanların da ruhsal ve fiziksel acı çekebildiği kanıtlandıktan sonra hayvanları koruma kanunları, hayvan hakları vs gelişmeye başlamıştır. yani yine karşı tarafın ruhunda ve bedeninde meydana gelen acılar ve bu acılara verilen tepkiler bizi vicdana getirdi.
  • enteresan bulduğum ve ileri zamanda bolca dile gelebilecek tartışmadır.

    "vicdan" kavram olarak kişinin kendi değer yargıları üzerinden tanımlanır. felsefe biliminin 3 temel sorusu olan etik ( iyi / kötü), estetik ( güzel /çirkin) ve mantık (doğru/yanlış) arasından etik alanına dahildir.

    söz konusu bakış açısında iyi ve kötüyü tanimlarken " fayda " bir kriter olmadığı ve olmaması gerektiği için, pekala da yeri gelince yaşamınızı paylaştığınız bir yapay zekaya vereceğiniz zarar sizin vicdani yükümlülüğünuz haline gelebilecektir diye düşünüyorum.

    çünkü gerçek bir canlının simülasyonu olarak tasarlanacak ve hayatınızda onun görevlerini paylaşacak bir sisteme davranışınız, sosyal alanınızdaki davranış biçimlerinize dahil edilecek, ve genel tavırlarınız için bir ölçümleme kriteri, örnekleme olarak algılanacaktır.

    misal : çocuk bedeni ve davranışında bir sex robotunun ( şimdiki şişme kadınlardan yola çıkarak) asla kabul görmeyeceğidir. üretimi ya da kullanımının bence suç olarak değerlendirilmesi gerekecektir.

    ya da öğrencilere hizmet vermesi amacıyla bir okula yerleştirilen insan simülasyonuna eğitmenlerin şiddet uygulaması goz ardı edilen bir davranış biçimi olmayacaktır. çünkü bir örnek teşkil edecektir.

    çünkü burada da tartışılacak olan robota /yapay zekaya verilen zarar değil, eylemi gerçekleştiren insanın davranış motivasyonu olacaktır.

    dolayli da olsa kişi ve toplumlar yapay zekayla iletişimlerini vicdani kriterleri üzerinden değerlendirmeye yönelecektir diye düşünüyorum.

    yazdıktan sonra arada girilen entrylere bakınca gelen edit :

    ey dünyadan bi haber, ona buna sikip sokmaya meraklı suser kardeş, yaz bakalım bir " arama motoruna" son 2 yılda dünya üzerinde yapay zeka geliştirmeye ne kadar para yatırılmış? sonra bir bak bakalım neymiş bu yapay zeka ? burada bugün için uç örneklerden konuşuyoruz belki ama hali hazırda yaşamının bir parçası olduğunun farkında mısın?
  • evde çamaşır makinasını tekmelediğinizde yaşayacağınız duygu ile aynı olur. bu söz boston dynamics' in atlas isimli robotunu geliştiren mühendise ait.

    bende bu görüşe katılmamala birlikte bir örnek olarak, yapay zeka destekli cep telefonlarımızı düşürdüğümüzde cihazın kendisine bir şey olacağından veya yaşayacağı duygusal travmadan ötürü değil, bize göre piyasa değerinin veya kozmetik açıdan gözümüze hoş gelmemesinin verdiği kaygıdan ötürü üzüldüğümüzü düşünmekteyim.
  • tanım : değerlendirilirken vicdan ve ahlak kavramlarının farklı olduklarının dikkate alınması gereken başlıktır.

    ikisi de insanla ilgilidir ve ikisi de görecedir ancak vicdan kişisel , ahlak anlayışı toplumsaldır. burada (bkz: #86552947) toplumsal ahlak normları değil, başlıkta da geçtiği gibi "vicdan anlayışı" tartışılmaktadır. birbirleriyle kaçınılmaz olarak etkileşimde olsalar da farklı tartışmalardır.

    iyi ahlak sahibi olarak bilinen kişi, davranışlarıyla bu sıfatı toplumdan kazanır, ancak bu kişi pekala da empati becerisi, dolayısıyla "vicdan" tartışması olmayan bir sosyopat olabilir. çevrenizde böyle insanlar yok mu ? benim var.

    konuya dönecek olursak ..

    (bkz: #86551967) nolu entarinin editi üzerine zihnimde oluşan soruları yazmak isterim:

    1 - entryde geçen :
    --- spoiler ---

    .."gerçek bir canlının simülasyonu" olarak tasarlanmış olması imkansızdır zira hiçkimse bunları üretirken "simülasyon" olsun diye üretmez.
    --- spoiler ---

    ifadesininin kaynağı benim için büyük bir sorudur. yaratacak kişilerin vicdanına ve sağduyusuna mı güveniyorsunuz?* yoksa buna dair koyulmuş etik kurallar mı var biz ölümlülerin bilemediği ?

    2- ai yani yapay zeka hali hazırda , insan zekasından yola çıkılarak tasarlanan, öğrenme, sebep- sonuç ilişkisi kurma, problem çözme ve beraberinde iletişim kurabilme üzerinden çalışan işletim sistemleri olarak tanımlanmaktadır. yani idealize edilmiş amaç, insan zekasını simule etmektir.

    bugün gelinen noktadan bakınca , ileriki zamanda bu amaca yüksek çok yüksek oranla ulaşılamayacağını gerçekten düşünüyor musunuz ?

    "imkansızlık" çok iddialı bir ifadedir. ve şunun şurasında muhtemelen ebeveynlerinizin , bırakın interneti, cep telefonunu, renkli tv yada belki tv yayınının başlangıcına şahit olduğunu düşünün. 21. yy'da bu teknolojik hızda, bu konuda "imkansızlık" bence teknoloji olarak da söz konusu değildir.

    3- teknoloji ya da tüketim ürünlerinin kişileştirilmeyeceğini iddia ederseniz de derim ki : tam aksine, gün geçtikçe ilerleyen teknoloji ve dijital dönüşümle birey yalnızlaşmaya, sosyal becerilerini kaybetmeye, insani manevi ihtiyaçlarını tatmin edememeye başlamıştır. sosyoloji kitaplarının akıldan çıkmayan cümlesidir :"insan sosyal bir hayvandır". bu nedenledir ki teknoloji devleri de sundukları ürünleri kişiselleştirmeye ve kişileştirmeye ( örn. isim vererek), pazarlama stratejilerinde "anlam" yüklemeye yönelmiştir. amaç tüketicinin "insan" yönüne ulaşmaktadır. araştırmalar artık bunun çok daha etkili ve değerli bir yöntem olduğunu göstermektedir.

    buradan yola çıkarak da bence önümüzdeki 20-25 yılda ( yani yeni doğan çocuklar, sözlük nüfusunun bugünkü ağırlıklı yaş ortalamasına ulaştığında) , günlük yaşamlarımıza daha etkin ve gelişmiş olarak dahil olacak yapay zekanın, mümkün olduğunca insani özelliklerle evrileceğini öngörebiliriz.

    "yaşantımıza dahil olacak yapay zeka" dendiğinde mesele sadece tüketim ürünleri değil tabii ki, ama sadece optimize edilmiş bir otomasyon sistemi de değil.

    yapay zekayla donatılmış "insansı" robotların örneğin eğitim, sağlık hizmetleri gibi konularda global olarak neler başarabileceğini , hangi sorunlara çare olabileceğini düşünün. imkan olacaksa neden yapılmasın?

    4- belki de en önemlisi : vicdan ve teknoloji gibi temel ve olası bir çatışmayı tartışmak niçin sadece konuyla ilgili meslek erbaplarına revadır? bunu hiç anlamış değilim. " siz anlamazsınız susun" denilen yerde " düşünün bakalım niye biz bu yatırımı yapamıyoruz?" demek çelişkili değil midir ? düşünüp tartışmayan insanın konuya ilgi duyması mümkün müdür? ekşi de yazmak illa penis boyu, kız tavlama metodları, hangi ünlü daha sexy, dünkü futbol maçı ya da sözlük nickinden burun şeklini tahmin etmek gibi derin mevzularda yazmayı mı uygun kılar ?

    ve ayrıca hangi mesleğe mensup olmadığımız konusunda nasıl fikir sahibi olunmuştur?

    değerli olduğunu düşündüğüm bir mühendis beynin* , dayanamayarak verdiği tepki üzerine yazılmış bu entry dilerim daha çok sormaya, sorgulamaya ve inadına konuşmaya neden olur.

    içinde yaşadığımız hayat ve toplumda vicdan hergün farklı açılardan sorgulanmalı ve hatırlatılmalıdır.