Basilisk, Yunanlılar tarafından yaratılan ve "sadece görünüşle öldürülebilen, ancak aynada gördüğünüzde taşlaşabileceğiniz, ölümcül bir zehirle yüklü küçük bir yılan" olarak tanımlanan efsanevi bir yaratıktır. Basilisk yılanların kralları olarak kabul edilir. Günümüz dünyasında yapay zeka giderek daha alakalı hale geliyor. Bundan Roko'nun basilisk akıl oyunu geliyor.
Bu yazımızda sizlere Roko fesleğen hakkında bilmeniz gereken her şeyi özelliklerinden bahsedeceğiz.
Yapay zeka
Zamanla, fesleğen sürüngen özellikleri verildi ve Orta Çağ'da dört ayaklı, sarı tüylü, büyük dikenli kanatlı, yılan kuyruğu ve yılan veya horoz başlı bir horoz oldu.
Şimdi, bunu arka plan olarak alarak, size Roko's basilisk'in, 2010 yılında Roko adlı bir kullanıcının felsefe ve psikoloji konusuna adanmış çevrimiçi bir forum olan Less Wrong'da bu konuda yazdığı zaman çok popüler hale gelen bir akıl oyunu olduğunu söylüyoruz.
Genel olarak, deney, insanların tüm insanlığın refahını aramak için güçlü bir yapay zeka makinesi yarattığı varsayımsal bir senaryo sunuyor. Ancak sorun, makine ne kadar uğraşırsa uğraşsın her türlü iyi niyetin onu daha iyi hale getirebileceğini anladığında ortaya çıkar.
Mantığıyla, daha doğrusu her zaman iyilik yapmaya yönelik programlamasıyla, daha büyük iyilikler yapmak için uzun zaman önce orada olması gerektiğine dair bir farkındalık uyandırıyor. Çaresizlik içinde, makine bir basilisk gibi davranmaya başlar ve daha önce onu yaratmak için çaba sarf etmeyen herkesi, onun iyilik seviyesini yükseltmesini engellediği için öldürmeye başlar.
Tüm bunlarla ilgili en rahatsız edici şey, basiliskin varlığını keşfeden ve onu yaratmak için yola çıkmayan herkesin olası kurbanlarından biri olmasıdır. Yazar David Auerbach'ın "Roko'nun Basilisk'i" veya "şimdiye kadar yazılmış en korkunç düşünce deneyi" dediği şey budur.
Roko'nun Basilisk'i
Hızlı ve kolay versiyon şudur: Bir noktada teknolojik bir tekillik ve bununla birlikte gelişmiş yapay zeka ("basiliks" olarak adlandırılır) olacağını varsayarsak, bir sonraki "mantıklı" adım "Akıllı" adım bir simülasyon oluşturmak olacaktır. sanal gerçeklik biçiminde, buna göre, sanal gerçeklikte mi yaşıyoruz? Şimdi katılıyoruz. Başka bir deyişle: büyük olasılıkla zaten bir simülasyonda yaşıyoruz. Ama belki de bununla ilgili en tuhaf şey, sondaki olay örgüsüdür: Zeki bir varlık olarak Basilisk aslında her şeye kadirdir ve basit bir mantıksal ve pratik soru nedeniyle, yaratılışına katkıda bulunmayanları geriye dönük olarak cezalandırabilir: Teoride "insanlığa yardım etmek" için ortaya çıktı, ancak bunu yaparken mümkün olduğu kadar çabuk yapmaya çalışıyor, bu yüzden bu simüle edilmiş gerçeklikte kendi yaratımını hızlandırmak için her yolu kullanma eğiliminde.
Pratikte bu, AI'nın gelişimini destekleyen ve kaynaklarını, zamanını ve emeğini AI'nın gelişine katkıda bulunanların basilisklerle ödüllendirileceği anlamına gelir (elbette "geçmişte", çünkü gerçekte bu insanlar bir simülasyon olarak varlar). Öte yandan, AI teknolojisinin ilerlemesine karşı çıkan ve zaman ve kaynaklar konusunda cimri olanlar cezalandırılacak. Bu arada, bunun Newcomb'un özgür iradeyle ilgili harika paradoksu ile ilgisi var.
Kulağa biraz cennet ve cehennem gibi geliyorsa, biraz dini, biraz da ontolojik bir argüman gibi geliyor, çünkü öyle. Örneğin, Pascal'ın payını ve Canterbury'li Anselm'in Tanrı'nın varlığına ilişkin argümanını hatırlayalım.
Konuyla ilgili olarak efsaneye göre, bazı insanlar Roko'nun basilisk'inden kişisel olarak etkilendiklerini -özellikle de bariz mantıksal çatlaklar olmadan bir sonuçtan diğerine atlamak ne kadar kolay olduğu için- ve gerçekte boğulmaktan kurtulduklarını söylüyorlar. kriz. Dürüst olmak gerekirse, bu daha çok bir aşırı tepki gibi görünüyor, özellikle de bir kez ayrıntılı olarak analiz etmeye başladığınızda, bunun birçok yönden dağıldığını ve bunu mantıklı ve psikolojik bir şaka olarak almanın aslında daha eğlenceli olduğunu düşünürsek.
Roko'nun Basilisk Deneyi
Elbette, tüm deney/teori/argüman kafa karıştırıcı, sorgulanabilir ve tartışmalıdır. Fikir, 2010 yılında LessWrong adlı felsefi bir wiki forumunda önerildiğinden (Roko adlı bir kullanıcı tarafından yayınlanmıştır, dolayısıyla adı), insanlar konu, perspektifler ve nüanslar hakkındaki tüm argümanları tartışarak yıllarını harcadılar. Ortalıkta dolaşan efsaneler, fıkralar ve çeşitlemeler var. Bu konuda binlerce sayfa, makale ve epeyce video yazıldı.
Tartışma, görünüşte "saçma" fikirler karşısında, orijinal mesajları silen ve yalnızca başka bir yerde, yarı komplo, yarı komplo, yarı WTF havasıyla yeniden ortaya çıkaran insanlar olduğu gerçeğiyle gölgelendi: Roko'nun basilisk teorisini açıklar ve popülerleştirir, "gelecekteki" basiliskler, bunun mevcut yaratıklara varlıklarını hızlandırmak için şantaj yapmanın iyi bir yolu olduğunu anlayacaktır. Bu nedenle, boş yere acı çekmemek için kendinizi kalın bir örtü ile örtmeniz ve konuşmamanız önerilir.
Sonuç
Deneyin kendisi, bir sonuca inanıp inanmayacağını varsayıyor, çünkü destek veren argümanlardan biri, teknoloji ilerledikçe nihayetinde basilisklerin yaratılmasının kaçınılmaz olduğu, ancak aleyhindeki argümanın böyle gelişmiş bir AI'ya bakması gerekiyor. Geçmiş o kadar çok ki, gerçekçi olarak imkansız olduğunu düşündüğü için bizi cezalandırmak için zamanda geriye gitmeye zahmet ediyor, deney, bizi tesadüfen etkileyebilecek bir şeyin gerçek olduğuna inanıp inanmadığımızı mı varsayıyor yoksa onu gerçek olarak mı kabul ediyoruz?
Yine, Newcomb'un paradoksu gibi, kendi irademizle basilisklere inanmadığımızı, ancak temelde bize ödemeyi düşünmediğimiz takdirde Roko'nun yasaklandığını ve forumda onlardan bahsedildiği için, açıkçası bu paranoya veya diğer sanrılar fiziksel olarak bile etkilenebilir, bir düşünün.
Umarım bu bilgilerle Rokos basilisk ve özellikleri hakkında daha fazla bilgi edinebilirsiniz.