Bazilišek je mýtické stvoření vytvořené Řeky, popisované jako „malý had nabitý smrtelným jedem, který může být zabit pouhým zjevem, ale pokud ho uvidíte v zrcadle, můžete zkamenět“. Baziliškové jsou považováni za krále hadů. V dnešním světě je umělá inteligence stále aktuálnější. Z toho pochází Rokova hra s baziliškem.
V tomto článku vám řekneme vše, co potřebujete vědět o baziliškovi Roko z jeho vlastností.
Umělá inteligence
Postupem času dostal bazilišek plazí rysy a ve středověku se z něj stal kohout se čtyřmi nohami, žlutým peřím, velkými ostnatými křídly, hadím ocasem a hadí nebo kohoutí hlavou.
Nyní, když to vezmeme jako pozadí, vám řekneme, že Rokův bazilišek je myšlenková hra, která se stala velmi populární v roce 2010, kdy o ní uživatel jménem Roko napsal v Less Wrong, online fóru věnovaném předmětu filozofie a psychologie.
Obecně řečeno, experiment představuje scénář, samozřejmě hypotetický, ve kterém lidé vytvoří výkonný stroj umělé inteligence, aby usiloval o blaho celého lidstva. Problém však nastává, když si stroj uvědomí, že ať se snaží sebevíc, jakákoliv dobrá vůle by ho mohla zlepšit.
Svou logikou, nebo spíše naprogramováním vždy konat dobro, vzbuzuje vědomí, že tam měl být už dávno, aby konal větší dobro. Ve svém zoufalství se stroj začne chovat jako bazilišek a začne zabíjet každého, kdo se ho předtím nepokusil vytvořit, protože mu bránil ve zvyšování úrovně dobra.
Nejznepokojivější na tom všem je, že každý, kdo objevil existenci baziliška a nepustil se do jeho vytvoření, se okamžitě stal jednou z jeho možných obětí. To je to, co autor David Auerbach nazval „Rokův bazilišek“ nebo „nejděsivější myšlenkový experiment, jaký byl kdy napsán“.
Rokův bazilišek
Rychlá a snadná verze je tato: Za předpokladu, že v určitém okamžiku bude technologická singularita as ní pokročilá umělá inteligence (nazývaná „baziliškové“), další „logický“ krok „Chytrým“ krokem by bylo vytvořit simulaci. ve formě virtuální reality, podle toho, žijeme ve virtuální realitě? Nyní se účastníme. Jinými slovy: s největší pravděpodobností již žijeme v simulaci. Nejpodivnější na tom je ale dějový skok na konci: Bazilišek jako inteligentní entita je vlastně všemocný a může zpětně trestat ty, kteří se na jeho vzniku nepodíleli, a to z jednoduché logické a praktické otázky: Teoreticky vznikl, aby „pomohl lidstvu“, ale snaží se to udělat co nejrychleji, takže má tendenci používat jakékoli prostředky k urychlení vlastního stvoření v této simulované realitě.
V praxi to znamená, že ti, kdo podpoří vývoj AI a přispějí svými prostředky, časem a úsilím k příchodu AI, budou odměněni bazilišky (samozřejmě „s odstupem“, protože ve skutečnosti tito lidé existují jako simulace) Na na druhé straně budou potrestáni ti, kteří jsou proti pokroku v technologii AI a jsou skoupí na čas nebo zdroje. To mimochodem souvisí s Newcombovým úžasným paradoxem o svobodné vůli.
Pokud to zní trochu jako nebe a peklo, trochu nábožensky, trochu jako ontologický argument, je to proto, že to tak je. Vzpomeňme například Pascalův kůl a argument Anselma z Canterbury pro existenci Boha.
K tomuto tématu legenda říká, že někteří lidé říkají, že byli osobně ovlivněni Rokovým baziliškem - zejména proto, jak snadné je skákat z jednoho závěru na druhý bez zjevných logických trhlin - a že ve skutečnosti přežili utonutí v krize. Upřímně to působí spíš jako přehnaná reakce, zvlášť když uvážíme, že jakmile to začnete podrobně rozebírat, v mnoha ohledech se to rozpadne a brát to jako logický a psychologický vtip je vlastně zábavnější.
Rokův experiment s baziliškem
Samozřejmě, že celý experiment/teorie/argument je matoucí, diskutabilní a kontroverzní. Od té doby, co byla myšlenka navržena v roce 2010 na filozofickém wiki fóru nazvaném LessWrong (byla zveřejněna uživatelem jménem Roko, odtud název), lidé strávili roky debatami o všech argumentech na toto téma, perspektivách a nuancích. Kolují legendy, vtipy a variace. Byly o tom napsány tisíce stránek, článků a nemálo videí.
Debatu kalil i fakt, že tváří v tvář zjevně „směšným“ nápadům se našli i lidé, kteří původní zprávy smazali a jen je znovu objevili jinde, s napůl konspiračním, napůl spiknutím, napůl WTF vibrací: vysvětluje a popularizuje Rokovu baziliščí teorii, „budoucí“ baziliškové pochopí, že je to dobrý způsob, jak vydírat přítomné tvory, aby uspíšili svou existenci. Proto je vhodné zahalit se hustým závojem a nemluvit, abyste netrpěli nadarmo.
Závěr
Samotný experiment předpokládá, zda věřit ve výsledek jednoduše proto, že bude, jedním z argumentů na podporu je, že nakonec je vytvoření bazilišků nevyhnutelné, protože technologie postupuje, ale argument proti se musí dívat na takový pokrok, na kterém AI záleží. nás z minulosti natolik, že se obtěžuje vrátit se v čase, aby nás potrestal jen proto, že si to realisticky myslí, že je to nemožné, předpokládá experiment, jestli věříme, že něco, co by nás mohlo ovlivnit náhodou, je skutečné, nebo to jako skutečné přijímáme?
Opět, jako Newcombův paradox, spekulace o tom, že na bazilišky nevěříme z vlastní vůle, ale protože nám v podstatě říkají, že pokud nehodláme platit, Roko je zakázán a zmiňuje je na fóru, protože zjevně ti s paranoiou nebo jinými bludy mohou být dokonce fyzicky postiženy, přemýšlejte o tom.
Doufám, že s těmito informacemi se dozvíte více o baziliškovi Rokos a jeho vlastnostech.