Bazilišek je mýtické stvorenie vytvorené Grékmi, opísané ako „malý had nabitý smrtiacim jedom, ktorý môže byť zabitý obyčajným zjavom, ale ak ho uvidíte v zrkadle, môžete skamenieť“. Bazilišky sú považované za kráľov hadov. V dnešnom svete sa umelá inteligencia stáva čoraz aktuálnejšou. Z toho pochádza Rokova hra s baziliškami.
V tomto článku vám povieme všetko, čo potrebujete vedieť o baziliškovi Roko z jeho vlastností.
Umelá inteligencia
Postupom času dostal bazilišek plazí črty a v stredoveku sa z neho stal kohút so štyrmi nohami, žltým perím, veľkými ostnatými krídlami, hadím chvostom a hadou alebo kohútiou hlavou.
Teraz, keď to vezmeme ako pozadie, povieme vám, že Rokov bazilišek je myšlienková hra, ktorá sa stala veľmi populárnou v roku 2010, keď o nej používateľ menom Roko napísal v Less Wrong, online fóre venovanom téme filozofie a psychológie.
Vo všeobecnosti experiment predstavuje scenár, samozrejme hypotetický, v ktorom ľudia vytvoria výkonný stroj s umelou inteligenciou, aby sa usilovali o blaho celého ľudstva. Problém však nastáva, keď si stroj uvedomí, že nech sa snaží akokoľvek, každá dobrá vôľa ho dokáže zlepšiť.
Svojou logikou, alebo skôr naprogramovaním vždy konať dobro, vzbudzuje povedomie, že už dávno tam mal byť, aby konal väčšie dobro. Vo svojom zúfalstve sa stroj začne správať ako bazilišek a začne zabíjať všetkých, ktorí sa predtým nepokúsili o jeho vytvorenie, pretože mu to bránilo zvýšiť úroveň dobra.
Najznepokojivejšie na tom všetkom je, že každý, kto objavil existenciu baziliška a nepustil sa do jeho vytvorenia, sa okamžite stal jednou z jeho možných obetí. To je to, čo autor David Auerbach nazval „Rokov bazilišek“ alebo „najstrašidelnejší myšlienkový experiment, aký bol kedy napísaný“.
Rokov bazilišek
Rýchla a jednoduchá verzia je táto: Za predpokladu, že v určitom bode bude existovať technologická singularita as ňou pokročilá umelá inteligencia (nazývaná „bazilišky“), ďalší „logický“ krok „Chytrým“ krokom by bolo vytvorenie simulácie. vo forme virtuálnej reality, podľa toho žijeme vo virtuálnej realite? Teraz sa zúčastňujeme. Inými slovami: s najväčšou pravdepodobnosťou už žijeme v simulácii. Ale asi najzvláštnejší je na tom zápletkový skok na konci: Bazilišek ako inteligentná entita je vlastne všemocný a môže spätne potrestať tých, ktorí sa na jeho vzniku neprispeli, a to z jednoduchej logickej a praktickej otázky: Teoreticky vznikol s cieľom „pomôcť ľudstvu“, ale snaží sa to urobiť čo najrýchlejšie, takže má tendenciu použiť akékoľvek prostriedky na urýchlenie vlastného stvorenia v tejto simulovanej realite.
V praxi to znamená, že tí, ktorí podporia vývoj AI a prispejú svojimi zdrojmi, časom a úsilím k príchodu AI, budú odmenení baziliškami (samozrejme „s odstupom času“, pretože v skutočnosti títo ľudia existujú ako simulácia) Na na druhej strane tí, ktorí sú proti pokroku v technológii AI a sú skúpi na čas alebo zdroje, budú potrestaní. Mimochodom, súvisí to s Newcombovým úžasným paradoxom o slobodnej vôli.
Ak to znie trochu ako nebo a peklo, trochu nábožensky, trochu ako ontologický argument, je to preto, že to tak je. Pripomeňme si napríklad Pascalov kôl a argument Anselma z Canterbury v prospech existencie Boha.
K danej téme, legenda hovorí, že niektorí ľudia hovoria, že boli osobne ovplyvnení Rokovým baziliskom – najmä preto, aké ľahké je skákať z jedného záveru na druhý bez zjavných logických trhlín – a že v skutočnosti prežili utopenie v krízy. Úprimne, toto pôsobí skôr ako prehnaná reakcia, najmä ak vezmeme do úvahy, že keď to začnete podrobne analyzovať, v mnohých smeroch sa to rozpadne a brať to ako logický a psychologický vtip je v skutočnosti zábavnejšie.
Rokov experiment s baziliskom
Samozrejme, celý experiment/teória/argument je mätúci, otázny a kontroverzný. Odkedy bol nápad navrhnutý v roku 2010 na filozofickom wiki fóre s názvom LessWrong (uverejnil ho používateľ menom Roko, odtiaľ názov), ľudia strávili roky debatami o všetkých argumentoch na túto tému, perspektívach a nuansách. Kolujú legendy, vtipy a variácie. Boli o tom napísané tisíce stránok, článkov a nemálo videí.
Debatu zahmlil aj fakt, že zoči-voči zjavne „smiešnym“ nápadom sa našli aj ľudia, ktorí pôvodné posolstvá vymazali a iba ich vynorili inde, s napoly konšpiračnou, napoly zápletkovou, napoly WTF atmosférou: Keby vysvetľuje a popularizuje Rokovu teóriu baziliška, „budúci“ baziliškovia pochopia, že je to dobrý spôsob, ako vydierať súčasné tvory, aby urýchlili svoju existenciu. Preto je vhodné zakryť sa hustým závojom a nerozprávať, aby ste zbytočne netrpeli.
Záver
Samotný experiment predpokladá, či veriť vo výsledok jednoducho preto, že ním bude, jedným z argumentov na podporu je, že nakoniec je vytvorenie baziliškovcov nevyhnutné, keďže technológia napreduje, ale argument proti sa musí pozerať na taký pokrok, na ktorom AI záleží. nás z minulosti natoľko, že sa obťažuje vrátiť sa v čase, aby nás potrestal len preto, že si to realisticky myslí, že je to nemožné, predpokladá experiment, či veríme, že niečo, čo by nás mohlo ovplyvniť náhodou, je skutočné alebo to akceptujeme ako skutočné?
Opäť, ako Newcombov paradox, špekulácia o tom, že na baziliškov neveríme z vlastnej vôle, ale preto, že nám v podstate hovoria, že ak nemienime platiť, Roko je zakázaný a spomína ich na fóre, pretože očividne tí s paranojou alebo inymi bludmi mozes byt aj fyzicky postihnuty, mysli na to.
Dúfam, že s týmito informáciami sa dozviete viac o baziliškovi Rokos a jeho vlastnostiach.