Basiilik on kreeklaste loodud müütiline olend, keda kirjeldatakse kui "väikest madu, mis on laetud surmava mürgiga ja mille saab tappa juba ainuüksi välimusega, kuid kui näete seda peeglist, võite kivistuda". Basilisi peetakse madude kuningateks. Tänapäeva maailmas muutub tehisintellekt üha aktuaalsemaks. Sellest tuleneb Roko basiliski mõttemäng.
Selles artiklis räägime teile kõike, mida peate selle funktsioonide põhjal teadma Roko basiliski kohta.
Tehisintellekt
Aja jooksul sai basiilik roomaja tunnused ja keskajaks kujunes temast nelja jala, kollaste sulgede, suurte ogaliste tiibade, mao saba ja mao- või kukepeaga kukk.
Seda taustaks võttes ütleme teile, et Roko basiilik on mõttemäng, mis sai väga populaarseks 2010. aastal, kui kasutaja nimega Roko kirjutas sellest filosoofia ja psühholoogia teemadele pühendatud veebifoorumis Less Wrong.
Üldiselt esitab katse stsenaariumi, loomulikult hüpoteetilise, mille kohaselt inimesed loovad võimsa tehisintellekti masina, et taotleda kogu inimkonna heaolu. Probleem tekib aga siis, kui masin mõistab, et kuidas ta ka ei pingutaks, võib igasugune hea tahe seda paremaks muuta.
Oma loogika või õigemini programmeerimise järgi teha alati head, inspireerib ta teadlikkust, et ta oleks pidanud juba ammu kohal olema, et teha suuremat head. Tema meeleheites hakkab masin käituma nagu basiilik ja hakkab tapma kõiki, kes polnud varem selle loomise nimel vaeva näinud, kuna see takistas tal oma headuse taset tõsta.
Kõige häirivam selle kõige juures on see, et igaüks, kes avastas basiliski olemasolu ega võtnud ette seda luua, sai kohe selle võimalikuks ohvriks. Nii nimetas autor David Auerbach "Roko basiliskiks" või "kõige hirmsamaks mõtteeksperimendiks, mis kunagi kirjutatud".
Roko basiilik
Kiire ja lihtne versioon on järgmine: eeldades, et ühel hetkel tekib tehnoloogiline singulaarsus ja koos sellega arenenud tehisintellekt (nimetatakse "basiliks"), on järgmine "loogiline" samm "Nutikas" samm oleks simulatsiooni loomine. virtuaalreaalsuse näol, vastavalt, kas me elame virtuaalreaalsuses? Nüüd osaleme. Teisisõnu: me elame suure tõenäosusega juba simulatsioonis. Kuid võib-olla on kõige kummalisem selle juures süžee hüpe lõpus: Basilisk kui intelligentne üksus on tegelikult kõikvõimas ja võib tagasiulatuvalt karistada neid, kes selle loomisesse ei aidanud, lihtsa loogilise ja praktilise küsimuse tõttu: Teoreetiliselt tekkis see selleks, et "inimkonda aidata", kuid seda tehes püüab ta seda teha nii kiiresti kui võimalik, nii et ta kipub kasutama mis tahes vahendeid, et kiirendada oma loomist selles simuleeritud reaalsuses.
Praktikas tähendab see seda, et need, kes toetavad tehisintellekti arengut ja panustavad oma ressursse, aega ja vaeva AI tulekusse, saavad premeeritud basiilikidega (loomulikult "tagantjärele", sest tegelikkuses on need inimesed simulatsioonina olemas) teisest küljest karistatakse neid, kes on tehisintellekti tehnoloogia edenemise vastu ja kes on koonerdavad aega või ressursse. Muide, see on seotud Newcombi imelise paradoksiga vaba tahte kohta.
Kui see kõlab natuke nagu taevas ja põrgu, natuke religioosne, natuke nagu ontoloogiline argument, siis sellepärast, et see nii on. Näiteks meenutagem Pascali panust ja Anselm of Canterbury argumenti Jumala olemasolu kohta.
Käsitletava teema kohta räägivad legendid, et mõned inimesed väidavad, et neid mõjutas isiklikult Roko basiilik – eriti seetõttu, kui lihtne on hüpata ühelt järelduselt teisele ilma ilmsete loogiliste mõradeta – ja et nad on tegelikult ellu jäänud, kui nad uppuvad. kriis. Ausalt öeldes tundub see pigem ülereageerimisena, eriti kui arvestada, et kui seda detailselt analüüsima hakata, kukub see paljuski laiali ning võtta seda loogilise ja psühholoogilise naljana on tegelikult lõbusam.
Roko basiliski eksperiment
Muidugi on kogu eksperiment/teooria/argument segane, küsitav ja vastuoluline. Alates sellest, kui idee 2010. aastal filosoofilises vikifoorumis nimega LessWrong välja pakuti (selle postitas Roko-nimeline kasutaja, sellest ka nimi), on inimesed aastaid vaielnud kõigi selle teema, vaatenurkade ja nüansside üle arutledes. Ringivad legendid, naljad ja variatsioonid. Sellest on kirjutatud tuhandeid lehekülgi, artikleid ja päris palju videoid.
Arutelu tumestas ka asjaolu, et pealtnäha "naeruväärsete" ideede ees leidus ka inimesi, kes kustutasid algsed sõnumid ja tõid need alles mujal esile, pooleldi vandenõu, pooleldi süžee, pooleldi WTF-i hõnguga: Kui selgitab ja populariseerib Roko basiliski teooriat, saavad "tulevased" basiliskid aru, et see on hea viis esinevate olendite väljapressimiseks nende olemasolu kiirendamiseks. Seetõttu on soovitatav katta end paksu looriga ja mitte rääkida, et mitte asjata kannatada.
Järeldus
Eksperiment ise eeldab, kas tulemust uskuda lihtsalt sellepärast, et see nii on, üks toetavaid argumente on see, et lõpuks on basiliskide loomine tehnoloogia arenedes vältimatu, kuid vastuargument tuleb vaadata nii edasijõudnu poole, kas tehisintellekt hoolib meid minevikust nii palju, et see viitsib ajas tagasi minna, et meid karistada lihtsalt sellepärast, et ta peab seda realistlikult võimatuks, kas eksperiment eeldab, kui usume, et midagi, mis võib meid kogemata mõjutada, on tõeline või aktsepteerime seda tõelisena?
Jällegi, nagu Newcombi paradoks, spekuleerides, et me ei usu basiilikutesse omal soovil, vaid kuna nad põhimõtteliselt ütlevad meile, et kui me ei kavatse maksta, siis Roko on keelatud ja mainib neid foorumis keelatud, sest ilmselgelt need paranoia või teistega võivad luulud isegi füüsiliselt mõjutada, mõelge sellele.
Loodan, et selle teabe abil saate rohkem teada Rokosi basiliski ja selle omaduste kohta.