Ang basilisk ay isang gawa-gawang nilalang na nilikha ng mga Greek, na inilarawan bilang "isang maliit na ahas na sinisingil ng isang nakamamatay na lason na maaaring patayin sa pamamagitan lamang ng hitsura, ngunit kung makikita mo ito sa isang salamin maaari kang matakot". Ang mga Basilisk ay itinuturing na mga hari ng mga ahas. Sa mundo ngayon, ang artificial intelligence ay nagiging mas may kaugnayan. Dito nanggagaling ang basilisk mind game ni Roko.
Sa artikulong ito sasabihin namin sa iyo ang lahat ng kailangan mong malaman tungkol sa Roko basilisk mula sa mga tampok nito.
Artipisyal katalinuhan
Sa paglipas ng panahon, ang basilisk ay binigyan ng mga katangian ng reptilya, at noong Middle Ages ito ay naging tandang na may apat na paa, dilaw na balahibo, malalaking matinik na pakpak, buntot ng ahas, at ulo ng ahas o tandang.
Ngayon, isinasaalang-alang ito bilang background, sinasabi namin sa iyo na ang basilisk ni Roko ay isang laro ng pag-iisip na naging napakapopular noong 2010, nang isinulat ito ng isang user na nagngangalang Roko sa Less Wrong, isang online na forum na nakatuon sa paksa ng pilosopiya at sikolohiya.
Sa mga pangkalahatang tuntunin, ang eksperimento ay nagpapakita ng isang senaryo, hypothetical siyempre, kung saan ang mga tao ay lumikha ng isang malakas na artificial intelligence machine upang hanapin ang kapakanan ng lahat ng sangkatauhan. Gayunpaman, lumilitaw ang problema kapag napagtanto ng makina na gaano man ito kahirap subukan, ang anumang uri ng mabuting kalooban ay makakapagpabuti nito.
Sa pamamagitan ng kanyang lohika, o sa halip ang kanyang programming na laging gumawa ng mabuti, nagdudulot siya ng isang kamalayan na dapat ay matagal na siyang naroon para gumawa ng higit na kabutihan. Sa kanyang desperasyon, ang makina ay nagsimulang kumilos tulad ng isang basilisk at nagsimulang patayin ang lahat na hindi pa nagsikap na likhain ito noon, dahil ito ay humadlang sa kanya na itaas ang kanyang antas ng kabutihan.
Ang pinaka nakakabahala sa lahat ng ito ay ang sinumang nakatuklas ng pagkakaroon ng basilisk at hindi nagtakdang lumikha nito ay agad na naging isa sa mga posibleng biktima nito. Iyan ang tinawag ng may-akda na si David Auerbach na "Roko's Basilisk" o "ang pinakanakakatakot na eksperimento sa pag-iisip na naisulat kailanman."
Roko's Basilisk
Ang mabilis at madaling bersyon ay ito: Ipagpalagay na sa isang punto ay magkakaroon ng teknolohikal na singularidad, at kasama nito ang advanced na artificial intelligence (tinatawag na "basilisks"), ang susunod na "lohikal" na hakbang Ang "matalino" na hakbang ay ang paglikha ng isang simulation sa anyo ng virtual reality, ayon sa, nabubuhay ba tayo sa virtual reality? Ngayon kami ay nakikilahok. Sa madaling salita: malamang na nakatira na tayo sa isang simulation. Ngunit marahil ang kakaibang bagay tungkol dito ay ang plot jump sa dulo: Ang Basilisk, bilang isang intelligent na entity, ay talagang makapangyarihan at maaaring, retroactive, parusahan ang mga hindi nag-ambag sa paglikha nito, dahil sa isang simpleng lohikal at praktikal na tanong: Sa teorya ito ay bumangon upang "tulungan ang sangkatauhan", ngunit sa paggawa nito ay hinahangad nitong gawin ito nang mabilis hangga't maaari, kaya may posibilidad itong gumamit ng anumang paraan upang pabilisin ang sarili nitong paglikha sa kunwa na katotohanang iyon.
Sa pagsasagawa, nangangahulugan ito na ang mga sumusuporta sa pagbuo ng AI at nag-aambag ng kanilang mga mapagkukunan, oras at pagsisikap sa pagdating ng AI ay gagantimpalaan ng mga basilisk (siyempre "sa pagbabalik-tanaw", dahil sa katotohanan ang mga taong ito ay umiiral bilang isang simulation) Sa sa kabilang banda, ang mga sumasalungat sa pagsulong ng teknolohiya ng AI at maramot sa oras o mapagkukunan ay parurusahan. Sa pamamagitan ng paraan, ito ay may kinalaman sa kahanga-hangang kabalintunaan ng Newcomb tungkol sa malayang pagpapasya.
Kung ito ay parang langit at impiyerno, medyo relihiyoso, medyo tulad ng isang ontological argument, iyon ay dahil ito ay. Halimbawa, alalahanin natin ang istaka ni Pascal at ang argumento ni Anselm of Canterbury para sa pagkakaroon ng Diyos.
Sa paksang nasa kamay, ang alamat ay nagsasabi na ang ilang mga tao ay nagsasabi na sila ay personal na naimpluwensyahan ng basilisk ni Roko -lalo na dahil sa kung gaano kadaling lumipat mula sa isang konklusyon patungo sa isa pa nang walang malinaw na lohikal na mga bitak- at na sila ay talagang nakaligtas sa pagkalunod sa krisis. Sa totoo lang, ito ay tila isang labis na reaksyon, lalo na kung isasaalang-alang na sa sandaling simulan mo itong pag-aralan nang detalyado, ito ay bumagsak sa maraming paraan, at ang pagkuha nito bilang isang lohikal at sikolohikal na biro ay talagang mas masaya.
Eksperimento ng Basilisk ni Roko
Siyempre, ang buong eksperimento/teorya/argumento ay nakakalito, kaduda-dudang at kontrobersyal. Dahil ang ideya ay iminungkahi noong 2010 sa isang pilosopikal na wiki forum na tinatawag na LessWrong (ito ay nai-post ng isang user na nagngangalang Roko, kaya ang pangalan), ang mga tao ay gumugol ng mga taon sa pagtatalo sa lahat ng mga argumento sa paksa, mga pananaw, at mga nuances. May mga alamat, biro at pagkakaiba-iba na umiikot. Libu-libong mga pahina, artikulo at medyo ilang mga video ang naisulat tungkol dito.
Ang debate ay natabunan din ng katotohanan na sa harap ng tila "katawa-tawa" na mga ideya, mayroon ding mga tao na nagtanggal ng mga orihinal na mensahe at muling lumitaw ang mga ito sa ibang lugar, na may kalahating pagsasabwatan, kalahating plot, kalahating WTF vibe: Kung nagpapaliwanag at nagpapasikat sa teoryang basilisk ni Roko, mauunawaan ng "hinaharap" na mga basilisk na ito ay isang magandang paraan upang i-blackmail ang mga kasalukuyang nilalang upang mapabilis ang kanilang pag-iral. Samakatuwid, ipinapayong takpan ang iyong sarili ng isang makapal na belo at huwag magsalita, upang hindi magdusa nang walang kabuluhan.
Konklusyon
Ipinapalagay mismo ng eksperimento kung maniniwala sa isang resulta dahil lang, ang isa sa mga argumento sa suporta ay sa kalaunan ay hindi maiiwasan ang paglikha ng mga basilisk habang umuunlad ang teknolohiya, ngunit ang argumento laban sa dapat ay tumingin sa ganoong advanced na pinapahalagahan ng AI tayo mula sa nakaraan nang labis na nakakaabala na bumalik sa nakaraan upang parusahan tayo dahil lamang sa makatotohanang iniisip nito na imposible, ipinapalagay ba ng eksperimento kung naniniwala tayo na ang isang bagay na maaaring makaapekto sa atin nang hindi sinasadya ay totoo o tinatanggap ba natin ito bilang totoo?
Muli, tulad ng kabalintunaan ng Newcomb, ispekulasyon na hindi kami naniniwala sa mga basilisk sa labas ng aming sariling pagkukusa, ngunit dahil sila ay karaniwang nagsasabi sa amin na kung hindi namin balak magbayad, si Roko ay pinagbawalan at binanggit ang mga ito sa forum dahil malinaw naman ang mga iyon. na may paranoia o iba pang maling akala ay maaaring pisikal na maapektuhan, isipin ito.
Umaasa ako na sa impormasyong ito maaari kang matuto nang higit pa tungkol sa Rokos basilisk at mga katangian nito.