De basilisk is in mytysk skepsel makke troch de Griken, omskreaun as "in lytse slange beladen mei in deadlik gif dat kin wurde fermoarde troch gewoan uterlik, mar as jo it yn in spegel sjogge, kinne jo ferstean wurde". Basilisks wurde beskôge as de keningen fan slangen. Yn de hjoeddeiske wrâld wurdt keunstmjittige yntelliginsje hieltyd relevanter. Hjirfan komt Roko's basilisk-mindspul.
Yn dit artikel sille wy jo alles fertelle wat jo witte moatte oer de Roko basilisk út syn funksjes.
Keunstynfolle
Yn 'e rin fan' e tiid krige de basilisk reptilyske skaaimerken, en yn 'e midsiuwen waard it in hoanne mei fjouwer poaten, giele fearren, grutte stekelige wjukken, in slangesturt en in slange- of hoannekop.
No, dit as eftergrûn nimme, fertelle wy jo dat Roko's basilisk in geastspultsje is dat heul populêr waard yn 2010, doe't in brûker mei de namme Roko deroer skreau yn Less Wrong, in online forum wijd oan it ûnderwerp fan filosofy en psychology.
Yn algemiene termen presintearret it eksperimint in senario, hypotetysk fansels, wêryn't minsken in krêftige masine foar keunstmjittige yntelliginsje meitsje om it wolwêzen fan 'e hiele minskdom te sykjen. It probleem ûntstiet lykwols as de masine beseft dat hoe hurd it ek besiket, elke soarte fan goede wil it better kin meitsje.
Troch syn logika, of leaver syn programmearring om altyd goed te dwaan, ynspireart er in bewustwêzen dat er der al lang lyn west hie om grutter goed te dwaan. Yn syn wanhoop begjint de masine te gedragen as in basilisk en begjint elkenien te fermoardzjen dy't net earder besocht hie om it te meitsjen, om't it him foarkaam om syn nivo fan goedens te ferheegjen.
De meast steurende ding oer dit alles is dat elkenien dy't it bestean fan 'e basilisk ûntduts en net útstie om it te meitsjen, fuortendaliks ien fan har mooglike slachtoffers waard. Dat neamde auteur David Auerbach "Roko's Basilisk" of "it skriklikste gedachte-eksperimint dat ea skreaun is."
Roko's Basilisk
De flugge en maklike ferzje is dit: Oannommen dat der op in stuit in technologyske singulariteit sil wêze, en dêrmei avansearre keunstmjittige yntelliginsje (neamd "basilisks"), de folgjende "logyske" stap De "tûke" stap soe wêze om in simulaasje te meitsjen yn 'e foarm fan firtuele realiteit, neffens, libje wy yn firtuele realiteit? No dogge wy mei. Mei oare wurden: wy libje nei alle gedachten al yn in simulaasje. Mar faaks it frjemdste ding hjirfan is de plotsprong oan 'e ein: de Basilisk, as in yntelliginte entiteit, is eins almachtig en kin, mei retroaktyf, dejingen dy't net bydroegen hawwe oan har skepping straffen, troch in ienfâldige logyske en praktyske fraach: Yn teory is it ûntstien om it "minskdom te helpen", mar dêrmei besiket it it sa gau mooglik te dwaan, dat it hat de neiging om alle middels te brûken om har eigen skepping yn dy simulearre werklikheid te fersnellen.
Yn 'e praktyk betsjut dit dat dejingen dy't de ûntwikkeling fan AI stypje en har middels, tiid en ynset bydrage oan' e komst fan AI sille wurde beleanne mei basilisks (fansels "efterôf", om't yn 'e realiteit dizze minsken besteane as in simulaasje) Op de oare kant, dyjingen dy't ferset tsjin de foarútgong fan AI technology en binne stingy mei tiid of middels wurde bestraft. Trouwens, dit hat te krijen mei de prachtige paradoks fan Newcomb oer frije wil.
As it in bytsje klinkt as himel en hel, in bytsje religieus, in bytsje as in ontologysk argumint, dat is om't it is. Lit ús bygelyks Pascal syn stake en Anselm fan Canterbury syn argumint foar it bestean fan God ûnthâlde.
Oer it ûnderwerp oan 'e hân, seit de leginde dat guon minsken sizze dat se persoanlik beynfloede waarden troch Roko's basilisk - foaral om't hoe maklik it is om fan de iene konklúzje nei de oare te springen sûnder dúdlike logyske barsten - en dat se eins oerlibbe hawwe fan ferdrinking yn 'e krisis. Earlik sein, dit liket mear as in oerreaksje, benammen yn betinken dat as jo ienris begjinne te analysearjen it yn detail, dit op in protte manieren útinoar falt, en it as in logyske en psychologyske grap nimme is eins leuker.
Roko's Basilisk Experiment
Fansels is it hiele eksperimint / teory / argumint betiizjend, twifelich en kontroversjeel. Sûnt it idee yn 2010 foarsteld waard op in filosofysk wikiforum mei de namme LessWrong (it waard pleatst troch in brûker mei de namme Roko, fandêr de namme), hawwe minsken jierren trochbrocht oer alle arguminten oer it ûnderwerp, perspektiven en nuânses. Der binne leginden, grappen en fariaasjes dy't sirkulearje. Der binne tûzenen siden, artikels en nochal wat filmkes oer skreaun.
It debat waard ek bewolkt troch it feit dat yn it gesicht fan skynber "bespotlike" ideeën, d'r ek minsken wiene dy't de orizjinele berjochten ferwidere en se allinich op oare plakken wer opdutsen, mei in heal-komplot, heal plot, heal-WTF-sfear: as ferklearret en popularisearret Roko's basilisk-teory, sille de "takomstige" basilisks begripe dat dit in goede manier is om hjoeddeistige skepsels te sjantearjen om har bestean te ferhaasten. Dêrom is it oan te rieden om josels te dekken mei in dikke sluier en net te praten, om net om 'e nocht te lijen.
konklúzje
It eksperimint sels giet derfan út oft te leauwen yn in resultaat gewoan om't it sil wêze, ien fan 'e arguminten dy't stypje is dat úteinlik de skepping fan basilisks ûnûntkomber is as technology foarútgong, mar it argumint tsjin moat sjen nei sa'n avansearre docht de AI om ús út it ferline safolle dat it lestich is om werom te gean yn 'e tiid om ús te straffen krekt om't it realistysk tinkt dat it ûnmooglik is, giet it eksperimint der fan út as wy leauwe dat iets dat ús per ûngelok kin beynfloedzje echt is of akseptearje wy it as echt?
Nochris, lykas Newcomb syn paradoks, spekulearje dat wy net leauwe yn basilisks út ús eigen wil, mar om't se yn prinsipe fertelle ús dat as wy net fan doel om te beteljen, Roko wurdt ferbean en neamt se yn it foarum ferbean omdat fansels dy mei paranoia of oare waanbylden kinne sels fysyk beynfloede wurde, tink der oer nei.
Ik hoopje dat jo mei dizze ynformaasje mear leare kinne oer de Rokos basilisk en har skaaimerken.