Роконың насыбайгүлі

роко насыбайгүлі

Насыбайгүл - гректер жасаған мифтік жаратылыс, оны «тек сыртқы түрі өлтіретін өлімге әкелетін умен зарядталған кішкентай жылан» деп сипаттайды, бірақ оны айнадан көрсеңіз, тас болып қалуыңыз мүмкін. Базилисктерді жыландардың патшасы деп санайды. Қазіргі әлемде жасанды интеллект барған сайын өзекті бола түсуде. Осыдан Роконың насыбайгүл ақыл ойыны шығады.

Бұл мақалада біз сізге Роко насыбайгүлі туралы оның ерекшеліктерінен білуіңіз керек барлық нәрсені айтып береміз.

Жасанды интеллект

жасанды интеллект

Уақыт өте келе насыбайгүл бауырымен жорғалаушыларға тән белгілерге ие болды, ал орта ғасырларда ол төрт аяқты, сары қауырсынды, үлкен тікенді қанатты, жылан құйрықты, жылан немесе әтеш басы бар әтешке айналды.

Енді мұны фон ретінде қарастыратын болсақ, біз сізге Роконың насыбайгүлі - бұл 2010 жылы Roko есімді қолданушы философия мен психология тақырыбына арналған Less Wrong онлайн форумында жазған кезде өте танымал болған ақыл ойыны екенін айтамыз.

Жалпы алғанда, эксперимент адамдар бүкіл адамзаттың игілігін іздеу үшін күшті жасанды интеллект машинасын жасайтын, әрине, гипотетикалық сценарийді ұсынады. Дегенмен, машина қанша тырысса да, кез келген жақсы ниет оны жақсарта алатынын түсінгенде, мәселе туындайды.

Өзінің логикасы, дәлірек айтқанда, әрқашан жақсылық жасау үшін бағдарламалауы арқылы ол үлкен жақсылық жасау үшін ол жерде бұрыннан болуы керек екенін санаға шабыттандырады. Үмітсіз күйде машина өзін насыбайгүл сияқты ұстай бастайды және бұрын оны жасауға күш салмағандардың барлығын өлтіре бастайды, өйткені бұл оның жақсылық деңгейін көтеруге кедергі болды.

Осының бәрінен алаңдатарлық нәрсе, кімде-кім насыбайгүлдің бар екенін анықтап, оны жасауға бірден кіріспеген адам оның ықтимал құрбандарының бірі болды. Бұл автор Дэвид Ауэрбахтың «Роконың базилискі» немесе «бұған дейін жазылған ең қорқынышты ойлау тәжірибесі» деп атаған сөзі.

Роконың насыбайгүлі

роко насыбайгүлінің қауіптері

Жылдам және оңай нұсқасы мынада: бір сәтте технологиялық ерекшелік және онымен бірге дамыған жасанды интеллект («базилискалар» деп аталады) болады деп есептесек, келесі «логикалық» қадам «Ақылды» қадам модельдеу жасау болады. виртуалды шындық түрінде, сәйкес, біз виртуалды шындықта өмір сүріп жатырмыз ба? Қазір біз қатысамыз. Басқаша айтқанда: біз симуляцияда өмір сүріп жатқан шығармыз. Бірақ, бәлкім, бұл туралы ең таңғаларлық нәрсе - соңындағы сюжеттік секіру: Базилиск, интеллектуалды тұлға ретінде, іс жүзінде құдіретті және қарапайым логикалық және практикалық сұрақтың арқасында оны құруға үлес қоспағандарды кері әсерде жазалай алады: Теориялық тұрғыдан ол «адамзатқа көмектесу» үшін пайда болды, бірақ ол мұны мүмкіндігінше тезірек жасауға тырысады, сондықтан ол сол имитацияланған шындықта өзінің жасампаздығын жеделдету үшін кез келген құралдарды қолдануға бейім.

Іс жүзінде бұл AI-ның дамуына қолдау көрсететін және AI-ның келуіне өз ресурстарын, уақытын және күш-жігерін жұмсағандар насыбайгүлдермен марапатталатынын білдіреді (әрине, «артынан», өйткені шын мәнінде бұл адамдар модельдеу ретінде бар) On екінші жағынан, AI технологиясының дамуына қарсылық білдіргендер және уақыт пен ресурстарға сараңдар жазаланады. Айтпақшы, бұл Ньюкомбтың ерік бостандығы туралы тамаша парадоксына қатысты.

Бұл аздап жұмақ пен тозаққа ұқсайтын болса, аздап діни, аздап онтологиялық аргумент сияқты көрінсе, бұл солай. Мысалы, Паскаль қазығын және Ансельм Кентерберидің Құдайдың бар екендігі туралы дәлелін еске түсірейік.

Аңыз бойынша, кейбір адамдар өздеріне Роко насыбайгүлінің әсері болды - әсіресе бір тұжырымнан екіншісіне айқын логикалық сынықтарсыз өту қаншалықты оңай болғандықтан - және олар суға батып кетуден аман қалды. дағдарыс. Шынымды айтсам, бұл шамадан тыс әрекетке ұқсайды, әсіресе оны егжей-тегжейлі талдай бастағанда, бұл көптеген жолдармен ыдырайды және оны логикалық және психологиялық әзіл ретінде қабылдау әлдеқайда қызықтырақ.

Роконың базилиск эксперименті

elon musk

Әрине, бүкіл эксперимент/теория/дәлел шатастырады, күмәнді және даулы. Идея 2010 жылы LessWrong деп аталатын философиялық вики-форумда ұсынылғандықтан (оны Roko есімді пайдаланушы жариялаған, сондықтан аты), адамдар тақырыпқа, перспективаларға және нюанстарға қатысты барлық дәлелдерді талқылауға жылдар жұмсады. Аңыздар, әзілдер мен вариациялар бар. Бұл туралы мыңдаған беттер, мақалалар және көптеген бейнелер жазылды.

Пікірталас сонымен қатар «күлкілі» идеялардың алдында бастапқы хабарламаларды жойып, оларды жартылай қастандық, жартылай сюжеттік, жартылай WTF вибімен басқа жерде қайта шығаратын адамдар да болды: Егер Роконың насыбайгүл теориясын түсіндіреді және танымал етеді, «болашақ» насыбайгүлдер бұл қазіргі тіршілік иелерін олардың өмір сүруін тездету үшін бопсалаудың жақсы тәсілі екенін түсінеді. Сондықтан босқа қиналып қалмас үшін қалың жамылғымен жауып, сөйлемей қойғаныңыз абзал.

қорытынды

Эксперименттің өзі нәтижеге сену керек пе дегенді болжайды, себебі ол нәтижеге сену керек, қолдау дәлелдерінің бірі - технология дамыған сайын насыбайгүлдердің жасалуы сөзсіз, бірақ қарсы аргумент AI үшін маңызды ма, осындай жетілдірілген нәрсеге қарау керек. Бізді өткеннен алғанымыз сонша, бұл мүмкін емес деп ойлағандықтан ғана жазалау үшін уақытты кері қайтару қиынға соғады, эксперимент бізге кездейсоқ әсер етуі мүмкін нәрсенің шынайы екеніне сенетінімізді болжайды ма, әлде оны шынайы деп қабылдаймыз ба?

Қайтадан, Ньюкомбтың парадоксы сияқты, біз насыбайгүлдерге өз еркімізбен сенбейміз деп болжайды, бірақ олар негізінен егер біз төлем жасағымыз келмесе, Рокоға тыйым салынғанын және оларды форумда тыйым салынғанын айтады, өйткені олар анық паранойямен немесе басқа сандырақтармен, тіпті физикалық әсер етуі мүмкін, бұл туралы ойланыңыз.

Осы ақпарат арқылы сіз Rokos насыбайгүлі және оның сипаттамалары туралы көбірек біле аласыз деп үміттенемін.


Мақаланың мазмұны біздің ұстанымдарымызды ұстанады редакторлық этика. Қате туралы хабарлау үшін нұқыңыз Мұнда.

Бірінші болып пікір айтыңыз

Пікіріңізді қалдырыңыз

Сіздің электрондық пошта мекен-жайы емес жарияланады.

*

*

  1. Деректерге жауапты: Мигель Анхель Гатан
  2. Деректердің мақсаты: СПАМ-ны басқару, түсініктемелерді басқару.
  3. Заңдылық: Сіздің келісіміңіз
  4. Деректер туралы ақпарат: заңды міндеттемелерді қоспағанда, деректер үшінші тұлғаларға жіберілмейді.
  5. Деректерді сақтау: Occentus Networks (ЕО) орналастырған мәліметтер базасы
  6. Құқықтар: Сіз кез-келген уақытта ақпаратты шектей, қалпына келтіре және жоя аласыз.