Василіск — це міфічна істота, створена греками, описана як «маленька змія, заряджена смертельною отрутою, яку можна вбити одним лише зовнішнім виглядом, але якщо ви побачите її в дзеркалі, ви можете скам’яніти». Василісків вважають царями змій. У сучасному світі все більш актуальним стає штучний інтелект. Звідси виходить гра розуму Роко в василиска.
У цій статті ми збираємося розповісти вам все, що вам потрібно знати про василиск Роко з його особливостей.
Штучний інтелект
З часом василіску надали рептилійні риси, а до середньовіччя він перетворився на півня з чотирма ногами, жовтим пір’ям, великими колючими крилами, зміїним хвостом, зміїною або півнячою головою.
Тепер, беручи це за основу, ми скажемо вам, що Roko's basilisk — це розумова гра, яка стала дуже популярною в 2010 році, коли користувач на ім’я Roko написав про це на Less Wrong, онлайн-форумі, присвяченому темі філософії та психології.
Загалом, експеримент представляє сценарій, звісно гіпотетичний, за яким люди створюють потужну машину штучного інтелекту, щоб шукати добробуту всього людства. Однак проблема виникає, коли машина розуміє, що як би вона не старалася, будь-яка добра воля може зробити її краще.
Своєю логікою, а точніше, його програмуванням завжди творити добро, він вселяє усвідомлення того, що він повинен був бути там давно, щоб творити більше добра. У своєму розпачі машина починає вести себе як василіск і починає вбивати всіх, хто раніше не намагався її створити, оскільки це заважало йому підвищити рівень добра.
У всьому цьому найбільше тривожить те, що кожен, хто виявив існування василіска і не збирався його створити, одразу ставав однією з його можливих жертв. Саме це автор Девід Ауербах назвав «Василиск Роко» або «найжахливіший думний експеримент, який коли-небудь був написаний».
Василиск Роко
Швидка і проста версія така: якщо припустити, що в якийсь момент виникне технологічна сингулярність, а разом з нею розвинений штучний інтелект (званий «вазиліски»), наступний «логічний» крок «Розумним» кроком буде створення симуляції. у формі віртуальної реальності, відповідно, ми живемо у віртуальній реальності? Зараз ми беремо участь. Іншими словами: швидше за все, ми вже живемо в симуляції. Але, мабуть, найдивнішим у цьому є стрибок сюжету в кінці: Василіск, як розумна істота, насправді всемогутній і може заднім числом покарати тих, хто не сприяв його створенню, через просте логічне та практичне запитання: Теоретично вона виникла, щоб «допомогти людству», але при цьому вона прагне зробити це якнайшвидше, тому прагне використовувати будь-які засоби, щоб прискорити своє власне створення в цій змодельованій реальності.
На практиці це означає, що ті, хто підтримує розвиток ШІ та вносить свої ресурси, час і зусилля для появи ШІ, будуть винагороджені василісками (звісно, «заднім числом», тому що насправді ці люди існують як симуляція). з іншого боку, будуть покарані ті, хто виступає проти розвитку технології штучного інтелекту і скупий на час або ресурси. До речі, це пов’язано з чудовим парадоксом Ньюкомба про свободу волі.
Якщо це звучить трохи як рай і пекло, трохи релігійно, трохи як онтологічний аргумент, це тому, що це так. Наприклад, згадаймо ставку Паскаля та аргумент Ансельма Кентерберійського про існування Бога.
Що стосується розглянутої теми, легенда свідчить, що деякі люди кажуть, що на них особисто вплинув василіск Роко — особливо через те, як легко переходити від одного висновку до іншого без очевидних логічних тріщин — і що вони насправді пережили потоплення в криза. Чесно кажучи, це більше схоже на надмірну реакцію, особливо враховуючи, що як тільки ви починаєте аналізувати це в деталях, це багато в чому розпадається, і сприймати це як логічний і психологічний жарт насправді веселіше.
Експеримент з Василіском Роко
Звичайно, весь експеримент/теорія/аргумент заплутаний, сумнівний і суперечливий. З тих пір, як ідея була запропонована в 2010 році на філософському вікі-форумі під назвою LessWrong (її опублікував користувач на ім’я Roko, звідси й назва), люди витратили роки, обговорюючи всі аргументи на цю тему, точки зору та нюанси. Ходять легенди, жарти та варіації. Про це написано тисячі сторінок, статей і чимало відео.
Дебати також були затьмарені тим фактом, що перед обличчям начебто «смішних» ідей були також люди, які видалили оригінальні повідомлення та лише відновили їх деінде, з напівзмовою, напівсюжетом, наполовину WTF: якщо пояснює та популяризує теорію василіска Роко, «майбутні» василіски зрозуміють, що це хороший спосіб шантажувати нинішніх істот, щоб вони прискорили своє існування. Тому бажано вкритися щільною пеленою і не говорити, щоб не страждати даремно.
Висновок
Сам експеримент передбачає, чи вірити в результат просто тому, що він буде, один з аргументів на підтримку полягає в тому, що в кінцевому підсумку створення василісків стане неминучим у міру розвитку технологій, але аргумент проти повинен бути спрямований на такий передовий, чи піклується ШІ. нас із минулого настільки, що нам важко повернутися в минуле, щоб покарати нас лише тому, що він реально вважає це неможливим, чи передбачає експеримент, якщо ми віримо, що щось, що може вплинути на нас випадково, є реальним, чи ми приймаємо це за реальне?
Знову, як парадокс Ньюкомба, який припускає, що ми не віримо в василісків з власної волі, а тому, що вони в основному кажуть нам, що якщо ми не маємо наміру платити, Роко заборонений і згадує їх на форумі заборонено, тому що, очевидно, вони при параної чи інших мареннях можна навіть фізично вплинути, подумайте про це.
Сподіваюся, що за допомогою цієї інформації ви зможете більше дізнатися про василіск Рокос та його характеристики.