Василиск — это мифическое существо, созданное греками, описываемое как «маленькая змея, заряженная смертельным ядом, которую можно убить одним своим видом, но если вы увидите ее в зеркале, то можете окаменеть». Василиски считаются королями змей. В современном мире искусственный интеллект становится все более актуальным. Отсюда и игра разума Роко о василиске.
В этой статье мы расскажем вам все, что вам нужно знать о василиске Роко, исходя из его особенностей.
Искусственный интеллект
Со временем василиску придали рептильные черты, а к Средним векам он превратился в петуха с четырьмя ногами, желтыми перьями, большими колючими крыльями, змеиным хвостом и змеиной или петушиной головой.
Теперь, взяв это за основу, мы расскажем вам, что василиск Роко — это интеллектуальная игра, которая стала очень популярной в 2010 году, когда пользователь по имени Роко написал о ней на Less Wrong, онлайн-форуме, посвященном предмету философии и психологии.
В общих чертах эксперимент представляет собой гипотетический, конечно, сценарий, в котором люди создают мощную машину искусственного интеллекта для обеспечения благополучия всего человечества. Однако проблема возникает, когда машина понимает, что как бы она ни старалась, любая добрая воля может сделать ее лучше.
По своей логике или, скорее, по своей программе всегда делать добро, он внушает осознание того, что он должен был быть там давным-давно, чтобы творить большее добро. В его отчаянии машина начинает вести себя как василиск и начинает убивать всех, кто не приложил усилий к ее созданию раньше, так как она мешала ему повышать свой уровень доброты.
Самое тревожное во всем этом то, что любой, кто обнаруживал о существовании василиска и не брался за его создание, тут же становился одной из его возможных жертв. Это то, что автор Дэвид Ауэрбах назвал «василиском Роко» или «самым страшным мысленным экспериментом из когда-либо написанных».
Василиск Роко
Быстрая и простая версия такова: если предположить, что в какой-то момент возникнет технологическая сингулярность, а вместе с ней и продвинутый искусственный интеллект (так называемый «василиск»), следующим «логичным» шагом будет создание симуляции. в виде виртуальной реальности, по словам, живем ли мы в виртуальной реальности? Теперь мы участвуем. Другими словами: скорее всего, мы уже живем в симуляции. Но, пожалуй, самое странное в этом сюжетный скачок в конце: Василиск, как разумная сущность, на самом деле всемогущ и может задним числом наказать тех, кто не способствовал его созданию, благодаря простому логичному и практическому вопросу: Теоретически оно возникло, чтобы «помочь человечеству», но при этом стремится сделать это как можно быстрее, поэтому склонно использовать любые средства, чтобы ускорить собственное творение в этой смоделированной реальности.
На практике это означает, что те, кто поддерживает развитие ИИ и вкладывает свои ресурсы, время и усилия в появление ИИ, будут вознаграждены василисками (разумеется, «задним числом», потому что на самом деле эти люди существуют как симуляция). с другой стороны, те, кто противостоит развитию технологии ИИ и скупы на время или ресурсы, будут наказаны. Кстати, это имеет отношение к замечательному парадоксу Ньюкома о свободе воли.
Если это звучит как рай и ад, немного религиозно, немного похоже на онтологический аргумент, то это потому, что так оно и есть. Вспомним, например, кол Паскаля и аргумент Ансельма Кентерберийского в пользу существования Бога.
По этому поводу легенда гласит, что некоторые люди говорят, что на них лично повлиял василиск Роко — особенно из-за того, как легко перескакивать с одного вывода на другой без очевидных логических ошибок — и что они действительно выжили, утонув в воде. кризис. Честно говоря, это больше похоже на чрезмерную реакцию, особенно если учесть, что как только вы начинаете анализировать это подробно, это разваливается во многих отношениях, и воспринимать это как логическую и психологическую шутку на самом деле веселее.
Эксперимент Роко с василиском
Конечно, весь эксперимент/теория/аргумент сбивает с толку, сомнительный и противоречивый. С тех пор, как эта идея была предложена в 2010 году на философском вики-форуме LessWrong (она была опубликована пользователем по имени Roko, отсюда и название), люди потратили годы на обсуждение всех аргументов по этому вопросу, точек зрения и нюансов. Ходят легенды, шутки и вариации. Об этом написаны тысячи страниц, статей и немало видео.
Дебаты также были омрачены тем фактом, что перед лицом явно «нелепых» идей были также люди, которые удаляли исходные сообщения и только вновь показывали их в другом месте, с полузаговором, полусюжетом, полу-WTF: если бы объясняет и популяризирует теорию василисков Роко, «будущие» василиски поймут, что это хороший способ шантажировать нынешних существ, чтобы ускорить их существование. Поэтому желательно укрыться плотной пеленой и не говорить, чтобы не страдать напрасно.
Заключение
Сам эксперимент предполагает стоит ли верить в результат просто потому что он будет, один из аргументов в поддержку что со временем создание василисков неизбежно по мере развития технологий, но аргумент против должен смотреть на такой продвинутый заботится ли ИИ нас из прошлого настолько сильно, что он беспокоится о том, чтобы вернуться в прошлое, чтобы наказать нас только потому, что он реалистично считает, что это невозможно, предполагает ли эксперимент, верим ли мы в то, что может повлиять на нас случайно, реально, или мы принимаем это как реальное?
Опять же, как парадокс Ньюкомба, спекулируя тем, что мы верим в василисков не по своей воле, а потому, что они в основном говорят нам, что если мы не собираемся платить, Роко забанен и упоминает их в форуме забанен, потому что очевидно, что те при паранойе или других бредах можно даже физически воздействовать, подумайте об этом.
Я надеюсь, что с помощью этой информации вы сможете больше узнать о василиске Рокос и его характеристиках.