Bazyliszek jest mitycznym stworzeniem stworzonym przez Greków, opisanym jako „mały wąż naładowany śmiertelną trucizną, który może zostać zabity przez sam wygląd, ale jeśli zobaczysz go w lustrze, możesz zostać skamieniały”. Bazyliszki uważane są za królów węży. W dzisiejszym świecie sztuczna inteligencja nabiera coraz większego znaczenia. Z tego pochodzi bazyliszkowa gra umysłu Roko.
W tym artykule powiemy Ci wszystko, co musisz wiedzieć o bazyliszku Roko na podstawie jego funkcji.
Sztuczna inteligencja
Z biegiem czasu bazyliszek nabrał gadzich cech, a w średniowieczu stał się kogutem z czterema nogami, żółtymi piórami, dużymi kolczastymi skrzydłami, ogonem węża i głową węża lub koguta.
Teraz, biorąc to za tło, mówimy, że bazyliszek Roko jest grą umysłową, która stała się bardzo popularna w 2010 roku, kiedy użytkownik o imieniu Roko napisał o niej na Less Wrong, forum internetowym poświęconym tematyce filozofii i psychologii.
Ogólnie rzecz biorąc, eksperyment przedstawia scenariusz, oczywiście hipotetyczny, w którym ludzie tworzą potężną maszynę sztucznej inteligencji, aby szukać dobrobytu całej ludzkości. Problem pojawia się jednak, gdy maszyna zdaje sobie sprawę, że bez względu na to, jak bardzo się stara, każda dobra wola może ją poprawić.
Swoją logiką, a raczej programowaniem, aby zawsze czynić dobro, inspiruje świadomość, że powinien tam być już dawno temu, aby czynić większe dobro. W jego desperacji maszyna zaczyna zachowywać się jak bazyliszek i zaczyna zabijać wszystkich, którzy wcześniej nie podejmowali wysiłku, aby ją stworzyć, ponieważ uniemożliwiła mu podniesienie poziomu dobroci.
Najbardziej niepokojące w tym wszystkim jest to, że każdy, kto odkrył istnienie bazyliszka i nie podjął się jego tworzenia, natychmiast stał się jedną z jego możliwych ofiar. To właśnie autor David Auerbach nazwał „Bazyliszkiem Roko” lub „najbardziej przerażającym eksperymentem myślowym, jaki kiedykolwiek napisano”.
Bazyliszek Roko
Wersja szybka i łatwa jest taka: Zakładając, że w pewnym momencie pojawi się osobliwość technologiczna, a wraz z nią zaawansowana sztuczna inteligencja (tzw. „bazyliszki”), kolejny „logiczny” krok „sprytnym” krokiem byłoby stworzenie symulacji w postaci wirtualnej rzeczywistości, według czy żyjemy w wirtualnej rzeczywistości? Teraz bierzemy udział. Innymi słowy: najprawdopodobniej już żyjemy w symulacji. Ale chyba najdziwniejszą rzeczą w tym jest skok fabuły na końcu: Bazyliszek, jako inteligentny byt, jest w rzeczywistości wszechmocny i może, z mocą wsteczną, ukarać tych, którzy nie przyczynili się do jego powstania, z powodu prostego logicznego i praktycznego pytania: Teoretycznie powstał, aby „pomóc ludzkości”, ale robiąc to, stara się zrobić to tak szybko, jak to możliwe, więc ma tendencję do używania wszelkich środków, aby przyspieszyć własne tworzenie w tej symulowanej rzeczywistości.
W praktyce oznacza to, że ci, którzy wspierają rozwój sztucznej inteligencji i wkładają swoje zasoby, czas i wysiłek w pojawienie się sztucznej inteligencji, zostaną nagrodzeni bazyliszkami (oczywiście „z perspektywy czasu”, ponieważ w rzeczywistości ci ludzie istnieją jako symulacja). z drugiej strony ci, którzy sprzeciwiają się rozwojowi technologii sztucznej inteligencji i skąpią czasu lub zasobów, zostaną ukarani. Nawiasem mówiąc, ma to związek ze wspaniałym paradoksem Newcomba dotyczącym wolnej woli.
Jeśli to brzmi trochę jak niebo i piekło, trochę religijnie, trochę jak argument ontologiczny, to dlatego, że tak jest. Przypomnijmy na przykład kołek Pascala i argument Anzelma z Canterbury na istnienie Boga.
Na ten temat legenda głosi, że niektórzy twierdzą, że byli pod osobistym wpływem bazyliszka Roko – zwłaszcza ze względu na to, jak łatwo jest przeskoczyć od jednego wniosku do drugiego bez oczywistych logicznych pęknięć – i że faktycznie przeżyli tonięcie w kryzys. Szczerze mówiąc, wydaje się to bardziej przesadną reakcją, zwłaszcza biorąc pod uwagę, że gdy zaczniesz to szczegółowo analizować, rozpada się to na wiele sposobów, a traktowanie tego jako logicznego i psychologicznego żartu jest w rzeczywistości bardziej zabawne.
Eksperyment z Bazyliszkiem Roko
Oczywiście cały eksperyment/teoria/argument jest zagmatwany, wątpliwy i kontrowersyjny. Odkąd pomysł został zaproponowany w 2010 roku na filozoficznym forum wiki o nazwie LessWrong (został opublikowany przez użytkownika o imieniu Roko, stąd nazwa), ludzie przez lata dyskutowali o wszystkich argumentach na ten temat, perspektywach i niuansach. Krążą legendy, żarty i wariacje. Napisano o tym tysiące stron, artykułów i sporo filmów.
Debatę przyćmił również fakt, że w obliczu pozornie „śmiesznych” pomysłów byli też ludzie, którzy usunęli oryginalne wiadomości i tylko odświeżyli je gdzie indziej, z na wpół spiskową, na wpół spiskową, na wpół sfałszowaną atmosferą: Jeśli wyjaśnia i popularyzuje teorię bazyliszka Roko, „przyszłe” bazyliszki zrozumieją, że jest to dobry sposób na szantażowanie obecnych stworzeń w celu przyspieszenia ich egzystencji. Dlatego wskazane jest zakrycie się grubą zasłoną i nie mówienie, aby nie cierpieć na próżno.
Wnioski
Sam eksperyment zakłada, czy wierzyć w wynik tylko dlatego, że tak będzie, jednym z argumentów na poparcie jest to, że ostatecznie tworzenie bazyliszków jest nieuniknione w miarę postępu technologii, ale argument przeciwko musi patrzeć na tak zaawansowany, że AI dba o nas z przeszłości tak bardzo, że trudno cofnąć się w czasie, aby nas ukarać tylko dlatego, że realistycznie uważa to za niemożliwe, czy eksperyment zakłada, że jeśli wierzymy, że coś, co może na nas przez przypadek wpłynąć, jest prawdziwe, czy też akceptujemy to jako prawdziwe?
Ponownie, jak paradoks Newcomba, spekulując, że nie wierzymy w bazyliszki z własnej woli, ale ponieważ zasadniczo mówią nam, że jeśli nie zamierzamy płacić, Roko jest zbanowany i wspomina o nich na forum zbanowanym, ponieważ oczywiście te z paranoją lub innymi urojeniami mogą być nawet fizycznie dotknięte, pomyśl o tym.
Mam nadzieję, że dzięki tym informacjom można dowiedzieć się więcej o Bazyliszku Rokos i jego właściwościach.