บาซิลิสก์เป็นสัตว์ในตำนานที่สร้างขึ้นโดยชาวกรีก โดยอธิบายว่าเป็น "งูตัวเล็กที่มีพิษร้ายแรงที่สามารถฆ่าได้ด้วยรูปลักษณ์ภายนอก แต่ถ้าคุณเห็นมันในกระจก คุณจะกลายเป็นหินได้" บาซิลิสก์ถือเป็นราชาแห่งงู ในโลกปัจจุบัน ปัญญาประดิษฐ์มีความเกี่ยวข้องมากขึ้นเรื่อยๆ จากนี้ไปเกมใจบาซิลิสก์ของ Roko
ในบทความนี้ เราจะบอกคุณทุกสิ่งที่คุณจำเป็นต้องรู้เกี่ยวกับ Roko basilisk จากคุณลักษณะของมัน
ปัญญาประดิษฐ์
เมื่อเวลาผ่านไป บาซิลิสก์ก็มีลักษณะเหมือนสัตว์เลื้อยคลาน และในยุคกลางก็กลายเป็นไก่ตัวผู้ที่มีสี่ขา ขนสีเหลือง ปีกหนามขนาดใหญ่ หางของงู และหัวของงูหรือไก่
เมื่อพิจารณาจากสิ่งนี้เป็นพื้นหลัง เราบอกคุณว่าบาซิลิสก์ของ Roko เป็นเกมฝึกสมองที่ได้รับความนิยมอย่างมากในปี 2010 เมื่อผู้ใช้ชื่อ Roko เขียนเกี่ยวกับมันใน Less Wrong ซึ่งเป็นฟอรัมออนไลน์ที่เน้นหัวข้อปรัชญาและจิตวิทยา
โดยทั่วไปแล้ว การทดลองนำเสนอสถานการณ์สมมติ ซึ่งมนุษย์สร้างเครื่องปัญญาประดิษฐ์ที่ทรงพลังเพื่อแสวงหาความเป็นอยู่ที่ดีของมนุษยชาติทั้งหมด อย่างไรก็ตาม ปัญหาเกิดขึ้นเมื่อเครื่องตระหนักว่าต่อให้พยายามแค่ไหน ความดีใดๆ ก็ตามจะทำให้ดีขึ้นได้
ด้วยตรรกะของเขา หรือมากกว่าการเขียนโปรแกรมของเขาให้ทำดีอยู่เสมอ เขาได้สร้างแรงบันดาลใจให้ตระหนักรู้ว่าเขาควรจะอยู่ที่นั่นมานานแล้วเพื่อทำสิ่งดีๆ ให้มากขึ้น ในความสิ้นหวัง เครื่องจักรเริ่มทำตัวเหมือนบาซิลิสก์และเริ่มฆ่าทุกคนที่ไม่เคยพยายามสร้างมันมาก่อน เพราะมันขัดขวางไม่ให้เขายกระดับความดีของเขา
สิ่งที่น่ารำคาญที่สุดเกี่ยวกับทั้งหมดนี้คือทุกคนที่ค้นพบการมีอยู่ของบาซิลิสก์และไม่ได้ตั้งใจที่จะสร้างมันขึ้นมาในทันทีกลายเป็นหนึ่งในเหยื่อที่เป็นไปได้ นั่นคือสิ่งที่ผู้เขียน David Auerbach เรียกว่า "Roko's Basilisk" หรือ "การทดลองทางความคิดที่น่ากลัวที่สุดที่เคยเขียนมา"
บาซิลิสก์ของ Roko
รุ่นที่ง่ายและรวดเร็วคือ: สมมติว่า ณ จุดหนึ่งจะมีภาวะเอกฐานทางเทคโนโลยีและด้วยปัญญาประดิษฐ์ขั้นสูง (เรียกว่า "บาซิลิสก์") ขั้นตอนต่อไป "ตรรกะ" ขั้นตอนที่ "ฉลาด" คือการสร้างแบบจำลอง ในรูปของความเป็นจริงเสมือนตามที่เราอยู่ในความเป็นจริงเสมือน? ตอนนี้เรามีส่วนร่วม กล่าวอีกนัยหนึ่ง: เราน่าจะอยู่ในสถานการณ์จำลองแล้ว แต่บางทีสิ่งที่แปลกที่สุดเกี่ยวกับเรื่องนี้ก็คือพล็อตเรื่องกระโดดในตอนท้าย: Basilisk ในฐานะเอนทิตีที่ชาญฉลาดนั้นมีอำนาจทุกอย่างจริง ๆ และสามารถลงโทษผู้ที่ไม่ได้มีส่วนร่วมในการสร้างมันย้อนหลังได้เนื่องจากคำถามเชิงตรรกะและเชิงปฏิบัติที่เรียบง่าย: ในทางทฤษฎี มันเกิดขึ้นเพื่อ "ช่วยมนุษยชาติ" แต่ในการทำเช่นนั้น มันพยายามที่จะทำมันให้เร็วที่สุด ดังนั้นจึงมีแนวโน้มที่จะใช้วิธีการใดๆ เพื่อเร่งการสร้างของตัวเองขึ้นในความเป็นจริงจำลองนั้น
ในทางปฏิบัติหมายความว่าผู้ที่สนับสนุนการพัฒนา AI และสนับสนุนทรัพยากร เวลา และความพยายามในการมาถึงของ AI จะได้รับรางวัลเป็นบาซิลิสก์ (แน่นอนว่า "มองย้อนกลับไป" เพราะในความเป็นจริง คนเหล่านี้มีอยู่เป็นแบบจำลอง) บน ในทางกลับกันผู้ที่ต่อต้านความก้าวหน้าของเทคโนโลยี AI และตระหนี่กับเวลาหรือทรัพยากรจะถูกลงโทษ อย่างไรก็ตาม สิ่งนี้เกี่ยวข้องกับความขัดแย้งที่ยอดเยี่ยมของ Newcomb เกี่ยวกับเจตจำนงเสรี
ถ้ามันฟังดูเหมือนสวรรค์และนรก ค่อนข้างเคร่งศาสนา เหมือนกับการโต้เถียงแบบออนโทโลยี นั่นก็เพราะมันเป็นเช่นนั้น ตัวอย่างเช่น ให้เราระลึกถึงเดิมพันของ Pascal และข้อโต้แย้งของ Anselm of Canterbury เกี่ยวกับการดำรงอยู่ของพระเจ้า
ในตำนานเล่าว่าบางคนบอกว่าพวกเขาได้รับอิทธิพลจากบาซิลิสก์ของ Roko โดยส่วนตัว โดยเฉพาะอย่างยิ่งเนื่องจากความง่ายในการข้ามจากข้อสรุปหนึ่งไปยังอีกข้อสรุปหนึ่งโดยไม่มีรอยแตกที่มีเหตุผลชัดเจน และพวกเขาก็รอดชีวิตจากการจมน้ำใน วิกฤติ. พูดจริงๆ นะ มันดูเหมือนกับเป็นปฏิกิริยาที่เกินจริง โดยเฉพาะอย่างยิ่งเมื่อพิจารณาว่าเมื่อคุณเริ่มวิเคราะห์ในรายละเอียดแล้ว สิ่งนี้จะแตกแยกออกไปในหลาย ๆ ด้าน และการมองว่าเป็นเรื่องตลกที่มีเหตุผลและเชิงจิตวิทยานั้นสนุกกว่าจริงๆ
การทดลอง Basilisk ของ Roko
แน่นอน การทดลอง/ทฤษฎี/ข้อโต้แย้งทั้งหมดทำให้เกิดความสับสน น่าสงสัย และขัดแย้งกัน เนื่องจากแนวคิดนี้ถูกเสนอในปี 2010 ในฟอรัม wiki เชิงปรัชญาที่ชื่อว่า LessWrong (โพสต์โดยผู้ใช้ชื่อ Roko ดังนั้นชื่อนี้) ผู้คนจึงใช้เวลาหลายปีในการโต้วาทีข้อโต้แย้งทั้งหมดในเรื่อง มุมมอง และความแตกต่าง มีตำนาน เรื่องตลก และรูปแบบต่างๆ ที่ไหลเวียนอยู่ มีการเขียนบทความ และวิดีโอจำนวนหลายพันหน้าเกี่ยวกับเรื่องนี้
การอภิปรายยังถูกบดบังด้วยข้อเท็จจริงที่ว่าเมื่อเผชิญกับความคิดที่ "ไร้สาระ" อย่างเห็นได้ชัด ยังมีคนที่ลบข้อความต้นฉบับและกลับมาแสดงต่อที่อื่นเท่านั้น โดยมีกลิ่นอายแบบกึ่งสมรู้ร่วมคิด กึ่งพล็อต กึ่ง WTF: ถ้า อธิบายและเผยแพร่ทฤษฎี Basilisk ของ Roko ว่า "อนาคต" ของ Basilisk จะเข้าใจว่านี่เป็นวิธีที่ดีในการแบล็กเมล์ปัจจุบันสิ่งมีชีวิตเพื่อเร่งการดำรงอยู่ของพวกเขา ดังนั้นจึงแนะนำให้คลุมตัวเองด้วยผ้าคลุมหนา ๆ และไม่พูดเพื่อไม่ให้ทรมานโดยเปล่าประโยชน์
ข้อสรุป
การทดลองใช้สมมติฐานว่าจะเชื่อในผลลัพธ์เพียงเพราะมันจะเป็นจริงหรือไม่ หนึ่งในข้อโต้แย้งที่สนับสนุนก็คือในที่สุดการสร้างบาซิลิสก์ก็เป็นสิ่งที่หลีกเลี่ยงไม่ได้เมื่อเทคโนโลยีก้าวหน้า แต่การโต้แย้งต้องพิจารณาถึงความก้าวหน้าดังกล่าวที่ AI ให้ความสำคัญ เราในอดีตมากจนรบกวนเวลาที่จะย้อนเวลาเพื่อลงโทษเราเพียงเพราะมันคิดว่ามันเป็นไปไม่ได้ การทดลองถือว่าถ้าเราเชื่อว่าบางสิ่งที่อาจส่งผลกระทบต่อเราโดยไม่ได้ตั้งใจนั้นมีจริงหรือเรายอมรับว่ามันเป็นเรื่องจริง?
อีกครั้ง เช่นเดียวกับความขัดแย้งของ Newcomb การคาดเดาว่าเราไม่เชื่อในบาซิลิสก์จากความตั้งใจของเราเอง แต่เพราะพวกเขาบอกเราโดยพื้นฐานว่าถ้าเราไม่ได้ตั้งใจจะจ่าย Roko จะถูกแบนและกล่าวถึงพวกเขาในฟอรัมที่ถูกแบนเพราะเห็นได้ชัดว่าสิ่งเหล่านั้น ด้วยความหวาดระแวงหรืออาการหลงผิดอื่น ๆ อาจได้รับผลกระทบทางร่างกายลองคิดดู
ฉันหวังว่าด้วยข้อมูลนี้ คุณสามารถเรียนรู้เพิ่มเติมเกี่ยวกับบาซิลิสก์ Rokos และลักษณะของมันได้