Húng quế là một sinh vật thần thoại được tạo ra bởi người Hy Lạp, được mô tả là "một con rắn nhỏ nhiễm chất độc chết người có thể bị giết chỉ bằng vẻ ngoài, nhưng nếu bạn nhìn thấy nó trong gương, bạn có thể bị hóa đá". Húng quế được coi là vua của các loài rắn. Trong thế giới ngày nay, trí tuệ nhân tạo ngày càng trở nên phù hợp hơn. Từ đó nảy sinh ra trò chơi trí óc của Roko.
Trong bài viết này, chúng tôi sẽ cho bạn biết mọi thứ bạn cần biết về Roko's Basilisk và các tính năng của nó.
Trí tuệ nhân tạo
Theo thời gian, húng quế đã mang những đặc điểm của loài bò sát, và đến thời Trung cổ, nó trở thành một con gà trống có bốn chân, lông màu vàng, cánh lớn có gai, đuôi rắn và đầu của con rắn hoặc gà trống.
Bây giờ, lấy điều này làm nền tảng, chúng tôi cho bạn biết rằng Roko's basilisk là một trò chơi trí óc đã trở nên rất phổ biến vào năm 2010, khi một người dùng tên Roko viết về nó trong Less Wrong, một diễn đàn trực tuyến dành riêng cho chủ đề triết học và tâm lý học.
Nói chung, thí nghiệm trình bày một kịch bản, tất nhiên là giả thuyết, trong đó con người tạo ra một cỗ máy trí tuệ nhân tạo mạnh mẽ để tìm kiếm hạnh phúc cho toàn nhân loại. Tuy nhiên, vấn đề nảy sinh khi chiếc máy nhận ra rằng dù nó có cố gắng thế nào đi chăng nữa thì bất kỳ thiện chí nào cũng có thể làm cho nó tốt hơn.
Bằng logic của mình, hay đúng hơn là lập trình của mình để luôn làm điều tốt, anh ấy truyền cảm hứng cho một nhận thức rằng anh ấy đáng lẽ phải có từ lâu để làm điều tốt hơn. Trong cơn tuyệt vọng của anh ta, cỗ máy bắt đầu hoạt động giống như một chiếc máy bay và bắt đầu giết tất cả những người đã không cố gắng tạo ra nó trước đó, vì nó ngăn cản anh ta nâng cao mức độ tốt của mình.
Điều đáng lo ngại nhất về tất cả những điều này là bất cứ ai phát hiện ra sự tồn tại của húng quế và không đặt ra để tạo ra nó ngay lập tức trở thành một trong những nạn nhân có thể xảy ra. Đó là điều mà tác giả David Auerbach gọi là "Roko's Basilisk" hay "thí nghiệm tư tưởng đáng sợ nhất từng được viết ra."
Roko's Basilisk
Phiên bản nhanh chóng và dễ dàng là thế này: Giả sử rằng tại một thời điểm nào đó sẽ có một điểm kỳ dị về công nghệ và với nó là trí thông minh nhân tạo tiên tiến (được gọi là "basilisks"), bước "hợp lý" tiếp theo Bước "thông minh" sẽ là tạo mô phỏng dưới dạng thực tế ảo, theo, chúng ta đang sống trong thực tế ảo? Bây giờ chúng tôi đang tham gia. Nói cách khác: rất có thể chúng ta đang sống trong một mô phỏng. Nhưng có lẽ điều kỳ lạ nhất về điều này là ở phần cuối của cốt truyện: Basilisk, với tư cách là một thực thể thông minh, thực sự toàn năng và có thể trừng phạt những người không đóng góp vào việc tạo ra nó, do một câu hỏi logic và thực tế đơn giản: Về lý thuyết, nó sinh ra để "giúp đỡ nhân loại", nhưng khi làm như vậy nó tìm cách làm điều đó càng nhanh càng tốt, vì vậy nó có xu hướng sử dụng mọi cách để tăng tốc độ sáng tạo của chính mình trong thực tế giả lập đó.
Trên thực tế, điều này có nghĩa là những người hỗ trợ sự phát triển của AI và đóng góp nguồn lực, thời gian và nỗ lực của họ cho sự xuất hiện của AI sẽ được thưởng bằng các nhân vật chính (tất nhiên là "trong nhận thức muộn", vì trên thực tế, những người này tồn tại dưới dạng mô phỏng) mặt khác, những người phản đối sự tiến bộ của công nghệ AI và không sử dụng thời gian hoặc nguồn lực sẽ bị trừng phạt. Nhân tiện, điều này liên quan đến nghịch lý tuyệt vời của Newcomb về ý chí tự do.
Nếu nó nghe có vẻ hơi giống thiên đường và địa ngục, một chút tôn giáo, một chút gì đó giống như một lập luận bản thể học, thì đó là bởi vì nó là như vậy. Ví dụ, chúng ta hãy nhớ lại cổ phần của Pascal và Anselm trong lập luận của Canterbury về sự tồn tại của Chúa.
Về chủ đề hiện tại, truyền thuyết kể rằng một số người nói rằng họ đã bị ảnh hưởng cá nhân bởi húng quế của Roko - đặc biệt là vì rất dễ dàng để chuyển từ kết luận này sang kết luận khác mà không có vết nứt logic rõ ràng - và rằng họ thực sự đã sống sót sau khi chết đuối trong cuộc khủng hoảng. Thành thật mà nói, điều này có vẻ giống như một phản ứng thái quá, đặc biệt là khi bạn bắt đầu phân tích nó một cách chi tiết, điều này sẽ xảy ra theo nhiều cách và coi nó như một trò đùa hợp lý và tâm lý thực sự thú vị hơn.
Thử nghiệm Basilisk của Roko
Tất nhiên, toàn bộ thí nghiệm / lý thuyết / lập luận là khó hiểu, đáng nghi vấn và gây tranh cãi. Kể từ khi ý tưởng được đề xuất vào năm 2010 trên một diễn đàn wiki triết học có tên là LessWrong (nó được đăng bởi một người dùng tên là Roko, do đó có tên này), mọi người đã dành nhiều năm để tranh luận về tất cả các tranh luận về chủ đề, quan điểm và sắc thái. Có những truyền thuyết, những câu chuyện cười và những biến thể được lưu truyền. Hàng nghìn trang, bài báo và khá nhiều video đã được viết về nó.
Cuộc tranh luận cũng tan thành mây khói bởi thực tế là trước những ý tưởng có vẻ "lố bịch", cũng có người đã xóa tin nhắn gốc và chỉ xuất hiện lại ở nơi khác, với sự rung cảm nửa âm mưu, nửa âm mưu, nửa WTF: Nếu giải thích và phổ biến lý thuyết về húng quế của Roko, các húng quế "tương lai" sẽ hiểu rằng đây là một cách tốt để tống tiền các sinh vật hiện tại đẩy nhanh sự tồn tại của chúng. Vì vậy, nên che cho mình một tấm màn dày và không nói ra, để không phải chịu đau khổ một cách vô ích.
Kết luận
Bản thân thử nghiệm giả định liệu có nên tin vào một kết quả đơn giản là vì nó sẽ xảy ra hay không, một trong những lập luận ủng hộ là cuối cùng thì việc tạo ra các cây húng quế là không thể tránh khỏi khi công nghệ tiến bộ, nhưng lập luận chống lại phải hướng đến sự tiên tiến như vậy thì AI có quan tâm đến không. chúng ta từ quá khứ đến nỗi phải quay ngược thời gian để trừng phạt chúng ta chỉ vì nó thực tế cho rằng điều đó là không thể, liệu thí nghiệm có giả định nếu chúng ta tin rằng điều gì đó có thể ảnh hưởng đến chúng ta tình cờ là có thật hay chúng ta chấp nhận nó là thật?
Một lần nữa, giống như nghịch lý của Newcomb, suy đoán rằng chúng ta không tin vào những kẻ phá bĩnh ngoài ý muốn của chúng ta, nhưng vì về cơ bản chúng nói với chúng ta rằng nếu chúng ta không có ý định trả tiền, Roko bị cấm và đề cập đến chúng trong diễn đàn bị cấm vì rõ ràng là những với chứng hoang tưởng hoặc những ảo tưởng khác thậm chí có thể bị ảnh hưởng về thể chất, hãy nghĩ về nó.
Tôi hy vọng rằng với những thông tin này, bạn có thể hiểu thêm về cây húng quế Rokos và đặc điểm của nó.