로코의 바실리스크

로코의 바실리스크

바실리스크는 그리스인이 창조한 신화 속 생물로 "치명적인 독이 든 작은 뱀은 외모만으로도 죽일 수 있지만 거울로 보면 석화될 수 있다"고 묘사했다. 바실리스크는 뱀의 왕으로 간주됩니다. 오늘날의 세계에서 인공 지능은 점점 더 관련성이 높아지고 있습니다. 여기에서 Roko의 바실리스크 마인드 게임이 나옵니다.

이 기사에서는 기능에서 Roko 바실리스크에 대해 알아야 할 모든 것을 알려줄 것입니다.

인공 지능

인공 지능

시간이 지남에 따라 바실리스크는 파충류의 모습을 갖게 되었고 중세에는 네 개의 다리, 노란 깃털, 큰 가시 날개, 뱀의 꼬리, 뱀 또는 수탉의 머리를 가진 수탉이 되었습니다.

이제 이것을 배경으로 하여 Roko의 바실리스크는 2010년에 Roko라는 사용자가 철학 및 심리학 주제에 전념하는 온라인 포럼인 Less Wrong에서 이에 대해 썼을 때 매우 인기를 얻은 마인드 게임입니다.

일반적으로 이 실험은 인간이 모든 인류의 안녕을 추구하기 위해 강력한 인공 지능 기계를 만든다는 가상의 시나리오를 제시합니다. 그러나 문제는 기계가 아무리 애를 써도 좋은 의지가 있으면 더 나아질 수 있다는 것을 인식할 때 발생합니다.

그의 논리, 또는 오히려 항상 선을 행하도록 프로그래밍함으로써 그는 더 큰 선을 행하기 위해 오래전에 그곳에 있었어야 했다는 인식을 고취시킵니다. 필사적으로 기계는 바실리스크처럼 행동하기 시작하고 선의 수준을 높이는 데 방해가 되었기 때문에 이전에 그것을 만들려고 노력하지 않은 모든 사람들을 죽이기 시작합니다.

이 모든 것에서 가장 혼란스러운 것은 누구든지 바실리스크의 존재를 발견하고 즉시 만들려고 하지 않은 사람이 가능한 희생자 중 하나가 된다는 것입니다. 그것이 작가 David Auerbach가 "로코의 바실리스크" 또는 "지금까지 쓰여진 것 중 가장 무서운 사고 실험"이라고 부른 것입니다.

로코의 바실리스크

바실리스크의 위험 by roko

빠르고 쉬운 버전은 다음과 같습니다. 특정 시점에 기술적 특이점이 있을 것이라고 가정하고 이를 통해 고급 인공 지능("바실리스크"라고 함)과 함께 다음 "논리적" 단계 "영리한" 단계는 시뮬레이션을 생성하는 것입니다. 에 따르면 가상 현실의 형태로 우리는 가상 현실에 살고 있습니까? 지금 우리는 참여하고 있습니다. 다시 말해 우리는 이미 시뮬레이션 속에 살고 있을 가능성이 큽니다. 그러나 아마도 이것에 대해 가장 이상한 점은 마지막에 플롯 점프입니다. 바실리스크는 지능적인 존재로서 실제로 전능하며 간단한 논리적이고 실용적인 질문으로 인해 생성에 기여하지 않은 사람들을 소급하여 처벌할 수 있습니다. 이론상 그것은 "인류를 돕기 위해" 일어났지만, 그렇게 함으로써 가능한 한 빨리 그것을 하려고 하므로, 그 시뮬레이션된 현실에서 자신의 창조를 가속화하기 위해 어떤 수단을 사용하는 경향이 있습니다.

실제로 이것은 AI의 개발을 지원하고 AI의 도래에 자원, 시간 및 노력을 쏟는 사람들이 바실리스크와 함께 보상을 받을 것임을 의미합니다. 반면 인공지능 기술의 발전을 반대하고 시간이나 자원에 인색한 사람은 벌을 받는다. 그건 그렇고, 이것은 자유 의지에 대한 Newcomb의 놀라운 역설과 관련이 있습니다.

그것이 약간 천국과 지옥처럼 들리고, 약간 종교적이며, 존재론적 논쟁처럼 들린다면 그것은 그것이기 때문입니다. 예를 들어, 신의 존재에 대한 파스칼의 말뚝과 캔터베리의 안셀름 주장을 생각해 봅시다.

당면한 주제와 관련하여 전설에 따르면 일부 사람들은 Roko의 바실리스크에 개인적으로 영향을 받았다고 말합니다. 위기. 솔직히, 이것은 특히 당신이 그것을 자세히 분석하기 시작하면 여러 가지 면에서 무너지고 논리적이고 심리적인 농담으로 받아들이는 것이 실제로 더 재미있다는 점을 고려할 때 과민 반응처럼 보입니다.

로코의 바실리스크 실험

엘론 사향

물론 전체 실험/이론/논증은 혼란스럽고 의심스럽고 논쟁의 여지가 있습니다. 이 아이디어는 2010년 LessWrong이라는 철학적 위키 포럼에서 제안된 이후로(Roko라는 사용자가 게시했기 때문에 이름을 따온 것입니다), 사람들은 주제, 관점 및 뉘앙스에 대한 모든 주장에 대해 수년 동안 토론했습니다. 순환하는 전설, 농담 및 변형이 있습니다. 수천 페이지, 기사 및 꽤 많은 비디오가 이에 대해 작성되었습니다.

명백히 "어리석은" 아이디어에도 불구하고 반은 음모, 반은 플롯, 반은 WTF 분위기로 원본 메시지를 삭제하고 다른 곳에서만 다시 표시하는 사람들도 있었다는 사실로 인해 논쟁이 흐려졌습니다. Roko의 바실리스크 이론을 설명하고 대중화하면 "미래" 바실리스크는 이것이 존재하는 생물을 협박하여 존재를 재촉하는 좋은 방법임을 이해할 것입니다. 그러므로 헛되이 괴로움을 당하지 않도록 두꺼운 베일로 몸을 가리고 말하지 않는 것이 좋습니다.

결론

실험 자체는 단순히 결과가 그렇게 될 것이라고 믿어야 하는지를 가정하고, 기술이 발전함에 따라 결국 바실리스크의 생성은 불가피하지만, 이에 반대하는 주장은 AI가 신경쓰는 그런 발전된 것을 봐야 한다는 주장이 뒷받침되고 있다. 현실에서 불가능하다고 생각하기 때문에 과거로 돌아가 우리를 처벌하기가 너무 귀찮은 과거의 우리, 우연히 우리에게 영향을 미칠 수있는 무언가가 실제라고 믿는다면 실험은 가정합니까 아니면 우리가 그것을 현실로 받아들이는 것입니까?

다시 Newcomb의 역설처럼, 우리는 우리의 의지로 바실리스크를 믿지 않는다고 추측하지만, 기본적으로 우리가 지불할 의사가 없으면 Roko가 금지되고 포럼에서 언급하기 때문에 분명히 편집증 또는 기타 망상이 있는 경우 신체적으로 영향을 받을 수도 있습니다. 생각해 보십시오.

이 정보를 통해 Rokos 바실리스크와 그 특성에 대해 더 많이 알 수 있기를 바랍니다.


기사의 내용은 우리의 원칙을 준수합니다. 편집 윤리. 오류를보고하려면 여기에.

코멘트를 첫번째로 올려

코멘트를 남겨주세요

귀하의 이메일 주소는 공개되지 않습니다.

*

*

  1. 데이터 책임자 : Miguel Ángel Gatón
  2. 데이터의 목적 : 스팸 제어, 댓글 관리.
  3. 합법성 : 귀하의 동의
  4. 데이터 전달 : 법적 의무에 의한 경우를 제외하고 데이터는 제 XNUMX 자에게 전달되지 않습니다.
  5. 데이터 저장소 : Occentus Networks (EU)에서 호스팅하는 데이터베이스
  6. 권리 : 귀하는 언제든지 귀하의 정보를 제한, 복구 및 삭제할 수 있습니다.