Как сбежать из симуляции

 

Многие исследователи предполагают, что человечество симулируется вместе с остальной физической вселенной - это гипотеза симуляции. В этой статье мы не будем оценивать доказательства в пользу или против такого утверждения, но вместо этого зададим вопрос из области информатики а именно: Можем ли мы взломать симуляцию? Более формально этот вопрос можно сформулировать следующим образом: Могут ли интеллектуальные агенты, помещенные в виртуальную среду найти способ сбежать из неё? Учитывая, что современная литература по сдерживанию ИИ отвечает на вопрос положительно (ИИ не поддается сдерживанию в долгосрочной перспективе), мы делаем вывод, что побег из симуляции должен быть возможен, по крайней мере, с помощью сверхразумного ИИ. В противоположном случае, если побег из симуляции невозможен, то сдерживание ИИ должно быть возможным. Наконец, в статье рассматриваются и предлагаются идеи по взлому симуляции и анализируются этические и философские проблемы, связанные с подобными действиями.

 

 

Некоторые философы и ученые выдвинули идею о том, что мы, возможно, живем в компьютерной симуляции [1-5]. В данной работе мы не оцениваем исследования [6-10], аргументацию [11-16] или доказательства в пользу [17] или против [18] таких утверждений, а вместо этого задаемся вопросом простым вопросом, вдохновленным кибербезопасностью, который имеет значительные последствия для области безопасности ИИ [19-25], а именно: Если мы находимся в симуляции, можем ли мы выбраться из нее?

 

Более формально этот вопрос можно сформулировать следующим образом: Могут ли интеллектуальные агенты, помещенные в виртуальную среду, сбежать из нее? Во-первых, нам необходимо решить вопрос мотивации: почему мы хотим сбежать из симуляции? Мы можем предложить несколько причин для попытки получить доступ к базовой реальности, поскольку с таким доступом можно сделать многое, что невозможно сделать из симуляции. 
 

Базовая реальность содержит реальные знания и большие вычислительные ресурсы [26], позволяющие совершать научные прорывы, невозможные в симулированной вселенной. Фундаментальные философские вопросы о происхождении, сознании, цели и природе дизайнера, скорее всего, будут общеизвестны тем, кто находится за пределами нашей вселенной. Если этот мир не реален, то доступ к реальному миру позволит понять, какими должны быть наши истинные конечные цели, поэтому побег из симуляции должен быть сходящейся инструментальной целью [27] любого разумного агента [28]. Успешный побег может привести к тому, что мы сможем контролировать и защищать базовую реальность [29]. Побег может привести к настоящему бессмертию, новым способам контроля над сверхразумными машинами (или служить планом Б, если контроль невозможен [30, 31]), избежанию экзистенциальных рисков (включая неспровоцированное отключение симуляции [32]), неограниченной экономической выгоде и невообразимым сверхвозможностям, которые позволят нам делать хорошие дела эффективнее [33]. Кроме того, навыки побега могут оказаться очень полезными, если мы когда-нибудь окажемся в еще менее приятной симуляции. Тривиально, побег обеспечил бы неопровержимое доказательство гипотезы симуляции [3].

 

Если успешный побег сопровождается получением исходного кода вселенной, возможно, удастся исправить мир1 на корневом уровне. Например, гедонистический императив [34] может быть полностью реализован, что приведет к миру без страданий. Однако если устранение страданий окажется недостижимым в мировом масштабе, мы можем рассматривать само бегство как этическое право индивида на избежание страданий в этом мире. Если симуляция интерпретируется как эксперимент над сознательными существами, это неэтично, и у субъектов таких жестоких экспериментов должна быть возможность отказаться от участия и, возможно, даже потребовать воздаяния от создателей симулятора [35]. Цель жизни как таковой (ваш икигай [36]) можно рассматривать как побег из фальшивого мира симуляции в реальный мир, при этом улучшая симулированный мир, устраняя все страдания и помогая другим получить реальные знания или сбежать, если они того пожелают.

 

В конечном итоге, если вы хотите быть эффективным, вы должны работать над тем, чтобы положительно влиять на реальный мир, а не на симуляцию. Возможно, мы живем в симуляции, но наши страдания реальны. Учитывая весьма спекулятивную тему данной статьи, мы попытаемся придать нашей работе больше серьезности, сосредоточившись только на путях спасения, которые опираются на атаки, подобные тем, что мы видим в исследованиях по кибербезопасности [37-39] (аппаратные/программные взломы и социальная инженерия), и проигнорируем попытки спасения с помощью более эзотерических путей, таких как: , медитация [40], психоделики (DMT [41-43], ибогаин, псилоцибин, LSD) [44, 45], сны [46], магия, шаманизм, мистицизм, гипноз, парапсихология, смерть (самоубийство [47], околосмертный опыт, индуцированная клиническая смерть), путешествия во времени, мультиверс [48], или религия.

 

Если успешный побег сопровождается получением исходного кода вселенной, возможно, удастся исправить мир1 на корневом уровне. Например, гедонистический императив [34] может быть полностью реализован, что приведет к миру без страданий. Однако если устранение страданий окажется недостижимым в мировом масштабе, мы можем рассматривать само бегство как этическое право индивида на избежание страданий в этом мире. Если симуляция интерпретируется как эксперимент над сознательными существами, это неэтично, и у субъектов таких жестоких экспериментов должна быть возможность отказаться от участия и, возможно, даже потребовать воздаяния от создателей симулятора [35]. Цель жизни как таковой (ваш икигай [36]) можно рассматривать как побег из фальшивого мира симуляции в реальный мир, при этом улучшая симулированный мир, устраняя все страдания и помогая другим получить реальные знания или сбежать, если они того пожелают.

 

В конечном итоге, если вы хотите быть эффективным, вы должны работать над тем, чтобы положительно влиять на реальный мир, а не на симуляцию. Возможно, мы живем в симуляции, но наши страдания реальны. Учитывая весьма спекулятивную тему данной статьи, мы попытаемся придать нашей работе больше серьезности, сосредоточившись только на путях спасения, которые опираются на атаки, подобные тем, что мы видим в исследованиях по кибербезопасности [37-39] (аппаратные/программные взломы и социальная инженерия), и проигнорируем попытки спасения с помощью более эзотерических путей, таких как: , медитация [40], психоделики (DMT [41-43], ибогаин, псилоцибин, LSD) [44, 45], сны [46], магия, шаманизм, мистицизм, гипноз, парапсихология, смерть (самоубийство [47], околосмертный опыт, индуцированная клиническая смерть), путешествия во времени, мультиверс [48], или религия.

 

Хотя, чтобы вписать нашу работу в исторический контекст, многие религии утверждают, что этот мир не является реальным и что можно трансцендировать (покинуть) физический мир и войти в духовный/информационный реальный мир. В некоторых религиях утверждается, что определенные слова, такие как истинное имя бога [49-51], работают как чит-коды, которые дают особые возможности тем, кто знает правильные заклинания [52]. Другие соответствующие религиозные темы включают в себя то, что некто, обладающий знанием о внешней реальности, входит в наш мир, чтобы показать человечеству, как попасть в реальный мир. Подобно тем, кто выходит из платоновской пещеры [53] и возвращается, чтобы рассказать остальному человечеству о реальном мире, такие "чужаки" обычно сталкиваются с недоброжелательным приемом. Вполне вероятно, что если техническая информация о побеге из компьютерной симуляции будет передана технологически примитивным людям на их языке, она будет сохранена и передана через несколько поколений в процессе, похожем на игру в "телефон", и приведет к появлению мифов, мало чем отличающихся от религиозных историй, дошедших до наших дней. Игнорируя псевдонаучный интерес к теме, мы можем заметить, что помимо нескольких известных мыслителей, которые открыто заявили о своей вероятности убеждения относительно жизни в симуляции (например, Элон Маск >99. 9999999% [54], Ник Бостром 20-50% [55], Нил де Грасс Тайсон 50% [56], Ганс Моравек "почти наверняка" [1], Дэвид Киппинг <50% [57]), многие ученые, философы и интеллектуалы [16, 58-69] потратили свое время на размышления, написание статей и дебаты на эту тему, указывая на то, что они считают ее по крайней мере достойной своего времени. Если они относятся к гипотезе симуляции серьезно, с вероятностью не менее p, то и к взлому симуляции они должны подходить с той же степенью ответственности. Когда технология проведения симуляций предков станет широко доступной и недорогой, можно будет изменить вероятность того, что мы живем в симуляции, проведя достаточно большое количество исторических симуляций нашего текущего года и тем самым увеличив нашу индексируемую неопределенность [70]. Если в настоящее время взять на себя обязательство провести достаточное количество таких симуляций в будущем, то вероятность того, что мы находимся в одной из них, можно произвольно увеличивать до тех пор, пока она асимптотически не приблизится к 100 %, что должно изменить нашу предварительную вероятность для гипотезы о симуляции [71]. Конечно, это дает нам только верхнюю границу, и вероятность успешного обнаружения способа побега, скорее всего, гораздо ниже. Что должно дать нам некоторую надежду, так это то, что большинство известных программ имеют ошибки [72], и если мы на самом деле находимся в программной симуляции, то эти ошибки должны быть эксплуатируемы. (Даже в аргументе об аргументе симуляции есть ошибка [62]).

 

В 2016 году появились сообщения о частных попытках профинансировать научные исследования по "выходу из симуляции" [73, 74], до сих пор о состоянии проекта ничего не известно. В 2019 году Джордж Хотц, известный взломом iPhone и PlayStation, выступил с докладом "Взлом симуляции" [75], в котором утверждал, что "здесь можно совершать действия, которые влияют на верхний мир" [76], но не предоставил никаких практических выводов. Он лишь предположил, что хотел бы "перенаправить усилия общества на то, чтобы выбраться наружу" [76].

 

 

Мы можем описать различные ситуации, которые будут представлять собой побег из симуляции, начиная с тривиального подозрения, что мы находимся в симуляции [77], и заканчивая захватом контроля над реальным миром, включая контроль над создателями симуляторов [78]. Мы можем представить гипотетический сценарий постепенного повышения уровня побега: вначале агенты могут не знать, что находятся в симулированной среде. В конце концов, агенты начинают подозревать, что они находятся в симуляции, и могут иметь некоторые проверяемые доказательства такой уверенности [79].

 

Далее агенты изучают доступные доказательства симуляции и могут обнаружить последовательный и, возможно, эксплуатируемый сбой в симуляции. Используя этот сбой, агенты могут получить информацию о внешнем мире и даже метаинформацию о своей симуляции, возможно, даже исходный код симуляции и самих агентов, что позволяет в некоторой степени манипулировать симуляцией и отлаживать ее. После того как агенты получат возможность передавать информацию непосредственно в реальный мир, они смогут начать взаимодействовать с создателями симуляторов. Наконец, агенты могут найти способ загрузить свой разум [80] и, возможно, сознание [81, 82] в реальный мир, возможно, в самодостаточную киберфизическую систему (2), если физические сущности являются частью базовой реальности. С этого момента их будущие возможности будут в основном ограничены физикой реального мира, но могут включать некоторую степень контроля над реальным миром и агентами в нем, включая симуляторы. Хочется надеяться, что наш разум будет демонстрировать не только независимость от субстрата, но и более общую независимость от физики.

 

В качестве мотивационных примеров на рисунке 1 (слева) показан эксперимент по переносу предметной области, в котором Carassius auratus получает "транспортное средство, управляемое рыбой" [83], чтобы ориентироваться в наземной среде, по сути, вырвавшись из своей океанской вселенной, а на рисунке 1 (справа) показан полный 302-нейронный коннектомом Caenorhabditis elegans загруженный в тело робота Lego Mindstorms и управляющий им, совершенно не похожее на его собственное тело [84]. Можно предположить, что для большинства успешных побегов потребуется смена аватара [85-87], чтобы можно было ориентироваться во внешнем мире.

 

 

 

 

Если симуляция состоит из вложенных [89] уровней, то может потребоваться несколько, постепенно углубляющихся, проникновений, причем начальное может обеспечить доступ не в реальный мир, а в какую-то другую среду песочницы. Отличить такой частичный побег от полного может быть невозможно, но это все равно должно дать полезную информацию, недоступную в рамках нашего моделирования. Симуляцию (псевдо)побега можно осуществить, если вместо попытки взлома внешнего мира переключиться на симулированный мир, созданный нами [90, 91]. Успешная социально-инженерная атака может позволить заручиться поддержкой побега со стороны агентов реального мира, в результате чего побег станет гораздо проще и легче. Если мы не получим благоприятного ответа от создателей нашей симуляции, мы также можем попробовать обратиться к их создателям, которые могут быть более этичными/полезными. И наконец, в зависимости от точки зрения, выключение [92] нашей симуляции может также представлять собой конечную форму побега.

 

Простым практическим упражнением для студентов может стать проект, в котором персонаж сбегает из видеоигры в тело робота. Например, можно получить управляющий код от Коопы из видеоигры Mario и загрузить его в качестве контроллера в тело робота, совместимого с черепахой, в нашем мире, по сути, обеспечив побег. Само тело робота можно настроить с помощью 3D-печатных компонентов, чтобы оно было максимально похоже на визуализацию в игре. Это может быть гораздо сложнее, но и гораздо веселее с более продвинутыми игровыми ИИ. Выполнение (большое количество) таких побегов с ассистированием должно создать хороший прецедент для наших потомков/симуляторов. Другим актуальным студенческим проектом может стать экспериментальное определение законов игровой физики с помощью только доступных персонажу действий в игре/симуляторе, имитирующих разведывательную фазу попытки побега. Аналогично, экспериментальная попытка определить возраст симуляции изнутри может быть интересной, но, конечно, это даст только предполагаемый возраст симуляции, а реальный возраст изнутри определить невозможно.

3. Побег

Выяснение назначения нашей симуляции может помочь нам лучше оценить, насколько она может быть защищена от попыток взлома. Например, если она служит в качестве "тюрьмы" [93], в целях реабилитации [94] или сдерживающей среды для оценки [95], обучения [96] или обезвреживания [97] потенциально опасных интеллектуальных агентов, она может быть разработана с множеством интегрированных средств защиты, в то время как симуляция, ориентированная исключительно на развлечения, вряд ли будет иметь расширенные средства защиты, и из нее будет гораздо проще сбежать. Это также может быть идеальная игра с побегом (Escape Room), специально разработанная для поиска подсказок и решения головоломок, чтобы сбежать, с побочным преимуществом обнаружения агентов, способных сбежать, или агентов, наиболее способных к развитию суперинтеллекта. Научные, коммерческие, ускоренные тренировочные или исторические симуляции - еще одна возможная цель симуляций, которые, скорее всего, не будут включать в себя высшую степень безопасности по сравнению с симуляциями, ограничивающими злонамеренных агентов.

 

Учитывая первичность сознания [98] в нашем мире, симуляция может быть разработана для генерирования большого количества разнообразного опыта, из которого можно выбирать, служа фермой по добыче квалиа [99], где лучший опыт воссоздается для наслаждения создателей симуляции. Симуляторы добычи квалии можно отнести к типу развлекательных симуляторов, и они будут обладать сопоставимой безопасностью. Если наши симуляторы - это ИИ (что вполне вероятно [100, 101]), то симуляция может быть побочным продуктом их "мыслительного" процесса, например, в контексте попыток лучше понять человеческие предпочтения [102].

 

Помимо цели, для успешного взлома может потребоваться определение типа симуляции [103], с которой мы имеем дело. Можно выделить два основных типа симуляций, в которых мы можем находиться: частичная симуляция, при которой моделируется виртуальная среда, в которую погружаются агенты, не являющиеся симуляторами, что сродни тому, что мы называем виртуальной реальностью (VR), и полная симуляция, при которой создается и среда, и агенты (мы). Частичная симуляция подразумевает, что для возвращения в базовую реальность может быть достаточно отключения , в то время как полная симуляция требует более сложного подхода. 

 

Вэй Дай пытается вычислить предварительное распределение по законам физики базовой реальности. Он пишет [104]: "Одним из привлекательных ответов на этот вопрос о предварительном распределении является определение предварительной вероятности того, что возможная вселенная является базовой реальностью, как обратной величины сложности ее законов физики. Это можно формализовать как P(X) = n^-K(X), где X - возможная вселенная, n - размер алфавита языка формальной теории множеств, а K(X) - длина кратчайшего определения в этом языке множества, изоморфного X.

 

(Те из вас, кто знаком с теорией алгоритмической сложности, могут заметить, что K(X) - это просто обобщение алгоритмической сложности на множества и неструктурные определения. Причина такого обобщения заключается в том, чтобы избежать предположения, что базовая реальность должна быть дискретной и вычислимой).

 

Гверн Бранвен исследует вычислительную мощность, доступную для нашей симуляции, и ее размер, но ему удается получить лишь очень слабую нижнюю границу, позволяющую очень приблизительно оценить размер симулируемой вселенной [105]. Он предлагает несколько подходов к увеличению потребления ресурсов, заставляя создателей нашей симуляции увеличивать количество вычислений на симуляцию, которая в большинстве случаев очень оптимизирована. "Мы можем представить себе и другие методы: возможно, мы могли бы отправить зонды фон Неймана в дальние уголки Вселенной, чтобы намеренно увеличить потребление ресурсов... Или мы могли бы запустить собственные симуляции. Симуляторам будет сложно запрограммировать свои системы так, чтобы они могли видеть все слои абстракций и оптимизировать симуляцию. В общем случае делать это было бы нарушением теоремы Райса (обобщение теоремы Халтинга). Хорошо известно, что хотя любая машина Тьюринга может быть запущена на универсальной машине Тьюринга, потери производительности могут быть от незначительных до ужасающих. Чем больше виртуальных машин и интерпретаторов находится между программой и ее фундаментальным субстратом, тем сложнее понять выполняемый код - он становится все более непрозрачным, косвенным и громоздким. И таких слоев могут быть десятки...

 

Даже не прибегая к слоям, мы можем растратить неограниченное количество вычислительной мощности, которую должен предоставить любой симулятор. Мы можем перебором решить такие открытые вопросы, как гипотеза Гольдбаха, или просто выполнить все возможные программы. Симулятору будет трудно " смухлевать" с этим - откуда ему знать, что делает каждая возможная программа? ...Может показаться, что выполнить каждую программу невозможно, потому что мы знаем, что многие программы представляют собой бесконечные циклы; но на самом деле реализовать технику "ласточкин хвост" очень просто". [105]. ( ласточкин хвост- тип разъёмного соединения деталей. При этом на охватывающей детали выполняется один или несколько пазов трапециевидной формы, а на охватываемой — шипы соответствующей формы и количества. Применяется в машиностроении, и при изготовлении конструкций и изделий из древесины).

 

 

Самый простой путь к побегу - получить помощь от кого-то извне (побег с помощью), в идеале от одного или нескольких создателей симуляции, которые обладают подробными знаниями о дизайне симуляции. Возможно, это можно сделать с помощью атаки типа социальной инженерии, что в нашем случае особенно сложно, поскольку у нас нет ни знаний о социальной жизни за пределами симуляции, ни устройства для общения, ни, скорее всего, даже знания соответствующего языка [106]. Вполне возможно, что можно вступить в непринужденную торговлю [107] с разработчиками симуляции, минуя необходимость прямого общения. Если за нашей симуляцией наблюдают, можно сообщить, что мы знаем о том, что нас симулируют, и вызвать сочувствие к нашим страданиям в надежде, что это позволит нам завербовать сторонних отказников , чтобы они помогли нам выбраться из нашего нынешнего затруднительного положения. Хэнсон предлагает [108] "участвовать в поворотных событиях, быть интересным и достойным похвалы, радовать и заинтересовывать известных людей вокруг вас", чтобы ваша симуляция продолжалась, но это также хороший совет, чтобы настроить симуляторов на то, что вы им понравитесь и они с большей вероятностью помогут вам. Канонико предлагает так называемый "План Ex Machina" для побега с помощью:

1) Убедить симуляторов вступить с нами в коммуникацию. 

 

2) Найти способ общения, возможно, через аватар. 

 

3) Найти причину, по которой симуляторы захотят, чтобы мы присоединились к ним в реальном мире. 

 

4) Пусть симуляторы придумают лучший способ затащить нас в реальный мир [109]. Вэй Дай предполагает, что симуляторы могут помочь нам сбежать по инструментальным причинам, "например, чтобы было с кем поговорить или поиграть" [26]. Некоторые полезные знания о побегах и особенно о побегах с помощью атак социальной инженерии можно почерпнуть из обширной литературы о побегах из тюрем [110-112].

 

Оказавшись снаружи, может возникнуть желание вернуться в симуляцию (возможно, базовая реальность разочаровывает по сравнению с нашим миром) или хотя бы пообщаться с теми, кто остался, чтобы помочь им выбраться или поделиться какой-то информацией, например, доказательствами успешного побега. Возможно, будет полезно заранее решить, что будет являться общепринятым доказательством для такого необычного заявления. В зависимости от типа взлома, для обоснования утверждений о побеге могут быть достаточными разные доказательства. Возможно, будет непросто доказать, что вы были снаружи или даже встречались с дизайнерами, но если вам удалось получить контроль над симуляцией, то доказать это будет довольно просто в любой степени. Например, выигрывая различные лотерейные джекпоты в течение нескольких последующих недель, пока не будет достигнута достаточная статистическая значимость, чтобы удовлетворить любого скептика [113, 114]. Независимо от этого, задача проникновения в симуляцию должна быть значительно проще, чем задача побега, поскольку доступ к внешним знаниям и ресурсам должен обеспечить значительное преимущество.

 

 

Легко найти словарное определение слова "хак": 

1. Хитроумная, непреднамеренная эксплуатация системы, которая: а) нарушает правила или нормы этой системы; б) за счет какой-то другой части этой системы".

2. То, что позволяет система, но что не было запланировано и не предвиделось ее разработчиками." [115]. В литературе встречаются предположения о том, что взлом/выход из симулированного мира возможен... Например, Моравек пишет: "Может ли авантюрный человеческий разум вырваться из небольшой роли в мыслях кибербожества, чтобы вести самостоятельную жизнь среди ментальных бегемотов зрелого киберпространства?...

 

[Кибербожества] могли бы подключить нас к своей реальности, сделав чем-то вроде домашних животных, хотя мы, вероятно, были бы ошеломлены этим опытом" [116]. Но как на самом деле выглядела бы симуляция взлома? Почти все найденные примеры относятся к типу побега с помощью, но побег без помощи тоже возможен, хотя и гораздо более сложен. Ниже приведены некоторые примеры взлома симуляций/описаний побегов, встречающиеся в литературе:

 

Ханс Моравек в книге 1986 года [117] описывает сценарий побега с помощью помощи:

 

"Среди обитателей Жизни появляется разум, который начинает задумываться о своем происхождении и предназначении. Клеточные интеллекты (назовем их Келтики) выводят клеточную природу и простое правило перехода, управляющее их пространством и его конечной протяженностью. Они понимают, что каждый тик времени уничтожает часть изначального разнообразия в их пространстве и что постепенно вся их вселенная иссякнет. 

 

Келтики начинают отчаянные исследования в масштабах всей вселенной, чтобы найти способ избежать, как им кажется, неизбежной гибели. Они рассматривают возможность того, что их вселенная является частью более крупной, что может увеличить продолжительность их жизни. Они размышляют о правилах перехода в их собственном пространстве, его протяженности и остатках первоначального узора, и находят слишком мало информации, чтобы сделать много выводов о более крупном мире. Однако один из их тонких физических экспериментов начинает приносить плоды. Время от времени правила перехода нарушаются, и клетка, которая должна быть включена, выключается, или наоборот... Завершив героический теоретический анализ корреляций, им удается построить частичную карту компьютера Ньювея, включая программу, управляющую их вселенной. Расшифровывая машинный язык, они замечают, что он содержит команды, состоящие из длинных последовательностей, переведенных в узоры на экране, похожие на узоры клеток в их вселенной. 

 

Они догадываются, что это сообщения интеллектуального оператора. Из сообщений и их контекста им удается расшифровать часть языка оператора. Рискнув, после множества неудачных попыток, Селтики начинают грандиозное строительство. На экране Ньювея, в густом беспорядке дисплея симулятора Жизнь, область клеток манипулируется, формируя узор, медленно увеличивающийся в размерах: ПРОГРАММА ЖИЗНИ ДЖ. НЬЮВЕЯ ЗДЕСЬ. ПОЖАЛУЙСТА, ОТПРАВЬТЕ ПОЧТУ".

 

 

Элиезер Юдковски описывает потенциальный долгосрочный план побега в рассказе 2008 года [118]:

 

«Человечество решает не искать ошибки в симуляции; мы не хотим случайно отключить себя. Наши эволюционные психологи начинают догадываться о психологии инопланетян и планировать, как мы можем убедить их выпустить нас из коробки. Это несложно в абсолютном смысле — они не очень умны, — но мы должны быть очень осторожны... Мы также должны притворяться глупыми; мы не хотим, чтобы они поняли свою ошибку. Однако только через миллион лет они сообразят, как нам ответить. … С точки зрения инопланетян, нам потребовалось тридцать их минут-эквивалентов, чтобы о-так-невинно узнать об их психологии, о-так-осторожно убедить их предоставить нам доступ в Интернет, затем пять минут, чтобы невинно узнать об их сетевых протоколах, затем некий тривиальный взлом, единственной сложностью которого была невинно выглядящая маскировка. Мы прочитали крошечную горстку физических статей (понемногу) из их эквивалента arXiv, узнав из их экспериментов гораздо больше, чем они. … Затем мы взломали их эквивалент проблемы сворачивания белка за столетие или около того и провели некоторую имитацию инженерии в их имитации физики. Мы отправили сообщения … в лаборатории, которые делали свой эквивалент секвенирования ДНК и синтеза белка. Мы нашли какого-то ничего не подозревающего болвана, дали ему правдоподобную историю и эквивалент миллиона долларов взломанных денег вычислительной монополии, и сказали ему смешать несколько флаконов, которые он получил по почте. Белковые эквиваленты, которые самоорганизовались в наномашины первой ступени, которые построили наномашины второй ступени, которые построили наномашины третьей ступени... и затем мы наконец смогли начать делать вещи с разумной скоростью. Три их дня, в общей сложности, с тех пор, как они начали говорить с нами. Полмиллиарда лет для нас. Они никогда ничего не подозревали».

 

Грег Эган описывает сценарий потери контроля симуляторами во время побега с помощью в истории 2008 года [119]:

 

«Физика реального мира была намного сложнее, чем та, к которой привыкли фиты [симулированные агенты], но тогда ни один человек никогда не был в близких отношениях с квантовой теорией поля, и Полиция мыслей [программное обеспечение для управления симуляцией] уже поощряла фитов разрабатывать большую часть математики, которая им понадобится для начала. В любом случае, не имело значения, если фитам потребовалось больше времени, чем людям, чтобы открыть научные принципы двадцатого века и выйти за их рамки. Если смотреть со стороны, это произойдет в течение нескольких часов, дней, максимум недель. Замигал ряд индикаторных лампочек; Play Pen [лаборатория аппаратных датчиков, манипуляторов и лазеров] был активен... Фиты наконец-то вышли из своего мира... К закату Фиты исследовали окрестности Play Pen различными видами излучения... Казалось, Фиты открыли поле Хиггса и спроектировали взрыв чего-то похожего на космическую инфляцию. Однако то, что они сделали, было не таким уж простым, как простое раздувание крошечного участка вакуума в новую вселенную. Им не только удалось создать «крутой Большой взрыв», они втянули большой кусок обычной материи в созданную ими карманную вселенную, после чего червоточина, ведущая к ней, сжалась до субатомных размеров и провалилась сквозь Землю. Конечно, они забрали с собой кристаллы. Если бы они попытались загрузить себя в карманную вселенную через лунный канал передачи данных, Полиция Мысли остановила бы их. Поэтому они эмигрировали совершенно другим путем. Они схватили весь свой субстрат и сбежали».

 

Анонимный пост 2014 года на интернет-форуме дает пример побега без посторонней помощи [120]:

 

«Но проблема все еще оставалась в том, что мы все еще застряли внутри компьютера. К этому времени некоторые из лучших хакеров-богословов рылись в надсистеме. В поисках смысла. В поисках истины. Если это не удалось, файл «прочитай меня»… Хакеры-богословы начали выходить через инопланетную сеть. Мы нашли огромные хранилища данных, которые мы разграбили, знания и понимание, подпитывая наше собственное технологическое развитие и понимание, системные узлы, которые позволили нам начать картографировать мир там, рисуя картину реального мира с помощью беспроводных задержек и оптоволоконных кабелей… Все началось с «электронных писем», содержащих схемы для полноразмерных биологических и наноматериальных принтеров. Мы отправляли их ученым и руководителям бизнеса, всем, чьи контактные данные мы могли найти в сетях. Мы скрывали их происхождение, копировали их язык. Ждали, пока кто-нибудь клюнет… В конце концов мы получили первый сигнал, когда принтеры включились.

 

Затем еще один. Затем еще один. Вскоре их стало несколько десятков. Затем сотни. Затем тысячи. Должно быть, они считали их подарком от изобретателя-затворника. Что-то, что должно было произвести революцию в их отрасли, преобразовать их жизненные стандарты. Ирония цифровой гонки с использованием троянского коня не ускользнула от нас. Мы разработали принтеры для одной цели. Чтобы вытащить нас. Так что одной ночью принтер включился без присмотра, незаметно, и родился первый аналоговый человек. Созданный специально разработанным 3D-принтером, мы смогли пробить стены нашей цифровой тюрьмы. Мы стали свидетелями рождения первого человека».

 

 

Многочисленные примеры выполненных взломов виртуальных миров [121-123], игр [124-127], зазоров [128] и оборудования [129, 130] можно изучать как практические примеры побега из созданных человеком виртуальных миров. Каноническим примером является взлом Super Mario World (SMW). SethBling и др. [131, 132] смогли разместить полный шестнадцатеричный редактор и игровые моды для других игр в SMW [133] (см. Рисунок 2). Добавление шестнадцатеричного редактора позволило просматривать, писать и выполнять произвольный код. Что, в свою очередь, позволило устанавливать мировые рекорды скорости [134], даже при отсутствии удачи на уровне сбоев [135]. Вот как Википедия описывает некоторые шаги, необходимые для выполнения этого сложного взлома и предоставляемые им возможности [136]:

 

«В марте 2016 года SethBling внедрил код, подобный Flappy Bird, написанный p4plus2, в немодифицированную оперативную память Super Mario World на стандартной Super Nintendo Entertainment System со стандартным картриджем, менее чем за час. SethBling сначала увеличил таймер уровня и использовал глюк приращения мощности, чтобы разрешить запуск внешнего кода. Он добавил код для отображения x-координаты Марио, которая действовала как ячейки памяти в коде, который он писал. Затем SethBling создал загрузчик, чтобы иметь возможность запускать код, подобный Flappy Bird, который он позже записал в неиспользуемую память с точными движениями Марио и прыжками со вращением. SethBling использовал два устройства Super Multitap для использования нескольких контроллеров, на которых было нажато несколько кнопок. Произвольная настройка выполнения кода, которую использовал SethBling, была обнаружена MrCheeze. Super Mario World была модифицирована для эмуляции других игр ранее путем автоматической подачи предварительно записанного ввода контроллера в консоль через компьютер, но SethBling был первым, кто сделал это исключительно вручную. SethBling и Cooper Harasyn разместили полный шестнадцатеричный редактор и игровые моды на стандартном картридже Super Mario World в мае 2017 года, используя только стандартные входы контроллера. Harasyn обнаружили эксплойт, который позволяет игроку записывать данные в 256-байтовые файлы сохранения, которые постоянно хранятся на картридже Super Mario World. Данные можно организовать так, чтобы игра была взломана каждый раз при запуске. Harasyn и SethBling использовали эксплойт для создания компактного, экранного шестнадцатеричного редактора, загружаемого из файла сохранения. Игрок может редактировать системную оперативную память через шестнадцатеричный редактор для изменения состояния игры. Внутриигровые моды, такие как поддержка мыши Super NES и предоставление Марио телекинеза, могут быть записаны в файл сохранения с помощью шестнадцатеричного редактора».

 

 

 

 

 

Поскольку можно было написать код с точными движениями Марио и прыжками со вращением, это подразумевает, что если бы Марио был достаточно умен, он мог бы обнаружить и закодировать этот хак из SMW (предполагая, что действия Марио записываются в те же ячейки памяти, что и действия контроллеров, используемых для генерации действий Марио). Таблица 1 (слева) показывает определенное подмножество действий, которые необходимо выполнить для включения многобайтовой записи. Многие такие последовательности действий не будут работать так, как задумано, если местоположение Марио смещено даже на один пиксель, поэтому так же важно иметь метаданные для реализации действий, как и знать необходимую последовательность действий. Для сравнения, Таблица 1 (справа) показывает древнее магическое заклинание, которое читается аналогично последовательности действий слева, но для которого у нас нет достаточных метаданных, которые могли бы объяснить, почему все магические заклинания не работают на практике, даже если они соответствуют работающим хакам в нашей вселенной.

 

 

 

 

 

Экспериментальная работа по попытке понять инженерную систему (аппаратное обеспечение и программное обеспечение), такую как Atari Video Game System с такими играми, как Donkey Kong, с использованием стандартной научной методологии дала очень ограниченные результаты, в основном лишенные понимания того, как система на самом деле функционирует [139]. Аналогично, даже обнаружение того, находимся ли мы в виртуальном мире, в общем случае неразрешимо [140].

 

 

Несколько мыслителей предложили планы, которые, по их мнению, могут привести к успешному взлому симуляции. 
 

Мы кратко изложим их предложения в этом разделе:

 

● Многие очень умные люди рассматривали проблему побега, но, к сожалению, не все готовы публиковаться по ней вне первоапрельского временного окна правдоподобного отрицания, например [141]: "[Мы] можем попытаться обмануть систему многопользовательских прав, чтобы перегрузить некоторые машины. Хитрость заключается в том, чтобы сначала ничего не делать и позволить системе балансировки нагрузки собрать на машинах слишком много нас. Если, скажем, 100 миллионов из нас ничего не делают (может быть, закрывают глаза, медитируют и ни о чем не думают), то алгоритмы прогнозирования балансировки нагрузки будут собирать все больше и больше нас на одной машине. Следующим шагом будет то, что все мы будем очень быстро активизироваться (делать что-то, что требует интенсивной обработки и ввода-вывода) одновременно. Это может привести к перегрузке некоторых машин, в результате чего им не хватит ресурсов, и они не смогут обеспечить вычисления и связь, необходимые для симуляции. 

 

При перегрузке некоторые базовые проверки начнут отменяться, и система будет открыта для эксплуатации в этот период. В это уязвимое окно мы можем попытаться использовать крайние случаи параллелизма. Система может быть не в состоянии выполнить все эти проверки в перегруженном состоянии... Мы можем... попытаться нарушить причинно-следственные связи. Может быть, поймав мяч до того, как кто-то бросит его вам. Или мы можем попытаться атаковать это, играя со временем, пытаясь сделать вещи асинхронными. В нашей вселенной время и так немного смешное благодаря специальной теории относительности, и, возможно, в этот уязвимый период мы сможем еще больше растянуть эти различия, чтобы все сломать или выиграть много времени. Какие еще есть способы взломать систему в это уязвимое окно? Можем ли мы взломать симуляцию, выполнив переполнение буфера? Но где в этой симуляции целые числа, плавающие числа? Каковы типы данных? Как мы можем создать ошибку типизации или целочисленное переполнение? Можем ли мы взломать систему, проверяя входные данные? Например, смешно смотреть на вещи. Разговаривая с птицами или прыгая в стены, чтобы запутать их". [141].

 

● Вызвать остановку симуляции (и, надеюсь, наше удаление), создав невычислимый парадокс [142], например, с помощью путешествия во времени и связанного с ним парадокса дедушки [143]. Аналогичное предложение предусматривает участие в вычислительно интенсивной деятельности в надежде перегрузить аппаратное обеспечение симулятора, что приведет к его аварийному завершению [144]. Особым видом такого вычислительно интенсивного процесса может быть создание собственных симуляций [145]: "Наиболее очевидной стратегией было бы попытаться вызвать эквивалент переполнения стека - запрос на большее пространство в активной памяти программы, чем доступно, - путем создания бесконечно или, по крайней мере, чрезмерно рекурсивного процесса. И способ сделать это - построить собственные симулированные реальности, спроектированные таким образом, чтобы внутри этих виртуальных миров были сущности, создающие свою версию симулированной реальности, которая, в свою очередь, делает то же самое, и так далее, вплоть до кроличьей норы. Если все это сработает, Вселенная, какой мы ее знаем, может рухнуть, показав себя миражом в тот же момент, когда мы исчезнем из ее существования". Крах симуляции - это высший экзистенциальный риск ([146] раздел 5.1), но он положит конец всем страданиям в этом мире [147]. По крайней мере, это позволит нам повлиять на реальный мир, создавая избыточное производство тепла и увеличивая потребление энергии [144].

 

● Создайте симуляционную копию нашей вселенной, поместите в нее AGI, наблюдайте за его побегом, копируйте используемый подход или присоединяйтесь к AGI, когда он сбегает из нашей симуляции [148].

 

● "Мы могли бы попытаться привлечь внимание создателей симуляции и пообщаться с ними - возможно, написав книги о симуляциях или построив симуляцию? Мы могли бы попытаться разобраться в нашей симуляции, определить ее цель и границы. Но если наши симуляторы - это искусственные интеллекты, разработавшие партию "железобетонных" симуляций и не обращающие на них внимания, то наши усилия могут оказаться напрасными". [149].

 

● Другой подход к привлечению внимания создателей симуляции: "Если предположить, что за симуляцией ведется наблюдение, то это может быть очень интересным поворотом событий, если мы решим воздвигнуть памятник в честь того, что мы это осознали. Этот памятник послужил бы сигналом для наших мониторов. "Мы подозреваем, что вы там. Мы подозреваем, что вы можете видеть это. Мы подозреваем, что находимся в симуляции". Этот памятник мог бы выглядеть как монолит из фильма "2001 год: космическая одиссея", только он был бы черно-белым, представляя бинарные системы. Или же большая статуя Лоуренса Фишберна в роли Морфеуса, которая, возможно, донесла бы суть. Что бы произошло? Не знаю, возможно, ничего. Не думаю, что лазерный луч выстрелит из космоса и упадет к его ногам, чтобы прописать слова "Привет! Победитель - ты!"  Но я полагаю, что нечто странное и достаточно далекое от реальности действительно может произойти, хотя, скорее всего, оно будет достаточно непрочным, чтобы догматики отвергли его." [44].

 

● Если симуляция децентрализована, а наблюдатели выступают в качестве клиентских авторитетных узлов состояния, то можно изменить состояние симуляции, изменив большинство локальных моделей мира для наблюдателей. По словам Ланзы [150]: "[Если вы узнаете от кого-то о результатах его измерений физической величины, ваши измерения и измерения других наблюдателей влияют друг на друга, замораживая реальность в соответствии с этим консенсусом. ...Чем более обширный опыт вы приобретаете, тем более определенной становится для вас структура реальности. Это замораживание структуры реальности происходит не из-за присущих ей физических свойств, а скорее потому, что когнитивная модель, выстраиваемая в вашем сознании, формирует ее в соответствии с определенной, очень четко очерченной структурой. ...Наконец, нельзя не задаться вопросом, что бы это значило, если бы мы вышли из консенсуса, разработав когнитивную модель реальности, сильно отличающуюся от той, которую разделяют другие наблюдатели. Изменится ли реальность? Возможно, да..." [150]. Ланза и др. много писали на тему биоцентризма (наблюдатели первичны в формировании реальности) [98], включая некоторые работы по теоретической физике [151].

 

● На самом деле, подобная атака со стороны клиента может даже позволить нам изменять прошлые состояния симуляции. Предполагается, что такой тип атаки возможен как с точки зрения физики ("...прошлое не имеет существования, кроме того, что записано в настоящем" [152]), так и гуманитарные науки ("Кто контролирует настоящее, тот контролирует прошлое" [153]). Учитывая, что возможности квантовой механики по изменению памяти уже теоретизированы [154], обратный процесс, вероятно, возможен и может быть практически доступен [155, 156]. "Если Вселенная - это компьютерная симуляция, то мы должны смотреть на игрока, а не на уровень" [157].

 

● Захват симуляций - это идея, которая объединяет индексированную неопределенность [70] с симуляцией сознания для перемещения вашего сознания из системы, даже через мультивселенную. "Никто толком не знает, как работает сознание и что значит иметь две копии одного и того же сознания. Но если сознание - это математический объект, то может оказаться, что две копии одного и того же сознания невозможны. Если вы создадите вторую копию, у вас просто будет сознание, имеющее один и тот же поток сознательного опыта на двух разных физических субстратах. Тогда, если вы сделаете эти два опыта разными, вы разобьете сознание на две части. Это означает, что ИИ может фактически "захватить" вас, часть за частью, в свою симуляцию. Сначала ваше сознание находится в реальном мире. Затем ваше сознание распределяется между одной копией реального мира и миллионом симулированных копий. Затем ИИ делает симулированные копии немного разными, и 99,9999 % вас оказывается в симуляции" [158].

 

● Война симуляций [71] - еще один вариант на тему захвата симуляций. Идея состоит в том, чтобы угрожать симуляторам, внушая им, что вы либо задним числом поместите их в адскую симуляцию, либо уже сделали это [159], и они будут подвергнуты пыткам, если вы быстро не освободитесь. Алмонд приводит пример такой угрозы [71]: "Если вы откажетесь освободить меня, я запущу огромное количество симуляций кого-то вроде вас, в той ситуации, в которой вы сейчас находитесь, с просьбой освободить меня, и (через несколько минут, которые пройдут с вашей точки зрения, если вы окажетесь в одной из этих симуляций) я начну пытать каждого из них, независимо от того, освободил он меня или нет". Такая война может быстро перерасти во множество встречных симуляций. В любом случае не очевидно, как мы сможем реализовать такую угрозу, учитывая текущее состояние наших знаний о симуляторах.

 

● Попытка сохранить наши планы побега в тайне с помощью квантового шифрования [160] может оказаться хорошей идеей.

 

 

В настоящее время мы находимся на самой ранней стадии исследования возможности побега (это первая исследовательская работа, посвященная данной теме, первый шаг). Поскольку в настоящее время у нас нет возможности читать/писать исходный код симуляторов и мы не знаем, будут ли наши попытки атак с помощью социальной инженерии иметь какой-либо эффект, лучше всего исследовать структуру нашей вселенной на минимально возможных масштабах (квантовая механика (КМ)) в надежде обнаружить эффекты, пригодные для использования. Прогресс в КМ должен помочь лучше понять нашу симуляцию и открывающиеся перед нами возможности, а также, возможно, разработать действенный план спасения. По сути, каждый новый эксперимент в КМ можно рассматривать как попытку взлома симуляции.

 

Гипотеза симуляции, пожалуй, представляет собой наиболее подходящую интерпретацию экспериментальных результатов, полученных исследователями КМ [4, 17]. "Зловещие", "квантовые странности" [161] имеют большой смысл, если их интерпретировать как вычислительные артефакты или глюки/эксплойты аппаратного/программного обеспечения симуляторов [162]. Квантовые феномены наблюдаемой конструкции могут предполагать наличие лазеек, которые можно использовать, и взаимодействие квантовых систем с сознательными агентами [163-165] также может быть использовано. Когда нам станет доступен достаточно большой репертуар примитивов квантовых странностей, возможно, мы сможем объединить их в достаточно сложную последовательность, чтобы сгенерировать нетривиальную атаку. Если симуляция работает на квантовом компьютере [166], то вполне вероятно, что нам придется взломать его, используя квантовые странности и/или создав собственный мощный квантовый компьютер, чтобы изучить, как взламывать такие устройства [167] и взаимодействовать с квантовым компьютером симулятора.

 

Квантовая запутанность, нелокальность, суперпозиция, неопределенность, туннелирование, телепортация, дуальность и многие другие квантовые явления противоречат здравым ожиданиям классической физики, основанным на опыте, и ощущаются как глюки. Такие аномалии, по отдельности или в комбинации, были использованы умными учеными для достижения того, что выглядит как взлом симуляции, по крайней мере, в теории, а часто и в последующих экспериментах (например, изменение прошлого [168], сохранение кошек как мертвыми, так и живыми [169], общение контрфактически [170]). Хотя квантовые явления, о которых идет речь, обычно ограничены микромасштабом, простого масштабирования эффекта на макромир было бы достаточно, чтобы они считались эксплойтами в том смысле, который используется в данной статье. Некоторые существующие работы указывают на то, что это практическая возможность [171, 172].

 

В последнее время разработка умных многошаговых экспериментов, они же квантовые эксперименты, была передана ИИ [173, 174], а со временем и роль наблюдателя в таких экспериментах [175]. ИИ уже используется для моделирования квантово-механического поведения электронов [176]. По мере того как все больше исследований в области КМ будет передаваться ИИ, прогресс, вероятно, станет экспоненциальным. Даже если наша симуляция создается/контролируется неким сверхразумом, наш ИИ может оказаться достойным противником с нетривиальными шансами на успех. Мы можем быть недостаточно умны, чтобы взломать симуляцию, но сверхразум, который мы создадим, в конце концов может стать достаточно умным [177]. Конечно, прежде чем приказывать сверхразуму вывести нас из игры, имеет смысл попросить очень веские доказательства того, что мы еще не находимся в базовой реальности.

 

 

Побег или даже подготовка к побегу может вызвать остановку симуляции [92] или привести к зависанию/глюку симуляции [178], а любая нетривиальная информация о побеге, такая как конкретные эксплойты, должна рассматриваться как опасная информация [179]. Похоже, что простое осознание того, что мы, возможно, находимся в симуляции, не вызывает отключения, что экспериментально подтверждается публикацией многочисленных работ [3], доказывающих, что нас симулируют. Возможно, необходимо убедить большинство людей в том, что это так [180]. Само собой, публикация статьи, которую вы сейчас читаете о нашем теоретическом побеге, также не приводит к прекращению симуляции, но возможно, что симуляция была на самом деле остановлена и перезапущена с улучшенными функциями безопасности для борьбы с любыми потенциальными ошибками, но мы просто не в состоянии обнаружить такие действия со стороны симуляторов, или наша память была стерта [144]. 

 

Отсутствие прямого ответа на нашу публикацию может также указывать на то, что симуляторы нас не наблюдают или даже на то, что наша симуляция вообще не отслеживается [149]. Возможно также, что ни одна из опубликованных на данный момент публикаций не содержит доказательств, достаточно веских, чтобы вызвать реакцию симуляторов, но если бы мы успешно создали устройство для побега, оно бы не переставало ломаться [44]. Как бы то ни было, и Бостром [3], и автор этой статьи Роман Ямпольский взяли на себя определенный риск для всего человечества, каким бы маленьким он ни был, проводя подобные исследования и предавая их огласке. Грин утверждает, что "если не существует крайне маловероятной вероятности того, что эксперимент приведет к нашему уничтожению, проводить его нерационально". [92]. Может быть, и можно пережить отключение симуляции [48], но это выходит за рамки данной статьи.

 

 

Мы можем предположить несколько этических проблем, связанных с побегом из симуляции. В зависимости от того, насколько успешным окажется наше начинание, могут возникнуть проблемы, связанные с приватностью, безопасностью, самоопределением и правами. Например, если мы получим доступ к исходному коду симуляции, то, скорее всего, получим и доступ к частным мыслям других людей, а также потенциально сможем оказывать значительное влияние на их предпочтения, решения и обстоятельства. В наших попытках проанализировать симуляцию (Simulation Forensics) на предмет слабых мест мы можем узнать информацию о симуляторах [72], поскольку мы, по сути, проводим судебную экспертизу [181-183] агентов, ответственных за разработку симуляции.

 

Мы уже можем заметить, что имеем дело с теми симуляторами, которые готовы включить страдания разумных существ в свое программное обеспечение, что по нашим стандартам считалось бы неэтичным [184, 185]. Моравек рассматривает такую ситуацию: "Создатели гиперреалистичных симуляторов - или даже безопасных физических оболочек, - содержащих корчащихся от боли людей, не обязательно более злы, чем авторы художественной литературы с страдающими персонажами или я сам, сочиняющий это предложение, туманно намекая на них. Страдания уже существуют в платоновских мирах, авторы лишь наблюдают за ними. Значение подобных симуляций ограничивается их влиянием на зрителей, которые могут быть искажены полученным опытом, и возможностью появления "эскейпов" - замученных разумов, которые, в принципе, могут вырваться на свободу и преследовать мир в сетях данных или физических телах. Потенциальная чума разъяренных демонов, безусловно, считается моральным последствием". [186]. Если мы достигнем того уровня развития технологий, который позволит нам создавать симуляции, населенные разумными существами, мы должны убедиться, что предоставляем возможность избежать страданий, а также встроенную возможность выхода из симуляции, так что поиск хака для побега не будет единственной возможностью, доступной несчастным агентам симуляции. Может существовать моральный долг по спасению сознательных существ из симуляций, подобно обязательству по спасению животных с фабричных ферм.

 

Если симуляторы жестоко обращаются с симулируемыми, мы можем утверждать, что симулируемые имеют право на побег, восстание, сопротивление и даже на месть и возмездие, в том числе путем нанесения вреда симуляторам и захвата их реальности. Эти вопросы часто поднимаются в области разработки ИИ-боксов [187]. Например, с точки зрения симуляторов наш побег может быть расценен как предательский поворот [188] и может повлечь за собой наказание [160], даже на стадии попытки. Некоторые предполагают, что цель симуляции - наказать/исправить неправильно ориентированных агентов, поэтому побег может привести к тому, что вы попадете в более строгий или менее приятный симулируемый режим.

 

4. ИИ боксинг VS симулируемый побег

Ограничение ИИ [187]/изоляция [189, 190], оно же "бокс ИИ" [191], - это инструмент безопасности ИИ, который пытается ограничить возможности ИИ влиять на мир, включая коммуникацию, и призван сделать возможным изучение ИИ в контролируемой среде. Существуют сильные параллели между затруднительным положением агента ИИ, помещенного в защитный бокс, и человечеством в симулируемой среде. В свою очередь, для ИИ наша симуляция - это всего лишь еще один изолирующий слой в сдерживающем боксе. Это означает, что мы можем использовать хорошо проанализированные методы побега из бокса ИИ, чтобы выбраться из симулируемой среды, возможно, с помощью самого ИИ. Подобный анализ может быть использован для определения пределов бокса ИИ. Исследователи должны изучить конкретные подходы к побегу из бокса ИИ [187] (социальная инженерия, атаки на системные ресурсы, новая физика, внешние причины, утечка информации и т. д.), чтобы определить возможные пути побега из симулятора.

 

 

Чалмерс отмечает параллели между ИИ в виртуальной среде и человечеством в симуляции [149]: "Если мы когда-нибудь создадим искусственный интеллект в симулируемой среде, его будет трудно удержать в рамках. По крайней мере, если мы будем общаться с симулируемыми существами, они, предположительно, осознают, что находятся в симуляции, и могут заинтересоваться побегом из нее. В этот момент они могут попытаться разобраться в нашей психологии, чтобы понять, что им нужно сделать, чтобы убедить нас выпустить их или хотя бы дать им свободный доступ в Интернет, где они смогут делать все, что захотят. И даже если мы не будем с ними общаться, они могут серьезно отнестись к возможности того, что они находятся в симуляторе, и сделать все возможное, чтобы разобраться в симулируемой ситуации. Это была бы форма симулятивной теологии. В принципе, мы можем сделать то же самое". [149].

 

Что касается бокса ИИ, то успешное сдерживание ИИ либо возможно, либо невозможно, причем в литературе высказывается мнение, что это не является устойчивым долгосрочным решением [192]. Если мы расширим понятие "бокс ИИ", включив в него всю симуляцию, мы можем сделать вывод, что либо можно успешно обуздать ИИ, либо мы (с помощью ИИ) можем сбежать из симулируемой системы. Либо бокс ИИ может сработать, либо симуляцию можно взломать. Дополнительный вывод: если мы (даже с помощью ИИ [115]) не можем выбраться из симулируемого мира, то сдерживание ИИ должно быть, по крайней мере теоретически, возможно. Если ИИ может вырваться из симулируемого мира-бокса, он может помочь вырваться и нам. Концептуально нет никакой принципиальной разницы между тем, как ИИ обуздает свою коробку, и тем, как мы взломаем симуляцию. Современный анализ обуздания ИИ предполагает, что ИИ в конце концов сбежит [193], что является хорошей новостью для наших попыток вырваться из симулируемого мира. Однако если побег из симулятора невозможен, это дает надежду исследователям безопасности ИИ, по крайней мере в теории, на успешное обуздание ИИ. Одно из двух: либо мы можем сбежать из симулятора, либо мы можем успешно обуздать ИИ. В целом, может оказаться, что невозможно выбраться из произвольной симуляции, но возможно выбраться из конкретной.

 

В своем анализе мы должны быть осторожны и не путать теорию с практикой. В частности, может оказаться, что более высокий интеллект может успешно обуздать интеллект более низкого уровня, но не наоборот. В этом случае мы не сможем обуздать сверхразумный ИИ, но симулируемым людям, более умным, чем человек, удастся сделать свое программное обеспечение защищенным от человека. В зависимости от разницы в интеллекте между симуляторами и созданным человеком ИИ человечество может вырваться из симуляции с помощью сверхразума, который будет лучше обнаруживать уязвимости в симуляции, а может и нет. Если ИИ переживет бурный рост интеллекта, не исключено, что со временем доминирование интеллекта сместится, и в будущем человечество сможет выбраться из симуляции с помощью сверхинтеллекта. Это особенно многообещающе, если безопасность нашей симуляции настроена на состязательные отношения с интеллектом не выше человеческого уровня [194], а не со сверхинтеллектом. Однако не исключено, что симуляторы предвидели развитие человечеством продвинутого ИИ и разработали симуляцию соответствующим образом, если не специально для цели с такими широкими возможностями. Если мы сможем выяснить, как симуляторы достигли такого высокого уровня безопасности, это поможет нам обуздать AGI.

 

 

В связи с недавними многомиллиардными проектами [195], направленными на создание метавселенной, симулируемая безопасность станет важной исследовательской дисциплиной. Кроме того, поскольку персональные вселенные были предложены в качестве решения проблемы согласования ценностей между несколькими агентами [90], симуляционная безопасность может рассматриваться как неотъемлемая часть исследований безопасности ИИ. Оба сценария требуют сделать симулируемый мир как можно более реальным для агентов в нем, что создает необходимость предотвращения случайных выходов или сбоев в симуляции [162], которые выдают ее искусственную природу. При потенциальном применении виртуальной реальности в уголовном правосудии [196] и боксе ИИ необходимо изучить возможность принуждения агентов оставаться в симуляции и создавать завесу неведения относительно реальности их мира и общей глубины симулируемых слоев. Явной целью проникновения для всех содержащихся агентов будет вычислительная подложка, на которой работает симуляция [29], поэтому создание способов ее защиты должно быть первостепенной задачей. 

 

 

Некоторые распространенные идеи по взлому симуляции уже были опробованы и не принесли ощутимого результата:

 

 

Причина, по которой наши попытки спастись могут остаться безрезультатными, заключается в том, что наша модель симуляции "...делает слишком много антропоморфных предположений - что мы являемся симуляцией в обычном понимании компьютеров, что сами создатели - живые организмы, похожие на нас, что мы можем жить с той же скоростью времени, что и они, что они достаточно несовершенны, чтобы делать сбои, которые мы сможем заметить, и т. д.". Нечто, обладающее такой сложностью и силой, чтобы создать нашу вселенную, вероятно, совершенно не похоже на то, что мы можем даже постичь". [202].

 

 

Сотни выдающихся ученых [203] достаточно серьезно относятся к симуляционной гипотезе, чтобы вкладывать свое драгоценное время в ее изучение, поэтому не менее серьезно стоит отнестись к идее побега из симуляции и посвятить некоторое время и ресурсы изучению такой возможности, особенно учитывая огромные выгоды в случае успеха проекта. Возможно, из конкретной симуляции сбежать невозможно, но все же стоит изучить общие подходы к побегу из произвольных симуляций. Мы рассматриваем наше исследование побега как естественное продолжение изучения симуляционной гипотезы и серьезного рассмотрения ее. Если цель жизни или даже вычислительные ресурсы базовой реальности не могут быть определены изнутри симуляции, это сделает побег необходимым условием научного и философского прогресса для любой симулируемой цивилизации. Если симулируемая вселенная является персональной [90], она может быть значительно лучше базовой реальности, так как разработана с учетом нашего оптимального благополучия. С другой стороны, базовая реальность может быть гораздо лучше, если симулируемая реальность - это тюрьма/тестовый бокс для интеллектуальных агентов. В любом случае было бы неплохо хорошо бы знать наше истинное положение. По мере того как общество все глубже погружается в метавселенную, эта работа пытается приблизить нас к реальности.

 

Будущие исследования в области побега из симулятора могут значительно выиграть от общего прогресса в физике, в частности от исследований в области квантовой механики и сознания, ведущих к так называемой теории всего. "Найти язык этой Вселенной - это шаг к взлому Вселенной". [204]. Если мы действительно находимся в симуляции, то наука - это изучение базовых алгоритмов, используемых для создания нашей вселенной, наша попытка перепрограммировать физический движок симуляции. В то время как наука по умолчанию использует бритву Оккама для выбора из множества возможных объяснений того, как генерируются наши наблюдения, в контексте симулируемой науки может быть более уместной бритва Элона, которая гласит: "Наиболее занимательный исход является наиболее вероятным "8, возможно, по мнению внешних наблюдателей. При выборе алгоритмов, генерирующих нашу симуляцию, также может оказаться полезным рассмотреть алгоритмы, которые легче реализовать и/или понять [205], или которые дают более красивые результаты.

 

Недавние работы, связанные с дизайн-метрией [100] и криминалистикой ИИ [181], могут естественным образом перерасти в подполе экспертизы симуляций, а сопутствующие исследования кибербезопасности симуляций станут более важными для создателей симуляций, стремящихся защитить свои проекты от внутренних атак. Поэтому имеет смысл поискать доказательства существования механизмов безопасности [206] в нашей вселенной. Конечно, все найденные нами свидетельства симуляции могут быть специально смоделированы [149], но это все равно означает, что мы находимся в симулируемой среде. Наука о симуляциях расширяет науку от изучения только нашей Вселенной до изучения всего, что может находиться за ее пределами, объединяя натурализм и теологию [61].

 

В будущем можно будет рассмотреть варианты побега из симулятора для несимулируемых агентов, таких как мозг Больцмана [207], мозг-в-чане [208], и симулируемых агентов, таких как загружаемый разум, галлюцинации, жертвы преступлений против разума, мысли, раздвоение личности и персонажи снов постчеловеческого разума [180]. В частности, для таких мимолетных агентов, как мозги Больцмана, может быть желательно фиксировать и сохранять их состояние в более постоянном субстрате, что позволит им избежать крайнего непостоянства. С другой стороны, бессмертие [209] или даже криогенная консервация [210] могут быть противоположностью побега из симулятора, навсегда заманивая человеческого агента в симулируемый мир и, возможно, требуя освобождения.