текст программы/8

Давно хотел написать где-нибудь пост о совершенно потрясших меня идеях из фантастического романа Грега Игана "Город Перестановок" (Permutation City) Мой пост будет содержать некоторые спойлеры (не сюжета, но идей), поэтому если вы поклонник Грега Игана как я, то, возможно, интереснее будет сначала прочесть сам роман.

Главное, что меня потрясло: хоть сама история - фантазия, лежащие в её основе идеи и умозаключения оказываются логически неизбежными, если принять ряд некоторых общепринятых допущений философского плана. Уже позже я узнал, что у этих идей есть название: гипотеза математической вселенной Тегмарка.

Итак, если вам небезразличны вопросы того, что такое реальность - начнём. В романе эти идеи и мысленные эксперименты перемешаны с сюжетом, я же попытаюсь их отделить от всего лишнего, чтобы продемонстрировать что это не просто фантазии, а логически безупречные построения.

Чтобы не возникало споров, нам для начала нужно договориться о паре базовых постулатов, на которых мы будем строить выводы.

О том, существуют ли числа

Итак, начнём издалека. Для начала, ответьте на такой вопрос: существуют ли натуральные числа? Ну или, для начала, существует ли число 1?

Интуитивно понятно, что число оно, конечно, существует, но несколько иначе, чем кружка с чаем на моём столе. Человек, вскользь знакомый с философией может сказать, что согласно Платону, кружка существует как объект мира вещей, а число 1 - как объект нематериального и неизменного "мира идей". На мой взгляд - неплохое объяснение.

Давайте продолжим. Положим, число 1 существует. Существуют ли числа 2, 3? Существуют ли все целые числа вообще? В частности, существует ли какое-то большое число до того как его вычислили?

Например, существует ли 1000! = 1*2*3*...*1000 - это должно быть очень большое число, в записи которого будет 2568 знаков. Нужно ли его "посчитать", чтобы сказать, что оно существует?

Общепринятый ответ на эти вопросы: все числа существуют, существовали всегда и всегда будут существовать. Мир идей, по Платону - неизменен, вычисляя что-то, мы не "создаём" новое число, а просто находим уже существующие.

Звучит логично, не так ли? Решив математическую задачу и получив ответ, вряд ли вы задумывались - "а существует ли это число?" (нужно отметить, что есть и иные взгляды на это, но они не особенно популярны)

Возьмём немного более конкретный пример.

Построим бесконечную числовую последовательность следующим образом: первое число равно 1, а каждое последующее получается, если удвоить предыдущее, и записать цифры в обратном порядке (я взял это правило "с потолка"). Эта последовательность начнется так:

1, 2, 4, 8, 61, 221, 244, 884, 8671, ...

Вооружившись бумагой и ручкой, несложно посчитать несколько десятков первых чисел в этой последовательности, а простая программа на Питоне может посчитать их столько, насколько хватит памяти компьютера.

Существует ли вся эта последовательность целиком? Общепринятый ответ - да, конечно. Если нам станет интересно, какое число стоит на 1000-м месте в этой последовательности, мы можем его вычислить, но это число и вся последовательность существовали и до того, существовала всегда.

Дополнительный аргумент так считать: два совершенно незнакомых человека, используя разные методы вычислений всё равно получат одно и то же число (если не ошибутся, конечно).

На мой взгляд - всё это звучит логично и довольно самоочевидно.

О вычислимости сознания

Второй постулат, который мне понадобится, гласит: сознание вычислимо.

Говоря проще - компьютер (программа) может обладать сознанием не хуже человеческого. Причём мне на самом деле неважно, чтобы это был практический компьютер, так что в его мощности мы никак не ограничены.

В романе Грега Игана часть действующих лиц - "Копии": загруженные в компьютер несовершенные симуляции реальных человеческих мозгов и тел. Копии удобны для истории тем, что их мышление человеческое, но мне на самом деле это неважно. Можно заменить копии полностью искусственным интеллектом - суть выводов не изменится.

Ответ на вопрос о том, вычислимо ли сознание - совсем не очевиден. Но я всё-же придерживаюсь мнения о том, что это так. Да, небольшого общения с современными ИИ достаточно, чтобы понять, что настоящего сознания у них нет (справедливости ради, они и не создавались для этой цели). Тем не менее, мы уверены, что наше, человеческое сознание - результат сложных процессов, происходящих в нашем мозгу и теле согласно законам физики, и не должно быть никакой причины, по которой другие, не менее сложные процессы в компьютере не могут обладать им.

Для честности тут стоит озвучить и противоположное мнение о том, что сознание принципиально невычислимо. Есть чисто эзотерические идеи, когда предполагают, что сознание, или душа, если хотите - не функция тела, а некая нетелесная сущность, для которой наше тело что-то вроде приёмника, но они явно выходят за рамки науки. Самый популярный критик с позиций науки, пожалуй, Роджер Пенроуз, написавший на эту тему книгу "Новый ум короля". У меня и так получается стена текста, так что спорить со всей книгой я не буду...

Любимое направление критики Пенроуза - идея о том, что сознание является принципиально квантовым феноменом. А значит, если оно и может симулироваться компьютером, то не простым (классическим), а только квантовым, а значит любой практический ИИ в классическом компьютере никогда не будет обладать настоящим сознанием.

Нужно признать: идея любопытна, хотя и существует большое количество доводов против нее (в основном основанных на том, что мозг - слишком горячее и набитое материей место, чтобы в нём проявлялись макроскопические квантовые эффекты). Я, однако, не буду с ним спорить по одной простой причине: хорошо известно, что всё, что может вычислить квантовый компьютер - может вычислить и классический.

Просто классическому может потребоваться больше, намнооого больше времени. Для моих построений не столь важно, чтобы обладающий сознанием компьютер можно было бы построить в реальности, достаточно теоретической возможности.

Итак, давайте подведём итог: нет причин сомневаться, что может существовать компьютер (программа, если точнее), обладающий настоящим сознанием, ничем не уступающим человеческому. Ну серьёзно, в 2024 году сильный ИИ буквально дышит нам в затылок, странно было бы думать иначе.

Куда нас это ведёт

А теперь, наконец, договорившись об основах - к идеям книги.

Представим себе, для удобства, "копию" (как они названы в книге) - компьютерную симуляцию реального человека. Можно было бы представить и чистый ИИ, но мышлению копии проще сопереживать. Казалось бы, здесь сложно найти парадокс. Идея загрузки сознания кочует в фантастике из книги в книгу уже не первое десятилетние, так что ей сложно кого-то удивить.

В конце концов, копия - это просто человек, волей судеб живущий не в настоящем теле, а в симулируемом теле внутри компьютера. Пока компьютер работает и производит вычисления - копия живет в своем симулированном мире, и может взаимодействовать с нами, если передать ей видеопоток с камеры. А можно сделать ей роботизированное тело, и тогда можно будет общаться с ней совсем как с обычным человеком. Если компьютер останавливается - время для копии тоже становится на паузу. Почти как человек, потерявший сознание, только для не это будет незаметнее и безопаснее. Только внезапно скакнувшие стрелки часов на стриме с реальной камеры выдадут временную остановку симуляции.

Давайте теперь сделаем немного жестокий эксперимент: подключим копию к локальному, виртуальному миру (синглплеер-игре), и полностью отключим её от всех внешних потоков данных. Теперь мы можем наблюдать её жизнь на мониторе симулятора, а она наше существование больше никак не сможет заметить. Мы можем поставить симуляцию на паузу на несколько лет, потом продолжить, и копия в своём виртуальном мире не заметит это никак. Мы можем даже потерять файл с симуляцией, потом восстановить его из бэкапа и наблюдать, как копия в точности повторяет всё то, что делала ранее. Без внешних источников случайности, всё её существование полностью предопределено.

Чувствуете, куда я клоню? С точки зрения математики, состояние компьютера, всех его бит памяти - это просто одно очень большое целое число. А сам компьютер это реализованная в железе функция, которая из текущего состояния вычисляет следующее.

Наверное, было бы жестоко оставлять нашего друга-копию в изолированной симуляции надолго. Через несколько минут или часов мы вернём ему контакт с реальным миром, и он снова будет общаться с нами и вздыхать о цене электроэнергии.

А что, если мы не будем возвращать ему связь?

Ну, прокрутив симуляцию дальше, мы, наверное, увидим, что через день он будет жаловаться в пустоту на то, что шутка зашла слишком далеко и просить нас вернуть связь.

Через неделю - периодически впадать в панику и стучать кулаками по виртуальным стенам, требуя вернуть его или хотя бы прекратить симуляцию.

Через год - смирится со свой странной судьбой.

Через десять лет... сто лет... тысячу лет... В зависимости от точности своей симуляции - либо попытается убить себя, либо сойдёт с ума, либо... Сложно сказать.

Мы, конечно, не будем так долго крутить его симуляцию без связи с миром, это жестоко.

Но есть ли разница?

Отключенная от реального мира симуляция - это чисто математическая конструкция, числовая последовательность. Начальное состояние и правило перехода, задающие всю бесконечную будущую историю развития симуляции.

Это объект уже не не мира вещей, а мира идей.

Её запуск на реальном компьютере - не более чем инструмент для нас, чтобы заглянуть дальше в её будущее, но как объект идеального мира, она существует во всей своей бесконечности независимо от наших компьютеров.

Единственное принципиальное отличие замкнутой симуляции от примера с функцией "удвоить и развернуть" - в том, что симуляция достаточно сложна, чтобы осознавать себя изнутри. У неё есть наблюдатель, сам являющийся частью симуляции. Для этого внутреннего наблюдателя симуляция и есть реальный мир, мир вещей, а прежняя реальность - что-то воображаемое, что не влияет на его реальность.

Ну и финальный аккорд - создание конкретной замкнутой симуляции на реальном компьютере и вовсе не нужно чтобы возникла эта странная отдельная реальность. Числовая последовательность 1,2,4,8,61,... существовала и до того, как я её описал, просто вы не задумывались о ней.

Это и приводит нас к гипотезе математической вселенной Тегмарка: любая математическая структура, достаточно сложная, чтобы в ней возникло сознание - является реальностью, миром вещей для этого сознания, и наша реальность ничем не отличается.

Если вас эта мысль не потрясает, то я не знаю, что ещё может вас потрясти.

Про сон и восстановление.