Главное, что меня потрясло: хоть сама история - фантазия, лежащие в её основе идеи и умозаключения оказываются логически неизбежными, если принять ряд некоторых общепринятых допущений философского плана. Уже позже я узнал, что у этих идей есть название: гипотеза математической вселенной Тегмарка.
Итак, если вам небезразличны вопросы того, что такое реальность - начнём. В романе эти идеи и мысленные эксперименты перемешаны с сюжетом, я же попытаюсь их отделить от всего лишнего, чтобы продемонстрировать что это не просто фантазии, а логически безупречные построения.
Чтобы не возникало споров, нам для начала нужно договориться о паре базовых постулатов, на которых мы будем строить выводы.
О том, существуют ли числа
Итак, начнём издалека. Для начала, ответьте на такой вопрос: существуют ли натуральные числа? Ну или, для начала, существует ли число 1?
Интуитивно понятно, что число оно, конечно, существует, но несколько иначе, чем кружка с чаем на моём столе. Человек, вскользь знакомый с философией может сказать, что согласно Платону, кружка существует как объект мира вещей, а число 1 - как объект нематериального и неизменного "мира идей". На мой взгляд - неплохое объяснение.
Давайте продолжим. Положим, число 1 существует. Существуют ли числа 2, 3? Существуют ли все целые числа вообще? В частности, существует ли какое-то большое число до того как его вычислили?
Например, существует ли 1000! = 1*2*3*...*1000 - это должно быть очень большое число, в записи которого будет 2568 знаков. Нужно ли его "посчитать", чтобы сказать, что оно существует?
Общепринятый ответ на эти вопросы: все числа существуют, существовали всегда и всегда будут существовать. Мир идей, по Платону - неизменен, вычисляя что-то, мы не "создаём" новое число, а просто находим уже существующие.
Звучит логично, не так ли? Решив математическую задачу и получив ответ, вряд ли вы задумывались - "а существует ли это число?" (нужно отметить, что есть и иные взгляды на это, но они не особенно популярны)
Возьмём немного более конкретный пример.
Построим бесконечную числовую последовательность следующим образом: первое число равно 1, а каждое последующее получается, если удвоить предыдущее, и записать цифры в обратном порядке (я взял это правило "с потолка"). Эта последовательность начнется так:
1, 2, 4, 8, 61, 221, 244, 884, 8671, ...
Вооружившись бумагой и ручкой, несложно посчитать несколько десятков первых чисел в этой последовательности, а простая программа на Питоне может посчитать их столько, насколько хватит памяти компьютера.
Существует ли вся эта последовательность целиком? Общепринятый ответ - да, конечно. Если нам станет интересно, какое число стоит на 1000-м месте в этой последовательности, мы можем его вычислить, но это число и вся последовательность существовали и до того, существовала всегда.
Дополнительный аргумент так считать: два совершенно незнакомых человека, используя разные методы вычислений всё равно получат одно и то же число (если не ошибутся, конечно).
На мой взгляд - всё это звучит логично и довольно самоочевидно.
О вычислимости сознания
Второй постулат, который мне понадобится, гласит: сознание вычислимо.
Говоря проще - компьютер (программа) может обладать сознанием не хуже человеческого. Причём мне на самом деле неважно, чтобы это был практический компьютер, так что в его мощности мы никак не ограничены.
В романе Грега Игана часть действующих лиц - "Копии": загруженные в компьютер несовершенные симуляции реальных человеческих мозгов и тел. Копии удобны для истории тем, что их мышление человеческое, но мне на самом деле это неважно. Можно заменить копии полностью искусственным интеллектом - суть выводов не изменится.
Ответ на вопрос о том, вычислимо ли сознание - совсем не очевиден. Но я всё-же придерживаюсь мнения о том, что это так. Да, небольшого общения с современными ИИ достаточно, чтобы понять, что настоящего сознания у них нет (справедливости ради, они и не создавались для этой цели). Тем не менее, мы уверены, что наше, человеческое сознание - результат сложных процессов, происходящих в нашем мозгу и теле согласно законам физики, и не должно быть никакой причины, по которой другие, не менее сложные процессы в компьютере не могут обладать им.
Для честности тут стоит озвучить и противоположное мнение о том, что сознание принципиально невычислимо. Есть чисто эзотерические идеи, когда предполагают, что сознание, или душа, если хотите - не функция тела, а некая нетелесная сущность, для которой наше тело что-то вроде приёмника, но они явно выходят за рамки науки. Самый популярный критик с позиций науки, пожалуй, Роджер Пенроуз, написавший на эту тему книгу "Новый ум короля". У меня и так получается стена текста, так что спорить со всей книгой я не буду...
Любимое направление критики Пенроуза - идея о том, что сознание является принципиально квантовым феноменом. А значит, если оно и может симулироваться компьютером, то не простым (классическим), а только квантовым, а значит любой практический ИИ в классическом компьютере никогда не будет обладать настоящим сознанием. Нужно признать: идея любопытна, хотя и существует большое количество доводов против нее (в основном основанных на том, что мозг - слишком горячее и набитое материей место, чтобы в нём проявлялись макроскопические квантовые эффекты). Я, однако, не буду с ним спорить по одной простой причине: хорошо известно, что всё, что может вычислить квантовый компьютер - может вычислить и классический.
Просто классическому может потребоваться больше, намнооого больше времени. Для моих построений не столь важно, чтобы обладающий сознанием компьютер можно было бы построить в реальности, достаточно теоретической возможности.
Итак, давайте подведём итог: нет причин сомневаться, что может существовать компьютер (программа, если точнее), обладающий настоящим сознанием, ничем не уступающим человеческому. Ну серьёзно, в 2024 году сильный ИИ буквально дышит нам в затылок, странно было бы думать иначе.
Куда нас это ведёт
А теперь, наконец, договорившись об основах - к идеям книги.
Представим себе, для удобства, "копию" (как они названы в книге) - компьютерную симуляцию реального человека. Можно было бы представить и чистый ИИ, но мышлению копии проще сопереживать. Казалось бы, здесь сложно найти парадокс. Идея загрузки сознания кочует в фантастике из книги в книгу уже не первое десятилетние, так что ей сложно кого-то удивить.
В конце концов, копия - это просто человек, волей судеб живущий не в настоящем теле, а в симулируемом теле внутри компьютера. Пока компьютер работает и производит вычисления - копия живет в своем симулированном мире, и может взаимодействовать с нами, если передать ей видеопоток с камеры. А можно сделать ей роботизированное тело, и тогда можно будет общаться с ней совсем как с обычным человеком. Если компьютер останавливается - время для копии тоже становится на паузу. Почти как человек, потерявший сознание, только для не это будет незаметнее и безопаснее. Только внезапно скакнувшие стрелки часов на стриме с реальной камеры выдадут временную остановку симуляции.
Давайте теперь сделаем немного жестокий эксперимент: подключим копию к локальному, виртуальному миру (синглплеер-игре), и полностью отключим её от всех внешних потоков данных. Теперь мы можем наблюдать её жизнь на мониторе симулятора, а она наше существование больше никак не сможет заметить. Мы можем поставить симуляцию на паузу на несколько лет, потом продолжить, и копия в своём виртуальном мире не заметит это никак. Мы можем даже потерять файл с симуляцией, потом восстановить его из бэкапа и наблюдать, как копия в точности повторяет всё то, что делала ранее. Без внешних источников случайности, всё её существование полностью предопределено.
Чувствуете, куда я клоню? С точки зрения математики, состояние компьютера, всех его бит памяти - это просто одно очень большое целое число. А сам компьютер это реализованная в железе функция, которая из текущего состояния вычисляет следующее.
Наверное, было бы жестоко оставлять нашего друга-копию в изолированной симуляции надолго. Через несколько минут или часов мы вернём ему контакт с реальным миром, и он снова будет общаться с нами и вздыхать о цене электроэнергии.
А что, если мы не будем возвращать ему связь?
Ну, прокрутив симуляцию дальше, мы, наверное, увидим, что через день он будет жаловаться в пустоту на то, что шутка зашла слишком далеко и просить нас вернуть связь.
Через неделю - периодически впадать в панику и стучать кулаками по виртуальным стенам, требуя вернуть его или хотя бы прекратить симуляцию.
Через год - смирится со свой странной судьбой.
Через десять лет... сто лет... тысячу лет... В зависимости от точности своей симуляции - либо попытается убить себя, либо сойдёт с ума, либо... Сложно сказать.
Мы, конечно, не будем так долго крутить его симуляцию без связи с миром, это жестоко.
Но есть ли разница?
Отключенная от реального мира симуляция - это чисто математическая конструкция, числовая последовательность. Начальное состояние и правило перехода, задающие всю бесконечную будущую историю развития симуляции.
Это объект уже не не мира вещей, а мира идей.
Её запуск на реальном компьютере - не более чем инструмент для нас, чтобы заглянуть дальше в её будущее, но как объект идеального мира, она существует во всей своей бесконечности независимо от наших компьютеров.
Единственное принципиальное отличие замкнутой симуляции от примера с функцией "удвоить и развернуть" - в том, что симуляция достаточно сложна, чтобы осознавать себя изнутри. У неё есть наблюдатель, сам являющийся частью симуляции. Для этого внутреннего наблюдателя симуляция и есть реальный мир, мир вещей, а прежняя реальность - что-то воображаемое, что не влияет на его реальность.
Ну и финальный аккорд - создание конкретной замкнутой симуляции на реальном компьютере и вовсе не нужно чтобы возникла эта странная отдельная реальность. Числовая последовательность 1,2,4,8,61,... существовала и до того, как я её описал, просто вы не задумывались о ней.
Это и приводит нас к гипотезе математической вселенной Тегмарка: любая математическая структура, достаточно сложная, чтобы в ней возникло сознание - является реальностью, миром вещей для этого сознания, и наша реальность ничем не отличается.
Если вас эта мысль не потрясает, то я не знаю, что ещё может вас потрясти.
Отличный комментарий!