Опубликовано в журнале Урал, номер 2, 2017
6
сентября 2016 года Bank of America Merrill Lynch разослал своим клиентам отчет1,
в котором оценивались перспективы развития рынка приложений, занятых созданием
виртуальной реальности. Эта записка содержала ставшие уже привычными цифры о
взрывном развитии этого сегмента рынка. Банк прогнозировал стремительный рост
объема инвестиций, числа приложений, создание многочисленных стартапов и т.д. В
частности, в отчете указывалось, что объем этого рынка достигнет к 2020 году
150 миллиардов долларов. 50 миллионов человек не реже чем раз в месяц играют в
Pokemon Go — первую популярную игру с «дополненной реальностью»2. 2015 год
назван экспертами банка годом начала массового использования AI (Artificial
Intelligence — Искусственного интеллекта), поскольку, по их мнению, именно в
этом году был достигнут решающий прорыв в визуальном распознавании (возможно,
такое сильное впечатление на экспертов произвело умение Facebook узнавать
человека, изображенного на картинке, возможно, до финансистов дошло известие,
что создана нейронная сеть, которая может найти на картинке кошку3).
Но
все эти цифры и вполне реальные прогнозы померкли по сравнению с одним из
пунктов в этом отчете: «Вероятность того, что мы уже живем в виртуальном мире,
составляет 20–50%». Этот пункт сделал вполне рядовой документ первополосной
новостью. Вот эти «20–50%» обошли все издания мира.
Финансисты
люди серьезные, они слов не ветер не бросают (как правило). С чего это вдруг их
потянуло в такое философское болото, как обсуждение вероятности того, что мы
живем в компьютерной модели (в Матрице)?
Эксперты
Merrill Lynch сослались на три мнения, высказанные весной-летом 2016 года:
предпринимателя Илона Маска (Elon Musk, CEO компаний Tesla и SpaceX),
астрофизика Нейла де Грассе Тайсона (Neil deGrasse Tyson) и философа,
профессора Оксфордского университета Ника Бострома (Nick Bostrom). Впрочем,
работа Бострома, на которую указали эксперты банка, опубликована довольно давно
— в 2003 году. Она так и называется: «Are you living in a computer simulation?»4
(«Вы живете в компьютерной симуляции?»).
Я
начну обсуждение вопроса о том, живем ли мы «в виртуальном мире» (в
компьютерной симуляции), именно со слов Маска. Именно его мнение стало решающим
для банкиров. Его авторитет в сегодняшнем бизнесе очень высок, он действительно
реализует неожиданные, смелые масштабные проекты и, видимо, поэтому финансисты
сочли, что он и в вопросе о реальности окружающего мира и нас самих — тоже
крутой эксперт.
Маск
сказал: «Сильнейшим аргументом того, что мы, вероятно, находимся внутри
симуляции, будет следующий: 40 лет назад у нас был Pong5 — два прямоугольника и
точка… Сейчас, 40 лет спустя, мы имеем фотореалистичные 3D-симуляции, в
которые играют одновременно миллионы людей, и эти игры год от года становятся
все совершеннее… Если мы предположим, что такое совершенствование игр
продолжится, то очень скоро они станут неотличимы от реальности. Даже если на
это потребуется 1000 лет. Представьте себе, что будет через 10 тысяч лет, а
ведь это почти ничего в масштабе эволюции. Таким образом, мы ясно видим
траекторию развития, которая приведет к тому, что игры уже нельзя будет
отличить от реальности, и такие игры можно будет запускать на миллиардах
компьютеров. Тогда каков же шанс, что мы с вами находимся в базовой реальности?
Одна миллиардная. Скажите мне, где я ошибаюсь?».
А
потом Маск добавил, почему он считает, что если мы все-таки находимся в
«базовой реальности» — для нас это плохая новость: «Мы должны надеяться, что
это правда (то есть., то что мы внутри симуляции. — В.Г.), потому что иначе это
будет означать, что цивилизация остановится в своем развитии, что она исчезнет
в результате какого-то губительного события»6.
В
апреле 2016 года в Американском музее естественной истории (American Museum of
Natural History’s) состоялись дебаты, посвященные памяти Айзека Азимова (2016
Isaac Asimov Memorial Debate). Тема дебатов была та же: «Is the Universe a
Simulation?» («Универсум есть симуляция?»). В этих дебатах приняли участие философ
Дэвид Чалмерс (David Chalmers, профессор философии New York University), физик-теоретик
Лайза Рэнделл (Lisa Randall), астрофизик Нейл Тайсон и другие ученые7.
Участники
конференции отметили следующий момент: чтобы получить подтверждение того, что
универсум — это симуляция, нам необходимо убедиться, что законы физики,
управляющие вселенной, воспроизводимы. Если это так, то мир вполне может быть моделью.
Хотя это и не доказательство. Если мы научимся вселенные создавать, это еще не
доказывает, что наша вселенная тоже создана развитой цивилизацией. Все равно
остается шанс, что мы находимся в «базовой реальности» (напомню, что по Маску
такой шанс — одна миллиардная).
Участники
обсуждения по-разному оценили вероятность того, что мы внутри симуляции, но они
согласились с тем, что доказать или опровергнуть этот тезис — мы не сможем.
Лайза Рэнделл отметила, что шансы получить такое доказательство близки к нулю.
Тайсон,
в свою очередь, сказал, что с его точки зрения вероятность того, что мы
находимся внутри компьютерной модели «очень высокая».
Дэвид
Чалмерс сформулировал свой ответ так: «Мы не можем получить убедительное
доказательство того, что универсум есть “реальность”, а не симуляция, потому
что любое такое доказательство может быть просто частью симуляции»8.
Это
напоминает «доказательство» того, что мир был сотворен за шесть дней: поскольку
Бог всемогущ, он вполне мог создать за шесть дней не только сам универсум, но и
законы эволюции и все подтверждающие ее аргументы. Например, закопать в нужных
местах останки динозавров и прочую палеонтологическую эмпирику. И на это
невозможно аргументированно возразить.
По
результатам этих обсуждений мы можем сделать два заключения.
Первое
принадлежит Илону Маску: он уверен, что мы персонажи компьютерной игры. А если
мы живем в «базовой реальности» то, скорее всего, человечество никогда не
научится создавать новые достаточно сложные цифровые вселенные — для этого есть
принципиальные ограничения, с которыми мы непременно столкнемся, и такое
столкновение станет для человечества концом его существования.
Второе
— физикам и философам: они уверены, что мы в данном вопросе никогда не узнаем
истину и никогда не сможем аргументированно утверждать ни то, что мы персонажи
компьютерной игры, ни то, что мы живем в «базовой реальности», которая от любой
симуляции принципиально отличается.
Статья
Ника Бострома «Вы живете в компьютерной симуляции?» (первая версия — 2001 год)
была непосредственной реакцией на выход фильма братьев Вачовски «Матрица»
(1999).
Философ
ответил на свой вопрос утвердительно: да, с очень высокой долей вероятности, мы
живем в компьютерной симуляции (будем для удобства называть ее Матрицей) и
являемся персонажами компьютерной игры. Правда, с его точки зрения, ситуация
отличается от той, которую нарисовали Вачовски. С точки зрения философа,
никакой другой — нецифровой — реальности нет: хочешь глотай красную таблетку,
хочешь синюю — ничего не изменится, потому что выходить из нашей Матрицы
некуда. Человек — персонаж игры.
Бостром
полагает, что у человечества есть три альтернативы будущего:
человечество
погибнет, не достигнув «постчеловеческой» стадии развития, то есть такого
уровня, когда оно сможет Матрицы создавать (именно об этом говорил в своем
интервью Маск как о «плохой новости»);
человечество
достигнет постчеловеческого уровня, но создавать такие симуляции не станет
(Бостром рассматривает эту альтернативу как возможную, но маловероятную);
мы
уже живем в симуляции, которую создала «постчеловеческая» цивилизация, во всем
подобная нашей, но достигшая несравнимо большей вычислительной мощности.
Почему
человечество, если оно не погибнет в результате какой-то катастрофы, сможет
достигнуть постчеловеческого уровня? Бостром исходит из двух основных гипотез:
симуляция
сознания возможна;
необходимая
для этого вычислительная мощность может быть достигнута за конечное время.
Бостром
пишет: «Общее положение в философии сознания (mind) заключается в том, что
сознание не зависит от субстрата. Ментальное состояние может быть супервентно
на любом широком классе физических субстратов. При условии, что система
реализует правильный порядок вычислительных структур и процессов, которые
ассоциированы с опытом сознания. Для сознания не является существенным тот
факт, что оно основано на биологических нейронных сетях, заключенных в черепной
коробке, — кремниевые процессоры в компьютере могут сделать тоже самое не хуже.
Аргументы в защиту этого тезиса даны в литературе, и хотя он не является
бесспорным, мы здесь возьмем его как данность».
На
самом деле этот аргумент не только «не является бесспорным», но не является и
общепризнанным, поскольку практически снимает как называемую «трудную проблему
сознания» — вопрос о чувствах и эмоциях человека и вопрос о его самосознании.
Сведение свойств субъекта к известным нам вычислительным процессам совсем
неочевидно. Но последуем за философом и согласимся с тем, что на основе
кремниевых процессоров мы может создать полноценный, то есть не только мыслящий
(способный к интеллектуальным операциям, в первую очередь к обучению), но и
чувствующий и самосознающий субъект.
Если
это так, и в принципе можно создать «личность на чипе» — дело за малым: нам
должно хватить компьютерной мощности. Бостром приводит стандартные аргументы о
взрывном росте вычислительной мощности по закону Мура и приходит к выводу, что
в конце концов, может быть, не завтра, но через сто тысяч лет нужная для создания
Матрицы мощность будет достигнута (примерно те же слова говорит в своем
интервью Илон Маск).
Возражать
против того, что вычислительная мощность очень быстро растет — бессмысленно.
Хотя многие аргументы в пользу такого взрывного роста, которые приводит Бостром
в статье пятнадцатилетней давности, сегодня выглядят несколько архаично:
вычислительная мощность растет, но она растет не так, как в начале тысячелетия.
В частности, по-видимому, достигнута максимальная не только на сегодняшний
день, но и вообще возможная частота процессора того типа, который мы сегодня
массово используем — это 3-5 гигагерц (в частности, потому, что мы близко
подошли к «тепловому барьеру» Ландауэра9), практически достигнута предельная
плотность размещения вентилей на кремниевой подложке — 10-нанометровая
технология (дальше уплотнять вентили на чипе нам не даст «туннельный эффект» —
электроны будут «пробивать» диэлектрик, и микросхемы будут «коротить»).
Суммарная мощность компьютеров из списка Top500 — 500 самых мощных компьютеров
мира — в 2010-х годах практически перестала расти. Если посмотреть на график,
то видно выполаживание и очень вероятен выход на плато.
Мы
перестали ускорять процессоры. Мы стали делать упор на распараллеливание
процессов (в частности, увеличивать количество ядер). Правда, мы дали в руки
людям компьютеры10 такой мощности, о которой NASA, отправляя человека на Луну,
не могло даже мечтать, но эта вычислительная мощность сильно распылена.
Рост
вычислительной мощности — очевиден. Но главный аргумент, который приводит
Бостром — это то, чем займется постчеловечество, достигнув такой вычислительной
мощности, которая позволит ему создавать Матрицы. Бостром уверен, что почти
наверняка такое постчеловечество будет способно симулировать историю, то есть
«запускать» на компьютерах точные образы своих предков. И это постчеловечество
таким делом с высокой вероятностью займется.
Этот
аргумент очень напоминает «Философию общего дела» русского философа Николая
Федорова (1829–1903), с его бескомпромиссным требованием «воскрешения отцов».
Правда, Федоров полагал, что воскрешение предков будет физическим, а Бостром
считает, что оно будет чисто информационным. Но Федоров очень ясно формулирует
почему «воскрешение отцов» — это главная (и единственная) цель человечества: он
утверждает, что все человечество — это одна семья, а всякое рождение есть
убийство, потому что «дети» вытесняют «отцов». И потому дети должны отцов
воскресить, всех без исключения. Воскрешенные станут бессмертными: «Мы полагаем
возможным и необходимым достигнуть через всех, конечно, людей познания и
управления всеми молекулами и атомами внешнего мира так, чтобы рассеянное
собрать, разложенное соединить, т.е. сложить в тела отцов, какие они имели при
своей кончине»11.
Для
Бострома симуляция предков — это не «нравственный императив», как у Федорова, а
своего рода увлекательная игра, которой постчеловечество сможет заняться.
(Бостром допускает, что постлюди не будут «запускать» модели своих предков, но
тогда его аргумент «от симуляции» просто нерелевантен.) А если постчеловечество
сможет запускать симуляции, так значит с высокой вероятностью оно уже давно
играет в такие игры (вот здесь современному философу явно не хватает страстной
убедительности Федорова). Мы ведь наблюдаем только одну — нашу — вселенную, а
таких вселенных неограниченно много, и время существования «базовой реальности»
нам просто неизвестно, скорее всего, оно многократно превышает время вселенной,
наблюдаемой человеком.
Бостром
приводит в своей статье «The core of the simulation argument» — такое «ядро симуляционного
аргумента» и формулирует это свое главное доказательство, как он полагает, на
языке теории вероятностей. Но если посмотреть на те формулы, которые приводит
Бостром, необходимо признать, что они либо тавтологичны, то есть все выводы уже
содержатся в сделанных допущениях и гипотезах, и потому ничего нового не
добавляют, либо просто неверны.
В
интервью Бострома (уже 2016 года) говорится: «Бостром утверждает, что любой,
кто попытается просто отмахнуться от его аргументов, может посмотреть его статью,
где вывод делается, строго следуя теории вероятностей. “Было много попыток
опровергнуть мои аргументы, но я не думаю, что какие-то из них были успешными”,
сказал Бистром»12.
Я
думаю, что в этом философ ошибается. Ему все-таки стоило бы повнимательнее посмотреть
на свою «математику».
Здесь
не место разбирать формулы, они простые, но их анализ все-таки требуют
некоторого специального навыка. Но если вы заглянете в статью Бострома и эти
формулы разберете, то увидите, что они не имеют к теории вероятностей никакого
отношения, и это просто такой математический туман.
Но
дело, конечно, не в формулах, не в теории вероятности и даже не в том, почему
постлюди будут непременно «запускать» симуляцию своих предков. Главное в том,
почему вдруг идея Бострома, его аргумент «от симуляции» стал так популярен
среди серьезных деловых людей — финансистов и предпринимателей.
Ситуацию,
когда банкиры и предприниматели рассматривают возможность того, что мы внутри
Матрицы, как вполне реальную (Bank of America Merrill Lynch) или даже
несомненную (Илон Маск), а философы и физики с ними соглашаются, можно назвать
«глобальным вычислительным солипсизмом».
В
«Логико-философском трактате» Людвиг Витгенштейн говорит: «5.6. Границы моего
языка означают границы моего мира»13.
Попробую
интерпретировать пункт 5.6 из «Трактата» с точки зрения, которая нас здесь
интересует: живем ли мы в Матрице, то есть являемся ли мы персонажами
компьютерной симуляции, которую создала некоторая высокоразвитая цивилизация.
Говоря,
что «границы моего языка означают границы моего мира», Витгенштейн говорит о
языке вообще, о любом языке, он не утверждает, что такой язык один или что он
может быть когда-то описан. Говоря, что мы находимся внутри компьютерной
симуляции и подтверждая это быстрым ростом вычислительной мощности (и
аргументом «от симуляции» Бострома), мы утверждаем нечто гораздо более сильное:
мы знаем язык, на котором написан наш мир и на котором мы говорим об этом мире
— это известный скоро уже столетие язык машины Тьюринга, язык, на котором
говорят (уже можно обойтись и без кавычек) компьютеры, процессоры, глобальные
сети, люди, которые пишут программы, и люди, которые эти программы используют.
Последовательно
проведенный тезис, что мы являемся компьютерной симуляцией, говорит о том, что
мы растворены в пространстве вычислений, мы из них сотканы и ничего кроме
вычислений не существует в нашем с вами мире. Вычислениями или программами для
машины Тьюринга (или на другом алгоритмическом языке) мы описываем и окружающий
нас мир, и наше восприятие этого мира, и наше представление об этом мире, и
наше «Я».
Витгенштейн:
«5.63.
Я есть мой мир (микрокосм).
5.631.
Мыслящего, представляющего субъекта нет. Если я пишу книгу «Мир, как я его
нахожу», в ней должно быть также сообщено о моем теле и сказано, какие члены
подчиняются моей воле и какие — нет и т. д. Это есть, собственно, метод
изоляции субъекта, или скорее, показа, что в некотором важном смысле субъекта
нет, т. е. о нем одном не может идти речь в этой книге».
И
далее:
«5.64.
Здесь видно, что строго проведенный солипсизм совпадает с чистым реализмом. Я
солипсизма сокращается до непротяженной точки, и остается соотнесенная с ним
реальность».
Если
мы фиксируем язык машины Тьюринга как единственный язык описания
действительности, то мы — и каждый отдельно, и человечество как целое —
вытесняемся вычислительной реальностью, мы прозрачны и ей полностью исчерпаны.
Это
то, что я назвал «глобальным вычислительным солипсизмом», потому что в этом
случае неясно, чем все человечество отличается от одного-единственного
человека, если каждый отдельно и все вместе могут быть описаны на
алгоритмическом языке и загружены в компьютер. И «Я» этого человека-компьютера
в точности есть весь мир, написанный на алгоритмическом языке — причем
полностью, даже без «непротяженной точки».
Возможно
ли это? Как справедливо отметил Чалмерс, мы никогда не сможем ни доказать, ни
опровергнуть того, что мы находимся «внутри Матрицы», но я попробую указать на
проблемы, которые возникают, если язык моделирования фиксирован. Язык машины
Тьюринга описывает не все: именно это утверждают и теорема Тарского о
невыразимости истины, и теорема Геделя о неполноте — в них приводятся
утверждения, которые невычислимы безотносительно роста мощности компьютеров.
Как мы можем согласиться, что наш мир полностью вычислим, если мы знаем, что
существуют невычислимые истины? Это было бы в нашем положении некоторым
легкомыслием.
Если
мы персонажи Матрицы, то эта симуляция никак с ростом вычислительной мощности
не связана (а именно такой рост и есть «сильнейший аргумент» Илона Маска и один
из главных аргументов Ника Бострома). Значит ее Архитектор (или Творец)
трансцендентен нашему миру: он бессмертен и бесконечен, для него время —
обратимо, а второе начало термодинамики и принцип Ландауэра — несущественны.
Можно
спросить: откуда постлюди узнают, что же им надо «запускать», чтобы
моделировать конкретного человека, у них ведь не будет полной информации,
потому что информация превращается в тепло и рассеивается (вот, например,
согласно упомянутому принципу Ландауэра). Чтобы собрать информацию об одном
конкретном человеке, который умер тысячу лет назад, надо откатить назад
(обратить) время, а значит, те, кто запускает симуляцию, не просто обладают
неисчерпаемой вычислительной мощностью, но живут во Вселенной с другими законами,
где, в частности, второе начало термодинамики не работает, а значит вряд ли мы
их предки.
Но
тогда непонятно, чем такой Творец отличается от деистического или даже
теистического Бога. И ясно, что как бы человечество ни наращивало
вычислительную мощность, оно к Творцу никогда не приблизится — сколь угодно
большая величина по сравнению с бесконечностью практически неотличима от нуля.
Чем
плох глобальный вычислительный солипсизм и такое необычайное доверие
вычислительным системам? Оно превращает наш кругозор в один луч, мы перестаем
смотреть по сторонам, потому что вдруг решили, что там ничего нет. Это очень
сильное ограничение и согласиться с ним трудно.
«Матрица»
братьев Вачовски говорит совсем не о том, что мы персонажи игры (как это делает
Бостром) — она утверждает, что машина Тьюринга — это не все, что язык
вычислений не исчерпывает действительность, что вычислимая Тьюрингова
реальность человеку отчего-то тесна. Можно принять красную таблетку и выйти за
ее пределы. Потому что есть куда выходить.
В
отчете Bank of America Merrill Lynch говорится, что «инвестиционные
последствия» того, что мы с высокой вероятностью находимся внутри компьютерной
модели, «остаются неясными».
Вот
так, упав с высот философии под лавку конторщика, я и закончу.
1 Bank of America: There’s a
20%-50% chance we’re inside the matrix and reality is just a simulation.
http://www.businessinsider.com/bank-of-america-wonders-about-the-matrix-2016-9.
Все
ссылки на отчет Bank of America Merrill Lynch дается по этому изданию.
2 Дополненная реальность (augmented reality) —
размещение компьютерных образов в окружающем нас мире.
3 Google Official Blog. Using
large-scale brain simulations for machine learning and A.I.
https://googleblog.blogspot.ru/2012/06/using-large-scale-brain-simulations-for.html.
4 Nick Bostrom. Are you living
in a computer simulation? Published in Philosophical Quarterly (2003) Vol. 53,
No. 211, pp. 243–255. (First version: 2001). Статья доступна по
ссылке: http://www.simulation-argument.com/simulation.html.
5
Pong — видеоигра, разработанная компанией Atari в 1972 году, Маск немного
ошибся в датах, но некритично.
6 Here’s the question Elon
Musk talked about so much that he now refuses to discuss it in hot tubs
http://www.businessinsider.com/the-question-elon-musk-refuses-to-talk-about-in-hot-tubs-2016-6.
По
ссылке находится видеоинтервью Илона Маска (продолжительностью 1 час и 15
минут), где он рассуждает в том числе и о возможности симуляции нашего мира.
Это одно из самых продолжительных интервью Маска в 2016 году. Видно, крепко
задела эта тема одного из самых успешных людей нашего времени.
7 Why it’s impossible to prove that we don’t
live in a simulation
http://www.businessinsider.com/is-the-universe-is-a-simulation-2016-4.
8
О теории Чалмерса и возможности «создания» сознания см. Владимир Губайловский.
Письма ученому соседу. Письмо № 5. О сознании. «Урал», 2014, № 8. http://magazines.russ.ru/ural/2014/8/13g.html.
9 R. Landauer. Irreversibility and Heat
Generation in the Computing Process. IBM Journal of Research
and Development (Volume: 5, Issue: 3, July 1961). В этой статье, опубликованной
в далеком 1961 году, физик Рольф Ландауэр показал, что при безвозвратной потере
информации (например, ее стирании) выделяется тепло. При стирании одного бита —
примерно 2,7*10^-21 дж. Тогда на эту работу не обратили особого внимания,
поскольку величина слишком маленькая. Но когда на чипе миллиарды вентилей и они
работают с частотой несколько миллиардов в секунду — величина выделяемого тепла
становится реальным препятствием для работы. Это тепло крайне непросто
устранить и его невозможно уменьшить. В 2012 тепловой барьер Ландауэра был
измерен экспериментально. См.:
IEEE Spectrum. Landauer Limit Demonstrated. Scientists show that a 50-year-old
principle limiting future CMOS computing is real: Erasing information gives off
heat. By Samuel K. Moore:
http://spectrum.ieee.org/computing/hardware/landauer-limit-demonstrated. Сегодня
процессоры выделяют на каждый стираемый бит тепло всего лишь в тысячу раз
больше, чем указанный Ландауэром минимум. Есть идеи, как избежать «стирания» и
тем самым уменьшить выделение тепла, но они пока скорее теоретические.
10 По данным Meryll Linch, к 2018 году число
смартфонов достигнет 5 миллиардов, то есть в Сеть выйдет большая часть
населения Земли.
11 Цит. по Николай Бердяев. Религия воскрешения.
(«Философия общего дела» Н.Ф. Федорова)
http://magister.msk.ru/library/philos/berdyaev/berdn024.htm.
12 We talked to the Oxford
philosopher who gave Elon Musk the theory that we are all computer simulations
http://qz.com/699518/we-talked-to-the-oxford-philosopher-who-gave-elon-musk-the-theory-that-we-are-all-computer-simulations.
13
Витгенштейн Людвиг. Логико-философский трактат. — М.: «Канон+» РООИ
«Реабилитация», 2011. С. 174, 175, 176.