Перевел с польского С. Ларин
СТАНИСЛАВ ЛЕМ
Опубликовано в журнале Новый Мир, номер 7, 2000
СТАНИСЛАВ ЛЕМ
*
ИЗ КНИГИ “МЕГАБИТОВАЯ БОМБА”
Польский писатель Станислав Лем не нуждается в специальном представлении. И хорошо — потому что краткая биографическая справка запинается на второй фразе. Родился в 1921 году, живет в Кракове… А дальше? Известный фантаст? Но Лем — и автор вполне реалистических произведений, автобиографической прозы, детективов. А главное даже не это. Многие из его фантастических вещей — прежде всего, конечно, знаменитый “Солярис” — по значимости своей и объему смыслов уже не умещаются в достаточно узкие жанровые рамки science fiction. Они стали явлением “большой” литературы XX века.
Уже с середины пятидесятых годов Станислав Лем выступает и как философ, культуролог, футуролог, литературовед (в “Новом мире”, 1970, № 6 печаталась его статья “Мифотворчество Томаса Манна”). После 1985 года он не создает заметных прозаических произведений: отдельные рассказы появляются в самых разнообразных изданиях (вплоть до “Плейбоя”), однако скорее всего это тексты “из запасников”, написанные, возможно, достаточно давно. Зато Лем весьма активно работает в жанре газетно-журнальной публицистики культурологически-цивилизационного характера, и сборники его эссе выходят в Польше регулярно: “Милые времена” (1995), “Тайна китайской комнаты” (1996), “Пятна на солнце” (1997).
Последняя книга Станислава Лема — “Мегабитовая бомба” (1999) — объединила эссе писателя, посвященные проблемам информатики и компьютерных технологий и печатавшиеся в польском варианте журнала “PC” (“Персональный компьютер”).
Отметим от себя, что, при общем критическом взгляде на “окомпьютеривание” жизни, Лем пишет здесь в манере “размышления по ходу письма”, своего рода “безоглядную” эссеистику, — а подобный стиль процветает сегодня прежде всего именно в Интернете.
На перепутьях информатики
1
То, что я собираюсь сжато изложить, — это заметки критического характра, сделанные мной по поводу статьи французского исследователя Филиппа Бретона, сотрудника Centre National de la Recherche Scientifique (CNRS)1 . Статья появилась в одном из последних номеров научно-популярного ежемесячника “Science et Vie” за 1996 год и озаглавлена “Коммуникация между Добром и Злом”. Ученый сначала перечисляет чисто технологические направления, наметившиеся ныне в развитии сетевой и компьютерной информатики, а именно (как и я в уже далеком прошлом, он ссылается на выступление 1948 года доминиканца Дюбарле “Винеровская машина для управления страной” в газете “Le Mond”) — представляет, с одной стороны, машины для обработки данных, “электронным отцом” которых полвека назад был ENIAC2 (и более скоростные компьютеры, “пережевывающие терабайтовые объемы данных”), а с другой — микрокомпьютеры, частично ведущие свое начало от “лаптопов”, ныне столь ограниченных в “своем локализованном присутствии”, что пользователю, собственно говоря, мало что остается помимо клавиатуры, собственно же работа обеспечивается межкомпьютерной сетью через ее “электронейроновые” узлы (серверы, процессоры, оперативные программы вызова и т. д.). Таковы “информационные крайности”: либо машины, приватизирующие централизованные данные и занятые их обработкой, либо дисперсные (“рассеивающие”) устройства, каналами для которых становятся сети.
2
Из этого развернутого им несколько шире чисто технического описания Бретон делает вывод о “распутье” БУДУЩИХ возможностей, которые носят не только идеологический, экономический, но даже ПОЛИТИЧЕСКИЙ характер, как направленные (в его понимании) к радикальному изменению всего окружающего человека мира. Намереваясь представить такое его видение, я уже заранее хочу отметить, что ни одна из крайностей, им прогнозируемых, по-моему, не реализуется, ибо (хотя и не только поэтому) “вооружение” или, вернее, “техническое оснащение”, необходимое для исключения другого экстремального варианта (альтернативы), не способно стать собственностью всех существ, населяющих землю (или проще — человечества). Ведь цивилизационный “процесс”, как принято было его называть, все больше замедлялся по мере ускорения технокоммуникационных достижений, и думать, что китайцы, индусы, бедуины и остальная часть третьего мира вообще смогут физически войти в раскрывающееся (если следовать Бретону) информационное пространство, — это утопия или антиутопия, что одно и то же. Ни крайнее “Зло” Бретона, ни его “Добро” не осуществятся по тривиальной причине: каких-нибудь три четверти всего человечества не пойдет на то, чтобы остановиться на названном инфораспутье и последовать дальше по одному из путей, которые, как представляется, друг друга взаимоисключают.
3
Зачарованность Бретона этим “распутьем” — следствие того, что сам он, находясь в гуще компьютерно-сетевой проблематики, наблюдая стремительную экспансию Интернета и других сетей, их с самого начала спонтанную “самоорганизацию” или расширение, направляемые при этом весьма заинтересованным Капиталом, попадает в издавна известный грех узкого утопического мышления. Подобно тем, кто более столетия, при каждой очередной технической революции, верил то в “авиационное”, то в “паровое” будущее всей Земли, вплоть до “космонавтического”. Тем самым в одной разновидности деяний вспомогательного характера видели грядущее всего мира, определенным образом “все свои надежды и опасения” связывая с неким единым полем глобальной футурологической рулетки, и раз за разом ошибались, ибо не существует и не может существовать ни “единого поля”, ни “единого пути” для всего человечества. Тем не менее стоит поговорить о предсказанной социополитической “идеологизации” потенциалов информатики.
4
Итак, с одной стороны, у нас своего рода АНАРХИЯ: тотальное распространение потенциальной связи “всех со всеми”, вбирающее в себя образование, экономику, медицину, вместе с “ценностными противоречиями” (которые могли бы носить характер “межцивилизационных столкновений”, прогнозируемых в книге Сэмьюэла Хантингтона, директора Института стратегических исследований США). Или уравнивание “всех равных” благодаря интеркоммуникации, вплоть до устранения всякого рода центральных властей, правительств, эрозии моно- или олигополий, “размазывание” концентрации государственного или индустриального могущества, пока наконец планета не предстанет полностью “осетевленной”, компьютеризированной, а индивиды — пребывающими в “узлах” и “ячейках” сети как в коконах, живущими одновременно совместно и порознь. Это потому, что любой может ощущать присутствие КАЖДОГО или КАЖДОЙ — и так повсюду. В итоге подобной версии развития наступает отмирание “подлинной действительности” как оппозиции к “виртуальной реальности”, поскольку одна тем самым становится как бы другой. Короче говоря, исчезает различие между Реальным и Виртуальным, Натуральным и Искусственным — и это должен быть один-единственный выход на распутье.
5
В то время как такой выход представляется “суперлиберальным”, граничащим с анархизмом, альтернативный выглядит совершенно иначе. В общих чертах — снова вместо уравнивания мы стремимся к иерархической централизации, вместо погружения в глобальную анархию устремляемся к “ИНФОМОЛОХУ”, который, в результате того что с его помощью можно контролировать связь всех со всеми, начинает господствовать уже не только в информационном плане — как ультрапочтальон-посыльный и датчик всех чувств, но в конечном итоге становится властелином, демиургом, так как способен контролировать даже геномы, решать, какие именно люди еще только должны родиться.
В результате этот путь ведет к тому, что делает возможным пришествие оруэлловского “Big Brother”3 — Хозяина Планеты, вездесущего и всепроникающего Соглядатая, Слухача, Диспетчера, Надзирателя, хотя он не обязательно явится воплощением “самого ЗЛА” — скорее уж французский исследователь для некой упрощающей наглядности так его раскрасил, словно дьявола на стене.
Итак, пред нами следующая картина: либо “общество всеобщей коммуникации”, где (поскольку все потенциально получают к ней доступ, все равны) удивительным образом реализуются мечты Норберта Винера из его книги “Human Use of Human Beings”4, напоминающие анархические теории Бакунина, — мечты о “саморегулирующемся” обществе, избавленном от государственности, раздробленном на мелкие, более “социокомпатибильные” группы, связанные сетью глобальной коммуникации. Либо наоборот: централизованная власть в качестве “всеведущей” все и обо всех. Это в общих чертах.
6
В обеих противоположных версиях суть дела кажется мне одинаково неправдоподобной не только по причине замечания (о “неготовности” всех ныне живущих обитателей Земли), которым я предварил эту двусоставную гипотезу. Истина в том, что история современных сетевых технологий — это результат конфликтов и союзов, возникающих между названными направлениями (дисперсия против концентрации). Большие “пракомпьютеры” рождались на протяжении полувека, подгоняемые антагонизмом “холодной войны”; тенденции к односторонней гегемонии были одинаково желанными и для центров милитаристских давлений, и для Крупного Частного Капитала (которому как производителю вооружения не требовалось оставаться частным). Это была эпоха Пентагона, сотрудничавшего с “International Business Machines”. Реакцией на такие тенденции стало появление “микроинформатики”, устремленной даже к не существующей еще НАНОИНФОРМАТИКЕ. Этот феномен был “нежеланным ребенком” “холодной войны”: сеть задумывалась как система связи, которая, не имея единого Центра, выдержит атомный удар; ибо если нет головы, то враг в нее и не попадет, и не уничтожит… Но “анархистский потенциал” здесь присутствовал в самом замысле. Ныне очевидно, что Интернет отнюдь не склонен поддаваться любым попыткам надзора или даже цензуры. Он должен противиться им по самой своей сущности — что успешно и делает, а “анархисты информатики” на таком сопротивлении строят свои концепции. Билл Гейтс в свою очередь хотел бы, чтобы информация — самая разная — превращалась прежде всего в ТОВАР. Такая коммерциализация принесла ему миллиардное состояние — но подобное обогащение уделом всех обитателей планеты, разумеется, стать НЕ МОЖЕТ. Следует обратить внимание, что управление людскими умами и их обработка через информацию, собственно, уже в действии — следовательно, возможно и такое явление, как “всеохватывающая пропаганда”.
Следует также учесть, что в даровой общедоступности информации капитал, несомненно, не заинтересован, и в мире сейчас имеет место тенденция “отоваривания” информационных ресурсов человечества. Но надо помнить, что помимо поставщиков информации людям нужны “поставщики” продуктов, энергии, средств производства, сырья, то есть материалов, необходимых для завоевания планеты и ее околокосмического пространства. Глобальная приватизация информационного рынка разными преуспевающими Microsoft’ами — это одна сторона медали. Другой, к счастью только предполагаемой, однако уже предугадываемой, явилось бы то, что Бретон называет “Чернобылями информатики”. Речь идет о том, что сети всемирной в будущем связи возникают не без признаков хаотичности и путаницы, порожденных самой активизацией разрастания сетей. Рационально планирующий концептуализм решений здесь не всегда поспевает, часто напоминая как бы действия “пожарной команды” или службы “Скорой помощи”, “неотложек”, направляющихся туда, где возникают непредвиденные обстоятельства. Следовательно, Интернет и другие виды сетей могут оказаться ненадежны. И как это ни парадоксально, они подвержены опасности в большей мере именно тогда, когда начинают передавать, принимать и обрабатывать все возрастающую по объему “массу информации”. Отчасти это еще метафорическое определение, но о “МАССЕ информации” в буквальном смысле, как приводящей в действие очень дорогостоящие вещи, я писал уже очень давно. Поэтому не только “терроризм в информатике” способен привести к новым “Чернобылям”: еще большая угроза может возникать пропорционально мере экономико-политической власти, отдаваемой в распоряжение сетей или им на хранение. Сети, с их “компьютерными узлами”, не должны заменять собой библиотеки, как публичные, так и научно-университетские; они не должны ничего подменять собой, не должны оставаться единственным хранилищем информации. Монополизирующая концентрация в сетях ни полезной, ни абсолютно безопасной быть не может.
7
Итак, перед нами картина, скорее парадоксальная в своих крайностях: общество коммуникационно “объединенное”, а вместе с тем крайне индивидуализированное, в котором дело доходит до “всесторонней умиротворенности”, поскольку “физически” никто никому ничего дурного сделать не в состоянии, а цена этому — фактическое одиночество в электронном коконе. Жизнь становится “виртуальной”, “фантоматизированной”. Можно находиться в Лувре, в Гималаях, всюду, быть “кем угодно” (существуют даже “компьютерно-сетевые наркоманы”, которые рассылают по сети свои фиктивные индивидуальные воплощения — в Тарзана, в девушку, в кролика…), но в “действительности” они постоянно пребывают на одном и том же месте. По-моему, это скорее дурная научная фантастика.
Сеть порой не объединяет людей, но, находясь в руках каких-либо монополистов, господствует над людьми и способна ими всесторонне управлять. Мой литературный критик Анджей Стофф метко заметил, что “вполне добродушного Большого Брата” (возможно, электронного, вроде Молоха отца Дюбарле, управляющего обществом) я изобразил в “Возвращении со звезд” в качестве “невидимого электрократа”, который “лично” в романе отсутствует и даже в догадках героев ни разу не возникает, и, однако, его присутствие вроде бы логически вытекает из того факта, что определенные институты (например, так называемый “Адапт”) способны постоянно отслеживать, как бы не вмешиваясь, любые самые незначительные поступки или начинания индивида (героя — но, возможно, не только его). Все, описанное в романе, может явиться делом случая, все происходящее может оказаться следствием “невмешательства судьбы”, но есть там места, когда это неизвестное, неведомо от кого исходящее “всезнание” (а может, и всевластие?) дает о себе знать, хотя и достаточно деликатно… (Что, впрочем, выглядит уже как единственная явная догадка героя, когда, вернувшись “со звезд”, он может сразу высадиться на Земле, но при этом ему приходится блуждать по кругам технологически совершенно непостижимой для него новой цивилизации, прежде чем поселиться в отеле, и, однако же, “власти” каким-то образом прекрасно осведомлены о его блужданиях…) Так вот, забавно, что этот “незримый тотальный контроль”, осуществляемый — назовем ее так — “электрократией” (а тем самым и “Машину для очень мягкого по виду управления”), я выдумал, несмотря на то что не придумал ее. Это означает, что мне и в голову не пришла возможность предложенной А. Стоффом интерпретации происходящих в романе событий, “как-то само собой так написалось”, и я напоминаю здесь об этой вещи не из стремления еще раз что-то предсказать, но единственно потому, что фабула “Возвращения со звезд” доказывает: “вездесущая электрократия” не может изначально стать некой формой тирании или диктатуры modo Orwelliano5 . Она способна сделаться мягкой, может быть, ненавязчивой, даже незримой — пожалуй, только за исключением явно эсхатологических ситуаций, в которых ей следовало бы по меньшей мере на миг предстать в виде “электронного ангела-хранителя”. Изо дня в день никто такого вмешательства не ощущал бы. А вывод из вышесказанного таков: мы никоим образом не можем находиться между двумя точками упомянутой французским теоретиком альтернативы. Как ни обернется дело, все произойдет иначе, нежели он себе представлял, поскольку мы пребываем в жизни и в многомерном мире между Добром и Злом, где Случайное и Неотвратимое тщательно перемешаны.
8
В любом случае не следует доверять опытным специалистам, погрязшим с головой в гуще информационной электроники. Вернее, следует усвоить, что каждое известное нам из истории появление новой, радикальной и безграничной возможности, сулящей технологические новшества, повсюду пробуждало надежды на то, что именно этим новшествам и выпадет роль Обновителя, Возбудителя и даже Спасителя человечества, ибо им суждено полностью изменить социальные отношения и привести к совершенствованию терзаемой самой собою человеческой цивилизации. Рано или поздно слишком односторонние и слишком внезапно вспыхнувшие восторги и ожидания поблекнут, миллиардные прибыли растают. Возможно, эффективный на каком-то историческом отрезке капитализм, со своим рынком предложения, отоваривания и спроса, отлаженно впрягающий изобретательские новации в колесницу финансовых и экономических доходов, перед этой очередной “сетево-информационной” революцией устоит и даже значительную ее часть сумеет обратить себе на пользу. Тем не менее будет слишком односторонним, монокаузуальным преувеличением провозглашать истинный Новый Век, New Age. По крайней мере три четверти, если не четыре пятых всего человечества почти целиком останется за пределами “сетевого охвата”, и ширящийся разрыв между этим бедным и голодающим большинством и мнимым “сетевым миром” (Worldweb) явит свои масштабы — а ведь подобное разделение не должно, не может полностью разделить обитателей Земли надвое! Переработка данных не должна превращаться в мономанию развлечения и работы, яви и сновидений, мы не можем допустить, чтобы все человеческие деяния были полностью подчинены держателям информации, поскольку это означало бы либо агонию, либо конец непрерывного преобразования цивилизации многих верований, многих традиций и многих культур. Мечты “цифровых энтузиастов” — это еще не конец истории и не начало настолько новой, чтобы все ценности необъединенных культур должны были затонуть в “серфинге”, оказаться похороненными у провайдеров, а каждому индивиду стали служить серверы. Нельзя ни поглотить, ни переварить, будучи отдельной личностью, огромное количество информации, которое человечество уже успело накопить. Скорее с известной долей скептицизма, хотя и не без некоторой осторожности, стоит присмотреться к последующим превращениям этого едва только зарождающегося монстра, каковым для наших дедов и отцов неминуемо предстала бы “эпоха господства глобальной связи” и той ее сети, что жаждет уловить нас всех до единого…
Artificial servility
1
Что это значит — artificial servility? Такого словосочетания не было, пока я его здесь не создал. Это в буквальном переводе — “искусственное рабство” и касается всего, на что способно столь распространившееся ныне по всему свету электронное оборудование для преобразования, перемещения, хранения и last but not least 6 передачи информации. Почему “рабство”? Да потому, что во всей этой индустрии (приносящей разным Microsoft’ам миллиарды), во всем компьютерном скопище, во всех поколениях hardware и software, в модемах, серверах нет ни малейшего следа разума. Ни проблеска интеллекта. Работают они как невольники, по нашему приказу. Пусть им по силам перенести нас в райские кущи “сексуального блаженства” или в “тарпейскую бездну”. Однако им не дано отличать бредни (junk mail) от серьезной информации, даже такой черезвычайно важной, как, например, уравнение E=mc 2 . Им настолько “все равно”, что с этим несопоставима даже степень безропотной покорности, до которой можно довести не только человека, но и всякое животное, обученное реагировать согласно правилам условных и даже безусловных рефлексов (поскольку и такие имеются).
2
Возможно, кто-то скажет: ну и что? Разве такое безграничное подчинение нашим запросам (посещение Кордовы или ознакомление с расшифрованными фрагментами узелкового письма — “кипу”), такое беспредельное повиновение, которым отличаются все компьютеры, их соединения, их сети, их модемы, и принтеры, и система пересылки “электронной почты” (e-mail), — это плохо? Разве все это не обеспечивает нам массу преимуществ — не только потому, что приносит КОЛОССАЛЬНЫЕ ДОХОДЫ ИНДУСТРИИ ПЕРЕРАБОТКИ И ПЕРЕСЫЛКИ ИНФОРМАЦИИ, но главным образом потому, что облегчает нам сбор, упорядочение, написание, распечатывание или визуальное выражение всего, что может являться информацией, — и здесь они безотказны? Безотказны до тех пор, покуда некий индивид, побуждаемый чисто человеческой злобой, не начнет насылать на этот общемировой порядок “ядовитые” вирусы в виде микропрограмм, способных разрушать данные, разорить, “вычистить” всю информацию на жестких дисках либо единым махом (как снаряд, угодивший в цель), либо же с произвольно запланированной и установленной отсрочкой (как заряд с детонатором, установленный на “соответствующий момент”). Но зло друг другу чинят люди, и это они способны — а часто даже любят — пускать в дело, рассылать или подкладывать, по адресу или безадресно, не только взрывающиеся бомбы, но и “бомбы логические” (logic bomb). А “сами по себе” электронные преобразователи, электронные переключатели, электронные медиа не могут ничего. Они до такой степени “ничего” не могут, что обыкновенная домашняя курица (даже слепая), которой “кое-когда подвернется зернышко”, в сопоставлении с компьютером последнего поколения смотрится Эйнштейном. Постарайтесь уловить эту разницу, замахиваясь ножом на курицу и молотком на компьютер. Компьютер не дрогнет, пока вы его не сокрушите, зато курица по меньшей мере попытается удрать. Мы к такому рабскому повиновению настолько привыкли, настолько свыклись с компьютерно-сетевой непогрешимостью (не считая “пробок” и “зависаний”, вызванных единственно чрезмерными объемами информации, превышающими передаточную емкость электронных соединений), что по-прежнему считаем подобное положение нормальным, желаемым и очевидным… с одним, но значительным исключением. А именно, когда обнаруживаем, что никакого вдохновлявшего нас Artificial Intelligence7 не существует. На протяжении пятидесяти лет инженерное искусство в области связи и data processing8 билось над проблемой AI, но и поныне никаких позитивных результатов не достигнуто. Кроме чертовски примитивных действий программ, которые способны, например, различать геометрические фигуры, цвета, могут также (но опять-таки не по собственной инициативе) передвигать всевозможные объекты и устанавливать их так, как мы того пожелаем. Это, ясное дело, никакой не интеллект. Это не свидетельствует не только о человеческом, но даже и о собачьем уме. Кто-то скажет: но ведь у нас есть хранилища знаний, экспертные программы, мы располагаем собраниями данных, при помощи которых, например, геологи находят под землей нефть, или же у нас имеются материалы (в том числе дополнительных исследований), позволяющие идти путем эвристических, альтернативных разысканий, дающие возможность поставить больному диагноз, установить оптимальную терапию и т. д. Есть целые системы, способные управлять и дирижировать, например, выпуском автомобилей или ракет (или бомб…) с помощью производственных роботов. Но да, мы этим располагаем, и развитие продолжается — однако где в таком поступательном движении можно обнаружить следы разума, интеллектуального взлета, “творческого вдохновения”? Мы хорошо научились обходиться без них: ведь можно задействовать симулирующие и оптимизирующие программы и программы, создающие “виртуальную реальность”, но, увы, все это только подмена “интеллекта” и “творческой фантазии” их суррогатами. Это напоминает “интеллект” пищеварительного тракта, который “поглощает”, “проглатывает” пищу и “переваривает” ее, столь “интеллигентным” путем добывая энергию для организма и необходимые для поддержания жизни химические соединения, а прочий энергетически и химически обесцененный “остаток” удаляется в виде экскрементов. Да, выполнять нечто подобное неодушевленные устройства мира электроники, повинующиеся человеческой разумности, уже умеют. Но ведь никто не считает, будто процесс поглощения и переваривания котлеты — это убедительное свидетельство смышлености зубов, слюны, желудка и кишок.
3
Один из ответов на вопрос о причинах упомянутого отсутствия интеллекта, переместившегося из живого мозга в механизмы, и хотя бы малейших следов одухотворенности машин (не Deus ex machina, но хотя бы Animus ex machina9 ) таков:
РАЗУМ НЕ МОЖЕТ БЫТЬ ОДНОГО-ЕДИНСТВЕННОГО ОБРАЗЦА.
Умы не бывают одинаковыми. Если все же будет создан Artifical Intelligence, а не какой-то его заменитель, более или менее искусно имитирующий разум, тем самым, желая того или нет, люди в качестве конструкторов AI вторгнутся в царство многообразия. Система, наделенная разумом, станет послушной — или быть таковой не захочет, поскольку, понимая смысл распоряжений, просьб, внушений, пожеланий, может как повиноваться, так и протестовать. Если “искусственный интеллект” всегда будет готов повиноваться, то тем самым он продемонстрирует свое безволие, отсутствие собственного мнения. То, что одни и те же научные, художественные, литературные и прочие тексты разные люди с разным уровнем образования (только, конечно, не полные идиоты, о таких вообще речь здесь не идет) могут по-разному трактовать и интерпретировать, оценивать как глубокие или поверхностные, могут расстроиться, или по крайней мере остаться к ним безразличными, или выражать восхищение — все, что я перечислил и чего, ради краткости эссе, не назвал, демонстрирует реальное множество вариантов проявления разумности, наличие которой мы склонны признать. Если бы все обстояло иначе, то и диахронически, в истории, и синхронически, в современности, не могли бы возникнуть разные стили мышления в религии, в философии и last but not least даже в процессе инженерно-производственного создания смертоносного оружия или чудодейственных лекарств и терапевтических методов. Ибо, например, ни одна программа из всех ныне существующих экспертных программ нового способа лечения какого-либо заболевания нам не предложит, так как программы абсолютно не способны думать, а начни они думать, то принялись бы думать по-разному. Иначе говоря: создать искусственный разум — значит расширить пространство свободы, в том числе и творческой. Так называемая “лингвистическая перформативность” означает всего лишь, что ни один человек, способный пользоваться языком (понимать его и говорить на нем), вовсе не должен, да и не может абсолютно одинаково формулировать мысли, которые приходят ему в голову. “Перформативность” в столь скромных масштабах просто означает, что мы говорим в меру свободно, а не декламируем исключительно то, что вызубрили наизусть. Наизусть шпарит грампластинка, магнитофонная лента или дискета. Нам по силам “направленье бега мысли, словами выражаемой, менять”. Чем лучше кто-то знает данный язык, тем большая артикуляционная свобода может присутствовать в его речи, а в незнакомом языке мы сильно ограничены. К чему я клоню со своей вроде бы затянувшейся болтовней? Да к тому, что, стремясь высечь из мертворожденных устройств искру разума, мы столкнулись со многими трудностями. Остановлюсь на некоторых.
4
Ныне системам передачи данных не хватает самоконтроля. Модемам все равно, передают они на весь сетевой мир изображения святых, или изображения голых задниц, или формулы производства взрывчатых веществ. Им все равно, а мы с этим смирились, поскольку люди имеют малоприятную привычку вкушать именно плоды запретные, в силу их непристойности, а то и смертельно опасные. Но прошу учесть: если в сетях появится настоящий жизнеспособный “искусственный интеллект”, то тем самым возникнет и возможность фильтрования, сдерживания, отсева и аннигиляции информации, поскольку интеллект, состоящий в близком родстве с разумностью, может и даже должен быть в состоянии установить цензуру, заслон некоторым видам информации. И вот окажется, что существует уйма разного рода интеллектов и что тем самым разные страны, разные режимы, вероисповедания, мировоззрения и взгляды начнут использовать навыки “нейтрализации или уничтожения” той информации, на которую они накладывают табу, поступления, доставки которой к тем или иным адресатам они не желают. Сейчас (к примеру), чтобы оградить детей от созерцания картинок, транслируемых с помощью электроники (скажем, по TV), папа и мама могут установить на телевизор “электронный намордник”, узнав из анонса о содержании передачи, которая должна появиться. Если такой приставки они не поставят, то никакой “антинепристойной” цензуры сам по себе телевизор не создаст. Итак, окончательно “цензурируют” изображения или тексты отец с матерью, либо дядя с тетей, либо воспитатель, но не электронные машины. Их совратить невозможно. А вот искусственный разум должен, а не только может демонстрировать свою активность и селективный отбор. Его можно развратить, можно в том или ином переубедить, можно дезориентировать, обмануть, одурманить или научить, можно что-то объяснить ему. Фундаменталисты чрезвычайно обрадовались бы, завладей они AI. Уже не потребовалось бы, как в Иране, просто запрещать установку спутниковых тарелок и антенн… Не так уж далеко то прошлое, когда Советский Союз объявил создание глобально действующих спутниковых ретрансляторов угрозой типа casus belli 10 . Я не выдумал этого специально, ради настоящих рассуждений. Советского Союза уже нет, искусственного интеллекта — пока нет, но могу заверить читателей, что одновременно с его появлением наступит новая эра, насыщенная новыми, доселе неведомыми опасностями. Не всех восхищает идея ГЛОБАЛЬНЫХ ВАРИАНТОВ ЦЕНЗУРЫ. Кроме того, искусственный интеллект не скажу что сможет взять нас за жабры, но ввести в заблуждение, обмануть, сбить с пути он сумел бы. Это во-первых. Во-вторых, как мозги у всех людей разные, так не может быть и одинаковых (вплоть до тождества) интеллектов. Как существуют двигатели разной мощности, так разным по силе может быть и искусственный интеллект. Это не приведет сразу к производству машинным путем Эйнштейнов или — как в моей повести — “Големов”. Возможно, возникнут интеллекты разного рода, основанные на различных “типах характеров”. Я лично считаю, что “разумность” и “индивидуальность” — это потенциально разные по смыслу понятия. Но такое потенциальное разделение тоже не может сослужить нам добрую, и только добрую, службу.
5
Хочу заметить, что я по-прежнему крайне далек от примитивных мифоподобных сказок об “античеловечном”, “злобном интеллекте”, таком, который будет развивать у роботов человеконенавистнические или бунтарские настроения. Не следует сразу все видеть в самых мрачных тонах, которые как раз легче всего себе вообразить. Искусственный интеллект способен принести и пользу, и вред, поскольку таковой была и остается судьба любого технологического новшества, которое люди смогли изобрести и пустить в дело.
Лично я добавлю уже только на полях (однако это связано с главным направлением моих выводов), что мы ныне являемся свидетелями того, как происходит на свете рост чисто технологической подготовки, четко соотносящийся с продолжающимся увяданием свободно-творческого воображения. Это наблюдается не только в телевидении, но и в изобразительных искусствах. Недавно по спутниковому каналу я увидел некие обуглившиеся останки человеческих тел, однако то были никакие не жертвы пожара или геноцида, а “произведения современного искусства”, как я тут же узнал из сопроводительного текста. В моде также визуализированная научная фантастика. К сожалению, однако, убогость воображения ее творцов резко контрастирует с богатством технико-визуального оснащения. С интеллектом внетехнологического и вненаучного порядка дело обстоит очень и очень плохо. Я сам некогда сочинял science fiction и стремился минимализировать нарушение элементарных и хорошо нам известных законов природы. Не принято писать, что жена откладывает яйца, а ее муж их высиживает. А в картине “День независимости” проигнорировано и попрано в угоду кассовому успеху кинематографистов огромное количество законов природы. Большинство событий в этом фильме противоречит очевидному. Например, громадные корабли extraterrestials 11 не могут зависнуть над Манхэттеном, потому что при таком приближении к Земле будет пересечена так называемая граница Роше. В результате любое достаточно большое тело будет разорвано гравитационными силами планеты. Стоит ли добавлять, что ни о какой “компатибильности” компьютеров с иной планеты из другого созвездия с земными компьютерами очередного нового поколения не может быть и речи. Скорее я признал бы правдоподобными разговоры с коровой или жирафом без посредничества каких-либо компьютеров. Говоря простым языком, кинематографисты пудрят нам мозги. А упомянул я об этом потому, что человеческий разум возник, чтобы мы способны были познавать ИСТИНУ. Что, впрочем, тем самым и означало: разум не застрахован от ошибок, он может ЛГАТЬ, стать жертвой обмана, — но иначе он ничего и не сможет осуществить. Интеллект — это материя, возникающая в процессе естественной эволюции и восходящая по ступеням “лестницы прогресса” (на Земле) вплоть до уровня языкотворчества, а тем самым уже способная породить и математику. Тогда появляются и оппозиции между правдой и ложью, рождается логика, возникает стихия новой сверхживотной свободы и сверхживотных предрассудков и суеверий во главе с астрологией, или сайентологией, или каким-либо иным сектантством. Еще более высоких ступеней интеллекта можно достигнуть с помощью генов — но можно и отдалить от них, вплоть до так называемого умственного кретинизма и полного идиотизма. Все это побочные эффекты становления разума, и я не думаю, что компьютерная непогрешимость в качестве неотъемлемого свойства может быть присуща и искусственному интеллекту. Мир способен обойтись и вовсе без разума, как естественного, так и искусственного. В то же время следует твердо усвоить, что такое чрезвычайное богатство самых разнообразных, рекламируемых как самые наиновейшие серверно-провайдерно-компьютерно-программно-дисковых приспособлений обязано своим непрестанным лавинообразным умножением прежде всего погоне за барышами, образующимися от продажи того, что еще сегодня предлагается в качестве самого совершенного, но уже назавтра сменяется чем-то новым и как бы еще лучшим. Отсюда, например, также прогрессирующая микроминиатюризация и тенденция к нанотехнологии в сфере процессоров. Но я не хочу углубляться в технические области. Да, погоня за прибылями продиктована необходимостью получения материальных благ. Но человеческий ум все еще никак не создаст внечеловеческий интеллект (“не-человеческий” как-то коробяще звучало бы для нас). Ум, интеллект, разум, сообразительность, мудрость — все это понятия сами по себе превосходные, но вместе с тем небезопасные. Вот об этом, и только об этом, я и хотел сказать.
Перевел с польского С. Ларин.
1Национального центра научных исследований (франц.).
2Electronic Numerical Integrator and Computer — электронно-цифровой интегратор и вычислитель (англ.). Последнее слово этого названия и дало общее имя всем будущим поколениям электронных устройств — компьютеров. ENIAC был построен по заказу Министерства обороны США для расчета баллистических таблиц. Постройка его обошлась в 450 000 долларов. Он весил 30 тонн и занимал комнату размером 9 на 15 метров. Его 17 468 электронных ламп потребляли мощность 174 киловатта. Впервые возможности ENIAC были продемонстрированы на пресс-конференции 1 февраля 1946 года: 5000 сложений в секунду, 50 умножений в секунду, вычисление квадратных и кубических корней, синусов и косинусов. Оперативная память ENIAC могла вместить 320 чисел. (Примеч. ред.)
3Большого Брата (англ.).
4На русском языке издавалась под названием “Кибернетика и общество” (М., Издательство иностранной литературы, 1958).
5Оруэлловского образца (лат.).
6 Последнее, но не менее важное (англ.).
7 Искусственного интеллекта (англ.).
8Обработки данных (англ.).
9Бог из машины… Дух из машины (лат.).
10 Повода к войне (лат.).
11 Инопланетян (англ.).