У некоторых не получается
и они умирают, но успешные выживают и распространяются ещё дальше. Перес
еленцы, направлявшиеся в Америку плыли и тонули, высаживались на берег и
умирали с голоду, но некоторые выживали, чтобы найти новые нации. Организ
мы повсюду будут чувствовать давление факторов, описанных Мальтусом, по
тому что они в процессе эволюции научатся выживать и распространять ген
ы и мимы, которые толкают в этом направлении. Если внеземные цивилизации
существуют, и если даже малая часть имела бы похожа на то, какая есть вся ж
изнь на Земле, то они должны были бы к сегодняшнему моменту распространи
ться по космосу.
Подобно нам, они бы имели тенденцию разрабатывать технологии, чтобы дост
ичь пределов, установленных естественными законами. Они бы учились, как
передвигаться со скоростью, близкой к световой, и конкуренция или чистое
любопытство подтолкнуло бы их это делать. Действительно, только высокоо
рганизованные, высокостабильные общества могли бы ограничить давление
конкуренции достаточно хорошо, чтобы избежать взрыва во вне со скорость
ю, близкой к световой. На сегодня, после сотен миллионов лет, даже широко р
ассеянные цивилизации распространились бы достаточно далеко, чтобы вс
третить друг друга, разделив космос между собой.
Если эти цивилизации действительно везде, тогда они оказались очень сде
ржанными и очень хорошо себя спрятали. Они бы контролировали ресурсы цел
ых галактик на протяжении многих миллионов лет, и встретили пределы рост
у в космическом масштабе. Продвинутая цивилизация, упирающаяся в свои эк
ологические пределы, почти по определению, не расходовала бы энергию и м
атерию. Однако мы видим расход во всех направлениях, поскольку мы видим с
пиральные галактики: их спиральные рукава содержат облака пыли, состоящ
ей из расходуемой впустую материи, подсвеченной бесполезно расходуемы
м светом звёзд.
Если такие продвинутые цивилизации существовали бы, тогда наша солнечн
ая система лежала бы в царстве одной из них. Если так, тогда бы сейчас был и
х ход Ц мы не могли бы ничего сделать, чтобы им угрожать, а они бы могли изу
чать нас как им нравится, с нашим участием или без.
Чувствительные люди слушались бы, если бы их очень попросили. Но если они
существуют, они должно быть прячут себя, и сохраняют все местные законы в
секрете.
Идея, что человечество одиноко в видимой вселенной согласуется с тем, чт
о мы видим в небе и с тем, что мы знаем о происхождении жизни. Никаких засте
нчивых чужестранцев не нужно, чтобы объяснить факты. Некоторые говорят,
что поскольку существует так много звёзд, обязательно среди них должны б
ыть другие цивилизации. Но в видимой вселенной имеется меньше звёзд, чем
молекул в стакане воды. Также как стакан воды не обязательно содержит вс
е возможные химические вещества (и даже сток химического завода), также д
ругие звёзды не обязательно дают убежище цивилизациям.
Мы знаем, что конкурирующие репликаторы имеют тенденцию расширяться к с
воим экологическим границам, и что ресурсы тем не менее бесполезно расто
чаются по всей вселенной. Мы не получили ни одного посланца от звёзд, и у н
ас очевидно нет даже приличного сторожа зоопарка. Вполне возможно, что т
ам никого и нет. Если они не существуют, тогда нам нет нужды учитывать их в
своих планах. Если они существуют, тогда они переделают наши планы в соот
ветствии со своими непостижимыми желаниями, и по-видимому нет способа п
одготовиться к этой возможности. Таким образом на данный момент, или воз
можно, навсегда, мы можем создавать планы на наше будущее не заботясь об о
граничениях, накладываемых другими цивилизациями.
Рост в пределах границ
Есть кто-то там, или нет, мы стоим на своём пути. Космос ждёт нас, бесплодный
камень и солнечный свет, подобный бесплодному камню и солнечному свету
земных континентов миллиард лет назад, перед тем, как жизнь стала выходи
ть из моря. Наши инженеры разрабатывают мимы, которые помогут нам создат
ь отличные космические корабли и поселения: мы будет осваивать землю сол
нечной системы в комфорте. За пределами богатства внутри солнечной сист
емы лежит кометное облако Ц обширная среда для роста, которая становитс
я тоньше на просторах межзвёздного пространства и утолщается ещё больш
е вокруг других звёздных систем, с новыми солнцами и девственными камням
и, ожидающих прикосновения жизни.
Хотя бесконечный экспоненциальный рост остаётся фантазией, распростра
нение жизни и цивилизации не встречает жёстких границ. Расширение будет
продолжаться, если мы выживем, потому что мы Ц часть живой системы, а жизн
ь имеет тенденцию распространяться. Пионеры двинутся вперёд, в миры без
конца. В любых поселениях, время придёт, когда граница Ц будет далеко впе
реди, а потом ещё дальше. На протяжении большей части будущего большинст
во людей и их потомков будут жить без пределов росту.
Нам могут нравиться или не нравиться пределы росту, но их реальность не з
ависит от наших желаний. Пределы существуют, по направлению к чему бы цел
и чётко ни ставились.
Но на границах, где ограничения изменяются, эта идея становится неуместн
ой. В искусстве или математике ценность работы зависит от сложности стан
дартов, оспариваемых и изменяемых. Один из этих стандартов Ц новизна, и о
на никогда не может быть исчерпана. Там, где цели изменяются и царит мир сл
ожности, пределы не обязательно нас ограничивают. Для создания симфонии
и песни, картины и миров, программ, теорем, фильмов и прекрасных вещей, кот
орые мы ещё не можем себе представить, конца не видно. Новые технологии ст
анут основной для новых видов искусства, а новые искусства принесут новы
е стандарты.
Мир грубой материи предлагает место для грандиозного, но ограниченного
роста. Мир разума и структуры, однако, содержит место для бесконечной эво
люции и изменения. Возможное кажется достаточным пространством.
Взгляд на пределы
Идея великих продвижений в жёстких границах не была разработана так, что
бы давать кому-то удовольствие, а так, чтобы быть правильной. Пределы огра
ничивают возможности, и некоторые могут быть безобразными или пугающим
и. Нам нужно подготовиться к прорывам, ожидающим нас впереди, однако мног
ие футуристы старательно делают вид, что никаких прорывов не произойдёт.
Эта школа мысли связана с "Пределами росту", опубликованными как отчёт Ри
мского клуба. Профессор Михайло Д. Месарович позже стал соавтором "Челов
ечества на поворотной точке", опубликованном как второй отчёт Римского к
луба. Профессор Месарович разработал компьютерную модель, которая имее
т целью описать будущие изменения в мировом население, экономике и окруж
ающей среде. Весной 1981 года он посетил MIT, чтобы обратиться к "Ограниченной З
емле: мировоззрение для поддерживаемого будущего" Ц тот же семинар, кот
орый сделал главным своим пунктом энтропию Джереми Ривкина. Он описал мо
дель, намереваясь дать грубое описание следующего столетия. Когда ему за
дали вопрос, допускает ли он или кто-либо из его коллег хотя бы один проры
в в будущем, сравнимый, скажем, с нефтяной промышленностью, самолётами, ав
томобилями, электрической энергией или компьютерами Ц возможно самов
оспроизводящиеся робототехнические системы или дешёвые полёты в космо
с, он ответил прямо Ц нет.
Очевидно, что такие модели будущего несостоятельны. Однако некоторые лю
ди, по-видимому, желают, даже страстно желают, верить, что прорывы вдруг за
кончатся, что глобальная гонка технологий, которая набирала скорость на
протяжении столетий, затормозится и остановится в ближайшем будущем.
Привычка пренебрегать или отрицать возможность продвижения технологи
и Ц это общая проблема. Некоторые люди верят в аккуратно очерченные пре
делы, потому что они слышали, как уважаемые люди накручивают звучащие пр
авдоподобно аргументы в пользу этого. Однако по-видимому, некоторые люд
и больше обращают внимание на желания, чем на факты, после столетия ускор
яющегося прогресса. Чёткие границы упрощают наше будущее, делая его боле
е простым для понимания и более комфортным, чтобы о нём думать. Вера в чётк
ие пределы также освобождает человека от определённых забот и ответств
енности. В конце концов если естественные силы остановят гонку технолог
ий, удобно и автоматически, тогда нам нет нужды пытаться понять её и контр
олировать.
Самое лучшее Ц это бегство от реальности не ощущается как бегство. Наст
рой на глобальный спад должен давать то, что суровые факты будут восприн
иматься без содрогания. Однако такое будущее не оказалось бы чем-то новы
м: оно толкнуло бы нас по направлению к подобной нищете прошлого Европы и
ли настоящего стран третьего мира. Настоящая смелость требует встречат
ь реальность лицом к лицу, встречать ускоряющиеся изменения в мире, кото
рые не имеют автоматической остановки. Это ставит огромные и крайне суще
ственные интеллектуальные, моральные и политические задачи.
Предостережения о ложных границах приносит двойной вред. Во-первых, они
дискредитируют саму идею ограничений, притупляя интеллектуальный инст
румент, который нам необходим, чтобы понять наше будущее. Но что хуже, таки
е предостережения отвлекают внимание от настоящих проблем. В западном м
ире существует живая политическая традиция, которая поощряет подозрит
ельность к технологии. До той степени, пока вначале она дисциплинирует с
вои подозрения, проверяя их относительно реальности и далее выбирая раб
отоспособные стратегии для управления изменением, эта традиция может в
ложить многое в выживание жизни и цивилизации. Но люди, озабоченные техн
ологией и будущим Ц ограниченный ресурс. Мир не может себе позволить ра
сточать их усилия на бесплодные кампании, чтобы остановить глобальный п
оток технологии узким веником западных движений протеста. Грядущие про
блемы требуют более тонких стратегий.
Никто не может пока сказать наверняка, какие проблемы окажутся наиболее
важными, или какие стратегии окажутся наилучшими для их разрешения. Одна
ко мы уже можем видеть новые проблемы огромной важности, и мы можем разли
чить стратегии с различной степенью перспективности. Короче говоря, мы м
ожем видеть достаточно о будущем, чтобы идентифицировать цели, которые с
тоят того, чтобы им следовать.
ЧАСТЬ ТРЕТЬЯ. ОПАСНОСТИ И НА
ДЕЖДЫ
Глава 11. МАШИНЫ РАЗРУШЕНИЯ
И я не сомневаюсь, что самыми г
розными из всех армий, о которых когда-либо слышали на земле, является тот
вид солдат, которые за их малостью не видимы.
Сэр Уильям Перри, о микробах
, 1640 год.
Размножающиеся ассемблеры и мыслящие машины создают принципиальные уг
розы для людей и жизни на Земле. Сегодняшние организмы имеют способности
далеко от пределов возможного, и наши машины эволюционируют быстрее, че
м мы сами. В пределах нескольких десятилетий представляется вероятным, ч
то они на превзойдут. Если мы не научимся жить с ними в безопасности, наше
будущее вероятно будет и восхитительным, и коротким. Мы не можем надеять
ся предвидеть все проблемы впереди, однако, уделяя внимания большим, при
нципиальным моментам, мы, возможно, в состоянии предвидеть наиболее знач
ительные задачи и получить некоторое представление о том, как с ними име
ть дело.
Без сомнения, будут написаны целые книги о грядущих социальных сдвигах:
что случится с глобальным порядком, когда ассемблеры и автоматический и
нжиниринг исключать необходимость в большей части международной торго
вли? Как общество изменится, когда отдельные люди смогут жить независимо
? Что мы будем делать, когда размножающиеся ассемблеры смогут производит
ь почти всё что угодно без человеческого труда? Что мы будем делать, когда
системы ИИ смогут думать быстрее, чем люди? (И до того, как они придут к закл
ючению, что люди отчаются что-либо делать или создавать, авторы могут рас
смотреть, как бегуны относятся к машинам, или как художники относятся к к
амерам.)
В действительности авторы уже почти предвидели и проговорили нескольк
о из этих моментов. Каждый из них Ц дело необычайной важности, но более фу
ндаментальным, чем любой из них является выживание жизни и свобода. В кон
це концов, если жизнь или свобода исчезнут, то наши идеи о социальных проб
лемах больше не будут иметь значения.
Угроза от машин
В главе 4 я описал кое-что из того, что воспроизводящиеся ассемблеры будут
делать для нас, если мы будем с ними правильно обращаться. Приводимые в дв
ижение топливом или солнечным светом, они будут способны делать почти вс
ё что угодно (включая их самих) из широко распространённых материалов.
Живые организмы также приводятся в движение топливом или солнечным све
том, и также делают большую часть себя из широко распространённых матери
алов. Но в отличие от систем, основанных на ассемблерах, они не могут делат
ь "почти всё что угодно".
Генетическая эволюция ограничила жизнь системами, построенными на ДНК,
РНК и рибосомах, но эволюция мимов принесёт машины, подобные жизни, постр
оенные на нанокомпьютерах и ассемблерах. Я уже описал, чем построенные и
з ассемблеров молекулярные машины будут отличаться от построенных на р
ибосомах машинах жизни. Ассемблеры будут способны строить всё то, что сп
особны рибосомы, и более того; репликаторы на базе ассемблеров, следоват
ельно, будут способны делать всё, что может жизнь, и более того. С точки зре
ния эволюции, это создаёт очевидную угрозу выдрам, людям, кактусам и папо
ротникам Ц всей богатой фабрике биосферы и всему, что мы ценим.
Ранние компьютеры, построенные на транзисторах, вскоре обошли самые луч
шие компьютеры на электронных лампах, потому что они были сделаны из уст
ройств более высокого уровня. По той же причине, ранние репликаторы, пост
роенные на ассемблерах, могли бы обойти самые совершенные из современны
х организмов. «Растения» с «листьями» не более эффективными, чем сегодня
шние солнечные элементы, могли бы выиграть конкуренцию у настоящих раст
ений, наводняя биосферу несъедобной листвой. Однако, всеядные «бактерии
» могли бы выиграть конкуренцию у настоящих бактерий: они могли бы распр
остраниться как летящая пыльца, стремительно размножаясь и сведя биосф
еру в пыль за считанные дни. Опасные репликаторы могли бы легко быть слиш
ком жёсткими, маленькими и быстро распространяющимися, чтобы их останов
ить Ц по крайней мере если мы не сделаем никаких приготовлений. У нас дос
таточно проблем с контролем над вирусами и фруктовыми мушками.
Среди знатоков нанотехнологии эта угроза стала известна как "проблема с
ерой липкой массы". Хотя массы бесконтрольных репликаторов не обязатель
но должны быть серыми или липкими, термин "серая липкая" подчёркивает, что
репликаторов, способных уничтожить жизнь, может быть меньше в шприце, че
м одного вида травяных жучков. Они могли бы быть «высшими» в эволюционно
м смысле, но это не обязательно сделало бы их ценными. Мы научились любить
мир богатым живыми тварями, идеями, и разнообразием, так что не причины це
нить серую массу только за то, что она может распространяться. Действите
льно, если мы предотвратим её размножение, тем самым мы докажем наше эвол
юционное превосходство.
Угроза серой липкой массы делает одну вещь совершенно очевидной: мы не м
ожем себе позволить определённые виды случайностей с размножающимися
ассемблерами.
В главе 5 я описал некоторое из того, что будут делать для нас продвинутые
системы ИИ, если мы будет правильно с ними обращаться. В конечном счёте он
будут воплощать структуры мысли заставлять их течь со скоростью, с котор
ой не может сравняться ни один мозг млекопитающего. Системы ИИ, которые р
аботают вместе, также как это делают люди, будут способны думать не прост
о как отдельные люди, но как целые общества. Опять же, эволюция генов остав
ила жизнь в определённом состоянии. Опять же, эволюция мимов человечески
ми существами, и в конечном счёте машинами, будут продвигать наши аппара
тные средства далеко за пределы жизни. И снова, с точки зрения эволюции эт
о создаёт очевидную угрозу.
Знание может давать власть, а власть может давать знание. В зависимости о
т своей природы и своих целей, продвинутые системы ИИ могли бы накопить д
остаточно знания и власти, чтобы сместить нас, если мы не подготовимся до
лжным образом. И также как с репликаторами, простое эволюционное «превос
ходство» не обязательно сделает победителей лучшими, исчезнувшие, по вс
ем стандартам, кроме грубой способности конкурировать.
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40
и они умирают, но успешные выживают и распространяются ещё дальше. Перес
еленцы, направлявшиеся в Америку плыли и тонули, высаживались на берег и
умирали с голоду, но некоторые выживали, чтобы найти новые нации. Организ
мы повсюду будут чувствовать давление факторов, описанных Мальтусом, по
тому что они в процессе эволюции научатся выживать и распространять ген
ы и мимы, которые толкают в этом направлении. Если внеземные цивилизации
существуют, и если даже малая часть имела бы похожа на то, какая есть вся ж
изнь на Земле, то они должны были бы к сегодняшнему моменту распространи
ться по космосу.
Подобно нам, они бы имели тенденцию разрабатывать технологии, чтобы дост
ичь пределов, установленных естественными законами. Они бы учились, как
передвигаться со скоростью, близкой к световой, и конкуренция или чистое
любопытство подтолкнуло бы их это делать. Действительно, только высокоо
рганизованные, высокостабильные общества могли бы ограничить давление
конкуренции достаточно хорошо, чтобы избежать взрыва во вне со скорость
ю, близкой к световой. На сегодня, после сотен миллионов лет, даже широко р
ассеянные цивилизации распространились бы достаточно далеко, чтобы вс
третить друг друга, разделив космос между собой.
Если эти цивилизации действительно везде, тогда они оказались очень сде
ржанными и очень хорошо себя спрятали. Они бы контролировали ресурсы цел
ых галактик на протяжении многих миллионов лет, и встретили пределы рост
у в космическом масштабе. Продвинутая цивилизация, упирающаяся в свои эк
ологические пределы, почти по определению, не расходовала бы энергию и м
атерию. Однако мы видим расход во всех направлениях, поскольку мы видим с
пиральные галактики: их спиральные рукава содержат облака пыли, состоящ
ей из расходуемой впустую материи, подсвеченной бесполезно расходуемы
м светом звёзд.
Если такие продвинутые цивилизации существовали бы, тогда наша солнечн
ая система лежала бы в царстве одной из них. Если так, тогда бы сейчас был и
х ход Ц мы не могли бы ничего сделать, чтобы им угрожать, а они бы могли изу
чать нас как им нравится, с нашим участием или без.
Чувствительные люди слушались бы, если бы их очень попросили. Но если они
существуют, они должно быть прячут себя, и сохраняют все местные законы в
секрете.
Идея, что человечество одиноко в видимой вселенной согласуется с тем, чт
о мы видим в небе и с тем, что мы знаем о происхождении жизни. Никаких засте
нчивых чужестранцев не нужно, чтобы объяснить факты. Некоторые говорят,
что поскольку существует так много звёзд, обязательно среди них должны б
ыть другие цивилизации. Но в видимой вселенной имеется меньше звёзд, чем
молекул в стакане воды. Также как стакан воды не обязательно содержит вс
е возможные химические вещества (и даже сток химического завода), также д
ругие звёзды не обязательно дают убежище цивилизациям.
Мы знаем, что конкурирующие репликаторы имеют тенденцию расширяться к с
воим экологическим границам, и что ресурсы тем не менее бесполезно расто
чаются по всей вселенной. Мы не получили ни одного посланца от звёзд, и у н
ас очевидно нет даже приличного сторожа зоопарка. Вполне возможно, что т
ам никого и нет. Если они не существуют, тогда нам нет нужды учитывать их в
своих планах. Если они существуют, тогда они переделают наши планы в соот
ветствии со своими непостижимыми желаниями, и по-видимому нет способа п
одготовиться к этой возможности. Таким образом на данный момент, или воз
можно, навсегда, мы можем создавать планы на наше будущее не заботясь об о
граничениях, накладываемых другими цивилизациями.
Рост в пределах границ
Есть кто-то там, или нет, мы стоим на своём пути. Космос ждёт нас, бесплодный
камень и солнечный свет, подобный бесплодному камню и солнечному свету
земных континентов миллиард лет назад, перед тем, как жизнь стала выходи
ть из моря. Наши инженеры разрабатывают мимы, которые помогут нам создат
ь отличные космические корабли и поселения: мы будет осваивать землю сол
нечной системы в комфорте. За пределами богатства внутри солнечной сист
емы лежит кометное облако Ц обширная среда для роста, которая становитс
я тоньше на просторах межзвёздного пространства и утолщается ещё больш
е вокруг других звёздных систем, с новыми солнцами и девственными камням
и, ожидающих прикосновения жизни.
Хотя бесконечный экспоненциальный рост остаётся фантазией, распростра
нение жизни и цивилизации не встречает жёстких границ. Расширение будет
продолжаться, если мы выживем, потому что мы Ц часть живой системы, а жизн
ь имеет тенденцию распространяться. Пионеры двинутся вперёд, в миры без
конца. В любых поселениях, время придёт, когда граница Ц будет далеко впе
реди, а потом ещё дальше. На протяжении большей части будущего большинст
во людей и их потомков будут жить без пределов росту.
Нам могут нравиться или не нравиться пределы росту, но их реальность не з
ависит от наших желаний. Пределы существуют, по направлению к чему бы цел
и чётко ни ставились.
Но на границах, где ограничения изменяются, эта идея становится неуместн
ой. В искусстве или математике ценность работы зависит от сложности стан
дартов, оспариваемых и изменяемых. Один из этих стандартов Ц новизна, и о
на никогда не может быть исчерпана. Там, где цели изменяются и царит мир сл
ожности, пределы не обязательно нас ограничивают. Для создания симфонии
и песни, картины и миров, программ, теорем, фильмов и прекрасных вещей, кот
орые мы ещё не можем себе представить, конца не видно. Новые технологии ст
анут основной для новых видов искусства, а новые искусства принесут новы
е стандарты.
Мир грубой материи предлагает место для грандиозного, но ограниченного
роста. Мир разума и структуры, однако, содержит место для бесконечной эво
люции и изменения. Возможное кажется достаточным пространством.
Взгляд на пределы
Идея великих продвижений в жёстких границах не была разработана так, что
бы давать кому-то удовольствие, а так, чтобы быть правильной. Пределы огра
ничивают возможности, и некоторые могут быть безобразными или пугающим
и. Нам нужно подготовиться к прорывам, ожидающим нас впереди, однако мног
ие футуристы старательно делают вид, что никаких прорывов не произойдёт.
Эта школа мысли связана с "Пределами росту", опубликованными как отчёт Ри
мского клуба. Профессор Михайло Д. Месарович позже стал соавтором "Челов
ечества на поворотной точке", опубликованном как второй отчёт Римского к
луба. Профессор Месарович разработал компьютерную модель, которая имее
т целью описать будущие изменения в мировом население, экономике и окруж
ающей среде. Весной 1981 года он посетил MIT, чтобы обратиться к "Ограниченной З
емле: мировоззрение для поддерживаемого будущего" Ц тот же семинар, кот
орый сделал главным своим пунктом энтропию Джереми Ривкина. Он описал мо
дель, намереваясь дать грубое описание следующего столетия. Когда ему за
дали вопрос, допускает ли он или кто-либо из его коллег хотя бы один проры
в в будущем, сравнимый, скажем, с нефтяной промышленностью, самолётами, ав
томобилями, электрической энергией или компьютерами Ц возможно самов
оспроизводящиеся робототехнические системы или дешёвые полёты в космо
с, он ответил прямо Ц нет.
Очевидно, что такие модели будущего несостоятельны. Однако некоторые лю
ди, по-видимому, желают, даже страстно желают, верить, что прорывы вдруг за
кончатся, что глобальная гонка технологий, которая набирала скорость на
протяжении столетий, затормозится и остановится в ближайшем будущем.
Привычка пренебрегать или отрицать возможность продвижения технологи
и Ц это общая проблема. Некоторые люди верят в аккуратно очерченные пре
делы, потому что они слышали, как уважаемые люди накручивают звучащие пр
авдоподобно аргументы в пользу этого. Однако по-видимому, некоторые люд
и больше обращают внимание на желания, чем на факты, после столетия ускор
яющегося прогресса. Чёткие границы упрощают наше будущее, делая его боле
е простым для понимания и более комфортным, чтобы о нём думать. Вера в чётк
ие пределы также освобождает человека от определённых забот и ответств
енности. В конце концов если естественные силы остановят гонку технолог
ий, удобно и автоматически, тогда нам нет нужды пытаться понять её и контр
олировать.
Самое лучшее Ц это бегство от реальности не ощущается как бегство. Наст
рой на глобальный спад должен давать то, что суровые факты будут восприн
иматься без содрогания. Однако такое будущее не оказалось бы чем-то новы
м: оно толкнуло бы нас по направлению к подобной нищете прошлого Европы и
ли настоящего стран третьего мира. Настоящая смелость требует встречат
ь реальность лицом к лицу, встречать ускоряющиеся изменения в мире, кото
рые не имеют автоматической остановки. Это ставит огромные и крайне суще
ственные интеллектуальные, моральные и политические задачи.
Предостережения о ложных границах приносит двойной вред. Во-первых, они
дискредитируют саму идею ограничений, притупляя интеллектуальный инст
румент, который нам необходим, чтобы понять наше будущее. Но что хуже, таки
е предостережения отвлекают внимание от настоящих проблем. В западном м
ире существует живая политическая традиция, которая поощряет подозрит
ельность к технологии. До той степени, пока вначале она дисциплинирует с
вои подозрения, проверяя их относительно реальности и далее выбирая раб
отоспособные стратегии для управления изменением, эта традиция может в
ложить многое в выживание жизни и цивилизации. Но люди, озабоченные техн
ологией и будущим Ц ограниченный ресурс. Мир не может себе позволить ра
сточать их усилия на бесплодные кампании, чтобы остановить глобальный п
оток технологии узким веником западных движений протеста. Грядущие про
блемы требуют более тонких стратегий.
Никто не может пока сказать наверняка, какие проблемы окажутся наиболее
важными, или какие стратегии окажутся наилучшими для их разрешения. Одна
ко мы уже можем видеть новые проблемы огромной важности, и мы можем разли
чить стратегии с различной степенью перспективности. Короче говоря, мы м
ожем видеть достаточно о будущем, чтобы идентифицировать цели, которые с
тоят того, чтобы им следовать.
ЧАСТЬ ТРЕТЬЯ. ОПАСНОСТИ И НА
ДЕЖДЫ
Глава 11. МАШИНЫ РАЗРУШЕНИЯ
И я не сомневаюсь, что самыми г
розными из всех армий, о которых когда-либо слышали на земле, является тот
вид солдат, которые за их малостью не видимы.
Сэр Уильям Перри, о микробах
, 1640 год.
Размножающиеся ассемблеры и мыслящие машины создают принципиальные уг
розы для людей и жизни на Земле. Сегодняшние организмы имеют способности
далеко от пределов возможного, и наши машины эволюционируют быстрее, че
м мы сами. В пределах нескольких десятилетий представляется вероятным, ч
то они на превзойдут. Если мы не научимся жить с ними в безопасности, наше
будущее вероятно будет и восхитительным, и коротким. Мы не можем надеять
ся предвидеть все проблемы впереди, однако, уделяя внимания большим, при
нципиальным моментам, мы, возможно, в состоянии предвидеть наиболее знач
ительные задачи и получить некоторое представление о том, как с ними име
ть дело.
Без сомнения, будут написаны целые книги о грядущих социальных сдвигах:
что случится с глобальным порядком, когда ассемблеры и автоматический и
нжиниринг исключать необходимость в большей части международной торго
вли? Как общество изменится, когда отдельные люди смогут жить независимо
? Что мы будем делать, когда размножающиеся ассемблеры смогут производит
ь почти всё что угодно без человеческого труда? Что мы будем делать, когда
системы ИИ смогут думать быстрее, чем люди? (И до того, как они придут к закл
ючению, что люди отчаются что-либо делать или создавать, авторы могут рас
смотреть, как бегуны относятся к машинам, или как художники относятся к к
амерам.)
В действительности авторы уже почти предвидели и проговорили нескольк
о из этих моментов. Каждый из них Ц дело необычайной важности, но более фу
ндаментальным, чем любой из них является выживание жизни и свобода. В кон
це концов, если жизнь или свобода исчезнут, то наши идеи о социальных проб
лемах больше не будут иметь значения.
Угроза от машин
В главе 4 я описал кое-что из того, что воспроизводящиеся ассемблеры будут
делать для нас, если мы будем с ними правильно обращаться. Приводимые в дв
ижение топливом или солнечным светом, они будут способны делать почти вс
ё что угодно (включая их самих) из широко распространённых материалов.
Живые организмы также приводятся в движение топливом или солнечным све
том, и также делают большую часть себя из широко распространённых матери
алов. Но в отличие от систем, основанных на ассемблерах, они не могут делат
ь "почти всё что угодно".
Генетическая эволюция ограничила жизнь системами, построенными на ДНК,
РНК и рибосомах, но эволюция мимов принесёт машины, подобные жизни, постр
оенные на нанокомпьютерах и ассемблерах. Я уже описал, чем построенные и
з ассемблеров молекулярные машины будут отличаться от построенных на р
ибосомах машинах жизни. Ассемблеры будут способны строить всё то, что сп
особны рибосомы, и более того; репликаторы на базе ассемблеров, следоват
ельно, будут способны делать всё, что может жизнь, и более того. С точки зре
ния эволюции, это создаёт очевидную угрозу выдрам, людям, кактусам и папо
ротникам Ц всей богатой фабрике биосферы и всему, что мы ценим.
Ранние компьютеры, построенные на транзисторах, вскоре обошли самые луч
шие компьютеры на электронных лампах, потому что они были сделаны из уст
ройств более высокого уровня. По той же причине, ранние репликаторы, пост
роенные на ассемблерах, могли бы обойти самые совершенные из современны
х организмов. «Растения» с «листьями» не более эффективными, чем сегодня
шние солнечные элементы, могли бы выиграть конкуренцию у настоящих раст
ений, наводняя биосферу несъедобной листвой. Однако, всеядные «бактерии
» могли бы выиграть конкуренцию у настоящих бактерий: они могли бы распр
остраниться как летящая пыльца, стремительно размножаясь и сведя биосф
еру в пыль за считанные дни. Опасные репликаторы могли бы легко быть слиш
ком жёсткими, маленькими и быстро распространяющимися, чтобы их останов
ить Ц по крайней мере если мы не сделаем никаких приготовлений. У нас дос
таточно проблем с контролем над вирусами и фруктовыми мушками.
Среди знатоков нанотехнологии эта угроза стала известна как "проблема с
ерой липкой массы". Хотя массы бесконтрольных репликаторов не обязатель
но должны быть серыми или липкими, термин "серая липкая" подчёркивает, что
репликаторов, способных уничтожить жизнь, может быть меньше в шприце, че
м одного вида травяных жучков. Они могли бы быть «высшими» в эволюционно
м смысле, но это не обязательно сделало бы их ценными. Мы научились любить
мир богатым живыми тварями, идеями, и разнообразием, так что не причины це
нить серую массу только за то, что она может распространяться. Действите
льно, если мы предотвратим её размножение, тем самым мы докажем наше эвол
юционное превосходство.
Угроза серой липкой массы делает одну вещь совершенно очевидной: мы не м
ожем себе позволить определённые виды случайностей с размножающимися
ассемблерами.
В главе 5 я описал некоторое из того, что будут делать для нас продвинутые
системы ИИ, если мы будет правильно с ними обращаться. В конечном счёте он
будут воплощать структуры мысли заставлять их течь со скоростью, с котор
ой не может сравняться ни один мозг млекопитающего. Системы ИИ, которые р
аботают вместе, также как это делают люди, будут способны думать не прост
о как отдельные люди, но как целые общества. Опять же, эволюция генов остав
ила жизнь в определённом состоянии. Опять же, эволюция мимов человечески
ми существами, и в конечном счёте машинами, будут продвигать наши аппара
тные средства далеко за пределы жизни. И снова, с точки зрения эволюции эт
о создаёт очевидную угрозу.
Знание может давать власть, а власть может давать знание. В зависимости о
т своей природы и своих целей, продвинутые системы ИИ могли бы накопить д
остаточно знания и власти, чтобы сместить нас, если мы не подготовимся до
лжным образом. И также как с репликаторами, простое эволюционное «превос
ходство» не обязательно сделает победителей лучшими, исчезнувшие, по вс
ем стандартам, кроме грубой способности конкурировать.
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40