Традиционно, оборона требовала оружия, к
оторое также полезно для нападения. Это Ц одна причина, почему «оборона
» стала значить "способность вести войну", и почему усилия по «обороне» да
ют противникам причину для опасений. Недавно предложенные виды обороны
с космическим базированием расширят эту структуру. Почти любые защитны
е системы, которые могут разрушать атакующие ракеты, могли бы также разр
ушать оборону противника Ц или проводить космическую блокаду, предотв
ращая построение противником различных видов обороны первым. Такие "вид
ы обороны" попахивают нападением, также как они, по-видимому, и должны, это
их работа. И таким образом гонка вооружений собирает себя для следующего
опасного прыжка.
Должна ли оборона и нападение быть так близко неразрывными? История заст
авляет казаться, что это так. Стены только задерживают захватчиков, когд
а их защищают воины, но воины сами могут выйти, чтобы захватить другие зем
ли. Когда мы представляем оружие, мы естественно представляем человечес
кие руки, которые его нацеливают и человеческую прихоть, решающую, когда
стрелять Ц и история учит нас бояться самого худшего.
Однако сегодня, первый раз в истории, мы научились, как строить защитные с
истемы, которые принципиально отличаются от оружия как такового. Рассмо
трим пример базирования в космосе. Мы сейчас можем разработать устройст
ва, которые чувствуют (выглядит так, как будто тысяча ракет запущена толь
ко что), оценивать (выглядит так, как попытка удара первыми), и действовать (
пытаться разрушить эти ракеты!). Если система будет стрелять только по бо
льшим скопищам летящих ракет, то она не может использоваться для нападен
ия или для космической блокады. Ещё лучше, что её можно было бы сделать так
, чтобы она была неспособна различать атакующие стороны. Служа стратегич
еским интересам своих создателей, она не подчинялась бы каждодневному к
омандованию со стороны чьих бы то ни было генералов. Она бы просто делала
космос опасным окружением для ракет любой атакующей стороны. Также как м
оре или гряда гор в предыдущих войнах, она бы не угрожала ни одной из сторо
н, в то время как обеспечивала бы каждую сторону некоторой защитой проти
в другой стороны.
Хотя она бы использовала военные технологии (сенсоры, отслеживающие уст
ройства, лазеры, наводящиеся снаряды и т. п.) оборона не была бы системой ор
ужия, почему её роль была принципиально другой. Системам этого типа нужн
о было бы отличительное имя: они, в действительности, род активного щита
Ц термин, которые может описать любую автоматическую или полуавтомати
ческую систему, разработанную для защиты без угрозы. Но защищая обе стор
оны, не угрожая ни одной, активные щиты могли бы ослабить цикл гонки воору
жений.
Технические, экономические и стратегические вопросы, поднимаемые акти
вными щитами сложны, и они могут быть, а могут не быть практическими в пред
ассемблерную эру. Если они практические, то будет несколько возможных по
дходов к их построению. В одном подходе, сотрудничающие демократии постр
оили бы щиты в одностороннем порядке. Чтобы дать возможность другим наци
ям удостовериться, что система будет и (что более важно) не будет делать, м
ы могли бы позволить многосторонние инспекции ключевых конструкций, ко
мпонентов, и шагов производства. Нам не нужно выдавать все участвующие т
ехнологии, почему "знаю что" не то же самое, что "знаю как". В другом подходе, м
ы бы строили щиты совместно, ограничивая передачу технологии до минимум
а, необходимого для кооперации и верификации (используя принципы, обсужд
аемые в Примечаниях).
У нас больше шанса запретить космические вооружения, чем нанотехнологи
ю, и это могло бы даже быть лучшим способом минимизировать наши краткоср
очные риски. В выборе долгосрочной стратегии контроля гонки вооружений,
однако мы должны рассматривать больше, чем следующий шаг. Анализ, которы
й я обрисовал в этой главе подсказывает, что традиционные подходы к конт
ролю вооружений, основанные на переговорах о проверяемых ограничениях,
не могут справиться с нанотехнологией. Если это так, то нам нужно разрабо
тать альтернативные подходы. Активные щиты Ц что кажется существенным,
в конченом счёте могут предложить новую стабилизирующую альтернативу
гонке вооружений в космосе. Исследуя эту альтернативу, мы можем исследов
ать основные вопросы, общие для всех активных щитов. Если мы в этом случае
их разработаем, мы получим опыт и построим институциональные механизмы,
которые могут позже оказаться существенными для нашего выживания.
Активные щиты Ц новый выбор, основанный на новых технологиях. Чтобы зас
тавить их работать, потребуется творческий, междисциплинарный синтез и
дей в проектировании, стратегии и международных отношениях. Они предлож
ат новые возможности, которые могут позволить нам избежать старых тупик
ов. Они очевидно предложат ответ на старый вопрос защиты без угрозы Ц но
не простой ответ.
Власть, зло, некомпетентност
ь и лень
Я обрисовал, как нанотехнология и продвинутый ИИ дадут огромную власть в
едущей силе Ц власть, которая может быть использована чтобы уничтожить
жизнь, или чтобы расширить и освободить её. Поскольку мы не можем останов
ить эти технологии, представляется, что мы должны как-то справиться с воз
никновением концентрации власти, большей, чем любая другая в истории.
Нам понадобится подходящая система институтов. Чтобы безопасно управл
ять сложными технологиями, эта система должна иметь способы оценивать о
тносящиеся к делу факты. Чтобы управлять безопасно большой мощью, она до
лжна включать эффективные способы контроля и балансы, а её цели и методы
должны сохраняться открытыми для тщательного общественного контроля.
Наконец, поскольку это поможет нам заложить основы нового мира, лучше, чт
обы оно направлялось нашими общими интересами, в рамках надёжных принци
пов.
Мы не начинаем с нуля; мы будем строить на основе тех институтов, которые у
нас есть. Они различны. Не все из наших институтов Ц государственные чин
овники в массивных серых зданиях; они включают такие расплывчатые и живы
е образования, как свободная пресса, исследовательское сообщество и сет
ь активистов. Эти децентрализованные институты помогают нам контролир
овать серые бюрократические машины.
Отчасти мы встречаемся с новой версией древней и общей проблемы огранич
ения злоупотребления властью. Это не представляет никакой значительно
й, фундаментальной новизны, и принципы и институты либеральной демократ
ии, которым много сотен лет, подсказывают, как это может быть решено. Демок
ратические правительства уже имеют физическую власть, чтобы взорвать к
онтиненты и захватить, посадить в тюрьму и убить их жителей. Но мы можем жи
ть с этими возможностями, потому что эти правительства достаточно покор
ные и стабильные.
Грядущие годы возложат большую ношу на наши институты. Принципы предста
вительного правительства, свободы слова, процесса сбора налогов, правил
а законов и защита прав человека будут оставаться решающими. Чтобы подго
товиться к новым видам бремени, нам понадобится расширить и вдохнуть нов
ую жизнь в эти принципы и институты, которые их поддерживают; защита своб
оды слова относительно технических вопросов может быть решающей. Хотя м
ы сталкиваемся с серьёзным вызовом, есть повод надеяться, что мы сможем н
а него достойно ответить.
Есть также, конечно, очевидные причины для сомнения, что мы сможем на него
достойно ответить. Но отчаяние заразно и противно, и оставляет людей в по
давленном состоянии. Кроме того отчаяние кажется неоправданным, вопрек
и знакомым проблемам: зло Ц слишком ли мы злы, чтобы делать правильные ве
щи? Некомпетентность Ц слишком ли мы глупы, чтобы делать правильные вещ
и? Лень Ц слишком ли мы ленивы, чтобы подготовиться?
Хотя это был бы слишком поспешным предсказывать радужное будущее, эти пр
облемы не кажутся непреодолимыми.
Демократические правительства Ц большие, небрежные и иногда безответ
ственные за жестокости, однако они не кажутся злом, в целом, хотя они могут
включать людей, которые заслуживают этого ярлыка. В действительности их
лидеры получают власть во многом выказывая поддержку общепризнанным и
деям добра. Наша главная опасность в том, что стратегии, которые кажутся х
орошими, могут вести к несчастью, или что действительно хорошие стратеги
и не будут найдены, опубликованы и воплощены во время, чтобы возыметь дей
ствие. Демократии страдают больше от лени и некомпетентности, чем от зла.
Некомпетентность будет кончено неизбежна, но должна ли она быть фатальн
ой? Мы, человеческие существа, по своей природе глупы и невежественны, одн
ако мы иногда ухитряемся объединить наши кусочки компетентности и знан
ия, чтобы достигать великих вещей. Никто не знает, как долететь до Луны и н
икто никогда не узнает, однако дюжина людей прошлась по её поверхности. М
ы преуспели в технических вопросах, потому что научились строить инстит
уты, которые собирают многих людей вместе, чтобы генерировать и проверят
ь идеи. Эти институты добиваются надёжности путём избыточности, и качест
во их результатов зависит от во многом от того, как сильно это нас заботит
и как напряжённо мы работаем. Когда мы концентрируем достаточно внимани
я и ресурсов на надёжности, мы часто преуспеваем. Это Ц то, почему полёты
на Луну закончились успешно без гибели в космосе и почему никакое ядерно
е оружие никогда не было запущено и не взорвалось по случайности. И это то
, почему мы можем суметь управлять нанотехнологией и продвинутым ИИ с до
статочной осторожностью, чтобы гарантировать компетентную работу. Неу
стойчивые люди с ограниченными способностями могут объединиться, чтоб
ы образовать стабильные, компетентные институты.
Лень Ц интеллектуальная, моральная и физическая Ц кажется возможно на
шей самой большой опасностью. Мы можем только отвечать на великие вызовы
великими усилиями. Сделают ли достаточно людей достаточные усилия? Никт
о не может этого сказать, поскольку никто не может сказать за любого друг
ого. Но успех не потребует неожиданного всеобщего прозрения и мобилизац
ии. Он потребует только растущего сообщества людей, пытающихся разработ
ать, опубликовать и воплотить работоспособные решения, и чтобы они имели
хорошую и растущую меру успеха.
Это не так невероятно. Забота о технологии стала широко распространённо
й, также как идея ускоряющегося изменения потребует лучшего предвидени
я. Лень не поймает в западню каждого, и введённые в заблуждение мыслители
не будут вести по ложному направлению усилия всех. Смертоносные псевдо-
решения (такие как запрещение исследований) проиграют битву идей, если д
остаточно людей разоблачат их. И хотя мы сталкиваемся в большим вызовом,
успех сделает возможным осуществление великих мечтаний. Великие надеж
ды и страхи могут подвигнуть достаточно людей, чтобы дать возможность че
ловеческой расе выиграть.
Страстное участие и действие не будут достаточны; мы также будем нуждать
ся в хорошо обоснованных стратегиях. Это потребует больше чем хороших на
мерений и чётких целей: мы должны также отслеживать фактические связи в
мире, которые будут связывать то, что мы делаем, с тем, что мы получаем. По ме
ре того, как мы приближаемся к технологическому кризису беспрецедентно
й сложности, имеет смысл попытаться улучшить наши институты оценки важн
ых технических фактов. Как ещё мы можем направлять ведущую силу и миними
зировать угрозу последней некомпетентности?
Институты эволюционируют. Чтобы вывести лучшие институты для нахожден
ия фактов, мы можем копировать, адаптировать и расширять наши прошлые ус
пехи. Они включают свободную прессу, научное сообщество, и суды. Все имеют
свои достоинства, и некоторые из этих достоинств могут быть объединены.
Глава 13. НАХОЖДЕНИЕ ФАКТОВ
Страх нельзя запретить, но он
может быть спокойным и без паники; и он может быть уменьшен разумом и оцен
кой.
Ванневар Буш.
Собрание экспертов
От междоусобиц к честному судебному процессу
Один из подходов
Почему бы не справедливый судебный процесс?
Построение справедливого судебного процесса
Обществу нужны лучшие способы понимания технологии Ц это давно уже оче
видно. Вызовы будущего просто делают нашу потребность более насущной.
Обещания технологии манит нас вперёд, а давление конкуренции делает ост
ановку практически невозможной. По мере того, как гонка технологий ускор
яется, новые разработки входят в нашу жизнь всё быстрее, а фатальные ошиб
ки становятся более вероятными. Нам нужно создать лучший баланс между на
шим предвидением и нашей скорость продвижения. Мы не можем сделать много
, чтобы замедлить рост технологии, но мы можем ускорить скорость предвид
ения. И с лучшим предвидением, у нас будет больше шансов направлять гонку
технологий в безопасном направлении.
Предлагались различные способы для управления технологией. "Люди должн
ы контролировать технологию" Ц неплохой лозунг, но он может иметь два во
зможных значения. Если это значит, что мы должны заставить технологию сл
ужить человеческим потребностям, то он вполне имеет смысл. Но если он озн
ачает, что люди как целое должны принимать технические решения, то в нём о
чень мало смысла. Электорат не может оценить внутренние взаимосвязи меж
ду технологией, экономикой, окружающей средой и жизнью; у людей нет необх
одимых знаний. Сами люди согласны: в соответствии с исследованием Госуда
рственным фондом науки США 85 процентов взрослых людей в США считают, что б
ольшинство граждан не имеет знаний, необходимых, чтобы выбирать, какие т
ехнологии разрабатывать. Публика в целом оставляет технические сужден
ия техническим экспертам.
К сожалению, оставление суждений экспертам вызывает проблемы. В "Совете
и разногласии" Примак и фон Хиппель отмечают, что "до той степени, до котор
ой Администрация может преуспевать в удерживании нежелательной информ
ации в секрете и публику в неведении, благополучие общества может быть п
ринесено в жертву с безнаказанностью для удобства бюрократов и частной
выгоды." Люди у руля подвергаются большей критике, когда новое лекарство
вызывает единственную смерть, чем когда его отсутствие вызывает тысячи
смертей. Они и выдают неправильное регулирование соответственно этому.
Военные бюрократы имеют законный интерес в трате денег, скрытии ошибок и
продолжении своих проектов. Они и управляют неправильно соответственн
о этому. Этот вид проблемы такой фундаментальный и естественный, что бол
ьше примеров вряд ли нужно. Везде секретность и туман создают чиновникам
больший комфорт; везде личная выгода искажает фактические утверждения
по вопросам, касающимся общественности. По мере того, как технологии ста
новятся всё более сложными и важными, эта модель становится всё более оп
асной.
Некоторые авторы рассматривают правление секретных технократов практ
ически неизбежным. В "Создании альтернативных видов будущего" Хейзел Хен
дерсон доказывает, что сложные технологии " становятся по сути свое
й тоталитарными
" (её курсив), потому что ни избиратели, ни законодатели не могут их понять. В
"Повторном посещении будущего человечества" Харрисон Браун также утвер
ждает, что соблазн обойти демократические процессы в решении сложных кр
изисов приносит опасность, "что если индустриальная цивилизация выживе
т, она станет всё более тоталитарной по природе." Если это было бы так, то ве
роятно это означало бы обречённость: мы не можем остановить гонку технол
огий, а мир тоталитарных государств, основанный на совершенной технолог
ии не нуждающийся ни в работниках, ни в солдатах, мог бы вполне избавиться
от большей части населения.
К счастью, демократия и свобода сталкивалась с подобными вызовами в прош
лом. Государства становились слишком сложными для прямой демократии, но
появилась представительная демократия. Государственная власть угрожа
ла разрушить свободу, но появилась власть закона. Технология стала сложн
ой, но это не даёт нам никакой причины игнорировать людей, сбрасывать со с
четов закон и приветствовать диктатора. Нам нужны способы, чтобы управля
ть технической сложностью в демократических рамках, используя эксперт
ов как инструменты, чтобы прояснять наше видение, не давая им контроля на
д нашими жизнями. Но технические эксперты сегодня втянуты в систему межд
оусобиц между узкими группами.
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40
оторое также полезно для нападения. Это Ц одна причина, почему «оборона
» стала значить "способность вести войну", и почему усилия по «обороне» да
ют противникам причину для опасений. Недавно предложенные виды обороны
с космическим базированием расширят эту структуру. Почти любые защитны
е системы, которые могут разрушать атакующие ракеты, могли бы также разр
ушать оборону противника Ц или проводить космическую блокаду, предотв
ращая построение противником различных видов обороны первым. Такие "вид
ы обороны" попахивают нападением, также как они, по-видимому, и должны, это
их работа. И таким образом гонка вооружений собирает себя для следующего
опасного прыжка.
Должна ли оборона и нападение быть так близко неразрывными? История заст
авляет казаться, что это так. Стены только задерживают захватчиков, когд
а их защищают воины, но воины сами могут выйти, чтобы захватить другие зем
ли. Когда мы представляем оружие, мы естественно представляем человечес
кие руки, которые его нацеливают и человеческую прихоть, решающую, когда
стрелять Ц и история учит нас бояться самого худшего.
Однако сегодня, первый раз в истории, мы научились, как строить защитные с
истемы, которые принципиально отличаются от оружия как такового. Рассмо
трим пример базирования в космосе. Мы сейчас можем разработать устройст
ва, которые чувствуют (выглядит так, как будто тысяча ракет запущена толь
ко что), оценивать (выглядит так, как попытка удара первыми), и действовать (
пытаться разрушить эти ракеты!). Если система будет стрелять только по бо
льшим скопищам летящих ракет, то она не может использоваться для нападен
ия или для космической блокады. Ещё лучше, что её можно было бы сделать так
, чтобы она была неспособна различать атакующие стороны. Служа стратегич
еским интересам своих создателей, она не подчинялась бы каждодневному к
омандованию со стороны чьих бы то ни было генералов. Она бы просто делала
космос опасным окружением для ракет любой атакующей стороны. Также как м
оре или гряда гор в предыдущих войнах, она бы не угрожала ни одной из сторо
н, в то время как обеспечивала бы каждую сторону некоторой защитой проти
в другой стороны.
Хотя она бы использовала военные технологии (сенсоры, отслеживающие уст
ройства, лазеры, наводящиеся снаряды и т. п.) оборона не была бы системой ор
ужия, почему её роль была принципиально другой. Системам этого типа нужн
о было бы отличительное имя: они, в действительности, род активного щита
Ц термин, которые может описать любую автоматическую или полуавтомати
ческую систему, разработанную для защиты без угрозы. Но защищая обе стор
оны, не угрожая ни одной, активные щиты могли бы ослабить цикл гонки воору
жений.
Технические, экономические и стратегические вопросы, поднимаемые акти
вными щитами сложны, и они могут быть, а могут не быть практическими в пред
ассемблерную эру. Если они практические, то будет несколько возможных по
дходов к их построению. В одном подходе, сотрудничающие демократии постр
оили бы щиты в одностороннем порядке. Чтобы дать возможность другим наци
ям удостовериться, что система будет и (что более важно) не будет делать, м
ы могли бы позволить многосторонние инспекции ключевых конструкций, ко
мпонентов, и шагов производства. Нам не нужно выдавать все участвующие т
ехнологии, почему "знаю что" не то же самое, что "знаю как". В другом подходе, м
ы бы строили щиты совместно, ограничивая передачу технологии до минимум
а, необходимого для кооперации и верификации (используя принципы, обсужд
аемые в Примечаниях).
У нас больше шанса запретить космические вооружения, чем нанотехнологи
ю, и это могло бы даже быть лучшим способом минимизировать наши краткоср
очные риски. В выборе долгосрочной стратегии контроля гонки вооружений,
однако мы должны рассматривать больше, чем следующий шаг. Анализ, которы
й я обрисовал в этой главе подсказывает, что традиционные подходы к конт
ролю вооружений, основанные на переговорах о проверяемых ограничениях,
не могут справиться с нанотехнологией. Если это так, то нам нужно разрабо
тать альтернативные подходы. Активные щиты Ц что кажется существенным,
в конченом счёте могут предложить новую стабилизирующую альтернативу
гонке вооружений в космосе. Исследуя эту альтернативу, мы можем исследов
ать основные вопросы, общие для всех активных щитов. Если мы в этом случае
их разработаем, мы получим опыт и построим институциональные механизмы,
которые могут позже оказаться существенными для нашего выживания.
Активные щиты Ц новый выбор, основанный на новых технологиях. Чтобы зас
тавить их работать, потребуется творческий, междисциплинарный синтез и
дей в проектировании, стратегии и международных отношениях. Они предлож
ат новые возможности, которые могут позволить нам избежать старых тупик
ов. Они очевидно предложат ответ на старый вопрос защиты без угрозы Ц но
не простой ответ.
Власть, зло, некомпетентност
ь и лень
Я обрисовал, как нанотехнология и продвинутый ИИ дадут огромную власть в
едущей силе Ц власть, которая может быть использована чтобы уничтожить
жизнь, или чтобы расширить и освободить её. Поскольку мы не можем останов
ить эти технологии, представляется, что мы должны как-то справиться с воз
никновением концентрации власти, большей, чем любая другая в истории.
Нам понадобится подходящая система институтов. Чтобы безопасно управл
ять сложными технологиями, эта система должна иметь способы оценивать о
тносящиеся к делу факты. Чтобы управлять безопасно большой мощью, она до
лжна включать эффективные способы контроля и балансы, а её цели и методы
должны сохраняться открытыми для тщательного общественного контроля.
Наконец, поскольку это поможет нам заложить основы нового мира, лучше, чт
обы оно направлялось нашими общими интересами, в рамках надёжных принци
пов.
Мы не начинаем с нуля; мы будем строить на основе тех институтов, которые у
нас есть. Они различны. Не все из наших институтов Ц государственные чин
овники в массивных серых зданиях; они включают такие расплывчатые и живы
е образования, как свободная пресса, исследовательское сообщество и сет
ь активистов. Эти децентрализованные институты помогают нам контролир
овать серые бюрократические машины.
Отчасти мы встречаемся с новой версией древней и общей проблемы огранич
ения злоупотребления властью. Это не представляет никакой значительно
й, фундаментальной новизны, и принципы и институты либеральной демократ
ии, которым много сотен лет, подсказывают, как это может быть решено. Демок
ратические правительства уже имеют физическую власть, чтобы взорвать к
онтиненты и захватить, посадить в тюрьму и убить их жителей. Но мы можем жи
ть с этими возможностями, потому что эти правительства достаточно покор
ные и стабильные.
Грядущие годы возложат большую ношу на наши институты. Принципы предста
вительного правительства, свободы слова, процесса сбора налогов, правил
а законов и защита прав человека будут оставаться решающими. Чтобы подго
товиться к новым видам бремени, нам понадобится расширить и вдохнуть нов
ую жизнь в эти принципы и институты, которые их поддерживают; защита своб
оды слова относительно технических вопросов может быть решающей. Хотя м
ы сталкиваемся с серьёзным вызовом, есть повод надеяться, что мы сможем н
а него достойно ответить.
Есть также, конечно, очевидные причины для сомнения, что мы сможем на него
достойно ответить. Но отчаяние заразно и противно, и оставляет людей в по
давленном состоянии. Кроме того отчаяние кажется неоправданным, вопрек
и знакомым проблемам: зло Ц слишком ли мы злы, чтобы делать правильные ве
щи? Некомпетентность Ц слишком ли мы глупы, чтобы делать правильные вещ
и? Лень Ц слишком ли мы ленивы, чтобы подготовиться?
Хотя это был бы слишком поспешным предсказывать радужное будущее, эти пр
облемы не кажутся непреодолимыми.
Демократические правительства Ц большие, небрежные и иногда безответ
ственные за жестокости, однако они не кажутся злом, в целом, хотя они могут
включать людей, которые заслуживают этого ярлыка. В действительности их
лидеры получают власть во многом выказывая поддержку общепризнанным и
деям добра. Наша главная опасность в том, что стратегии, которые кажутся х
орошими, могут вести к несчастью, или что действительно хорошие стратеги
и не будут найдены, опубликованы и воплощены во время, чтобы возыметь дей
ствие. Демократии страдают больше от лени и некомпетентности, чем от зла.
Некомпетентность будет кончено неизбежна, но должна ли она быть фатальн
ой? Мы, человеческие существа, по своей природе глупы и невежественны, одн
ако мы иногда ухитряемся объединить наши кусочки компетентности и знан
ия, чтобы достигать великих вещей. Никто не знает, как долететь до Луны и н
икто никогда не узнает, однако дюжина людей прошлась по её поверхности. М
ы преуспели в технических вопросах, потому что научились строить инстит
уты, которые собирают многих людей вместе, чтобы генерировать и проверят
ь идеи. Эти институты добиваются надёжности путём избыточности, и качест
во их результатов зависит от во многом от того, как сильно это нас заботит
и как напряжённо мы работаем. Когда мы концентрируем достаточно внимани
я и ресурсов на надёжности, мы часто преуспеваем. Это Ц то, почему полёты
на Луну закончились успешно без гибели в космосе и почему никакое ядерно
е оружие никогда не было запущено и не взорвалось по случайности. И это то
, почему мы можем суметь управлять нанотехнологией и продвинутым ИИ с до
статочной осторожностью, чтобы гарантировать компетентную работу. Неу
стойчивые люди с ограниченными способностями могут объединиться, чтоб
ы образовать стабильные, компетентные институты.
Лень Ц интеллектуальная, моральная и физическая Ц кажется возможно на
шей самой большой опасностью. Мы можем только отвечать на великие вызовы
великими усилиями. Сделают ли достаточно людей достаточные усилия? Никт
о не может этого сказать, поскольку никто не может сказать за любого друг
ого. Но успех не потребует неожиданного всеобщего прозрения и мобилизац
ии. Он потребует только растущего сообщества людей, пытающихся разработ
ать, опубликовать и воплотить работоспособные решения, и чтобы они имели
хорошую и растущую меру успеха.
Это не так невероятно. Забота о технологии стала широко распространённо
й, также как идея ускоряющегося изменения потребует лучшего предвидени
я. Лень не поймает в западню каждого, и введённые в заблуждение мыслители
не будут вести по ложному направлению усилия всех. Смертоносные псевдо-
решения (такие как запрещение исследований) проиграют битву идей, если д
остаточно людей разоблачат их. И хотя мы сталкиваемся в большим вызовом,
успех сделает возможным осуществление великих мечтаний. Великие надеж
ды и страхи могут подвигнуть достаточно людей, чтобы дать возможность че
ловеческой расе выиграть.
Страстное участие и действие не будут достаточны; мы также будем нуждать
ся в хорошо обоснованных стратегиях. Это потребует больше чем хороших на
мерений и чётких целей: мы должны также отслеживать фактические связи в
мире, которые будут связывать то, что мы делаем, с тем, что мы получаем. По ме
ре того, как мы приближаемся к технологическому кризису беспрецедентно
й сложности, имеет смысл попытаться улучшить наши институты оценки важн
ых технических фактов. Как ещё мы можем направлять ведущую силу и миними
зировать угрозу последней некомпетентности?
Институты эволюционируют. Чтобы вывести лучшие институты для нахожден
ия фактов, мы можем копировать, адаптировать и расширять наши прошлые ус
пехи. Они включают свободную прессу, научное сообщество, и суды. Все имеют
свои достоинства, и некоторые из этих достоинств могут быть объединены.
Глава 13. НАХОЖДЕНИЕ ФАКТОВ
Страх нельзя запретить, но он
может быть спокойным и без паники; и он может быть уменьшен разумом и оцен
кой.
Ванневар Буш.
Собрание экспертов
От междоусобиц к честному судебному процессу
Один из подходов
Почему бы не справедливый судебный процесс?
Построение справедливого судебного процесса
Обществу нужны лучшие способы понимания технологии Ц это давно уже оче
видно. Вызовы будущего просто делают нашу потребность более насущной.
Обещания технологии манит нас вперёд, а давление конкуренции делает ост
ановку практически невозможной. По мере того, как гонка технологий ускор
яется, новые разработки входят в нашу жизнь всё быстрее, а фатальные ошиб
ки становятся более вероятными. Нам нужно создать лучший баланс между на
шим предвидением и нашей скорость продвижения. Мы не можем сделать много
, чтобы замедлить рост технологии, но мы можем ускорить скорость предвид
ения. И с лучшим предвидением, у нас будет больше шансов направлять гонку
технологий в безопасном направлении.
Предлагались различные способы для управления технологией. "Люди должн
ы контролировать технологию" Ц неплохой лозунг, но он может иметь два во
зможных значения. Если это значит, что мы должны заставить технологию сл
ужить человеческим потребностям, то он вполне имеет смысл. Но если он озн
ачает, что люди как целое должны принимать технические решения, то в нём о
чень мало смысла. Электорат не может оценить внутренние взаимосвязи меж
ду технологией, экономикой, окружающей средой и жизнью; у людей нет необх
одимых знаний. Сами люди согласны: в соответствии с исследованием Госуда
рственным фондом науки США 85 процентов взрослых людей в США считают, что б
ольшинство граждан не имеет знаний, необходимых, чтобы выбирать, какие т
ехнологии разрабатывать. Публика в целом оставляет технические сужден
ия техническим экспертам.
К сожалению, оставление суждений экспертам вызывает проблемы. В "Совете
и разногласии" Примак и фон Хиппель отмечают, что "до той степени, до котор
ой Администрация может преуспевать в удерживании нежелательной информ
ации в секрете и публику в неведении, благополучие общества может быть п
ринесено в жертву с безнаказанностью для удобства бюрократов и частной
выгоды." Люди у руля подвергаются большей критике, когда новое лекарство
вызывает единственную смерть, чем когда его отсутствие вызывает тысячи
смертей. Они и выдают неправильное регулирование соответственно этому.
Военные бюрократы имеют законный интерес в трате денег, скрытии ошибок и
продолжении своих проектов. Они и управляют неправильно соответственн
о этому. Этот вид проблемы такой фундаментальный и естественный, что бол
ьше примеров вряд ли нужно. Везде секретность и туман создают чиновникам
больший комфорт; везде личная выгода искажает фактические утверждения
по вопросам, касающимся общественности. По мере того, как технологии ста
новятся всё более сложными и важными, эта модель становится всё более оп
асной.
Некоторые авторы рассматривают правление секретных технократов практ
ически неизбежным. В "Создании альтернативных видов будущего" Хейзел Хен
дерсон доказывает, что сложные технологии " становятся по сути свое
й тоталитарными
" (её курсив), потому что ни избиратели, ни законодатели не могут их понять. В
"Повторном посещении будущего человечества" Харрисон Браун также утвер
ждает, что соблазн обойти демократические процессы в решении сложных кр
изисов приносит опасность, "что если индустриальная цивилизация выживе
т, она станет всё более тоталитарной по природе." Если это было бы так, то ве
роятно это означало бы обречённость: мы не можем остановить гонку технол
огий, а мир тоталитарных государств, основанный на совершенной технолог
ии не нуждающийся ни в работниках, ни в солдатах, мог бы вполне избавиться
от большей части населения.
К счастью, демократия и свобода сталкивалась с подобными вызовами в прош
лом. Государства становились слишком сложными для прямой демократии, но
появилась представительная демократия. Государственная власть угрожа
ла разрушить свободу, но появилась власть закона. Технология стала сложн
ой, но это не даёт нам никакой причины игнорировать людей, сбрасывать со с
четов закон и приветствовать диктатора. Нам нужны способы, чтобы управля
ть технической сложностью в демократических рамках, используя эксперт
ов как инструменты, чтобы прояснять наше видение, не давая им контроля на
д нашими жизнями. Но технические эксперты сегодня втянуты в систему межд
оусобиц между узкими группами.
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40