Продвинутый ИИ, по-видимому, неизбежен. Если мы
надеемся сформировать реалистичный взгляд на будущее, мы не можем это иг
норировать.
В некотором смысле, искусственный интеллект будет окончательный инстр
умент, потому что он будет помогать нам строить любые другие возможные и
нструменты. Продвинутые ИИ системы могли бы прекратить существование л
юдей, или они могли бы помочь нам построить новый и лучший мир. Агрессоры м
огли бы использовать их для завоевания, а прозорливые защитники могли бы
использовать их, чтобы мир стабилизировать. Они могли бы даже помочь нам
управлять самим ИИ. Рука, которая качает колыбель ИИ, вполне может начать
управлять миром.
Как и с ассемблерами, нам будет нужно предвидение и тщательная выработка
стратегии для использования этой новой технологии безопасно и во благо
. Нерешённые проблемы сложны и взаимосвязаны со всем, от деталей молекул
ярной технологии до занятости и экономики, до философского обоснования,
что есть человеческие права. Наиболее основные вопросы, тем не менее, вкл
ючают то, что ИИ может делать.
Достаточно ли мы умные?
Несмотря на пример эволюции людей, критики всё же могут доказывать, что н
аш ограниченный интеллект может некоторым образом препятствовать тому
, чтобы мы смогли создать программы для по-настоящему интеллектуальных
машин. Этот аргумент кажется слабым, сводясь немного более чем к заявлен
ию, что поскольку критики не видят, как достичь успеха, значит вряд ли кто-
нибудь когда-нибудь увидит. Однако мало кто отрицал бы, что программиров
ание компьютеров для их соответствия человеческим способностям действ
ительно потребует свежих идей в понимании человеческой психологии. Хот
я путь к программированию ИИ кажется открытым, наши знания не соответств
уют той основательной уверенности, которую имели вдумчивые инженеры (за
десятилетия до первого спутника) в том, что можно достичь луны с помощью р
акет, или которая у нас сегодня есть в том, что можно построить ассемблеры
с помощью проектирования белка. Программирование настоящего искусстве
нного интеллекта, хотя это и форма инжиниринга, потребует новой науки. Эт
о ставит ИИ вне возможности надёжных прогнозов.
Тем не менее нам нужно точное предвидение. Похоже, что люди, цепляющиеся з
а успокоительные сомнения относительно ИИ, страдают принципиально оши
бочными образами будущего. К счастью, автоматизированная разработка сп
асает некоторых от бремени биошовинистского предрассудка. Большинство
людей меньше расстроено идеей о машинах, разрабатывающих машины, чем ид
еей об истинных системах ИИ общего назначения. Кроме того, уже доказано, ч
то автоматизированная разработка работает; то, что остается сделать Ц э
то расширить её. Однако, если вероятно, что возникнут более общие системы,
было бы глупо выпустить их из наших расчётов. Имеется ли способ обойти во
прос, способны ли мы разработать интеллектуальные программы?
В 1950-ых, многие исследователи ИИ сосредотачивались на моделировании мозг
овых функций, моделируя нейроны. Но исследователи, работающие на програм
мах, основанных на словах и символах сделали более быстрый прогресс, и фо
кус работ по ИИ соответственно переместился. Тем не менее, базовая идея н
ейронного моделирования остаётся правильной, а молекулярная технологи
я сделает её более практической. Что более важно, этот подход, по-видимому
, гарантирует, что будет работоспособен, потому что он не требует никаких
новых фундаментальных открытий в области природы мысли.
В конечном счете, нейробиологи будут использовать молекулярные машины
размера с вирус для изучения структуры и функционирования мозга, клетка
за клеткой и молекула за молекулой, где это необходимо. Хотя исследовате
ли ИИ могут получать новое полезное понимание организации мысли из успе
хов науки о мозге, которые появятся как результат молекулярной технолог
ии, нейронное моделирование может преуспеть и без такого понимания. Комп
иляторы переводят программы компьютера от одного языка до другого без п
онимания, как они работают. Фотокопировальные устройства отображают ри
сунки из слов, не читая их. Аналогичным образом, исследователи будут спос
обны скопировать структуры нейронов в мозгу на другой носитель не поним
ая их высокоуровневой организации.
После изучения, как нейроны работают, инженеры будут способны разрабаты
вать и строить аналогичные устройства, базой которых будет продвинутая
наноэлектроника и наномашины. Они будут взаимодействовать подобно ней
ронам, но работать быстрее. Нейроны, хотя и сложны, но кажутся достаточно п
ростыми для понимания разумом, и чтобы инженеры смогли сделать имитацию
. Действительно, нейробиологи узнали многое о их структуре и функции, даж
е без машин молекулярного масштаба, с помощью которых бы можно было иссл
едовать их объекты изучения.
С этим знанием, инженеры будут способны строить быстрые системы ИИ с бол
ьшими возможностями, даже без понимания мозга и умного программировани
я. Им нужно только изучить нейронную структуру мозга и соединить искусст
венные нейроны так, чтобы образовалась та же самая функциональная струк
тура. Если они делают все части правильно, включая то, как они соединяют ча
сти, чтобы образовать целое, то целое также окажется каким надо. «Нейронн
ая» деятельность будет течь в структурах, которые мы называем мыслью, но
быстрее, потому что все части будут работать быстрее.
Ускорение гонки технологий
Системы продвинутого ИИ кажутся возможными и неизбежными, но что будет в
результате их появления? Никто не может ответить на это полностью, что эт
о полностью, но одно следствие автоматизированной разработки очевидно:
она ускорит наше продвижение к пределам возможного.
Чтобы понять наши перспективы, нам нужно некоторое представление о том,
насколько быстро продвинутые системы ИИ будут думать. Современные комп
ьютеры имеют только крошечную долю сложности мозга, и все же на них уже мо
гут работать программы, имитирующие существенные аспекты человеческог
о поведения. Они совершенно отличаются от мозга по своему принципу дейст
вия, хотя такое прямое физическое сравнение почти бесполезно. Мозг делае
т огромное количество вещей одновременно, но довольно медленно; большин
ство современных компьютеров делают за раз только одно, но с умопомрачит
ельной скоростью.
Однако, можно представить себе аппаратные средства ИИ, построенные, чтоб
ы подражать мозгу не только в функции, но и в структуре. Это могло бы следо
вать из подхода нейронного моделирования, или из развития программ ИИ, ч
тобы они могли работать на аппаратных средствах со стилем организации, п
одобным тому, который существует в мозгу. Так или иначе мы можем использо
вать аналогии с человеческим мозгом, чтобы оценить минимальную скорост
ь для продвинутых систем ИИ, построенных с помощью ассемблеров.
Синапсы нейронов реагируют на сигналы за тысячные доли секунды; экспери
ментальные электронные переключатели реагируют в сто миллионов раз бы
стрее (а наноэлектронные переключатели будут ещё быстрее). Нейронные сиг
налы движутся со скоростью сто метров в секунду; электронные Ц в миллио
н раз быстрее. Это грубое сравнение скоростей даёт представление, что эл
ектронные устройства, подобные мозгу будут работать примерно в миллион
раз быстрее чем мозг, состоящий из нейронов (со скоростью, ограниченной с
коростью электронных сигналов).
Это, конечно, грубая оценка. Синапс нейрона сложнее переключателя; он мож
ет изменять реакцию на сигналы, изменяя структуру. При прошествии какого
-то времени могут даже появляться новые синапсы и исчезать старые. Эти из
менения в волокнах и связях мозга являются материальной основой долгов
ременных изменений ума, которые мы называем обучением. Они подтолкнули п
рофессора Роберта Джастроу из Дартмауса описать мозг как заколдованны
й станок, ткущий, распускающий и ткущий заново свои нейронные структуры
на протяжении всей жизни.
Чтобы представить себе подобное мозгу устройство с сопоставимой гибко
стью, изобразите его электронные схемы как окруженные механическими на
нокомпьютерами и ассемблерами, с «переключателями», по одному на эквива
лент синапса. Также, как молекулярные машины синапса отвечают на схемы н
ейронной активности изменяя структуру синапса, также нанокомпьютеры б
удут реагировать на схемы активности давая команду наномашинам измени
ть структуру переключателей. С правильным программированием и с коммун
икациями между нанокомпьютерами для моделирования химических сигнало
в, такое устройство должно вести себя во многом подобно мозгу.
Несмотря на сложность, устройство будет очень небольшим. Нанокомпьютер
ы будут меньше чем синапсы, а соединения, построенные ассемблерами, буду
т тоньше, чем аксоны и дендриты мозга. Тонкие провода и маленькие переклю
чатели будут делать для компактных схем, а плотно упакованные схемы уско
рят потоки электронных сигналов, сокращая расстояния, которые сигналы д
олжны проходить. Похоже, что структура, подобная мозгу будет умещаться м
еньше, чем в кубический сантиметр (как это обсуждается в Примечаниях). Бол
ее короткие пути для сигналов тогда соединятся с более быстрой передаче
й, и в результате этого получится устройство более чем в десять миллионо
в раз быстрее человеческого мозга.
Только проблема охлаждения могла бы ограничивать такие машины и замедл
ять средние скорости работы. Представьте себе консервативную конструк
цию, которая в миллион раз быстрее чем мозга и рассеивает в миллион раз бо
льше тепла. Система представляет собой блок, построенный ассемблерами и
з сапфира, размером с кружку кофе, изрешечённый системой каналов охлажде
ния. Труба равного диаметра, по которой поступает под высоким давлением
вода, прикручивается к его вершине, проталкивая охлаждающую воду через к
аналы к подобной трубе слива, выходящей через низ. Мощные кабели питания
и пучки оптоволокна для каналов данных тянутся с его боков.
Кабели обеспечивают пятнадцать мегаватт электроэнергии. Труба с водой
отводит появляющееся в результате тепло вовне потоком в "три тонны в мин
уту "кипящей воды. Оптические волокна передают не много не мало, сразу мил
лион телевизионных каналов. Они обеспечивают коммуникации с другими си
стемами ИИ, с симуляторами для конструирования и с ассемблерными систем
ами, которые строят структуры для окончательного тестирования. Каждые д
есять секунд система сжирает почти два киловатта-дня электрической эне
ргии (что сейчас стоит около доллара). Каждые десять секунд система выпол
няет столько же работы, сколько человек-инженер за восемь часов в день в т
ечение года (что сейчас стоит десятки тысяч долларов). За час она выполняе
т работу столетий. Для всей своей деятельности система работает в тишине
, которая нарушается только потоком охлаждающей воды.
Мы затронули вопрос чистой скорости мысли, но что можно сказать о её слож
ности? Кажется маловероятным, что разработка ИИ остановится на сложност
и единственного человеческого разума. Как отмечает Джон Маккарти, лабор
атория ИИ Стэнфорда, если мы можем разместить эквивалент одного человеч
еского разума в металлический череп, мы можем разместить в здании эквива
лент десяти тысяч работающих в кооперации умов. (А большая современная э
лектростанция могла бы обеспечивать достаточно энергии для каждого, чт
обы он думал в десять тысяч раз быстрее, чем человек.) К идее быстродейству
ющего инженерного интеллекта добавьте идею быстродействующих команд.
Разработка систем ИИ будет замедлена в своей работе необходимостью вып
олнять эксперименты, но не настолько, насколько можно было бы ожидать. Ин
женеры сегодня должны выполнять много экспериментов, потому что балк-те
хнология трудноуправляема. Кто может заранее точно сказать, как новый сп
лав будет себя вести когда его будут ковать, а потом изогнут миллион раз? М
аленькие трещины ослабляют металл, но детали обработки определяют их пр
ироду и последствия.
Поскольку ассемблеры будут создавать объекты по точным спецификациям,
непредсказуемости оптовой технологии можно будет избежать. Разработчи
ки (будь то человеческий разум или ИИ) далее будут экспериментировать то
лько тогда, когда проведение эксперимента быстрее или дешевле чем вычис
ление, или (более редкий случай), когда отсутствует базовое знание.
Системы ИИ с доступом к наномашинам многие эксперименты будут выполнят
ь стремительно. Они разработают устройство за секунды, а воспроизводящи
еся ассемблеры его построят без многих задержек (заказ специальных част
ей, их отгрузка и т. п.), которые являются бедой проектов сегодня. Построить
экспериментальное устройство масштаба ассемблера, нанокомпьютера или
живой клетки будет занимать лишь минуты, а наноманипуляторы будут делат
ь миллион движений в секунду. выполнение миллиона обычных эксперименто
в одновременно будет легко. Таким образом, вопреки задержкам с экспериме
нтированием, системы автоматизированного проектирования будут продви
гать технологию вперёд с ошеломительной скоростью.
От прошлого к будущему, тогда, вероятный рисунок приближающейся способн
ости выглядит примерно так. На протяжение целых временных эпох, жизнь пр
одвигалась вперёд растянутым во времени, медленным темпом, который опре
делялся эволюцией генов. Разум с языком подхватили темп, ускоренный гибк
остью мимов. Изобретение методов науки и технологии ещё ускорило продви
жение, заставив мимы эволюционировать быстрее. Рост богатства, образова
ния и населения Ц лучшие физические и интеллектуальные инструменты, пр
одолжили эту тенденцию ускорения на протяжение нашего века.
Автоматизация разработки ускорит темп еще больше. Автоматизированное
проектирование улучшится, помогая людям-инженерам генерировать и пров
ерять идеи быстрее, чем когда-либо. Преемники EURISKO сократят сроки проектир
ования, предлагая проекты и заполняя детали инноваций, вносимых человек
ом. С какого-то момента полностью автоматизированные системы проектиро
вания станут двигаться вперёд сами по себе.
Параллельно, молекулярная технология разовьется и вызреет, чему будут п
омогать продвижения в автоматизированном проектировании. Тогда систем
ы ИИ, построенные ассемблерами, дадут еще более стремительное автоматиз
ированную разработку, развивая технологические идеи в темпе, устанавли
ваемом системами в миллион раз более быстрыми, чем человеческий мозг. Ск
орость продвижения технологии вперёд тогда ускорится огромнейшим скач
ком вперёд: за короткое время многие области технологии пододвинутся к с
воим ограничениям, установленным законом природы. Тогда продвижение в э
тих областях остановится на очень высоком уровне достижений.
Эта трансформация Ц головокружительная перспектива. За ней, если мы выж
ивем, лежит мир воспроизводящихся ассемблеров, способных делать всё, что
им говорят делать, без необходимости в человеческом труде. За ней, если мы
выживем, лежит мир с системами автоматизированного проектирования, спо
собными направить ассемблеры создавать устройства, на пределе возможн
ого, близко к конечным границам технического совершенства.
В конечном счете, некоторые ИИ системы будут иметь и большие технические
способности и социальные способности, необходимые, чтобы понимать чело
веческую речь и желания. Если ей дать достаточно энергии, материалов и ас
семблеров, такая система могла бы вероятно называться «машиной-джином»
Она произведёт всё, что вы просите, арабская сказка и "О чем вы просите, это
произведет, Аравийская легенда и универсальный здравый смысл подсказы
вают, чтобы мы воспринимали опасности таких машин создания действитель
но очень серьезно.
Появление решающих крупных достижений в техническом и социальном ИИ за
ймёт годы. Как сказал Марвин Мински, "умеренно "умеренноинтеллектуальные
машины ближайшего будущего обещают только давать нам богатство и комфо
рт неустанных, послушных и недорогих слуг." Большинство систем, называем
ых ИИ, не думают и не учатся, они являются только грубой выжимкой из знаний
и умений экспертов, сохраненных, упакованных и распространяемых для кон
сультаций.
Но прибудет и подлинный ИИ. Удерживать его вне наших ожиданий означало б
ы жить в мире фантазии. Ожидать ИИ Ц ни оптимистично, ни пессимистично: ка
к всегда, оптимизм исследователей Ц пессимизм технофоба.
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40
надеемся сформировать реалистичный взгляд на будущее, мы не можем это иг
норировать.
В некотором смысле, искусственный интеллект будет окончательный инстр
умент, потому что он будет помогать нам строить любые другие возможные и
нструменты. Продвинутые ИИ системы могли бы прекратить существование л
юдей, или они могли бы помочь нам построить новый и лучший мир. Агрессоры м
огли бы использовать их для завоевания, а прозорливые защитники могли бы
использовать их, чтобы мир стабилизировать. Они могли бы даже помочь нам
управлять самим ИИ. Рука, которая качает колыбель ИИ, вполне может начать
управлять миром.
Как и с ассемблерами, нам будет нужно предвидение и тщательная выработка
стратегии для использования этой новой технологии безопасно и во благо
. Нерешённые проблемы сложны и взаимосвязаны со всем, от деталей молекул
ярной технологии до занятости и экономики, до философского обоснования,
что есть человеческие права. Наиболее основные вопросы, тем не менее, вкл
ючают то, что ИИ может делать.
Достаточно ли мы умные?
Несмотря на пример эволюции людей, критики всё же могут доказывать, что н
аш ограниченный интеллект может некоторым образом препятствовать тому
, чтобы мы смогли создать программы для по-настоящему интеллектуальных
машин. Этот аргумент кажется слабым, сводясь немного более чем к заявлен
ию, что поскольку критики не видят, как достичь успеха, значит вряд ли кто-
нибудь когда-нибудь увидит. Однако мало кто отрицал бы, что программиров
ание компьютеров для их соответствия человеческим способностям действ
ительно потребует свежих идей в понимании человеческой психологии. Хот
я путь к программированию ИИ кажется открытым, наши знания не соответств
уют той основательной уверенности, которую имели вдумчивые инженеры (за
десятилетия до первого спутника) в том, что можно достичь луны с помощью р
акет, или которая у нас сегодня есть в том, что можно построить ассемблеры
с помощью проектирования белка. Программирование настоящего искусстве
нного интеллекта, хотя это и форма инжиниринга, потребует новой науки. Эт
о ставит ИИ вне возможности надёжных прогнозов.
Тем не менее нам нужно точное предвидение. Похоже, что люди, цепляющиеся з
а успокоительные сомнения относительно ИИ, страдают принципиально оши
бочными образами будущего. К счастью, автоматизированная разработка сп
асает некоторых от бремени биошовинистского предрассудка. Большинство
людей меньше расстроено идеей о машинах, разрабатывающих машины, чем ид
еей об истинных системах ИИ общего назначения. Кроме того, уже доказано, ч
то автоматизированная разработка работает; то, что остается сделать Ц э
то расширить её. Однако, если вероятно, что возникнут более общие системы,
было бы глупо выпустить их из наших расчётов. Имеется ли способ обойти во
прос, способны ли мы разработать интеллектуальные программы?
В 1950-ых, многие исследователи ИИ сосредотачивались на моделировании мозг
овых функций, моделируя нейроны. Но исследователи, работающие на програм
мах, основанных на словах и символах сделали более быстрый прогресс, и фо
кус работ по ИИ соответственно переместился. Тем не менее, базовая идея н
ейронного моделирования остаётся правильной, а молекулярная технологи
я сделает её более практической. Что более важно, этот подход, по-видимому
, гарантирует, что будет работоспособен, потому что он не требует никаких
новых фундаментальных открытий в области природы мысли.
В конечном счете, нейробиологи будут использовать молекулярные машины
размера с вирус для изучения структуры и функционирования мозга, клетка
за клеткой и молекула за молекулой, где это необходимо. Хотя исследовате
ли ИИ могут получать новое полезное понимание организации мысли из успе
хов науки о мозге, которые появятся как результат молекулярной технолог
ии, нейронное моделирование может преуспеть и без такого понимания. Комп
иляторы переводят программы компьютера от одного языка до другого без п
онимания, как они работают. Фотокопировальные устройства отображают ри
сунки из слов, не читая их. Аналогичным образом, исследователи будут спос
обны скопировать структуры нейронов в мозгу на другой носитель не поним
ая их высокоуровневой организации.
После изучения, как нейроны работают, инженеры будут способны разрабаты
вать и строить аналогичные устройства, базой которых будет продвинутая
наноэлектроника и наномашины. Они будут взаимодействовать подобно ней
ронам, но работать быстрее. Нейроны, хотя и сложны, но кажутся достаточно п
ростыми для понимания разумом, и чтобы инженеры смогли сделать имитацию
. Действительно, нейробиологи узнали многое о их структуре и функции, даж
е без машин молекулярного масштаба, с помощью которых бы можно было иссл
едовать их объекты изучения.
С этим знанием, инженеры будут способны строить быстрые системы ИИ с бол
ьшими возможностями, даже без понимания мозга и умного программировани
я. Им нужно только изучить нейронную структуру мозга и соединить искусст
венные нейроны так, чтобы образовалась та же самая функциональная струк
тура. Если они делают все части правильно, включая то, как они соединяют ча
сти, чтобы образовать целое, то целое также окажется каким надо. «Нейронн
ая» деятельность будет течь в структурах, которые мы называем мыслью, но
быстрее, потому что все части будут работать быстрее.
Ускорение гонки технологий
Системы продвинутого ИИ кажутся возможными и неизбежными, но что будет в
результате их появления? Никто не может ответить на это полностью, что эт
о полностью, но одно следствие автоматизированной разработки очевидно:
она ускорит наше продвижение к пределам возможного.
Чтобы понять наши перспективы, нам нужно некоторое представление о том,
насколько быстро продвинутые системы ИИ будут думать. Современные комп
ьютеры имеют только крошечную долю сложности мозга, и все же на них уже мо
гут работать программы, имитирующие существенные аспекты человеческог
о поведения. Они совершенно отличаются от мозга по своему принципу дейст
вия, хотя такое прямое физическое сравнение почти бесполезно. Мозг делае
т огромное количество вещей одновременно, но довольно медленно; большин
ство современных компьютеров делают за раз только одно, но с умопомрачит
ельной скоростью.
Однако, можно представить себе аппаратные средства ИИ, построенные, чтоб
ы подражать мозгу не только в функции, но и в структуре. Это могло бы следо
вать из подхода нейронного моделирования, или из развития программ ИИ, ч
тобы они могли работать на аппаратных средствах со стилем организации, п
одобным тому, который существует в мозгу. Так или иначе мы можем использо
вать аналогии с человеческим мозгом, чтобы оценить минимальную скорост
ь для продвинутых систем ИИ, построенных с помощью ассемблеров.
Синапсы нейронов реагируют на сигналы за тысячные доли секунды; экспери
ментальные электронные переключатели реагируют в сто миллионов раз бы
стрее (а наноэлектронные переключатели будут ещё быстрее). Нейронные сиг
налы движутся со скоростью сто метров в секунду; электронные Ц в миллио
н раз быстрее. Это грубое сравнение скоростей даёт представление, что эл
ектронные устройства, подобные мозгу будут работать примерно в миллион
раз быстрее чем мозг, состоящий из нейронов (со скоростью, ограниченной с
коростью электронных сигналов).
Это, конечно, грубая оценка. Синапс нейрона сложнее переключателя; он мож
ет изменять реакцию на сигналы, изменяя структуру. При прошествии какого
-то времени могут даже появляться новые синапсы и исчезать старые. Эти из
менения в волокнах и связях мозга являются материальной основой долгов
ременных изменений ума, которые мы называем обучением. Они подтолкнули п
рофессора Роберта Джастроу из Дартмауса описать мозг как заколдованны
й станок, ткущий, распускающий и ткущий заново свои нейронные структуры
на протяжении всей жизни.
Чтобы представить себе подобное мозгу устройство с сопоставимой гибко
стью, изобразите его электронные схемы как окруженные механическими на
нокомпьютерами и ассемблерами, с «переключателями», по одному на эквива
лент синапса. Также, как молекулярные машины синапса отвечают на схемы н
ейронной активности изменяя структуру синапса, также нанокомпьютеры б
удут реагировать на схемы активности давая команду наномашинам измени
ть структуру переключателей. С правильным программированием и с коммун
икациями между нанокомпьютерами для моделирования химических сигнало
в, такое устройство должно вести себя во многом подобно мозгу.
Несмотря на сложность, устройство будет очень небольшим. Нанокомпьютер
ы будут меньше чем синапсы, а соединения, построенные ассемблерами, буду
т тоньше, чем аксоны и дендриты мозга. Тонкие провода и маленькие переклю
чатели будут делать для компактных схем, а плотно упакованные схемы уско
рят потоки электронных сигналов, сокращая расстояния, которые сигналы д
олжны проходить. Похоже, что структура, подобная мозгу будет умещаться м
еньше, чем в кубический сантиметр (как это обсуждается в Примечаниях). Бол
ее короткие пути для сигналов тогда соединятся с более быстрой передаче
й, и в результате этого получится устройство более чем в десять миллионо
в раз быстрее человеческого мозга.
Только проблема охлаждения могла бы ограничивать такие машины и замедл
ять средние скорости работы. Представьте себе консервативную конструк
цию, которая в миллион раз быстрее чем мозга и рассеивает в миллион раз бо
льше тепла. Система представляет собой блок, построенный ассемблерами и
з сапфира, размером с кружку кофе, изрешечённый системой каналов охлажде
ния. Труба равного диаметра, по которой поступает под высоким давлением
вода, прикручивается к его вершине, проталкивая охлаждающую воду через к
аналы к подобной трубе слива, выходящей через низ. Мощные кабели питания
и пучки оптоволокна для каналов данных тянутся с его боков.
Кабели обеспечивают пятнадцать мегаватт электроэнергии. Труба с водой
отводит появляющееся в результате тепло вовне потоком в "три тонны в мин
уту "кипящей воды. Оптические волокна передают не много не мало, сразу мил
лион телевизионных каналов. Они обеспечивают коммуникации с другими си
стемами ИИ, с симуляторами для конструирования и с ассемблерными систем
ами, которые строят структуры для окончательного тестирования. Каждые д
есять секунд система сжирает почти два киловатта-дня электрической эне
ргии (что сейчас стоит около доллара). Каждые десять секунд система выпол
няет столько же работы, сколько человек-инженер за восемь часов в день в т
ечение года (что сейчас стоит десятки тысяч долларов). За час она выполняе
т работу столетий. Для всей своей деятельности система работает в тишине
, которая нарушается только потоком охлаждающей воды.
Мы затронули вопрос чистой скорости мысли, но что можно сказать о её слож
ности? Кажется маловероятным, что разработка ИИ остановится на сложност
и единственного человеческого разума. Как отмечает Джон Маккарти, лабор
атория ИИ Стэнфорда, если мы можем разместить эквивалент одного человеч
еского разума в металлический череп, мы можем разместить в здании эквива
лент десяти тысяч работающих в кооперации умов. (А большая современная э
лектростанция могла бы обеспечивать достаточно энергии для каждого, чт
обы он думал в десять тысяч раз быстрее, чем человек.) К идее быстродейству
ющего инженерного интеллекта добавьте идею быстродействующих команд.
Разработка систем ИИ будет замедлена в своей работе необходимостью вып
олнять эксперименты, но не настолько, насколько можно было бы ожидать. Ин
женеры сегодня должны выполнять много экспериментов, потому что балк-те
хнология трудноуправляема. Кто может заранее точно сказать, как новый сп
лав будет себя вести когда его будут ковать, а потом изогнут миллион раз? М
аленькие трещины ослабляют металл, но детали обработки определяют их пр
ироду и последствия.
Поскольку ассемблеры будут создавать объекты по точным спецификациям,
непредсказуемости оптовой технологии можно будет избежать. Разработчи
ки (будь то человеческий разум или ИИ) далее будут экспериментировать то
лько тогда, когда проведение эксперимента быстрее или дешевле чем вычис
ление, или (более редкий случай), когда отсутствует базовое знание.
Системы ИИ с доступом к наномашинам многие эксперименты будут выполнят
ь стремительно. Они разработают устройство за секунды, а воспроизводящи
еся ассемблеры его построят без многих задержек (заказ специальных част
ей, их отгрузка и т. п.), которые являются бедой проектов сегодня. Построить
экспериментальное устройство масштаба ассемблера, нанокомпьютера или
живой клетки будет занимать лишь минуты, а наноманипуляторы будут делат
ь миллион движений в секунду. выполнение миллиона обычных эксперименто
в одновременно будет легко. Таким образом, вопреки задержкам с экспериме
нтированием, системы автоматизированного проектирования будут продви
гать технологию вперёд с ошеломительной скоростью.
От прошлого к будущему, тогда, вероятный рисунок приближающейся способн
ости выглядит примерно так. На протяжение целых временных эпох, жизнь пр
одвигалась вперёд растянутым во времени, медленным темпом, который опре
делялся эволюцией генов. Разум с языком подхватили темп, ускоренный гибк
остью мимов. Изобретение методов науки и технологии ещё ускорило продви
жение, заставив мимы эволюционировать быстрее. Рост богатства, образова
ния и населения Ц лучшие физические и интеллектуальные инструменты, пр
одолжили эту тенденцию ускорения на протяжение нашего века.
Автоматизация разработки ускорит темп еще больше. Автоматизированное
проектирование улучшится, помогая людям-инженерам генерировать и пров
ерять идеи быстрее, чем когда-либо. Преемники EURISKO сократят сроки проектир
ования, предлагая проекты и заполняя детали инноваций, вносимых человек
ом. С какого-то момента полностью автоматизированные системы проектиро
вания станут двигаться вперёд сами по себе.
Параллельно, молекулярная технология разовьется и вызреет, чему будут п
омогать продвижения в автоматизированном проектировании. Тогда систем
ы ИИ, построенные ассемблерами, дадут еще более стремительное автоматиз
ированную разработку, развивая технологические идеи в темпе, устанавли
ваемом системами в миллион раз более быстрыми, чем человеческий мозг. Ск
орость продвижения технологии вперёд тогда ускорится огромнейшим скач
ком вперёд: за короткое время многие области технологии пододвинутся к с
воим ограничениям, установленным законом природы. Тогда продвижение в э
тих областях остановится на очень высоком уровне достижений.
Эта трансформация Ц головокружительная перспектива. За ней, если мы выж
ивем, лежит мир воспроизводящихся ассемблеров, способных делать всё, что
им говорят делать, без необходимости в человеческом труде. За ней, если мы
выживем, лежит мир с системами автоматизированного проектирования, спо
собными направить ассемблеры создавать устройства, на пределе возможн
ого, близко к конечным границам технического совершенства.
В конечном счете, некоторые ИИ системы будут иметь и большие технические
способности и социальные способности, необходимые, чтобы понимать чело
веческую речь и желания. Если ей дать достаточно энергии, материалов и ас
семблеров, такая система могла бы вероятно называться «машиной-джином»
Она произведёт всё, что вы просите, арабская сказка и "О чем вы просите, это
произведет, Аравийская легенда и универсальный здравый смысл подсказы
вают, чтобы мы воспринимали опасности таких машин создания действитель
но очень серьезно.
Появление решающих крупных достижений в техническом и социальном ИИ за
ймёт годы. Как сказал Марвин Мински, "умеренно "умеренноинтеллектуальные
машины ближайшего будущего обещают только давать нам богатство и комфо
рт неустанных, послушных и недорогих слуг." Большинство систем, называем
ых ИИ, не думают и не учатся, они являются только грубой выжимкой из знаний
и умений экспертов, сохраненных, упакованных и распространяемых для кон
сультаций.
Но прибудет и подлинный ИИ. Удерживать его вне наших ожиданий означало б
ы жить в мире фантазии. Ожидать ИИ Ц ни оптимистично, ни пессимистично: ка
к всегда, оптимизм исследователей Ц пессимизм технофоба.
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40