Ч Как вы себя чувствуете? Ч спросил Макферсон, подходя к кровати. Бенсо
н улыбнулся.
Ч Все меня об этом спрашивают, Ч сказал он.
Ч Что ж, это вполне естественный вопрос. Ч Макферсон улыбнулся ему в от
вет.
Ч Я чувствую себя усталым и только. Очень усталым. Иногда мне кажется, чт
о я Ч бомба с часовым механизмом, а вы все гадаете, когда я взорвусь.
Ч Вот о чем вы думаете? Ч спросил Макферсон.
Ч Тик-так, Ч сказал Бенсон и закрыл глаза. Ч Тик-так.
Макферсон нахмурился. Он привык к механическим уподоблениям Бенсона Ч
в конце концов тот был одержим мыслью, что люди Ч те же машины. Но так скор
о после операции…
Ч Вы испытываете какую-нибудь боль?
Ч Нет. Только ноет за ушами, как будто я падал.
Макферсон знал, что это болела просверленная кость.
Ч Падали?
Ч Я Ч падший человек, Ч сказал Бенсон. Ч Я поддался.
Ч Чему?
Ч Процессу превращения в машину. Ч Он открыл глаза и снова улыбнулся.
Ч Или в бомбу с часовым механизмом.
Ч Вас тревожат запахи? Какие-нибудь странные ощущения? Ч Макферсон пос
мотрел на экран ЭЭГ над головой Бенсона. Альфа-ритм был нормальный, никак
их признаков судорожной активности.
Ч Нет. Никаких ощущений у меня нет.
Ч Но вы чувствуете, что можете взорваться? Ч Макферсон подумал, что эти
вопросы, собственно, должна была бы задавать Дженет Росс.
Ч Примерно, Ч сказал Бенсон. Ч В грядущей войне все мы можем взорватьс
я.
Ч Что вы имеете в виду?
Ч Вы как будто рассердились, Ч сказал Бенсон.
Ч Нет, я просто озадачен. О какой грядущей войне вы говорите?
Ч О войне между людьми и машинами. Видите ли, человеческий мозг устарел.

Это было что-то новое. Прежде Макферсон ничего подобного от Бенсона не сл
ышал. Он взглянул на Бенсона, на его забинтованные плечи и голову. Из-за би
нтов его голова и верхняя часть туловища казались непропорционально бо
льшими.
Ч Да, Ч говорил Бенсон. Ч Человеческий мозг исчерпал свои возможности
. Он истощился, а потому создал следующее поколение разумных организмов.
Они… Почему я так сильно устал? Ч Он снова закрыл глаза.
Ч Послеоперационное утомление.
Ч После в сущности несложной операции, Ч сказал Бенсон и улыбнулся с за
крытыми глазами. Мгновение спустя он захрапел.
Макферсон постоял у кровати, а потом обернулся к окну и посмотрел на солн
це, которое медленно опускалось в Тихий океан. У Бенсона была отличная па
лата: из ее окна между высокими домами Санта-Моники виднелась полоска ок
еана. Прошло несколько минут, Бенсон больше не просыпался. Постояв еще не
много, Макферсон вышел из палаты и направился к кабинке дежурной сестры,
чтобы сделать запись в истории болезни.
«Больной в сознании, хорошо реагирует, ориентируется в обстановке. Ч На
писав это, Макферсон остановился. Он, в сущности, не мог утверждать, что Бе
нсон действительно отдает себе отчет, где он находится и с кем говорит. Ве
дь специально он этого не проверял, однако говорил Бенсон логично, на воп
росы отвечал, и Макферсон удовлетворился этим. Ч Мышление ясное, послед
овательное, но сохраняются навязчивые идеи предоперационного периода.
Пока еще трудно судить, но, по-видимому, справедливо предположение о том,
что операция не окажет воздействия на его психическое состояние между п
рипадками».
Он подписал: «Роджер Макферсон, доктор медицины», перечитал сделанную за
пись, закрыл карту и поставил ее на полку. Хорошо написано: кратко, четко, б
ез ненужных предположений. Ведь история болезни Ч все-таки официальный
документ, и ее могут затребовать в суд. Макферсон не думал, что история бо
лезни Бенсона может оказаться в судебном деле, но осторожность никогда н
е бывает лишней. Он твердо верил в необходимость соблюдения всех формаль
ностей и считал, что его обязанности заключаются именно в этом.
Руководителю любой научно-исследовательской лаборатории приходится в
ыполнять определенные политические функции. Можно это отрицать, можно в
нутренне протестовать, но факт остается фактом: это составляет неотъемл
емую часть обязанностей любого руководителя.
Тебе необходимо обеспечить, чтобы все сотрудники твоей лаборатории лад
или друг с другом в своей работе. И чем больше у тебя в лаборатории примадо
нн, тем труднее твои функции как политика.
Тебе приходится изыскивать финансовые средства для своей лаборатории,
а уж это чистейшая политика. Особенно если сфера исследований лежит в ст
оль щекотливой области, как у НПИО. И для получения дотаций Макферсон дав
но выработал «принцип пероксидазы хрена». Он был очень прост: прося дене
г, вы заявляете, что эти деньги будут истрачены на поиски фермента перокс
идазы хрена, который позволит разработать новый надежный способ излече
ния рака. Под такой проект ничего не стоило получить шестьдесят тысяч до
лларов, тогда как на исследования в области контролирования мозга вам не
дали бы и шестидесяти центов.
Макферсон посмотрел на длинный ряд историй болезни, на длинный ряд незна
комых фамилий, среди которых «БЕНСОН Г. Ф., 710» полностью терялась. В определ
енном смысле, подумал он, Бенсон прав Ч он действительно живая бомба с ча
совым механизмом. Человек, подвергшийся операции, которая обеспечила ко
нтроль над деятельностью его мозга, неизбежно должен вызвать предубежд
ение у широкой публики. «Контроль над сердцем» при помощи водителя ритма
сердца был сочтен изумительным изобретением, «контроль над почками» с п
омощью лекарственных препаратов вызвал только восторги, но контроль на
д деятельностью мозга Ч это нечто зловещее, залог катастрофы, пусть даж
е в принципе он и вполне аналогичен контролю над деятельностью других ор
ганов человеческого тела. Даже методика почти та же: атомная батарейка, к
оторой они пользовались, была разработана первоначально для стимулиро
вания работы сердца.
Но предубеждение существует. А Бенсон считает себя тикающей часовой бом
бой. Макферсон вздохнул, снова достал историю болезни Бенсона и открыл е
е на странице, предназначенной для предписаний врачей. Он прочел послеоп
ерационные предписания Эллиса и Морриса и добавил:
После интерфейсинга завтра с утра начинайте давать торазин.
Перечитав свою пометку, он решил, что сестры не поймут слова «интерфейси
нг», зачеркнул его и приписал:
Завтра после двенадцати начинайте давать торазин.
Входя в лифт, Макферсон подумал, что у него на душе будет гораздо спокойне
е, когда Бенсон начнет получать торазин. Быть может, нельзя разрядить бом
бу с часовым механизмом, но бросить ее в ведро с холодной водой, безусловн
о, можно.

7

Поздно вечером в «Телекомпе» Герхард озабоченно смотрел на приборную п
анель компьютера. Он впечатал новые инструкции, потом подошел к печатающ
ему устройству на выходе компьютера и начал просматривать толстую стоп
ку листков с зелеными полосками в поисках ошибки в программировании, кот
орая, как он знал, обязательно должна была содержаться в них.
Сам компьютер никогда не ошибался. Герхард работал с компьютерами вот уж
е десять лет, с разными компьютерами, в разных учреждениях, и ни разу ни од
ин из них не допустил ошибки. Конечно, ошибки случались, и часто, но всегда
по вине программиста, а не машины. Порой было трудно примириться с подобн
ой непогрешимостью, хотя бы потому, что она противоречила привычному взг
ляду на мир, где машины постоянно ошибались: пробки перегорали, телевизо
ры ломались, электрические плиты перегревались, автомобили не заводили
сь. Современный человек привык к этому и подсознательно ожидал от машин
их законной доли ошибок.
Но компьютеры были совсем другими, и, работая с ними, приходилось поступа
ться самолюбием. Они никогда не ошибались Ч и все тут. Даже когда ошибку в
программировании искали неделями, даже когда десятки разных людей деся
тки раз проверяли программу, даже когда все сотрудники приходили к вывод
у, что электронный мозг наконец дал промах, тем не менее в конце концов выя
снялось, что напутал все-таки человек. И так было всегда.
Вошел Ричардс, сбросил спортивную куртку и налил себе кофе.
Ч Как дела?
Герхард покачал головой.
Ч У меня неприятности с «Джорджем».
Ч Опять? Черт! Ч Ричардс посмотрел на приборную панель. Ч А как «Марта»?

Ч С «Мартой» все в порядке. По-моему, дело в «Джордже».
Ч «Джордж» Ч это который?
Ч «Святой Джордж», Ч сказал Герхард. Ч Сукин сын.
Ричардс допил кофе и сел у приборной панели.
Ч Можно я попробую?
Ч Конечно.
Ричардс принялся нажимать кнопки, настраивая машину на программу «Свят
ого Джорджа». Потом на «Марту». Потом настроил их на взаимодействие.
Эти программы не были собственным созданием Герхарда и Ричардса, а предс
тавляли собой модификацию нескольких программ, разработанных в других
университетах. Их всех объединяла идея создать программу, которая заста
вила бы компьютер действовать эмоционально. Таким программам было толь
ко логично давать человеческие имена. До «Джорджа» и «Марты» была «Элиза
» в Бостоне и «Олдос» в Англии.
«Джордж» и «Марта» по сути были единой программой с небольшими различия
ми. Первоначально «Джордж» был запрограммирован на нейтральное отноше
ние ко всем стимулам. Затем была создана «Марта». «Марте» была свойствен
на агрессивность, очень многое ей не нравилось. И наконец был создан еще о
дин «Джордж», любящий «Джордж», получивший прозвище «Святого Джорджа».

Каждой программе было придано три эмоциональных состояния: любовь, стра
х и гнев. Каждая могла совершать три действия: искать контакты, избегать и
х и нападать. Все это, конечно, было весьма абстрактно и воплощено в числа.
Например, первый «Джордж» был нейтрален по отношению к большинству чисе
л, но ему не нравилось число 751. Так он был запрограммирован. Эту неприязнь о
н переносил на все сходные числа Ч 743, 772 и т. п., предпочитая им такие числа, ка
к 404, 133, 918. Если вы вводили одно из этих чисел, «Джордж» отвечал числами, означ
ающими любовь и поиски контакта. Если нажимали число 707, «Джордж» начинал
избегать контакта, а получив 750, устремлялся в нападение, о чем свидетельс
твовали числа, которые он печатал.
Герхард и Ричардс довольно долго всячески играли с этими программами, а
затем внесли в них некоторые изменения, в результате чего компьютер заго
ворил. На смену числам пришли предложения. Это оказалось не только забав
ным, но и результативным. Взаимодействие двух программ получило названи
е «рождественской игры», так как в основном она состояла из преподношени
я и принятия подарков Ч предметов, которые, как и числа, обладали заданны
м эмоциональным воздействием или же обретали его в результате опыта.
Нормальный «Джордж», взаимодействуя с «Мартой», в конце концов начинал е
й нравиться, и ее злобность стушевывалась.
Но «Святой Джордж» воздействовал на нее совсем по-другому. Его уступчив
ость только провоцировала ее. По крайней мере так было до сих пор.
Ричардс не спускал глаз с экрана, на котором шел диалог:
ЗДРАВСТВУЙ, Я СВЯТОЙ ДЖОРДЖ.
ЗДРАВСТВУЙ.
КАК ТЕБЯ ЗОВУТ?
МАРТА.
ТЫ МАЛО ГОВОРИШЬ, МАРТА.
ДА.
НО ТЫ МНЕ НРАВИШЬСЯ.
А ТЫ МНЕ НЕ НРАВИШЬСЯ.
Я ПОНИМАЮ. ЧЕМ Я МОГУ ПОМОЧЬ?
Ч Он не последовательно печатает периоды, Ч заметил Ричардс. Ч Когда
это началось?
Ч Это еще что, Ч сказал Герхард. Ч Вот погоди.
ПОМОЧЬ?
ДА, Я ХОТЕЛ БЫ ТЕБЕ ПОМОЧЬ.
ВОЗЬМИ КОШКУ.
Ричард поморщился. «Джордж» и «Марта» были запрограммированы на неприя
знь к кошкам. Давая кошку «Джорджу», «Марта» выражала крайнюю враждебнос
ть.
СПАСИБО.
ВОЗЬМИ ЕЩЕ КОШКУ.
СПАСИБО, ТЫ ОЧЕНЬ ЛЮБЕЗНА.
ВОЗЬМИ ЕЩЕ КОШКУ.
НЕТ, СПАСИБО.
ТЫ НЕ ЛЮБИШЬ КОШЕК?
НЕТ, НО МНЕ ДОСТАТОЧНО КОШЕК.
ВОЗЬМИ ГОРИЛЛУ.
Ч Да, действительно, Ч сказал Ричардс. Ч А как в прошлые разы?
Ч То же самое, Ч сказал Герхард.
Ч Так же плохо?
Ч Абсолютно то же.
Они давно привыкли к мысли, что конечный результат взаимодействия компь
ютеров непредсказуем. Общую форму взаимодействия предугадать было мож
но, однако конкретные результаты прогнозированию не поддавались. Полож
ение было примерно таким же, как и с компьютером, играющим в шашки: вероятн
ее всего, он должен выиграть, но всякий раз это будет по-разному, в зависим
ости от ходов противника.
МНЕ НЕ НУЖНА ГОРИЛЛА.
РАЗВЕ ТЕБЕ НЕ НРАВЯТСЯ ГОРИЛЛЫ?
НЕТ, СПАСИБО.
ТЫ СЛИШКОМ ВЕЖЛИВ.
ИЗВИНИ, ЕСЛИ Я ТЕБЯ ЧЕМ-НИБУДЬ ОБИДЕЛ.
ТЫ СЛИШКОМ МНОГО ГОВОРИШЬ.
ИЗВИНИ.
ВОЗЬМИ БАКЛАЖАН.
Ричардс следил за диалогом с интересом. Для «Святого Джорджа» слово «бак
лажан» по программе не имело никакого эмоционального смысла. Но он не лю
бил огурцы и бананы.
НЕТ, СПАСИБО.
ТЕБЕ НЕ НРАВЯТСЯ БАКЛАЖАНЫ?
НЕ ОСОБЕННО.
ВОЗЬМИ ЕЩЕ БАКЛАЖАН.
НЕТ, СПАСИБО.
Я ХОЧУ, ЧТОБЫ ТЫ ВЗЯЛ ЕГО.
НЕТ, СПАСИБО.
НЕТ, ВОЗЬМИ ЕГО.
НЕТ, СПАСИБО.
Я ТРЕБУЮ.
НЕТ, СПАСИБО.
Ч Что случилось с «Джорджем?» Ч спросил Ричардс. Ч Он отвечает слишком
уж одинаково.
Ч Это меня и беспокоит.
Ч А что в программе могло бы его так завести?
Ч Я это как раз и искал, когда ты вошел.
Я ТРЕБУЮ, ЧТОБЫ ТЫ ВЗЯЛ ОГУРЕЦ.
Я ОТКАЗЫВАЮСЬ.
Ч Джордж! Ч машинально воскликнул Ричардс.
ТОГДА ВОЗЬМИ БАНАН.
НЕТ.
Ч «Джордж» не выдержал, Ч сказал Ричардс. Ч Он уже больше не святой.
ТОГДА ВОЗЬМИ И БАНАН И ОГУРЕЦ.
НЕТ, СПАСИБО.
Я ТРЕБУЮ.
ИДИ К ЧЕРТУ. Я УБЬЮ ТЕБЯ
Экран заполнился белыми точками.
Ч Что это означает? Непечатный ответ? Ч спросил Ричардс.
Ч Не знаю. Раньше я ничего подобного не видел.
Ч Сколько раз прогоняли эту программу?
Ч Сто десять раз. С «Мартой».
Ч Огрехи обучения?
Ч Нет.
Ч Черт меня побери, Ч сказал Ричардс. Ч Джордж превращается в раздраж
ительного святого. Ч Он усмехнулся. Ч Это можно записать.
Герхард кивнул и вернулся к печатающему устройству. Теоретически ничег
о непонятного тут не было. «Джордж» и «Марта» были запрограммированы на
обучение через опыт. Подобно шахматным программам, где мастерство машин
ы растет с числом сыгранных игр, эта программа была рассчитана на то, что м
ашина будет «учиться» реагировать по-новому. И вот после ста десяти эксп
ериментов «Святой Джордж» вдруг перестал быть святым. Хотя он был запрог
раммирован на святость, в отношениях с «Мартой» он научился не быть свят
ым.
Ч Я прекрасно его понимаю, Ч сказал Ричардс и выключил компьютер. Затем
он присоединился к Герхарду, и они вместе стали искать ошибку, из-за кото
рой все это стало возможным.


ИНТЕРФЕЙСИНГ

1

Четверг
11 марта 1971 года

Дженет Росс сидела в пустом кабинете. Она взглянула на стенные часы. Девя
ть часов. Она посмотрела на письменный стол, на котором ничего не было, есл
и не считать блокнота и вазы с цветами. Она посмотрела на стул напротив. И
наконец громко спросила:
Ч Ну, как дела?
Раздался щелчок, и из вмонтированного в потолок динамика послышался гол
ос Герхарда:
Ч Нам надо еще несколько минут, чтобы отрегулировать звук. Освещение но
рмальное. Давайте-ка поговорим?
Дженет кивнула и посмотрела через плечо на полупрозрачное стекло у себя
за спиной. Она увидела свое отражение, но знала, что Герхард в соседней ком
нате наблюдает за ней.
Ч У вас усталый голос, Ч сказала Дженет.
Ч Неприятности со «Святым Джорджем». Провозился до поздней ночи, Ч отв
етил Герхард.
Ч Я тоже устала, Ч сказала она. Ч Только неприятность у меня с тем, кого
святым никак не назовешь. Ч Она засмеялась.
Говорила она только для того, чтобы в соседней комнате могли отрегулиров
ать звук, почти не думая. Но это было правдой: Артур меньше всего был святы
м. И даже впечатление, что перед ней незаурядная личность, успело совсем с
тереться за несколько недель их знакомства. Собственно говоря, она немно
жко им увлеклась. («Увлеклась? Гм. Вы это так называете?» Ч словно услышал
а она голос доктора Рэмоса.) Артур родился красивым и богатым. У него был ж
елтый «феррари», много энергии и обаяния. С ним она чувствовала себя женс
твенной и легкомысленной. Артур был способен на веселые сумасбродства, н
апример слетать с ней на самолете в Мехико только для того, чтобы пообеда
ть в маленьком ресторанчике, где, по его мнению, готовили неподражаемо. Он
а понимала, что это глупо, и все-таки подобные выходки ей очень нравились.
И еще ей было с ним легко Ч никаких разговоров о медицине, о клинике, о пси
хиатрии. Артура это нисколько не интересовало, и в ней он видел только жен
щину. («Объект желаний»? Черт бы побрал доктора Рэмоса.)
Затем, когда она узнала его ближе, ей захотелось говорить с ним о своей раб
оте. Но, к ее удивлению, выяснилось, что Артуру претят такие разговоры. Ее р
абота была для него как бы обличением его собственной внутренней слабос
ти.
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21