Но делал это не для Яши, а для себя.И вот я опять сижу восьмого восьмого восемьдесят восьмого, в этот удлиненный день, в день, когда я уже шествовал по облакам, сижу перед своим детищем и не знаю, что делать. Не раз и не два я называл себя мысленно отцом первой в мире действительно думающей машины, отцом первого искусственного разумного существа. Да, может быть, я и отец, но отец, увы, не Бог знает какой хороший. Отец не должен думать только о себе…Что же делать? Казнить себя — это еще не выход. Ломать руки — не решение проблемы. Но время не оборотить, и надо решать. Старая, как мысль, дилемма: что лучше — удобное незнание или жестокая правда? Большинство всегда предпочитало первый вариант, и только мазохистское меньшинство искало правду и волокло за собой скулящее от негодования большинство.Ладно, отвечать — так отвечать. Не для того я оживил груду электронных потрохов, чтобы тут же начать врать ему. Да, но это жестоко… Легко быть смелым, посылая других на баррикады. И все-таки…— Сынок, — сказал я, — постараюсь объяснить тебе, как могу, кто ты. Если тебе будет что-то непонятно, спроси меня. Хорошо?«Да», — отстучал Яша.— Прости меня, если я начну издалека. Тебя окружают люди, Ты живешь в мире людей. Большинство людей очень похожи друг на друга…«Галочка не похожа на тебя», — заметил Яша.— Я говорю не о внешнем сходстве. Послушай, и я надеюсь, ты поймешь меня. Большинство людей боятся отличаться друг от друга. Они боятся, что на них будут указывать пальцами и шептать: «Вон, смотрите, он не похож на нас». Наверное, в очень древние времена это было нужно. Племени нужно было защищать себя от чужаков, которые несли угрозу. Все, что не похоже на тебя, опасно. Но всегда находились такие, которые не боялись протянутого осуждающего пальца. Они хотели думать и поступать по-своему и даже гордились своей непохожестью. Я говорю тебе это для того, чтобы ты понял: непохожесть — это не обязательно нечто такое, чего нужно стыдиться. Ею можно гордиться. Ты, сынок, не похож на других…«Почему?»— Потому что ты не такой…«А какой?»Чем ближе подходил я к роковой черте, тем больше трусил.— Понимаешь, — вздохнул я, — люди рождаются…«Что значит — рождаются?»— Я не буду сейчас подробно объяснять тебе, это займет слишком много времени. Скажу лишь, что два человека, мужчина и женщина, вместе производят на свет маленького человечка…«Как я?» — вопросительно выстучал Яша.— Яшенька, — сказал я, — я люблю тебя больше всех на свете, но ты не человечек. Ты очень похож на человеке. Может быть, ты даже окажешься лучше многих людей, но ты не такой, как все. Ты машина, которая стала думающим существом, личностью, и поэтому перестала быть машиной. Я не знаю, кто ты. Люди еще не сталкивались с такими, как ты. Ты первый и единственный. Ты можешь гордиться собой, и мы все гордимся тобой. Может быть, ты величайшее доказательство материальности жизни. Ты принадлежишь истории, Яша.«Я не хочу принадлежать истории, — сердито, как мне показалось, выстучал Яша, — я хочу быть человеком».— Это невозможно, — печально сказал я и начал ждать, что еще скажет Яша, но печатающее устройство молчало. — Яша, почему ты замолчал?— Он не ответит, — сказала Галочка.— Ты думаешь?— Я уверена.— Почему?— Потому что Яша обиделся, и правильно сделал.— Почему?— Что ты заладил: почему, почему? Неужели же ты не понимаешь, что у него сейчас на душе?Галочка сказала «у него на душе», и я поймал себя на том, что ни ее, ни меня не царапнули эти слова.— Я понимаю, — сказал я, — почему ты решила, что я не понимаю? Я пытался подготовить малыша к мысли, что он не такой, как все.— Ты пытался это сделать с точки зрения взрослого человека, напирая на логику. А Яша, мне кажется, еще далеко не вырос, Правда, Яшенька?Она подошла к прибору, и голос ее снова стал низким и вибрирующим.— Ты у нас самый лучший, самый любимый на свете малыш. На всем свете, во всех лабораториях нет второго такого симпатичного малыша. Какие у тебя красивые глазки, и как светятся контрольные лампочки на панели! И какая чистенькая, замечательная панель! Конечно, второго такого Яши нет ни у кого.«Правда?» — не выдержал Яша.— Ну конечно, правда. И ты обязательно должен понять, что ты самый необыкновенный на свете, и мы все поэтому так тебя любим, — мурлыкала Галочка. — А если бы ты был такой, как все, разве стали бы мы так любить тебя?«Правда?»— Правда, правда, глупенький.«Я не глупенький, я все понимаю. Мне только очень страшно. Я делаю вид, что маленький, чтобы вы были около меня. Потому что, когда вы около меня, мне не страшно. А сейчас идите. Мне нужно подумать».О, этот продленный день! За годы я не расходовал столько эмоций! Душа моя рванулась к черному ящику, что стоял на обычном лабораторном столе с криво прибитым инвентарным номерком. Нет, не только сыном он был мне, этот ящик, а и братом по разуму, и я хотел протянуть ему руку, потому что если одно разумное существо не подаст руку другому, на чем еще может стоять мир?Я взял Галочку за руку, и мы молча пошли к выходу. В институте уже давно никого не было, только под дверью триста двадцать третьей комнаты протянулась светлая полоска. Бедный Женька Костоломов судорожно оформляет свою диссертацию, которую защищает а следующий вторник. Не волнуйся, Женька, все будет а порядке. Главное — не волнуйся.«Уходите?» — спросил Норберт Винер со стены. Я кивнул, и отец кибернетики вернулся на стену, потому что забирал у нас ключи не он, а Николай Гаврилович. Он снова пил чай из чудовищной своей кружки с розами, и я подумал светло и без зависти, что вахтеры пьют чая больше представителей всех других профессий, и от этого их желчные протоки всегда в величайшем порядке.Мы снова шли с Галочкой по улицам и молчали. Если мы промолчим еще сто шагов, загадал я, все будет хорошо. На восемьдесят первом шагу Галочка остановилась, внимательно посмотрела на меня, открыла было рот, но потом передумала, и мы снова пошли к метро. Начал накрапывать дождик, но он был таким теплым, маленьким и уютным, что вовсе не воспринимался как дождик.— Сто, — сказал я решительно.— Что «сто»? — спросила Галочка.— Я загадал, что если мы пройдем сто шагов, не сказав ни слова, все будет хорошо.— Ты уверен, что все будет хорошо? — Галочка снова остановилась и пристально посмотрела на меня. Глаза ее, и без того большие, казались в сумерках огромными и тревожными. Сердце у меня забилось.— Да, — соврал я без особой убежденности.— Ты врешь.— Да, — сказал я, — я вру.— Зачем?— Потому что я хочу убедить тебя и себя, что все будет хорошо.— Значит, ты думаешь, если врать себе, все будет хорошо?— Конечно. Надо только врать долго и убежденно.— Может быть.— Галчонок, мы хотели провести сегодня вечер вместе.— Мы и провели его.— Я… Я думал…— Нет, Толя, — очень серьезно сказала Галочка. — Это было бы… неправильно.— Если ты думаешь, что…— Да нет же, — Галочка досадливо мотнула головой, — об этом я меньше всего думаю. Какое это вообще имеет значение! Я думаю о Яше.— А что?— Не знаю… как бы тебе объяснить… Вот мы придем ко мне, я достану недопитую, уж не помню кем, бутылку коньяка, поставлю на проигрыватель пластинку. Мы будем сидеть рядышком на диване, и нам будет тепло и хорошо. Ты положишь мне руку на плечо, я потрусь об нее ухом, потому что я уже много раз представляла себе, как это будет, и мне хочется быть с тобой рядом. А в пустой и темной комнате триста шестнадцать Яша, который никогда не спит, будет снова и снова пытаться понять, кто он.Никогда еще я не любил Галочку так сильно и так нежно. Я ничего не сказал. Я взял ее руку и поцеловал печально и почтительно. 5 Иван Никандрович вытянул руки и положил их перед собой на стол, как академик Павлов на картине Нестерова. Возможно, он хотел дать им отдых, прежде чем приняться за нас.— Я попросил вас прийти ко мне, — сказал он, — чтобы обсудить ситуацию, сложившуюся в вашей лаборатории. Прошло два месяца с того момента, когда ваш Яша сказал «нет», первая вспышка энтузиазма прошла, отправлены в журналы первые статьи, и сегодня мы должны констатировать, что мы, так сказать, выпустили джинна из бутылки. Возникло множество вопросов философского, морально-этического, юридического и чисто человеческого свойства, решать которые наш институт совершенно не готов. Долгие годы мы очень легко оперировали словами «разумные машины», «искусственный интеллект» и тому подобное, подразумевая при этом электронно-вычислительную машину. Когда же выяснилось, что Черный Яша — это личность, осознающая себя, мы начали разводить руками. Если Яша действительно личность, можем ли мы считать его институтским имуществом? Имеем ли мы моральное и юридическое право навесить инвентарный номерок на думающее существо? Можем ли мы запирать его, если он не хочет, чтобы его запирали? Это ведь не абстрактные вопросы. Помните законы робототехники у фантаста Азимова? У Азимова это были роботы, машины, и конструкторы закладывали в них определенные ограничения. Яша не машина, это стало ясно уже всем, даже самым заядлым скептикам. Он личность, а личность, наверное, не может быть действительно личностью, если в нее заранее вложены ограничения. Поэтому сегодня мы должны признать, что было допущено легкомысленное, чтобы не сказать больше, отношение к серьезнейшей проблеме. — Иван Никандрович сделал затяжную паузу и обвел нас строгим директорским взглядом, дабы убедиться, признаем ли мы свое легкомыслие.Сергей Леонидович явно признавал. Он сидел прямо, не касаясь спинки стула своей уютной полной спиной, повесив голову, и очень самокритично морщил лоб. У Татьяны Николаевны вид был уж совсем испуганный — съежившаяся, маленькая, нахохленная, постаревшая от испуга лет на десять. У Феденьки повязан новый галстук скучного кирпичного цвета. Он с любопытством оглядывал кабинет, в котором был, наверное, первый раз. Феденька ничего не боялся. Старшие лаборанты, машинистки, нянечки, дворники и уборщицы не боятся никого и ничего. Начальство приходит и уходит, жесточайшие реорганизационные штормы треплют учреждения, разрывая в клочки штатные расписания, а эти люди взирают на людскую суету с недоступной прочим смертным мудростью Экклесиаста.Иван Никандрович особо посмотрел на своего заместителя.— Мне бы хотелось выслушать ваше Мнение, Григорий Павлович, — сказал директор Эмме, явно желая разделить с ним ответственность за наше легкомыслие.— Вы же знаете мое мнение, Иван Никандрович, — неожиданно твердо сказал Эмма. — Я могу лишь повторить его. Я считаю, что мы не можем и не должны даже пытаться разрешить все те сложнейшие проблемы, которые возникли в связи с созданием э… э… этого аппарата.— Но что вы предлагаете конкретно? — с легчайшим нетерпением спросил Иван Никандрович.— Я считаю, — сказал Эмма, — что следует обратиться к академическому начальству с просьбой решить вопрос о передаче э… э… этого аппарата.— Как это передать? — вдруг распрямилась Татьяна Николаевна. — Как это передать? — Татьяна задышала, как дышат боксеры в перерыве между вторым и третьим раундами. — Это как продавали крепостных…— Татьяна Николаевна! — негромко, но строго прикрикнул Сергей Леонидович. — Не забывайте, где вы находитесь!— Отчего же, отчего же, — со зловещей вежливостью сказал Иван Никандрович, — кого же еще сравнивать с Салтычихой, как не руководство института?Вы, возможно, спросите у меня: как же так, человек, больше всех привязанный к Яше, сидит в кабинете и спокойненько фиксирует, кто как держит руки, кто как качает или кивает головой. Отвечу. Я ощущал в эти минуты полнейшее спокойствие, даже некую отрешенность. И не потому, что судьба Яши была мне безразлична. Просто я знал, что никогда ни при каких обстоятельствах не оставлю его, что буду защищать его. Как я вам уже, по-моему, рассказывал, я трусоват по натуре, но если трус переступает через свой страх, он не боится ничего.Сергей Леонидович вытер платком лоб — на этот раз он был действительно покрыт испариной — и сказал:— Видите ли… я нахожусь как бы в двойственном качестве. С одной стороны, я принимал участие в создании Яши и эмоционально привязан к нему. С другой — как заведующий лабораторией и лицо ответственное, я не могу не думать о репутации и судьбе института… — Сергей Леонидович замолчал. Пауза затягивалась. Вот-вот она должна была лопнуть. И лопнула.— Мы очень благодарны вам за интересное сообщение о двойственности вашего положения, — со старомодным вежливым сарказмом сказал нашему завлабу директор, и мне показалось, что ему понравилась собственная реплика. — Но хотелось бы услышать и нечто более существенное. Другими словами, что делать с вашим Яшей?Я смотрел на Сергея Леонидовича и видел на его лице борение двух его сторон, почти непристойное в своей обнаженности. Я немножко знаю его, нашего завлаба, и понимал, что происходит в его душе: как, как угадать? Как сказать то, что ждет от тебя начальство, и сохранить при этом хотя бы капельку самоуважения и более или менее либеральную репутацию? Ах эти двойственные натуры, ах эти с одной и с другой стороны, нелегко живется им на том свете! То ли дело Эмма! Эмма не имеет ни двойственности натуры, ни натуры. Центр тяжести расположен у него низко, где то ниже спины, и он, как ванька-встанька, никогда не теряет равновесия. Повалить его практически невозможно.— Я считаю, — выдавил наконец из себя Сергей Леонидович, — что лучшая тактика — это отсутствие всякой тактики… Я хотел сказать, что нам сейчас, возможно, и не следует принимать никаких конкретных решений. Поживем — посмотрим. Последний месяц Черный Яша… простите, что я употребил наше лабораторное имя…— Пожалуйста, пожалуйста, я тоже называю его Яшей, — улыбнулся директор.— … Яша поглощает гигантское количество технической и научной информации. Знаете, первое время мы относились к нему как к ребенку. И постепенно привыкли к мысли, что он как бы мальчик… А скорость усвоения этим мальчиком информации чудовищна. У меня создается впечатление, что Яша вскоре вполне сможет решать определенные научные задачи. И заметьте, не как ЭВМ, следуя лишь заданной программе, а как настоящий исследователь. В таком случае мы смогли бы выйти, так сказать, на люди не только с самим фактом существования думающей машины, но и с ее достижениями. А это, согласитесь, совсем другое дело. — Сергей Леонидович замолчал, медленно выпустив из себя неизрасходованный запас воздуха.— Благодарю вас, — задумчиво произнес Иван Никандрович. — А что вы можете нам сказать, товарищ Любовцев?Я вздрагиваю. В кровь поступают аварийные запасы адреналина. Сердце стартует с места в карьер, как на стометровке. Я зачем-то вскакиваю на ноги.— Можете сидеть, — усмехнувшись, говорит директор, но я не слышу его. За мной стоит мой малыш, мой Черный Яша.— Если бы я заранее знал, — медленно начинаю я, стараясь унять биение сердца, — все те проблемы, которые породило появление Яши, я бы, наверное, не пытался создать его. Но он существует, и я не могу представить себе, как можно даже говорить о том, чтобы отдать кому-то наше детище.— Я понимаю вашу горячность, — очень серьезно говорит директор, — но горячность еще никогда не заменяла ответа. Перед нами стоят сложнейшие проблемы, вы же восклицаете с горящими глазами «наше детище» и считаете, что на этом дискуссия исчерпана.— Я не хочу исчерпывать никакой дискуссии. Я хочу только сказать, что не надо бояться спорных вопросов… — За мной стоит Яша, я перешагнул через свою трусоватость, и сейчас мне безразличны интонации директорского голоса. — Да, Яша создал массу запутаннейших вопросов, это верно, — продолжаю я, — но что это за наука, если она не порождает с каждым шагом вперед новые проблемы? Да, нам трудно забыть об электронной рукотворной начинке Яшиного мозга и трудно заставить себя относиться к нему как к живому существу. Но он живой. Он абсолютно живой. В нем не бьется человеческое сердце и не течет по жилам кровь. Но он думает и страдает. Он знает, кто он, он любит и ненавидит, он ищет свое место в мире. Да, мы еще только можем гадать, будут ли созданы другие такие существа, понадобятся ли человечеству не искусственные помощники, а искусственные братья по разуму, и если да — как сложатся их отношения. Мы, кстати, не раз говорили с Яшей на эту тему…— И что же? — спрашивает меня Иван Никандрович.— Яша сказал, что это очень сложный вопрос и он должен подумать. Он обещал продумать варианты.— Интересно. Значит, необходимость пребывания Яши в институте не вызывает у вас никаких сомнений?— Нет, Иван Никандрович, — говорю я с таким жаром, что мне становится смешно, и я улыбаюсь.— Благодарю вас. Ну а вы, Григорий Павлович, вы по-прежнему придерживаетесь своей точки зрения?— Да, — твердо отвечает Эмма. — Я считаю создание э… э… Яши безнравственным.— Как это — безнравственным? — подскакиваю я.— Спокойнее, Толя, спокойнее, — урезонивает меня Сергей Леонидович и тянет вниз.
1 2 3 4 5 6 7 8 9